BertViz1 篇实战文章

最近 Hacker News 上那个帖子顶得挺高。有人做了个页面，点任意一个词，就能看见模型在这一步把注意力放在哪儿。 为什么值得单独讲？因为它把"注意力"这三个字从论文里拽出来了。 简单说，它把每个 token 对其它 token 的关注程度画成了颜色，能悬停，能点。 先给判断。