随笔分类 -  深度学习 / 动手学深度学习 / 自然语言处理:应用 / 自然语言推断:微调BERT

摘要:在我们已经训练好BERT后,BERT就可以对输入的每一个词元返回抽取了上下文信息的特征向量(也就是对于任意一个词元,将这个词元当做查询,所有词元当做键值对) 一些任务如下 这里将<cls>的特征向量传递给全连接层的原因就是因为<cls>本来就是用来分类的,所以肯定传这个。当然也可以传其他的,反正我们 阅读全文
posted @ 2025-03-04 08:49 最爱丁珰 阅读(88) 评论(0) 推荐(0)