随笔分类 -  NLP

摘要：注意力机制 第一部分：注意力机制(Attention Mechanism)浅谈 1. 注意力机制的由来，解决了什么问题？ 早期在解决机器翻译这一类序列到序列(Sequence to Sequence)的问题时，通常采用的做法是利用一个编码器(Encoder)和一个解码器(Decoder)构建端到端的 阅读全文

摘要：转载自：https://blog.csdn.net/m0_37477175/article/details/106578098?spm=1001.2014.3001.5506 本文框架： BERT原文：https://paperswithcode.com/paper/bert-pre-trainin 阅读全文