2023年7月18日
自注意力机制
摘要： # 自注意力机制 ## O、前置知识——单词向量编码 在文字处理中，我们对单词进行向量编码通常有两种方式： 1. 独热编码(one-hot encoding)：用N位的寄存器对N个状态编码，通俗来讲就是开一个很长很长的向量，向量的长度和世界上存在的词语的数量是一样多的，每一项都表示一个词语，只要把其 阅读全文
posted @ 2023-07-18 16:13 tsyhahaha 阅读(392) 评论(0) 推荐(0)