2022年9月7日
Transformer中的Position Embedding和RNN/CNN中的Position Encoding的区别
摘要： 区别：Position Embedding是学习式，Position Encoding是固定式 Transformer的结构是基于Self-Attention的，与RNN/CNN不同，不包含序列信息，但是序列信息又极其重要，为了融合序列信息，就需要位置编码了 Transformer的论文提出了两种编 阅读全文
posted @ 2022-09-07 17:38 大咖妈妈 阅读(434) 评论(0) 推荐(1)