随笔分类 - 深度学习
常用深度学习网络,包括DNN、RNN、LSTM、CNN等
摘要:区别:Position Embedding是学习式,Position Encoding是固定式 Transformer的结构是基于Self-Attention的,与RNN/CNN不同,不包含序列信息,但是序列信息又极其重要,为了融合序列信息,就需要位置编码了 Transformer的论文提出了两种编
阅读全文
摘要:Glove+Python,使用预训练模型,执行sh demo.sh 报错:Error: suffix or operands invalid for `vbroadcastss' 解决:修改Makefile中,-march=native为-march=corei7-avx 参考:https://st
阅读全文

浙公网安备 33010602011771号