2021年10月14日
非理性理解Attention
摘要： 有点激动，啊啊啊想明白了attention的含义，然后连着的一大片都能看懂了，茅塞顿开的感觉真好 1. 理解Self-Attention 超详细图解Self-Attention Q, K, V是啥啊？？？ 我们先看 $Softmax(XX^T)X$的含义 线性代数的知识： X乘X的转置，不就是当前行 阅读全文
posted @ 2021-10-14 11:43 Rogn 阅读(181) 评论(0) 推荐(0) 编辑