会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
dousil
博客园
首页
新随笔
联系
订阅
管理
2025年11月3日
大模型, 底层原理探究
摘要: W_Q : 我现在想问别人什么信息: W_K: 我是谁, 可以被别人关注吗 W_V: 我提供什么信息. Q(Query):代表“我想知道什么” K(Key):代表“我是谁” V(Value):代表“我提供什么信息” QK的转置 Q 是一个矩阵,每一行对应一个词的 Query 向量; Kᵀ 是 Key
阅读全文
posted @ 2025-11-03 16:23 dousil
阅读(5)
评论(0)
推荐(0)
公告