会员
众包
新闻
博问
闪存
赞助商
HarmonyOS
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
龙场悟道
工以立命,文以修身;依人为镜,自臻自爱;广学穷辨,慎言多行;不以物喜,不以己悲;激扬文字,挥斥方遒
博客园
首页
新随笔
联系
订阅
管理
2025年8月14日
QKV在transformer中的作用(一)
摘要: 在许多现代计算任务中,尤其是在深度学习和自然语言处理领域,Q(Query)、K(Key)和V(Value)是处理信息的核心概念之一,通常用于自注意力机制(Self-Attention Mechanism),如Transformer模型。 下面我将详细介绍 Q、K 和 V 在这种背景下的含义: Q(Q
阅读全文
posted @ 2025-08-14 17:07 江左子固
阅读(293)
评论(0)
推荐(0)
公告