2025年5月27日
mamba中的ssm是计算attention的方式么？
摘要： Mamba 中的 SSM（状态空间模型）不是传统意义上的计算 attention 的方式，但它与 attention 机制有密切联系和相似性，相关内容如下： 与 attention 机制的联系 公式相似性 ：有研究指出 Mamba 的 SSM 操作与线性 attention 存在深刻联系，从公式和示 阅读全文
posted @ 2025-05-27 15:13 GraphL 阅读(182) 评论(0) 推荐(0)