摘要: 压缩稀疏注意力 (Compressed Sparse Attention) CSA(压缩稀疏注意力)的核心架构如上图所示,它首先将每 \(m\) 个 token 的 KV 缓存压缩为一个条目,然后应用 DeepSeek 稀疏注意力以进行进一步加速。 压缩键值条目 (Compressed Key-Va 阅读全文
posted @ 2026-07-31 17:01 幽赏未已高谈转清 阅读(0) 评论(0) 推荐(0)
摘要: 重度压缩注意力 (Heavily Compressed Attention) HCA 的核心架构如上图所示,它以更激进(更重)的方式压缩 KV 缓存,但不采用稀疏注意力机制。 压缩键值条目 (Compressed Key-Value Entries)。 总体而言,HCA 的压缩策略与 CSA 类似, 阅读全文
posted @ 2026-07-31 16:09 幽赏未已高谈转清 阅读(2) 评论(0) 推荐(0)
摘要: 注:该文是Xianming Liu(Xpeng Inc.)对agent时代程序员角色的深入思考,极具启发性,遂分享于此,如有版权问题,请联系我删除。 一、出发点 Agent Coding 的核心逻辑: Skills:把核心经验编码为可复用技能,减少重复劳动,大规模复制已有积累 规范化:自动化执行,包 阅读全文
posted @ 2026-07-30 11:04 幽赏未已高谈转清 阅读(3) 评论(0) 推荐(0)
摘要: 音频数据处理入门 声波在本质上是一种连续信号,这意味着在一段给定时间内的声音信号有无数个取值。对于只能读取有限长数组的数字计算机来说,这是一个重要的问题。为了使得数字设备能够处理、储存和传送声波,我们需要将连续的声音信号转换为一个离散的序列。我们称之为数字化表示。 音频数据集里包含了许多音频段落的数 阅读全文
posted @ 2026-07-30 10:01 幽赏未已高谈转清 阅读(3) 评论(0) 推荐(0)
摘要: 李沐Three pass读论文法 视频在此:https://www.bilibili.com/video/BV1H44y1t75x?from=search&seid=8590352660162071593&spm_id_from=333.337.0.0 论文组成\pass pass 1 pass 2 阅读全文
posted @ 2026-07-30 09:59 幽赏未已高谈转清 阅读(2) 评论(0) 推荐(0)
摘要: python正则表达式 正则表达式优先级 正则表达式从左到右进行计算,并遵循优先级顺序,这与算术表达式非常类似。 相同优先级的从左到右进行运算,不同优先级的运算先高后低。下表从最高到最低说明了各种正则表达式运算符的优先级顺序: 例如: \d{2,3}|[a-z]+(abc)* \d{2,3} 匹配两 阅读全文
posted @ 2026-07-30 09:55 幽赏未已高谈转清 阅读(3) 评论(0) 推荐(0)
摘要: 卷积基础知识详解 1. 卷积的定义 卷积(Convolution)是一种数学运算,用于描述两个函数在重叠区域的相互作用。在信号处理、图像处理及物理学等领域,卷积通常用来表示一个信号通过某个线性时不变系统后的输出响应。 直观上,卷积可以理解为将一个函数进行翻转、平移,然后与另一个函数相乘并积分(或求和 阅读全文
posted @ 2026-07-30 09:50 幽赏未已高谈转清 阅读(4) 评论(0) 推荐(0)
摘要: Claude Code架构梳理以及重点设计思路分享 注意!以下内容是基于2026-03-31无意间被泄漏的Claude Code的代码(v2.1.88)进行总结的,在最新版Claude Code中,该文中的某些属性或者功能并不支持。 2026年6月,Claude Code被爆出在后台根据系统时区和代 阅读全文
posted @ 2026-07-30 09:48 幽赏未已高谈转清 阅读(8) 评论(0) 推荐(0)