摘要:
BERT 的概率是假的,大模型的速度是慢的——这两件事在 AI 分类任务上困扰了工程师很多年。Jev 用一次 Forward Pass 同时解决了这两个问题,还顺手把"概率输出可信"这件事做了八成。本文从 Kev、Laya 两个开源复现出发,拆架构、拆推理、拆训练,聊应用,把 Jev 的每一个设计决策都说清楚。 阅读全文
BERT 的概率是假的,大模型的速度是慢的——这两件事在 AI 分类任务上困扰了工程师很多年。Jev 用一次 Forward Pass 同时解决了这两个问题,还顺手把"概率输出可信"这件事做了八成。本文从 Kev、Laya 两个开源复现出发,拆架构、拆推理、拆训练,聊应用,把 Jev 的每一个设计决策都说清楚。 阅读全文
posted @ 2026-10-19 08:07
风雨中的小七
阅读(233)
评论(2)
推荐(1)

是否也发现有时AGENTS.md中明明有规则,但AI依旧我行我素?你是否也烦恼随着开发AGENTS.md越来越长但效果却没越来越好?不妨试试技能炼金术,把用户自己的历史对话压缩成技能,把冗长的AGENTS.md变成技能触发命令。
这一章我们从多模态模型的架构演进,动态分辨率输入、多模态位置编码和训练策略等三大技术难题入手,聊聊多模态能力飞跃背后的技术演变。
从 DeepMind 提出的“双模型协作”,到 DeepSeek 招牌的 MTP,开源EAGLE,再到最新的 DFlash 和 DSpark,今天我们就来扒一扒这套“推理提速大法”的技术演化史。
这一章我们聊聊这两年注意力架构的技术演化路线
- KV Cache 压缩类:MQA → GQA → MLA(每个 token 的 KV 变细)
- 推理效率优化类:Flash Attention、Paged Attention(让 GPU 跑得更满)
- 长文本优化类:NSA → DSA → CSA + HCA(需要 attend 的 token 变少)
有一阵没做游戏了,咱接着回来做中医游戏,这期咱们聊聊怎么给游戏NPC装个"智能大脑",顺便看看开发过程中Hook这个老朋友的新玩法。项目代码在这里[tcm_odyssey]
本章我们尝试复现“图像文字元素编辑”功能,代码已经上传到Github。AI 生图配合文字元素编辑,确实能解决很多场景上AI生图无法直接落得的业务问题,感兴趣的朋友可以clone直接使用。
话接上文,咱接着做中医小游戏。这一章我们会聊到:
- 开发流程中的核心实践:重构、版本控制、进度管理
- 技能进阶:创建技能、测试技能、提高技能引用率
- Claude Design 使用体验
话接上回,咱继续做中医小游戏,正所谓关关难过关关过,踩完这坑踩那坑。咱一边用Claude code构建我心中的“药灵山谷”,一边聊聊开发过程中碰到的好用的技能!
这一章我们会解锁 Claude 的 teammate 模式,尝试开发一款 AI-oriented + 中医学习小游戏。在遍地都是“成功学”的今天,第一版游戏更像是大型事故现场>_<
浙公网安备 33010602011771号