企业级 AI 架构 · 08 性能与 Token 效率｜省下的每一分上下文，和每一块钱
企业级 AI 架构 · 08 性能与 Token 效率｜省下的每一分上下文，和每一块钱
系列第 08 篇。前面几篇把"怎么干对"讲完了，这一篇回到最实在的问题：怎么省。上下文是钱，Token 是钱，这一篇讲三方的省法。照旧三方对照。
呼应 00 总览的中央论点：省上下文与 Token 的本质，是控制平面对模型资源消耗的确定性精算（该缓存的缓存、该换便宜模型的换），而非靠模型自觉。
一、WorkBuddy 的权威主张：效率不是"塞得少"，是"塞得对"
先破一个误区：省 Token 不等于"把上下文砍到最小"，而是上下文工程那句老话：相关、准确、及时。无关信息既费钱，又拉低判断准确度；把"该看的"放进去、把"不该看的"挡在外面，才是省的根本。
WorkBuddy 的实测数据摆在这：真实办公场景下，任务成功率从 72% 提到 90%，同时 Token 节省 47–49%。这组数字的潜台词是，做对了工程，效率和效果是同时提升的，不是拿效果换成本。
落到具体手段，有四条：
- 计算型控制优先：能用 LSP、typecheck、单测等确定性程序判定的，别让模型反复试错——少试错，就是少烧 Token；
- 稳定前缀：System Prompt 和基础工具定义放最前、保持稳定，动态内容追加到后面，最大化 Prompt Cache 命中率；
- 按需加载：工具和 Skill 用到才挂，不预装；
- 渐进式加载：编排层按需注入，不一次灌满。
图：极简前缀 + 稳定缓存 + 按需加载，前缀稳定→缓存命中高→省钱。
其中 Prompt Cache 命中率正在成为生产环境的核心工程指标，缓存命中多一分，账单就少一截。
（WorkBuddy 闭源，以上是公开方法论，只当"标准答案"。）
二、Pi 怎么做：把"省"做进默认配置
Pi 的省 Token，是刻在基因里的，从第一行系统提示就开始省：
// 示意：Pi 的极简前缀——system prompt 精简，工具定义放前且稳定
System: 编码助手，用 read/write/edit/bash 完成任务。
Tools: read, write, edit, bash // 保持稳定 → 前缀命中 prompt cache
示意片段，基于 Pi 官方文档；字段以官方为准。
三层省法对应：
- 写入极简：系统提示 ~200 token 级，别人开场先吃掉 7%、8% 的窗口，Pi 几乎零负担进场；
- 稳定前缀：工具定义保持稳定，让 provider 的前缀缓存持续命中；
- 按需加载：
grep、find、ls默认不塞，要用才开；工具靠 extension 动态注册。
还有一个上一讲（01）已经细讲过、这里必须点名的权衡：compaction 会破坏 prompt cache。压缩把中间历史换成了摘要、前缀变了、缓存失效——但压缩后腾出的空间让对话能继续，且新请求会重新开始受益于缓存。这个"省上下文 vs 保缓存"的取舍，Pi 是明着处理的，靠 reserveTokens / keepRecentTokens 两个参数可调。
一句话：Pi 的省，是极简前缀 + 稳定缓存 + 按需加载三件套，从源头把 Token 压到极低。
三、DeepSeek Harness 怎么做：用"程序化调用"省往返
DSH 的省法，最有特色的是 PTC（Programmatic Tool Calling，程序化工具调用；官方在 alpha.1 起把原先的"Code Mode"统一更名于此）。
常规模式是"模型一轮一轮地吐工具调用、Agent 一轮一轮地执行"，往返次数多、Token 消耗大。PTC 的思路是：让模型生成一段代码，一次性组合多轮工具调用，减少往返和中间上下文。时效点：alpha.1 起 PTC 的 SDK 功能只能通过 run_code 调用，不再被模型当普通工具直接调用——本系列此前用 PTC 说法，等于被官方追认。
再补两条 0.1.6 的时效点，而且方向正好相反。一条是收紧：Node PTC 改用独立进程执行，process.env 为空（依赖旧执行环境的代码得适配），run_code 支持按次设置超时，默认 120 秒、最多 600 秒——以前 PTC 里能摸到的环境变量现在摸不到了，而超时第一次有了明确上限。另一条是反向的：为适配 DeepSeek V4.1，v0.1.6-alpha.1 提高了默认请求图片的尺寸与编码质量。这条值得单独记住，因为它是"省 Token"主线上少见的反例——上游会为了效果主动把开销调上去。所以别把"某一版更省"当成趋势：省与不省都是它按版本在拧的旋钮，不是承诺。
再往后一版，token 预算的配置键被改了名。 v0.1.7-alpha.2 起，工具返回的文字与图片改按统一的估算 token 预算保留首尾（修复 MCP 图片在文字截断后不可用的问题，并为被省略内容留下读取地址）；同时自定义 spill-policy 配置里的 maxInlineBytes 要改成 maxInlineTokens，预算按 token 数重设。这条对企业是一句可操作的提醒：你若写过自定义的溢出策略配置，不改这个键，它会静默失效——不报错，但预算回到默认。省 Token 的旋钮，也是会被上游改名字的；改名字的旋钮，比改默认值的旋钮更难发现。
它还提供极简形态：只留一个 shell + 一个文件编辑器，把上下文和 Token 压到地板，给模型做裸机 benchmark。这并非一个独立"模式"开关，而是官方 sdk-minimal profile 的实体——官方原话是"一个 bundle 独占完整显式 SDK 树、且不套 dsh-base"，本质还是 profile/bundle 组合裁掉其余插件；和 PTC 一起，构成 DSH 省 Token 的两板斧。
还有个变化值得单独提：v0.1.2-rc.1 起，每个回答末尾会直接显示 token 用量和耗时，还能展开看精确用量与详细统计。 听着只是个界面小功能，对"省 Token"这件事却是个分水岭——以前省没省、省了多少，全靠自己掐指算或者翻日志；现在这笔账被摆到眼前，省 Token 从"凭经验"变成了"有数"。同期还有两处相关收紧：上下文压缩开始把图片占用也算进去（图片不再是被忽略的隐性开销），Web PTC Mode 默认不再向模型提供通用 workflow 工具（工具面收窄，顺带少一份上下文负担）。
到 v0.1.5-alpha.1，这块账又细了一层：会话统计改成两个可展开的摘要——一个看轮次与速度，一个看精确 Token 用量与缓存命中。缓存命中率这个指标值得单独盯：它是"省 Token"这件事里唯一能区分真省和假省的数字——同样的输出量，命中率高说明前缀复用得好、KV Cache 有效，命中率低则说明上下文每次都在重写，表面上没多吐字，实际上每一轮都在重新付费。同期还有一条同向的能力：支持动态修改系统提示词且不破坏 KV Cache（需模型显式声明支持）——以前改一句系统提示词，整个前缀缓存作废；现在这件事第一次有了不失效的改法。
还有一条值得单独拎出来——官方在 v0.1.3-alpha.1 的发布说明里主动写了"本版本存在一项已知的性能回退，可能影响部分历史 session 加载的响应速度，将在下一个版本中修复"。预发布项目在 changelog 里自陈"这一版更慢"，是很少见的。敢把没做完的部分写在脸上，比版本号本身更能说明这个项目的诚实度（完整版本史见 00 总览 §四）。也提醒你：省 Token 的优化和已知的性能回退，可以同时存在于一个版本里，别只盯着新增清单看。
而且这条承诺兑现了。 v0.1.3-alpha.2 的体验优化第一条就是"改善长会话打开、恢复和持续对话时的卡顿，降低内存占用"——和上一版自陈的"历史 session 加载响应速度"精确对上；到 v0.1.5-alpha.1，发布说明里这条已知回退已经消失，也没有新增同类条目。把这三版连起来看，是一个完整的闭环：说了更慢 → 下版修好 → 不再提。这恰好补上了"敢写在脸上"的另一半——不只是敢承认，还得真还。
再往后追两版，v0.1.5-alpha.2 与 v0.1.5-rc.1 里"已知问题 / Known Issue / 性能回退"这类表述依然一次都没出现过——到写作时为止，它记下的欠账仍是零（2026-09-18 补记：再追三版到 v0.1.6-alpha.2，依旧是零——连续五版没有新增欠账；2026-09-23 再追两版到 v0.1.7-alpha.2，仍是零——连续七版零欠账）。诚实补一句：这有两种读法，可能是质量稳住了，也可能是它不再写欠账了，公开信息区分不了。所以对性能这件事，能做的只有继续记——台账的价值不在某一行的结论，而在它连续记下去。
标注两件事：① DSH 目前是 developer preview（写作时 v0.1.7-alpha.2，非 GA），接口仍可能变动、会有破坏性变更，本系列按真实插件形态做架构对照；② 时效提示，涉及 DSH 成本的结论，请以你读到那一刻的官方价格为准；DeepSeek V4 系列调价时点详见 00 总览 §四关于模型时效的标注。v0.1.2-rc.1 起 DSH 还接入了多模态模型 DeepSeek-V4-Flash-Vision-Exp（图像能力），模型阵容随版本演进，以官方为准。
四、三方对照：省钱，三种姿势
| 效率维度 | WorkBuddy（方法论之尺） | Pi（极简派，可跟跑） | DeepSeek Harness（极繁派，dev preview） |
|---|---|---|---|
| 写入 | 相关·准确·及时 | ~200 token 极简前缀 | 按 profile 组装插件 |
| 缓存 | 稳定前缀 + 缓存命中率指标 | 工具定义放前保持稳定 | 事件流可重建（不变量） |
| 减少往返 | 计算型控制优先 | 默认四工具少试错 | PTC 程序化调用 |
| 实测 | Token 省 47–49% | 极简进场 | 极简形态压到地板（标价格时点） |
速记一句话：省 Token 的根子不是"塞得少"，是"该看的看、不该看的不看、能一次做对的不反复"，WorkBuddy 用计算型控制 + 缓存命中率，Pi 用极简前缀 + 稳定缓存，DSH 用 PTC 减往返。三家殊途同归：省不是靠砍内容，而是靠把"该缓存的缓存、该一次做对的做一次做对"做成了工程默认项。
相关阅读（系列互链）
本篇是【企业级 AI 架构】技术深轨，与公众号《AI思想的东方注脚》哲学引子、本体智能 / FDE 系列同源联动——同一观点不重复讲，按兴趣深潜：
- 《精气神：算力模型数据》（AI思想的东方注脚·E14）——省 Token 的背后，是算力 / 模型 / 数据三要素怎么配
- 《模型不可知与路由：把正确的模型，连到正确的工具》（企业级 AI 架构·篇6）——路由选得对，是最省钱的一种优化
下一篇：09 · 企业级落地——个人级会省了，企业级要解决的是部署、治理、合规与资产化。
Token优化 #性能优化 #成本控制 #企业级AI
关注公众号「农夫三拳有点癫」，第一时间读到本系列更新。
本文来自博客园，作者：老羅，转载请注明原文链接：https://www.cnblogs.com/laoluo2025/p/23499341
浙公网安备 33010602011771号