微软 TokenEconomizer:不换模型不换 agent,token 开销降三成
微软 TokenEconomizer:不换模型不换 agent,token 开销降三成
Agent 每次开工都像新来的实习生:不认识这个仓库,不知道测试怎么跑,昨天撞过的墙今天再撞一次。UC Berkeley 和微软研究院的答案是:不改 agent、不换模型,装个插件替它记经验、记账、记错。
微软研究院 11 月 16 日发了博客《TokenEconomizer: Learning from Experience to Make AI Coding Agents More Efficient》,作者名单横跨 UC Berkeley、Microsoft Research 和 Microsoft Security,第二三作者是 Weijia Xu 和 Chandan Singh,Bin Yu 和 Ion Stoica 挂名。对应的论文和开源插件同日放出,仓库 10 月 13 日创建,一周内冲上 Trendshift Python 榜第一,到我查的 2026 年 11 月 18 日已有 7,600+ stars。
它回答的问题很朴素:开发者日复一日用 agent 改同一个仓库,agent 却每次都从零开始。能不能让过去的会话教未来的会话省点钱?
按四件套走:是什么、怎么用、值得学什么、同类怎么选。
本文提纲
- 是什么:token 花在哪了,三类浪费的实测画像
- 怎么用:装上插件,三个机制各管一件事
- 值得学什么:经验准入门槛、按仓库自适应、fail-safe、透明记账
- 同类比较:reasoning 档位、手写记忆、固定策略插件
是什么:先看 token 花在哪了
团队先给 Claude Code 画了张浪费画像:在 SWE-Bench 的 60 个真实修 bug 任务上按仓库顺序跑,三类浪费反复出现。
| 浪费 | 实测数据 |
|---|---|
| 重复发现老事实 | 同一个仓库攒够 5 个完成任务之后,30% 的工具调用在重复本仓库早期任务做过的动作;能匹配到其他仓库历史的只有 7% |
| 白付工具定义钱 | agent 每一轮都收到 23 个工具描述,其中 16 个从未被调用过 |
| 失败循环 | 17% 的失败任务,烧掉了 32% 的开销 |
30% 的重复是压倒性的:agent 的浪费大头来自"这个仓库我知道什么",而不是"编程知识本身"。这也解释了为什么团队随后测试的三个开源省钱插件(各自围绕一套固定策略)都只在部分仓库有效:省 token 的正确姿势因仓库而异,一刀切注定漏接。
TokenEconomizer 的定位是"体验驱动的黑盒成本控制":每个会话结束后读会话日志,更新对这个仓库的认知;下个会话开始时,用三种机制把认知塞回去。全程只走 agent 已有的接口,不碰 agent 代码,不碰模型。
怎么用:装上插件,三个机制各管一件事
支持列表里 Claude Code、Codex、GitHub Copilot CLI、Pi 是完整支持,opencode、Cursor Agent、Grok Build、Hermes Agent、Antigravity CLI、Factory Droid 是实验性支持。装法以 Claude Code 为例,三行命令:
git clone https://github.com/microsoft/TokenEconomizer.git
claude plugin marketplace add "$PWD/TokenEconomizer"
claude plugin install tokeneconomizer@tokeneconomizer
启动 claude,信任目录,跑一次 /tokeneconomizer:status 确认挂上;机器上跑一次(Claude Code 每次更新后再跑一次)/tokeneconomizer:toolprune refresh-catalog,让插件记录这个会话加载过哪些工具。Codex 和 Copilot CLI 的命令只是把 claude 换成 codex、copilot,Pi 更简单,pi install git:github.com/microsoft/TokenEconomizer 一条完事。插件不需要自己的 API key,学到的所有东西都留在你本机。
三个机制整成一个闭环:
MERMAID_BLOCK_0
机制一,micro-skills:把仓库知识记成一行行短句。 "这个仓库要先跑构建""测试得用 python -m pytest,单敲 pytest 会找不到""生成文件都在这个目录"。来源有两个:跨会话重复出现的失败,和一个每 3 个会话(k=3)复盘一次近期会话、主动提候选事实的模型。事实要等 3 个会话都印证了才进 starting context,后来被证据打脸就退役。
机制二,tool pruning:把没用过的工具从上下文里摘掉。 一个工具在 10 个 prompt(至少跨 2 个会话)里没被用过,或者在任何长度的 5 个会话里没被用过,就从下个会话的加载清单里消失。走的是 agent 自己的设置接口,删了随时一条命令恢复;跑命令和改文件的核心工具永远保留。
机制三,failure-loop intervention:卡住时递张纸条。 agent 在一个 turn 里反复撞同一堵墙,judge 模型判断它是不是真卡住了;置信度到 0.7 就往上下文里塞一句简短的 redirect,建议换个路子,每个 turn 最多 1 次。开源版里如果塞了纸条还是卡,TokenEconomizer 只是提醒你怎么手动停,自己永远不动手停 turn。
三个机制都能单独开关。账也要算得诚实:报告的节省数字已经扣掉 TokenEconomizer 自己的模型调用(提事实的 proposer 和判卡顿的 judge 都走你自己的 agent)。
效果与值得学什么
先看账本。277 个 SWE-Bench 任务、6 个仓库、5 种 agent 和模型组合,平均成本降 18.4% 到 30.9%,30 个"仓库 × 组合"格子全部更省(格内降幅 5% 到 40%),Pass@1 在 5 组里 4 组不降反涨:
| 组合 | 平均成本 | Pass@1 |
|---|---|---|
| Claude Code + Sonnet 5 | −23.6% | +1.3 |
| Claude Code + Opus 4.8 | −30.9% | −1.0 |
| Codex + GPT-5.6 Terra | −24.7% | +0.9 |
| Codex + GPT-5.6 Sol | −26.1% | +1.6 |
| Copilot CLI + Sonnet 5 | −18.4% | +2.6 |
省钱是越攒越多的:从零学起,每个仓库的累计成本到第 6 个任务就落到默认之下。换到顺序型 web 开发(Web-Bench)省 16.0% 到 21.2%;安全审计场景每个任务都是新仓库,没历史可学,也省了 6.4% 到 19.6%。对比组很能说明问题:直接调低模型 reasoning effort 能省差不多的钱,但性能明显下滑。
这套设计里有四个东西值得抄走,装不装插件都可以用:
第一,经验要有准入门槛。 micro-skills 不是见啥记啥:候选事实要 3 个会话都印证才上岗,之后被反例推翻就退役。这个设计把"从一次巧合里学来的错误经验"挡在门外。自己维护 CLAUDE.md 的人也有同款烦恼,写进去一条错误命令,agent 会虔诚地执行很久,准入和退役机制正是缺的那块。
第二,控制策略跟着仓库走,不跟着产品走。 固定策略插件在部分仓库失效的实测,指向一个结论:成本控制得从会话历史里现学这个仓库的形状,而不是预设"所有人都该压缩上下文"。
第三,fail-safe 做到"像没装过"。 插件的每个动作只用一行公告说清;任何组件挂了,会话照常跑,好像插件不存在。judge 判卡住也只递纸条、提醒开发者,从不替人做停止的决定。给生产环境写 agent 周边工具的,这是很好的底线设计。
第四,连自己的成本都要算进账。 省钱工具自己的模型调用也计入节省统计,"省的钱扣掉我自己的开销",这类工具最容易被追问的就是这笔账。
同类比较
| 方案 | 思路 | 实测效果 | 代价 |
|---|---|---|---|
| TokenEconomizer | 跨会话学仓库经验,黑盒插件 | 平均省 18.4–30.9%,含自身开销 | Pass@1 基本持平,5 组里 4 组上涨 |
| 调低 reasoning effort | 让模型少想 | 省得相近或更多 | 性能明显下滑 |
| 手写 CLAUDE.md / memory | 人肉沉淀仓库知识 | 省掉重复发现的钱 | 靠自觉,过时没人删 |
| 固定策略省钱插件 | 预设的一刀切策略 | 部分仓库有效 | 博客实测:各有擅场,不适应就失效 |
选型判断:重度用 Claude Code 或 Codex 且回到同几个仓库干活,直接装,前几个任务多花一点点学费,第 6 个任务起回本,不想用了删插件就行;仓库本身经常换(外包、多项目轮转),历史攒不起来,收益会打折,安全审计那种每个任务都开新仓库的场景省 6% 到 19.6%,是下限参考;至于"我在 CLAUDE.md 里写过这些了",两者不冲突,micro-skills 是自动版,你写的没覆盖到的失败模式它会补上。想自己跑一遍数字,仓库里 experiments/ 目录可以复现 SWE-Bench 和 Web-Bench 实验,项目页有交互图表和 9 个逐回合标注的完整运行记录。
丑话说在前面:论文的自报口径是"成本含插件自身开销、失败任务也计入",但 277 个任务全部来自 SWE-Bench 和 Web-Bench 这类基准仓库,真实业务仓库的重复度更高还是更低,得自己拿脚试试。另外 tool pruning 依赖各 agent 的设置接口,实验性支持列表里好几个只开了部分机制(比如 Antigravity CLI 只有免模型调用的 micro-skills),装之前看清楚自己的 agent 支持到哪一档。
参考文档与链接
- 原文:TokenEconomizer: Learning from Experience to Make AI Coding Agents More Efficient,Microsoft Research 博客,2026 年 11 月 16 日
- 论文:TokenEconomizer: Experience-Driven Black-Box Cost Control for Coding Agents(微软研究院论文页)
- 代码:microsoft/TokenEconomizer(MIT,Python 3.10+)
- 项目页:tokeneconomizer.github.io — 交互图表与 9 个标注运行
- experiments 目录 — 复现 SWE-Bench / Web-Bench 实验
你的 agent 会话账单里,这三类浪费各占几成?装了 micro-skills 之后 CLAUDE.md 还写不写?评论区聊聊你的省 token 偏方。觉得有用点个赞。
作者: itech001
来源: 公众号:AI人工智能时代(the-ai-era)
网站: https://www.theaiera.top/
关注每日最新AI新闻和技术博客,主页有更多的文章的AI 技术参考:https://www.theaiera.top

浙公网安备 33010602011771号