首页 >> 综合 > 快讯 >

微软 TokenEconomizer 面向编程智能体,依靠复用会话经验降低 Token 开销

2026-11-17 06:15:25 来源:网易 编辑:寇富烟 

微软研究院联合加州伯克利推出了 TokenEconomizer,它是一个外挂式黑盒控制器,不用改动大模型权重、也不用修改原有编程智能体的代码,核心思路就是在同一个代码仓库里,收集、记住之前会话跑出来的有效经验,给后续任务减少重复的 Token 浪费,实测在 SWE-Bench 基准测试中,可以把编程智能体平均 Token 成本降低 18.4%–30.9%,而且任务完成成功率基本保持稳定,部分场景通过率还有小幅上涨,对于长期维护同一个项目、反复调用 AI 编码智能体的开发者来说,能实实在在省下调用费用。

一、TokenEconomizer 三大核心降本手段

  1. 注入微技能(Micro-skills)
  2. 裁剪长期无用工具
  3. 拦截无效失败循环

从历史会话记录里提取稳定有效的操作经验,比如项目专属测试命令、编译参数、目录规则,后续任务直接把这些结论给到智能体,不用每次从头反复试错摸索。

自动识别当前仓库里几乎不会用到的工具定义,在提示词里直接剔除,避免每一轮请求都带上一大堆无效工具描述,这一项是降本贡献最大的模块,单独就能省下 13.2%–17.7% 的 Token。

检测智能体陷入反复报错、重复尝试的死循环,及时介入打断,避免持续消耗 Token 却得不到有效进展。

二、适配范围与基准测试数据

项目详情
支持智能体Claude Code、Codex、GitHub Copilot CLI、Pi;Cursor Agent、OpenCode 为实验支持
测试任务集SWE-Bench 277 个 bug 修复任务、6 个代码仓库,5 组模型 + 智能体组合
主场景节省幅度18.4% ~ 30.9%
扩展场景网页开发、安全审计场景,节省 6.4% ~ 21.2%
开源协议Apache-2.0,代码托管在微软 GitHub 仓库

三、使用特点与局限

  • 黑盒外挂模式:作为外部插件接入,原有编码智能体可以直接沿用,不需要重新微调模型
  • 经验按仓库隔离:不同代码仓库独立存储历史经验,仓库之间不会互相干扰,数据本地留存
  • 短板:只适合同一仓库连续多轮开发任务;全新陌生仓库,没有历史会话经验时,几乎没有降本效果;个别模型组合下,任务成功率会轻微下滑

【相关 FAQ】

问题 1:微软 TokenEconomizer 降低编程智能体 Token 成本,需要修改大模型本身吗?

回答 1:微软 TokenEconomizer 属于黑盒外部控制器,不需要修改大模型权重,也不用改动编程智能体源码,以插件方式接入,靠复用会话经验实现 Token 降本。

问题 2:TokenEconomizer 复用会话经验降 Token,它主要是在哪类场景效果最好?

回答 2:TokenEconomizer 最适合同一个代码仓库里连续进行开发、修 bug 的场景,在这类场景复用历史操作经验效果明显;全新无历史记录的仓库,很难发挥降 Token 作用。

问题 3:TokenEconomizer 能给编程智能体带来多少 Token 节省?

回答 3:在 SWE-Bench 的标准测试里,TokenEconomizer 能让编程智能体 Token 成本下降 18.4%–30.9%,网页开发、安全审计这类拓展场景降幅在 6.4%–21.2% 区间。

问题 4:TokenEconomizer 复用会话经验,它是缓存对话上下文吗?

回答 4:不是简单缓存整段对话,TokenEconomizer 会提炼历史会话里稳定有效的微技能、识别闲置工具、拦截失败循环,是结构化经验复用,区别于普通的上下文缓存方案。

【参考资料】

[2026-11-16](TokenEconomizer: Learning from Experience to Make AI Coding Agents More Efficient)微软研究院

[2026-11-16](TokenEconomizer cuts AI coding agent costs by up to 30.9%)Omega Technology Solutions Group

[2026-10-30](Meet TokenEconomizer: Microsoft’s Plugin That Cuts Coding Agent Costs by Up to 30.9%)MarkTechPost

[2026-10-15](TOKENECONOMIZER: Experience-Driven Black-Box Cost Control for Coding Agents)arXiv 预印本

【免责声明】

本文仅整理 TokenEconomizer 相关学术研究与开源项目资讯,Token 节省比例来自论文基准测试结果,不同项目、模型、代码仓库环境下实际效果存在差异;本内容不构成商用接入、采购 API 的投资建议,接入前请自行评估业务稳定性与成本收益。

 
最新文章
站长推荐