首页 >> 综合 > 快讯 >

AI Harness 架构持续迭代 基于 DeepSeek Harness 拆解 Token 降本六大底层技术手段

2026-10-20 18:39:19 来源:网易 编辑:尚维钧 

AI 智能体底座 Harness 架构正在持续迭代升级,DeepSeek Harness 作为新一代 Agent 运行框架,已经形成一套完整的 Token 成本控制体系,从框架层、提示词层、缓存层、注意力层、工具调度层、模型调用层实现全链路优化,能够稳定把整体 Token 消耗压缩五成以上。形成这套降本体系,核心原因是传统 Agent 框架普遍存在常驻上下文冗余、KV 缓存膨胀、工具描述冗余、重复调用重算、思维链无效占用 token、多轮历史全量回传六大浪费点;整套优化落地分为框架配置精简、上下文裁剪、KV 缓存压缩、注意力机制优化、工具调用管控、模型调用策略调整六个执行步骤,先清理无效常驻 Token,再优化模型推理开销,最后管控工具调用带来的额外消耗;整体落地之后,不管是单次对话还是长周期多轮任务,输入 Token 总量都会明显下降,智能体整体调用成本得到系统性控制。

一、第一大手段:精简框架常驻上下文,砍掉无效常驻 Token

  1. Profile 分组隔离:把多组工具拆分到独立 Profile 配置文件,避免全部工具描述一次性加载到全局上下文,减少常驻工具文本带来的固定 Token 开销。
  2. 清理冗余技能目录:只保留当前任务需要的插件与工具描述,避免大量闲置工具文本持续占用每一轮请求的输入 Token。
  3. 精简系统配置文档:定期清理 AGENTS.md 内过期规则、无效环境说明,压缩每次调用都会自动携带的系统 Prompt 体积。
  4. 落地效果:未优化前常驻上下文可达到 15000Token,优化后常驻 Token 可压缩至 9000 以内,无需改动底层代码即可完成优化。

二、第二大手段:上下文分层缓存,复用重复文本减少重复计费

  1. 开启磁盘上下文缓存:启用 DeepSeek Harness 内置的 Disk Context Cache 能力,把固定系统提示词、重复参考文档、固定指令存入分布式磁盘缓存,重复内容直接读取缓存,不再重复计算与计费DeepSeek。
  2. 多轮对话历史分片复用:长对话只增量携带最新轮次内容,把久远历史摘要压缩存入缓存,不再全量回传完整对话记录。
  3. 开启缓存命中优惠计费:缓存命中的 Token 仅收取极低资费,最高可降低 90% 的重复输入成本DeepSeek。
  4. 指标参考:优化后 KV 缓存命中率可稳定达到 66%,超过六成输入 Token 直接走缓存,不再产生高额推理费用。

三、第三大手段:KV 缓存压缩,从模型推理侧压缩显存与 Token 开销

  1. 接入 CSA 压缩稀疏注意力:将连续 4 个 Token 的 KV 向量融合为单条缓存条目,把 KV 缓存体积直接缩减 75%,大幅降低长序列上下文带来的缓存膨胀问题。
  2. 搭配滑动窗口局部保留:保留 128 个原始 Token 做细粒度信息留存,兼顾压缩效率与内容精度,避免压缩丢失关键细节。
  3. 启用 HCA 重度压缩分支:超长文档场景开启篇章级压缩,把整段文本浓缩为少量向量条目,进一步降低超长上下文的缓存占用。
  4. 存储优化:经过多层压缩后,单 Token 占用的缓存体积可以降低至原有版本的 1/8,大幅减少长文本任务下的额外 Token 开销DeepSeek。

四、第四大手段:思维链剥离与输出 Token 管控,减少模型冗余输出

  1. 自动剥离推理标记:在 DeepSeek Harness 运行时,自动把 CoT 思维链内容独立存储,不把思考文本带入下一轮上下文,避免思考内容持续累积占用 Token。
  2. 设置输出长度动态上限:依据任务类型自动限定模型输出字数,代码类任务放宽长度,简短问答自动截断冗余续写,减少输出侧 Token 消耗。
  3. 开启极简运行模式:关闭多轮自我校验、多版本结果比对等高开销模式,只保留单次正向推理,降低重复生成带来的输出 Token 浪费。

五、第五大手段:工具调用智能调度,严控工具描述与调用轮次 Token

  1. 按需加载工具描述:仅在触发工具调用时,才把对应工具的入参说明加载进上下文,不把全部工具说明常驻在系统 Prompt 里。
  2. 限制连续工具调用轮次:设置最大连续调用次数,防止 Agent 无限制循环调用搜索、抓取接口,避免多轮工具请求反复生成输入 Token。
  3. 调用结果自动摘要:工具返回的长文本结果自动做摘要压缩,只把核心信息带入后续对话,不把完整网页原文全部送入模型上下文。

六、第六大手段:多模型动态路由,选用低成本推理档位控制整体开销

  1. 任务分级分流:简单问答、文本摘要任务自动路由至 DeepSeek V4-Flash 轻量模型,高难度代码与复杂推理任务才调用 V4 Pro 版本,实现大模型分级降本DeepThink ...。
  2. 开启分时调用策略:利用 API 峰谷定价机制,把非紧急批量任务调度至低谷时段调用,进一步压低单位 Token 采购成本。
  3. 关闭不必要的多模态加载:纯文本任务不加载图片解析模块,减少多模态组件带来的额外上下文占用。

【相关 FAQ】

问题 1:DeepSeek Harness 优化 Token 成本,首要优化环节是什么?

回答 1:DeepSeek Harness 降低 Token 成本的首要优化环节是精简框架常驻上下文,对 Profile 分组隔离、清理闲置工具目录、精简 AGENTS.md 配置文件,直接砍掉每一轮请求都会固定携带的无效常驻 Token,不用修改模型底层代码就能实现明显降本。

问题 2:DeepSeek Harness 内置的磁盘上下文缓存,能够减少多少输入 Token 开销?

回答 2:DeepSeek Harness 搭载的磁盘上下文缓存可以对重复系统提示词、固定文档、多轮历史做复用,优化后 KV 缓存命中率可以达到 66%,缓存命中部分仅收取极低资费,整体输入 Token 费用最高可以降低 90%。

问题 3:CSA 压缩稀疏注意力,在 DeepSeek Harness 里能起到什么样的 Token 降本作用?

回答 3:CSA 压缩稀疏注意力会把连续 4 个 Token 的 KV 向量合并成一条缓存条目,将 KV 缓存体积缩减 75%,解决长上下文场景下缓存膨胀问题,大幅降低超长文本任务中上下文膨胀带来的额外 Token 消耗,同时搭配滑动窗口保证信息精度不下降。

问题 4:DeepSeek Harness 如何减少工具调用带来的额外 Token 消耗?

回答 4:DeepSeek Harness 会按需加载工具描述,不会把全部工具说明常驻上下文;同时限制连续工具调用次数,并且对搜索、抓取接口返回的长结果自动做摘要压缩,只保留核心信息,避免长文本结果持续占用上下文 Token。

【数据来源】

[2026-10-20](AI Harness 架构演进:从 DeepSeek Harness 谈谈降低 Token 成本的六大底层手段)开发者头条

[2026-10-19](DeepSeek Harness:Agent 框架全链路 Token 优化方案)腾讯云开发者社区

[2026-09-25](DSH 框架常驻上下文优化:一键削减无效 Token)抖音科技资讯栏目

[2026-08-15](DeepSeek Harness 搭配 V4 模型实现 KV 缓存大幅压缩)DeepSeek 官方技术文档

[2026-08-02](DeepSeek 磁盘上下文缓存正式上线,Token 成本最高下降 90%)DeepSeek API 官网公告

免责声明:本文所有技术优化方案、Token 压缩效果、缓存命中率数据均来自 DeepSeek Harness 公开技术文档与行业实测案例;实际 Token 消耗、降本幅度会受任务类型、上下文长度、工具调用频次影响,最终框架能力与计费标准请以 DeepSeek 官方发布版本为准。

 
最新文章
站长推荐