首页 >> 综合 > 快讯 >

Jev 搭配 TrueForge 在 40 次决策任务中和 Opus 准确率持平,整体使用成本大幅降低的底层逻辑

2026-10-20 09:08:18 来源:网易 编辑:封丽霄 

Jev+TrueForge 组合能在 40 轮决策测试里拿到和 Opus 完全持平的准确率,同时把综合运行成本压到更低,核心是两层优化叠加:Jev 从模型底层砍掉自回归生成开销,只做结构化决策输出,大幅压低单轮模型调用费用;TrueForge 从 Agent 运行框架层面精简资源占用、压缩 token 消耗量,两项优化叠加之后,整体支出远低于直接调用 Opus 完成同等决策任务,全程不会牺牲任务决策精度。先看模型本身的成本优化逻辑,Opus 属于通用生成式大模型,每一次决策都要走完完整的自回归 token 解码流程,既要收取输入 token 费用,还要收取高额的输出 token 费用,哪怕只做一次是非判断,也要生成一整段文本再做解析,算力和 token 开销居高不下;而 Jev 是专门面向决策场景的判别式模型,全程不生成自然文本,只输出带概率的结构化选择,采用单次并行前向计算,没有逐 token 串行解码环节,计费规则只收取输入 token 费用,输出部分完全免费,单轮决策的模型调用成本直接压缩到 Opus 的几百分之一,同时依靠 RLCD 校准决策强化学习,保证 40 次反复判断的稳定性,把准确率稳定对齐 Opus 水平。再看 TrueForge 框架带来的额外降本空间,普通 Agent 框架会全程挂载沙箱环境,不管有没有代码执行动作,都会持续占用服务器资源,还会一次性加载全部工具定义,造成大量无效 token 消耗;TrueForge 采用按需资源调度机制,只在需要运行代码时临时拉起沙箱,其余纯决策环节不占用额外算力,同时开启延迟工具加载、多工具调用合并、上下文自动压缩等功能,把一轮任务的总 token 消耗量砍掉六成以上。在 DevRev 的 40 轮决策实测里,Opus 原生方案需要消耗 10M 总 token,而 Jev+TrueForge 仅消耗 3.8M 总 token,再叠加 Jev 极低的模型单价,最终综合运行成本可以下降 75% 以上,同时盲测评委给出的决策正确率和 Opus 完全保持一致,没有出现精度下滑的情况

TrueFoundr...

一、Jev 模型层:决策成本大幅降低的核心技术

  1. 非自回归并行推理,砍掉解码算力开销 传统 Opus 这类生成式 LLM 是串行逐 token 输出,输出越长,算力耗时越高;Jev 采用单轮并行前向计算,一次性算出全部决策结果,不存在串行解码过程,算力开销固定不变,不会随着决策选项数量增加而上涨,硬件算力投入直接缩减 90% 以上typesafe.a...。
  2. 极简计费模式,输出零计费 Jev 定价为每百万输入 token 仅 0.042 美元,所有结构化决策输出不计费;Opus 不仅输入 token 定价更高,输出 token 价格还要高出输入 5 倍,单纯调用费用就拉开巨大差距。40 次连续决策场景下,Jev 仅产生少量输入 token,几乎没有输出费用,单次调用成本仅有 Opus 的 1/400。
  3. RLCD 训练保证决策稳定性,准确率对标 Opus Jev 使用校准决策强化学习训练,优化目标是让模型输出置信度和真实正确率保持匹配,专门针对反复执行的二元选择、多选项决策做优化。在 40 轮重复盲测任务中,模型判断结果的方差极低,不会出现随机波动,最终整体决策准确率稳定和 Opus 持平,不会因为轻量化架构出现精度衰减。
  4. 固定结构化输出,省去文本解析的额外开销 Jev 只输出限定格式的选择 + 概率,不会生成冗余自然语言,不需要额外调用模型去解析文本结果,减少二次 token 消耗;Opus 每次都会输出大段文字,后续还要增加一轮调用做结果提取,进一步抬高整体成本。

二、TrueForge 框架层:进一步压缩全链路资源支出

  1. 按需拉起沙箱,避免闲置算力浪费 常规 Agent 框架全程常驻代码沙箱,哪怕只做纯判断、不执行代码,也持续占用服务器资源;TrueForge 把沙箱当成临时工具,只有代码运行环节才临时创建容器,纯决策阶段不占用任何计算资源,单台服务器可以并发承载上百组决策任务,服务器硬件成本大幅下降TrueFoundr...。
  2. 多项优化减少整体 token 用量
  • 延迟工具加载:工具定义不会一次性全部加载,只在调用对应工具时才载入内容,减少初始上下文 token;
  • 代码模式聚合调用:把多轮连续工具请求合并到一段脚本里执行,避免多次来回调用产生的上下文冗余;
  • 上下文自动压缩:自动清理历史无效对话内容,把长期累积的上下文体量控制在低位;
  • 大响应内容卸载:把超长工具返回结果放到外部存储,不全部塞进模型上下文,进一步压低 token 总量TrueFoundr...。 实测数据:同样 40 轮决策任务,Opus 搭配普通 Agent 框架需要 10M 总 token;Jev 搭配 TrueForge 只消耗 3.8M 总 token,token 总量直接减少 62%,进一步压低模型计费总额。

三、40 次决策实测:准确率与成本对照表格

表格

组合方案40 轮决策准确率总消耗 token 量单次任务综合成本
Opus + 普通 Agent 框架与 Jev 方案持平10M基准高价
Jev+TrueForge 框架持平 Opus3.8M仅为基准价的 25% 以内

四、全链路降本完整执行步骤

步骤 1:把任务里所有文本生成环节全部剥离,只保留选择、打分、是非判断三类决策动作,完全匹配 Jev 的 Choice、Score、Noul 三大原生接口,杜绝冗余文本输出。

步骤 2:接入 TrueForge 运行框架,开启按需沙箱、延迟工具加载、上下文自动压缩三项核心开关,关闭常驻容器与预加载工具配置。

步骤 3:把多轮连续决策合并为单次并行请求,利用 Jev 并行采样能力,一轮请求批量完成多条判断,减少调用次数与上下文重复内容。

步骤 4:开启大响应内容外部存储,不要把超长工具返回内容全部传入模型上下文,持续控制总 token 规模。

步骤 5:连续执行 40 轮重复决策任务,依靠 Jev 的 RLCD 校准能力稳住判断一致性,保证全程准确率不低于 Opus 基准线。

步骤 6:统计总 token 消耗与模型调用费用,最终实现准确率持平、综合成本大幅下降的目标。

【相关 FAQ】

问题 1:Jev+TrueForge 做到 40 次决策准确率持平 Opus,核心是模型优化还是框架优化?

回答 1:两项优化缺一不可,Jev 负责把单轮决策的模型调用成本压到极低,同时依靠 RLCD 训练保证 40 轮反复判断的稳定性,守住和 Opus 持平的准确率;TrueForge 负责削减全链路无效 token 与闲置算力,把整体 token 总量压缩六成以上,两者叠加才最终实现同等精度下成本大幅降低。

问题 2:在 40 轮连续决策场景里,Jev 不会产生输出 token 费用,为什么还需要 TrueForge 继续降本?

回答 2:虽然 Jev 输出不计费,但如果框架不做优化,反复调用依然会产生大量重复输入 token,TrueForge 通过上下文精简、工具按需加载、沙箱按需启动,把 40 轮任务的总输入 token 从 10M 降到 3.8M,进一步减少 Jev 的输入 token 账单,让整体成本降到更低水平。

问题 3:Jev+TrueForge 在 40 次决策测试里准确率不弱于 Opus,会不会只适用于简单是非题?

回答 3:不会,这套组合针对多选项结构化决策同样稳定,Jev 最多支持 255 个选项的概率选择,配合 TrueForge 干净的子代理上下文,40 轮重复多分支决策依然可以保持和 Opus 一致的正确率,不会出现判断漂移。

【数据来源】

[2026-10-14](杰文斯悖论照进 AI: 为什么 Jev 越便宜,判断的需求反而越多)CSDN 博客

[2026-09-24](Best Agent Harness in 2026: Top 5 Options Compared)TrueFoundry 官网

[2026-09-21](Jev:TypeSafe's Decision Model Explained for Developers)OpenRouter 技术文档

[2026-09-19](LLM 决策架构迎来解耦拐点,TypeSafe 的 Jev 用概率校准替代生成式推理)极道 Jdon

[2026-09-15](Introducing System One Models & Jev)TypeSafe AI 官方博客

【免责声明】

本文所有实测数据均来自公开技术博客与厂商对外发布的基准测试结果,仅针对 40 轮结构化决策场景成立;不同业务场景、上下文长度、工具调用频次会带来成本与准确率的小幅波动;文中模型定价为 2026 年 10 月公开标价,不包含平台补贴、批量采购优惠等商业政策,实际支出以服务商实时账单为准。

 
最新文章
站长推荐