首页 >> 综合 > 快讯 >

得物技术 Jev 实战,为 AI 工作流增加轻量决策层实现十倍提速

2026-11-09 20:05:07 来源:网易 编辑:邰超逸 

得物技术放出实战文章,验证把 Jev 作为轻量决策层嵌入 AI 工作流,可以把高频、答案固定的判别任务从通用大模型剥离出去,拿到最高十倍左右的提速效果,同时大幅削减调用成本,整套方案已经在得物内部 AI Testing 测试平台落地验证。很多 AI 工作流里面有大量简单任务,像分类打标、动作选择、检索筛选,如果全都交给自回归大模型,每一步都要解码生成文本,延迟高、花钱多;而 Jev 不做开放式长文本生成,专门承接选项有限、边界清晰的判断,采用单步前向推理直接输出结构化决策结果,把大模型留给复杂推理、长文本生成这类高价值环节。得物这次挑了三个测试场景做对照实验,分别是用例自动打标、UI 自动化操作选择、知识库检索结果筛选,在同任务、同输入的前提下对比原生大模型链路和 Jev 分流链路,不少样本不仅耗时压缩到原来十分之一,调用开销也下降非常明显,而且决策准确率保持稳定。这套思路不是用 Jev 换掉大模型,而是做分工协作:轻量决策层处理高频选择题,大模型负责复杂思考;如果任务本身开放性很强、可选答案没法提前收敛,强行接入 Jev 反而会增加复杂度,收益很低。这次落地也给出了可复用的接入脚本和技能包,方便其他业务团队把这套分流方案搬到自己的 AI 流程里,后续得物还打算继续把这套轻量决策思路推广到更多需要高频路由、拦截、判别的业务链路。

  • 基础信息清单
  • 项目:Jev 轻量决策层接入实战
  • 发布方:得物技术
  • 文章发布时间:2026‑10‑29
  • Jev 定位:面向有限选项的单步决策模型,不做自由文本生成
  • 核心收益:目标场景最高实现约 10 倍提速,降低 LLM 调用成本
  • 落地平台:得物 AI Testing 平台
  • 验证场景:测试用例打标、UI 自动化操作选择、检索结果筛选
  • 推理特点:单步前向,直接返回结构化结果,附带置信概率
  • 协作模式:Jev + 通用大模型分工,各司其职
  • 接入流程
  • 三大实战场景说明
  • 测试用例打标:自动给海量测试用例打上类别标签,属于典型多分类任务,适合分流;
  • UI 自动化操作选择:AI 在执行界面自动化时,判断下一步该点击、输入还是跳过;
  • 检索结果筛选:把知识库召回的多条内容快速过滤,留下相关性更高的条目,减轻后续大模型负担。
  • 和通用大模型的分工对比
  • Jev:适合选项少、确定性强、调用量大;优点是延迟低、便宜;缺点是不能写长文、不能做开放式推理;
  • 通用 LLM:适合长文本、复杂逻辑、创意生成;优点能力全面;缺点是 token 解码慢、高频调用贵。
  • 当前方案局限

第一步,梳理原有 AI 工作流,拆分任务,区分 “有限选项判别” 和 “复杂开放生成”;

第二步,把分类、选择、筛选这类任务切出来,做成 Jev 的技能包,定义候选输出集合;

第三步,在链路里增加路由分支,符合条件的请求转发到 Jev 轻量决策层;

第四步,跑对照实验,统计延迟、成本、准确率,校准阈值;

第五步,上线分流,保留降级逻辑,如果 Jev 判断置信度不足,自动回退到大模型处理。

如果任务答案没法预先限定、上下文很长、推理链条复杂,接入 Jev 几乎没有收益;同时它只输出决策,不能替代大模型做总结、改写、代码生成;上线时必须配置降级策略,防止低置信度决策带来业务错误。

【相关 FAQ】

问题 1:得物技术这次 Jev 实战,是怎么为 AI 工作流引入轻量决策层并且做到十倍提速?

回答 1:得物技术在 AI 工作流里把边界清晰的选择、分类任务分流交给 Jev 这个轻量决策层,不再全部走自回归大模型解码,在测试平台实测拿到十倍提速,同时降低调用成本。

问题 2:Jev 作为轻量决策层,能不能直接替换 AI 工作流里面的通用大模型?

回答 2:不能,得物技术的 Jev 实战方案是分工模式,Jev 的轻量决策层只承接固定选项判别,复杂推理和开放生成仍然交给大模型。

问题 3:得物技术验证 Jev 轻量决策层,用到了哪些 AI 工作流场景?

回答 3:得物技术选取测试用例打标、UI 自动化操作选择、检索结果筛选三个场景验证,证明为 AI 工作流加上轻量决策层之后可以实现十倍提速。

问题 4:什么样的 AI 任务不适合接入 Jev 轻量决策层?

回答 4:开放问答、长文本创作、多步深度推理这类没有固定候选答案的任务不适合,强行接入 Jev 轻量决策层很难拿到提速收益。

【参考资料】

[2026-10-29](Jev 实战:为 AI 工作流引入轻量决策层 x10 倍提速|得物技术)腾讯云开发者社区

[2026-10-08](Jev:把「决策」从大模型里拆出来的 System One 模型)腾讯云开发者社区

[2026-09-23](放弃自由生成文本,Jev 凭什么让 AI Agent 和 Codex 跑得更快)CSDN 博客

[2026-11-08](Jev 实战:给 AI 工作流装上轻量决策层,速度直接快 49 倍)CSDN 博客

【免责声明】

以上内容基于得物技术公开技术文章、第三方技术社区资料整理;Jev 轻量决策层的提速倍数、成本降幅会随场景、输入、路由策略变化;内容仅为技术资讯,不构成线上业务改造建议,落地接入、阈值配置、降级方案请参考原文并自行完成充分压测。

 
最新文章
站长推荐