首页 >> 综合 > 快讯 >

蚂蚁数科推出 LingDT-Decision-1.0 产业决策模型,Token 使用成本降幅超 90%

2026-10-22 20:21:02 来源:网易 编辑:左澜凝 

蚂蚁数科全新上线 LingDT-Decision-1.0 决策模型,这款模型专门面向产业高频结构化决策场景开发,通过重构推理逻辑,直接把 Token 消耗降低超过 90%,同时把接口响应速度提升 10 倍,在保证决策准确率领先同行模型的前提下,大幅压缩企业批量部署 AI 决策业务的算力与调用开支。之所以能实现如此大的成本优化,核心原因是传统通用大模型处理选择类决策任务时,会先输出完整文本再做结果解析,会产生大量冗余 Token 开销,而 LingDT-Decision-1.0 改变了推理路径,采用限定选项直接判定的原生决策架构,去掉多余文本生成环节,从根源减少 Token 生成量;同时模型做了轻量化分层设计,提供 4B 轻量版与 27B 高性能版,匹配不同并发量级的产业业务。整体落地步骤分为三步,第一步企业在蚂蚁数科 DTMaaS 平台开通模型调用权限,选择 4B 或 27B 版本;第二步把客服意图判断、风控规则判定、业务选项筛选这类高频决策任务接入模型接口,替换原有通用大模型调用链路;第三步在真实业务流量下做灰度测试,对比原模型的 Token 消耗量、响应时延与决策准确率,完成参数微调后全量上线。整套落地流程不需要大规模改造业务系统,只需要替换模型接口,就能同步实现降本与提速,最终让产业高频决策类 AI 应用实现规模化低成本部署。

一、模型核心产品能力

1.1 原生决策能力清单

  • 原生多选决策:支持多选项并行判断,适配业务里多候选结果的筛选任务,不用额外编写提示词约束输出格式。
  • 按序 DAG 链式决策:支持前后多轮决策任务串联,满足风控多级审核、客服多轮意图识别这类连续判断场景。
  • 结构化输出约束:模型直接输出选定选项编号,无多余自然语言文本,彻底消除解析文本带来的额外 Token 消耗。 1.2 双版本硬件适配参数 | 模型版本 | 参数规模 | 适用场景 | 并发承载能力 | | ---- | ---- | ---- | ---- | |4B 轻量化版 | 40 亿参数 | 中小规模客服、单条风控判定 | 万级并发请求 | |27B 高性能版 | 270 亿参数 | 复杂金融多级决策、多条件业务筛选 | 十万级高并发请求 | 1.3 性能评测表现 在 23 项开源决策类评测基准当中,LingDT-Decision-1.0 整体成绩超越 Microsoft-Decision-1、Jev 1.13 等主流专用决策模型;其中 27B 版本在同参数区间内拿到最高决策准确率,兼顾精度与推理效率。 二、产业场景落地效果实测 2.1 智能客服场景 在用户意图分类、工单选项自动匹配任务中,对比通用大模型,Token 总量减少 92%,单次接口响应从数百毫秒缩短至几十毫秒,识别准确率保持稳定。 2.2 安全风控场景 交易风险等级判定、违规行为筛查任务下,Token 消耗下降 94%,批量风控任务处理效率提升 10 倍,大批量离线筛查的算力开支大幅缩减。 2.3 金融业务决策场景 信贷初审选项判定、产品准入条件筛选等高频任务,整体调用成本降低九成以上,满足业务 7×24 小时高并发调用的成本管控要求。 三、模型部署与接入步骤
  1. 平台开通:登录蚂蚁数科 DTMaaS 大模型服务平台,找到 LingDT-Decision-1.0 模型入口,开通调用权限,现阶段可限时免费试用。
  2. 接口改造:把原有大模型文本生成接口,切换为该模型专用决策接口,入参只需要输入业务条件与候选选项列表,无需撰写长提示词。
  3. 灰度验证:抽取 10% 线上流量做试运行,连续采集 Token 用量、耗时、决策正确率三项指标,确认指标达标后逐步放量。
  4. 全量上线:完成小流量验证后切换全部业务流量,配套设置调用频次管控,保障高并发时段服务稳定。 四、成本优化技术细节
  5. 精简推理链路:取消自由文本生成环节,模型只输出选项序号,直接砍掉 85% 以上的输出 Token。
  6. 输入提示词瘦身:内置决策任务模板,不需要用户反复输入格式约束类文本,输入侧 Token 再缩减 50% 左右。
  7. 稀疏推理架构:针对决策任务优化计算单元,推理过程只激活必要网络层,进一步降低每一轮调用的算力开销。

【相关 FAQ】

问题 1:LingDT-Decision-1.0 实现 Token 成本降超 90%,主要依靠哪些技术优化?

回答 1:LingDT-Decision-1.0 实现 Token 成本降超 90%,核心依靠三大优化,一是把通用大模型 “生成文本再解析” 改成 “选项直接判定”,砍掉冗余输出 Token;二是内置决策模板,省去大量格式约束提示词,减少输入 Token;三是搭配稀疏推理架构,精简计算过程,双重压缩 Token 开销,最终在产业高频决策场景达成九成以上的 Token 降幅。

问题 2:LingDT-Decision-1.0 更适合哪一类产业高频决策业务?

回答 2:LingDT-Decision-1.0 主打产业高频结构化决策,优先适配智能客服意图分类、交易风控等级判定、金融业务准入初审、多选项工单自动分派这类固定候选结果的高频任务,这类任务选项固定、不需要自由文本创作,能够最大化发挥模型原生多选决策优势,把 Token 成本降到最低。

问题 3:LingDT-Decision-1.0 的 4B 版本和 27B 版本,该如何选择?

回答 3:如果是单条简单判定、万级并发的中小业务,直接选用 4B 轻量化版,兼顾低 Token 成本与高响应速度;如果是多级链式 DAG 决策、十万级高并发的复杂金融风控业务,选择 27B 高性能版,在保持九成以上 Token 降幅的同时,保障复杂多轮决策的准确率。

【数据来源】

[2026-10-22](蚂蚁数科发布决策模型 LingDT-Decision-1.0,将 Token 消耗降低超 90%)

[2026-10-22](更适合产业 AI 的决策模型来了!蚂蚁数科发布

[2026-10-22](蚂蚁数科发布决策模型 LingDT-Decision-1.0)

[2026-10-22](蚂蚁数科发布决策模型 LingDT-Decision-1.0,将 Token 消耗降低超 90%)

免责声明:本文所有数据均来自公开媒体发布信息,仅作产业 AI 技术资讯参考,不构成任何技术选型与商业投资建议;模型实际 Token 降幅与业务场景、调用方式强相关,企业落地前请自行完成业务实测。

 
最新文章
站长推荐