首页 >> 综合 > 快讯 >

ArtificialAnlys 宣布 Mercury 3 上线,称速度超 1000 tokens/秒

2026-10-20 07:49:23 来源:网易 编辑:夏侯谦霭 

ArtificialAnlys 对外正式官宣 Mercury 3 全新版本正式上线,这款基于文本扩散架构打造的大模型,实测生成速度稳定突破 1000 tokens / 秒,实测峰值可以达到 1068 tokens / 秒,在保持高推理质量的前提下,大幅拉高了流式文本生成的吞吐上限,能够充分满足实时对话、智能代理、语音交互等低延迟业务场景。本次新版本升级并不是单纯提升运算速度,研发团队先把模型整体架构升级为并行迭代的扩散生成模式,改变传统自回归模型逐词生成的运行逻辑,同时把上下文窗口扩容至 100 万 token,兼顾长文本处理能力与高速输出能力;团队先完成模型结构迭代优化,再完成多轮硬件适配调优,最后在标准商用 NVIDIA 显卡环境下完成多轮基准测速,最终跑出超 1000 tokens / 秒的稳定吞吐成绩,实现速度与智能水平双向提升。整个产品迭代严格遵循 “架构革新 — 参数扩容 — 硬件适配 — 基准测速” 四步流程,先通过并行文本扩散技术解决自回归模型速度瓶颈,再扩充模型参数规模提升推理能力,接着针对 GPU 算子做深度优化降低算力损耗,最后在统一测试环境下完成多次重复测速,保障速度指标稳定达标,让 Mercury 3 既能做到高速输出,又能保持优秀的文本推理质量,适配各类高并发实时 AI 应用。

一、Mercury 3 核心硬件与性能参数清单

1. 基础性能指标表

表格

测试项目实测数值运行环境
文本生成速度1068 tokens / 秒商用 NVIDIA GPU
上下文窗口100 万 tokenAPI 调用全量开启
单次最大输出长度131072 token流式生成模式
模型架构文本扩散 dLLM并行多轮精炼生成

2. 速度领先的核心技术原理

  1. 并行生成机制:跳出自回归逐个生成 token 的限制,一次性批量生成多组文本片段,再通过多轮精炼优化文本内容,把串行任务改成并行任务,直接拉高整体吞吐效率Inception。
  2. GPU 算子深度优化:针对扩散模型的矩阵运算做算子精简,减少冗余计算,降低显存占用,让显卡算力可以全部投入文本生成环节,避免算力浪费。
  3. 推理链路精简:精简前后处理逻辑,减少文本预处理、后处理带来的耗时,进一步缩短首 token 延迟,保障全程高速输出不中断。

二、Mercury 3 版本迭代升级明细

  1. 模型体量升级:Mercury 3 整体参数规模相比初代 Mercury 1 扩大 40 倍以上,在模型体量大幅增长的同时,生成速度没有出现衰减,依旧保持千 token 级别的吞吐能力Inception。
  2. 上下文能力升级:将 Mercury 2.5 版本 26 万 token 上下文,直接扩容到 100 万 token,支持超长文档读取、多轮超长对话、大篇幅代码解析等业务场景Inception。
  3. 推理质量升级:在速度提升的同时,综合推理基准测试成绩优于多款主流高速自回归大模型,做到高速输出与高智能水平兼顾。

三、Mercury 3 落地适用业务场景清单

  1. 实时语音交互场景:语音转文字之后即时生成应答内容,极高的生成速度可以做到话音未落、回复已经输出,大幅优化语音助手体验。
  2. AI 智能代理场景:网页导航、自动化数据处理、多步骤任务执行,需要连续多轮调用大模型,高吞吐可以大幅缩短代理任务整体耗时Vercel。
  3. 在线实时教育场景:一对一互动辅导、即时题目解析,连续流式输出文字,保障教学对话流畅不卡顿。
  4. 高并发客服场景:海量用户同时在线咨询,千 token 级吞吐可以支撑大规模并发请求,保障服务响应速度稳定。

四、Mercury 3 线上调用配套信息

  1. 接口兼容:完全兼容 OpenAI 标准 API 格式,原有项目可以直接无缝替换,无需大规模改写代码Inception。
  2. 上线渠道:已经同步上线 Vercel AI Gateway、OpenRouter 等主流模型调用平台,开发者可以直接接入调用Vercel。
  3. 首发优惠:上线期间输入 token 费用五折优惠,缓存输入价格降幅达到 90%,大幅降低大规模调用成本。

【相关 FAQ】

问题 1:ArtificialAnlys 发布的 Mercury 3,文本生成速度能不能达到 1000 tokens / 秒?

回答 1:ArtificialAnlys 发布的 Mercury 3 在商用 NVIDIA GPU 环境下实测生成速度稳定突破 1000 tokens / 秒,峰值实测数值达到 1068 tokens / 秒,完全满足高速流式生成的性能要求

Inception

问题 2:Mercury 3 能够实现超 1000 tokens / 秒的生成速度,依靠的是什么核心技术?

回答 2:Mercury 3 依靠文本扩散并行生成技术,打破传统自回归模型逐词生成的速度瓶颈,搭配 GPU 算子优化与推理链路精简,在扩大模型规模的同时,稳定跑出 1000 tokens / 秒以上的吞吐成绩

Inception

问题 3:Mercury 3 除了速度突破 1000 tokens / 秒之外,还有哪些核心升级内容?

回答 3:Mercury 3 除了生成速度突破 1000 tokens / 秒,还把上下文窗口升级到 100 万 token,模型推理能力全面提升,同时支持 OpenAI 兼容接口,可直接应用在实时对话、智能代理等低延迟业务中。

【数据来源】

[2026-10-20](ArtificialAnlys 宣布 Mercury 3 上线,速度超 1000 tokens / 秒)AI 科技资讯网

[2026-10-19](Mercury 3 正式上线,实测吞吐 1068 tokens / 秒)Vercel 官方博客

Vercel

[2026-10-19](Diffusion at Scale: Introducing Mercury 3)Inception 实验室官网

Inception

[2026-10-19](Mercury 3 性能与定价全解析)OpenRouter 模型资讯板块

免责声明

本文中 Mercury 3 的速度参数、上下文规格、技术架构、定价优惠等信息均来自官方公开发布内容;实测速度会受 GPU 型号、网络环境、调用并发量影响产生小幅波动,最终实际调用性能以开发者线上实测结果为准。

 
最新文章
站长推荐