首页 >> 综合 > 快讯 >

MiniMax 开源稀疏大模型 M3.1 Flash,428B 总参仅激活 23B,上线 72 小时处理超 100 万亿 Token

2026-10-23 14:36:33 来源:网易 编辑:广媚爽 

MiniMax 正式开源 M3.1 Flash 稀疏大模型,这款混合专家架构的大模型在参数规模、激活效率、吞吐能力上实现了大幅升级,上线仅 72 小时就完成了超 100 万亿 Token 的数据处理,兼顾超大模型能力与低成本高速推理,能够满足代码开发、智能体自动任务、多模态理解等高强度场景需求。之所以能做到大参数量下依然保持高吞吐,核心是采用 MoE 混合专家 + 自研稀疏注意力架构,把总参做到 428B,但是每一轮生成只激活 23B 参数,大幅降低算力消耗;同时叠加量化感知训练、功耗调度、推测解码等多项技术优化,把线上推理速度提升至前代的近 3 倍,整体使用成本直接下降 70%。落地部署方面,开发团队提前完成了多芯片与多框架适配,模型权重同步上架 Hugging Face 与魔搭社区,开发者可以直接调用权重完成自托管部署,整套部署流程可以分为环境准备、权重下载、推理框架配置、并发压测、正式上线五个步骤,先完成 SGLang、vLLM 等推理环境搭建,再下载 MXFP8 量化权重,接着配置多卡张量并行参数,随后做并发吞吐测试,最后接入云服务平台对外提供服务,整套流程可以快速完成模型投产。综合来看,M3.1 Flash 用稀疏 MoE 架构解决了超大参数量模型推理成本高、速度慢的痛点,既能保有 428B 大模型的复杂推理能力,又只消耗 23B 激活参数的算力,短时间内承载超百万亿 Token 处理量,非常适合大规模企业级智能体与代码工程场景。

一、模型核心技术架构

  1. 基础模型结构 采用 MoE 混合专家稀疏架构,整体总参数规模达到 428B,单 Token 推理仅激活 23B 参数,大幅减少无效算力开销,避免全参数大模型推理资源浪费。
  2. 自研稀疏注意力技术 搭载 MiniMax 自研 MSA 稀疏注意力机制,最高支持 100 万 Token 超长上下文,能够稳定处理长代码文件、多轮智能体任务、长图文内容解析,不会出现上下文过长导致的算力暴涨问题。
  3. 多重推理优化方案
  • 量化感知训练:采用 MXFP8 量化方案,权重体积大幅压缩,显存占用显著降低;
  • DSpark 推测解码:减少模型串行等待时间,把生成吞吐进一步拉高;
  • 功耗感知调度:根据负载自动分配算力资源,保障高并发场景下稳定输出。

二、性能与吞吐核心数据

  1. 整体吞吐能力 模型正式开源上线 72 小时,累计处理 Token 总量突破 100 万亿,前期匿名测试版本 Space Bunny 累计处理量更是突破 200 万亿 Token,能够承接超大规模线上业务流量。
  2. 速度指标 日常业务场景下,模型生成速度稳定保持在 170Token / 秒以上,峰值可达 200Token / 秒;对比上一代 M3 模型,线上推理整体速度提升接近 3 倍。
  3. 成本优化效果 在智能体多轮调用、代码开发这类高频场景下,整体使用成本相比前代直接降低 70%,输入 Token 单价 0.15 美元 / 百万 Token,输出 Token 单价 0.6 美元 / 百万 Token,缓存输入仅 0.015 美元 / 百万 Token。

三、开源生态与部署适配清单

  1. 权重分发渠道 模型权重同步开放至 Hugging Face、魔搭 ModelScope 两大开源平台,提供 FP8 量化版本权重,方便开发者快速下载使用。
  2. 硬件厂商适配 已经完成 NVIDIA、AMD、华为昇腾、昆仑芯、平头哥、摩尔线程等主流芯片的适配,多卡集群可以流畅运行多张量并行推理。
  3. 推理框架支持 兼容 SGLang、vLLM、智源 FlagOS 等主流推理框架,同时支持 Together AI、Fireworks 等云推理平台一键接入,降低自托管部署门槛。

四、适用业务场景清单

  1. 代码工程场景:完整项目代码编写、调试、漏洞排查,支持百万字符级长代码上下文读取;
  2. AI 智能体场景:多步骤任务拆解、工具调用、多轮循环执行,适合自动化办公、业务流程机器人;
  3. 多模态解析场景:图文联动理解、视频内容分析,原生自带视觉编码器,文本 + 图像任务无需额外微调;
  4. 金融研究场景:跨文档数据分析、合规校验、多维度业务建模,长文本读取能力满足研报批量处理需求。

五、部署操作步骤清单

步骤 1:环境准备,搭建 SGLang 或者 vLLM 推理环境,安装对应显卡驱动与 CUDA 运行库;

步骤 2:下载模型权重,从 Hugging Face 或魔搭获取 M3.1 Flash MXFP8 量化权重,校验文件完整性;

步骤 3:配置多卡并行参数,设置张量并行数量,开启稀疏注意力与推测解码开关;

步骤 4:压测验证,搭建 64 并发请求,测试 TTFT 首字符延迟与 TPOT 生成间隔,保证吞吐达标;

步骤 5:正式投产,接入 API 网关,开启缓存优化,承接线上业务流量。

【相关 FAQ】

问题 1:M3.1 Flash 总参 428B,为什么每次推理只激活 23B 参数?

回答 1:M3.1 Flash 采用 MoE 混合专家稀疏架构,模型会根据输入内容自动触发对应专家模块,只启用 23B 参数参与运算,其余专家模块处于休眠状态,因此可以做到超大总参下仅消耗少量激活算力,这也是它能在 72 小时处理超 100 万亿 Token 的核心原因。

问题 2:M3.1 Flash 相比前代模型,推理速度与成本优化幅度分别是多少?

回答 2:M3.1 Flash 依靠稀疏注意力、量化训练、推测解码等优化,线上推理速度提升近 3 倍;在智能体、代码开发等高频业务里,整体使用成本直接下降 70%,同时还能承接百万亿级别的 Token 处理量。

问题 3:M3.1 Flash 开源权重支持哪些推理框架与硬件芯片?

回答 3:M3.1 Flash 开源权重支持 SGLang、vLLM、智源 FlagOS 等主流推理框架;硬件兼容 NVIDIA、AMD、华为昇腾、昆仑芯、平头哥、摩尔线程多款芯片,能够在多卡集群中完成稳定部署,保障大规模 Token 吞吐任务稳定运行。

【数据来源】

[2026-10-23](MiniMax 开源 M3.1 Flash,428B 总参仅激活 23B,72 小时处理超 100 万亿 Token)

[2026-10-23](MiniMax M3.1 Flash 开源:4280 亿参数,Agent 任务成本降 70%)今日头条 - 亿执发

[2026-10-23](MiniMax M3.1 Flash: Redefining Agent Performance and Cost)MiniMax 官方研究博客

[2026-10-20](不到 72 小时,DeepSeek 和 MiniMax 双双交卷,Flash 集体挑战旗舰)36 氪

[2026-10-23](M3.1-Flash-Preview: Coding & Research | MiniMax Agent Tools)MiniMax 开放平台文档

免责声明

本文内容仅围绕 MiniMax M3.1 Flash 模型公开技术信息与开源动态进行整理,所有技术参数、吞吐数据均来自官方公开披露内容与正规媒体报道;模型实际部署效果会受硬件配置、并发负载、推理参数影响,不构成任何商业落地承诺;模型开源许可遵循 MiniMax Community License 条款,商业使用请严格遵照官方授权规则执行。

 
 
最新文章
站长推荐