MiniMax M3.1 Flash 正式发布，上线首日原生支持 SGLang 推理框架

MiniMax 全新推出 M3.1 Flash 开源大模型，并且在模型发布的首日就完成了 SGLang 推理框架的适配，开发者拿到模型权重之后无需等待额外补丁，直接就能基于 SGLang 完成一键部署，大幅降低大规模线上服务的落地门槛。这款 MoE 架构模型搭配 SGLang 高性能推理能力，既能保留百万级长上下文、多模态理解、智能体工具调用等完整能力，还能把单卡 Token 吞吐拉满，同时把推理延迟控制在低位，不管是个人本地部署，还是企业搭建高并发在线服务，都能做到开箱即用，不用投入大量时间做框架适配与算子调试。以往很多新模型发布后，都要等待几周甚至数月才能完成主流推理框架的适配，开发团队需要自己编写适配代码、调试算子兼容问题，拉长项目上线周期；本次 M3.1 Flash 做到 Day0 原生支持 SGLang，是模型研发与推理生态提前协同打磨的结果，研发团队在模型开发阶段就同步对接 SGLang 社区，提前完成稀疏注意力、MoE 专家路由、量化算子的联调，保障模型正式开源时，框架已经做好全部兼容优化，从源头减少部署环节的技术成本。整套部署落地流程分为完整四步，全程无需二次修改模型代码，第一步下载 M3.1 Flash 开源权重，选择 BF16、NVFP4 等量化版本；第二步安装最新版 SGLang 运行环境，一键启动模型服务；第三步调用 OpenAI 兼容接口，完成多轮对话、代码生成、智能体任务测试；第四步开启连续批处理、前缀缓存等优化策略，提升并发吞吐量，最后完成线上压力测试，稳定接入业务系统。依托 SGLang 的底层优化，M3.1 Flash 可以稳定跑出 170+TPS 的中位生成速度，峰值可达 200+TPS，同时充分发挥稀疏 MoE 架构的优势，只用 23B 激活参数就能承载百万上下文长任务，实现高性能与低成本兼顾。

一、MiniMax M3.1 Flash 核心基础参数清单

1. 模型架构：MoE 混合专家结构，总参数 428B，单次推理激活参数仅 23B。
2. 上下文窗口：最高支持 100 万 Token 超长上下文，可读取完整代码库与长篇文档。
3. 能力覆盖：文本、图片、视频多模态输入，支持代码开发、智能体自动任务、漏洞审计、办公自动化。
4. 可调配置：支持五档思考深度自由切换，可按需平衡推理速度与推理精度。
5. 量化支持：原生适配 W4A4、Q8KV4 量化方案，进一步降低显存占用。

二、Day0 适配 SGLang 带来的核心技术优势

1. 部署效率优势

• 无需额外开发适配脚本，下载权重后直接启动 SGLang 服务，当天即可完成本地验证与线上部署。
• 原生兼容 RadixAttention 前缀缓存、分块预填充、连续批处理三大核心优化，长对话场景可以大幅减少重复计算。

2. 性能优化对照表

表格

3. 跨硬件生态兼容

SGLang 同时支持 NVIDIA、AMD、昇腾、昆仑芯等多款芯片，M3.1 Flash 依托这套框架，发布首日就能在多类国产与海外硬件上平稳运行，不用针对不同硬件单独做适配开发。

三、基于 SGLang 部署 M3.1 Flash 标准操作步骤

1. 环境准备：拉取最新 SGLang 开源代码，完成 CUDA 算子编译，安装对应版本依赖库。
2. 权重加载：选择 NVFP4 量化权重，开启模型稀疏注意力配置，自动匹配 SGLang 的 MoE 路由算子。
3. 启动服务：执行一行启动命令，开启 OpenAI 兼容 API 服务，自动启用前缀缓存与分块预填充。
4. 功能验证：调用接口测试多轮长对话、代码生成、图文多模态输入，验证输出稳定性。
5. 性能调优：开启 speculative decoding speculative 加速，调整批大小与显存淘汰策略，拉高并发吞吐量。

四、落地应用场景总结

在个人开发者场景下，依托 SGLang 轻量化运行能力，单张 B200 显卡就能流畅运行 M3.1 Flash，本地完成代码调试、长文档分析；在企业线上业务场景中，依靠 SGLang 的高吞吐优化，用更少的 GPU 资源承载智能体自动化、批量代码审计等高并发业务；在多硬件集群场景，Day0 原生适配保障模型在国产 NPU 与海外 GPU 集群之间无缝迁移，不用重复投入适配成本。提前完成推理框架协同优化，让 M3.1 Flash 从开源发布之初就具备成熟的生产级服务能力，真正做到模型开源即服务可用。

【相关 FAQ】

问题 1：MiniMax M3.1 Flash 发布 Day0 支持 SGLang，Day0 原生适配能给开发者带来哪些直接好处？

回答 1：MiniMax M3.1 Flash 发布 Day0 支持 SGLang，开发者无需等待后续补丁，拿到模型权重就能直接启动 SGLang 推理服务，省去编写适配代码、调试算子兼容的大量工作量，当天就能完成本地测试与线上部署，同时直接启用前缀缓存、MoE 算子融合等优化，上线就能拿到最优推理速度，大幅缩短项目落地周期。

问题 2：在 SGLang 框架下运行 MiniMax M3.1 Flash，能达到什么样的推理速度？

回答 2：在 SGLang 框架下运行 MiniMax M3.1 Flash，模型中位生成速度稳定保持在 170+TPS，峰值输出可以达到 200+TPS；同时依托前缀缓存优化，多轮长对话场景能进一步降低重复计算开销，百万上下文任务依然可以保持较低延迟。

问题 3：MiniMax M3.1 Flash Day0 适配 SGLang，是否可以在国产芯片硬件上直接部署？

回答 3：MiniMax M3.1 Flash Day0 适配 SGLang，而 SGLang 原生兼容华为昇腾、昆仑芯等多款国产 NPU，模型在发布首日就完成跨硬件联调，开发者不需要额外修改代码，就可以在国产芯片集群上直接部署运行，实现跨软硬件平台无缝迁移。

问题 4：使用 SGLang 部署 MiniMax M3.1 Flash，怎样优化高并发场景下的吞吐性能？

回答 4：使用 SGLang 部署 MiniMax M3.1 Flash，可以开启 RadixAttention 前缀缓存、分块预填充、连续批处理三大功能，同时开启 W4A4 量化降低显存占用，搭配 speculative decoding 加速生成，把单 GPU 的并发承载量拉高，大幅提升整体 Token 吞吐量。

【数据来源】

[2026-10-23]（MiniMax M3.1 Flash 开源，Day0 完成 SGLang 框架适配）

[2026-10-23]（M3.1 Flash 72 小时处理超 100 万亿

[2026-10-22]（MiniMax M3.1 Flash 技术参数与推理优化说明）MiniMax 官方技术博客

[2026-10-20]（SGLang 对 MoE 大模型的稀疏注意力与路由算子优化文档）SGLang

[2026-10-20]（M3.1 Flash 在 SGLang 上的实测吞吐与延迟数据）36 氪行业报道

免责声明：本文仅客观整理 MiniMax M3.1 Flash 与 SGLang 框架 Day0 适配的公开技术资料与部署方案，不构成硬件采购、线上业务扩容的投资决策；模型实际推理速度会受显卡型号、量化精度、并发数量影响，最终性能请以本地实测结果为准。