NVIDIA 推出 Nemotron 3.5 Transcribe，开放 30B MoE 转录模型权重

NVIDIA 正式对外发布 Nemotron 3.5 Transcribe 语音转录模型，这款 30B MoE 混合专家模型全面开放模型权重，开发者可以直接下载使用与二次微调，模型同时支持 40 种语言转录、说话人区分、文字时间戳输出，综合识别精度达到开源模型第一梯队水准。这款模型可以做到高识别精度，核心是采用混合 Mamba 与 Transformer 的 MoE 稀疏架构，只激活少量参数参与计算，兼顾大模型能力与推理效率；研发团队先完成监督微调，再配合短周期强化学习优化输出效果，整套训练流程清晰可复现。整体部署落地可以分为获取开源权重、环境配置、基础推理测试、领域微调、上线部署五个环节，完成全流程操作后，就能在本地 GPU 环境实现多说话人音频的高精度转录。

一、模型基础信息清单

1. 模型名称：Nemotron 3.5 Transcribe
2. 整体架构：混合 Mamba-2+Transformer LatentMoE 结构
3. 参数规模：总参数量 30B，单次推理仅激活约 3.5B 参数
4. 核心底座：Nemotron 3.5 Lightning 30B-A3B 大模型
5. 支持语种：覆盖 40 门语言，包含语种识别、语音翻译能力
6. 配套能力：多说话人区分、词级时间戳输出、带上下文的精细化转录
7. 权重状态：完全开放权重，支持商用二次开发

二、模型核心硬件与性能参数

表格

三、模型主要功能模块

• 模块 1：语音编码器，将音频信号转换成模型可以识别的特征向量
• 模块 2：说话人分块模型，自动区分不同人声，锁定每段语音对应的发言人
• 模块 3：MoE 大语言底座，完成文字转写、上下文修正、标点优化
• 模块 4：时间戳输出模块，输出每一个单词对应的起止时间节点
• 模块 5：多语种分支，自动识别语种并完成语音转文字与同声文字翻译

四、完整部署操作步骤

1. 资源获取：前往 Hugging Face 与 NGC 平台下载 Nemotron 3.5 Transcribe 开放权重，同步获取技术文档与训练脚本
2. 环境搭建：部署 NeMo 框架与 vLLM 推理引擎，完成 CUDA 环境与 GPU 驱动适配
3. 基础推理测试：导入音频文件，开启流式转录，测试多说话人音频的识别效果
4. 定制化微调：导入行业专属音频数据集，冻结语音编码器，只微调 LLM 部分，优化专业术语识别准确率
5. 生产环境上线：将模型封装为 NIM 推理微服务，部署在 NVIDIA 数据中心 GPU，开启批量音频转写任务

五、MoE 架构带来的核心优势

1. 算力更高效：30B 总参数但仅激活 3.5B 参数，显存占用更低，同等显卡可以承载更高并发任务。
2. 识别精度更高：稀疏专家网络可以针对语音转录任务分配专属计算单元，在多说话人重叠音频场景下表现优于传统级联模型。
3. 二次开发门槛低：开放完整权重与训练方案，开发者可以基于自有行业语音数据快速做领域适配。
4. 部署弹性更强：支持 BF16、NVFP4 多种精度，既可以在云端大卡运行，也能适配中端 GPU 做批量离线转写。

【相关 FAQ】

问题 1：NVIDIA 发布的 Nemotron 3.5 Transcribe 开放权重 30B MoE 转录模型，支持多少种语言？

回答 1：NVIDIA 发布的 Nemotron 3.5 Transcribe 开放权重 30B MoE 转录模型，一共支持 40 门语言，同时附带语种自动识别、语音文字翻译功能，可满足多语种音频转录需求。

问题 2：Nemotron 3.5 Transcribe 作为 30B MoE 转录模型，推理时会激活全部参数吗？

回答 2：Nemotron 3.5 Transcribe 这款 30B MoE 转录模型不会激活全部参数，模型总参数为 30B，每次推理仅激活大约 3.5B 参数，有效降低显存开销，提升批量转录的吞吐速度。

问题 3：Nemotron 3.5 Transcribe 开放权重模型，可以直接用于商业场景二次微调吗？

回答 3：Nemotron 3.5 Transcribe 开放权重模型完全开放商用权限，开发者可以下载开放权重，结合行业音频数据集开展微调，优化专业词汇、行业场景下的转录准确率。

【数据来源】

[2026-10-29]（NVIDIA 发布 Nemotron 3.5 Transcribe：开放权重 30B MoE 转录模型）NVIDIA 开发者技术博客

[2026-10-29]（Nemotron 3.5 Transcribe 技术白皮书）NVIDIA 研究实验室官网

[2026-10-28]（Nemotron 3.5 Lightning 30B-A3B 模型卡）NVIDIA NGC 模型仓库NVIDIA NGC

免责声明：Nemotron 3.5 Transcribe 的精度数据来自官方公开测试集实测结果；不同音频质量、口音、背景噪音条件下，模型词错误率会产生小幅波动；开放权重仅代表模型基础权重开放，使用者需要遵守开源许可协议；模型部署效果受 GPU 型号、推理框架、量化策略影响，不保证所有硬件环境下均可达到榜单同等性能。