NVIDIA 正式推出 Nemotron 3.5 Bolt 与 Super VL 开放权重模型，覆盖全场景智能体部署需求

NVIDIA 最新发布 Nemotron 3.5 Bolt 与 Super VL 两款开放权重基础模型，整套模型组合打通了数据中心云端、本地桌面、边缘硬件的全链路部署需求，大幅降低企业与开发者搭建自主智能体的技术门槛，让多模态自主 AI 业务可以部署在自有硬件环境中。此次两款新模型能够顺利落地，核心原因是研发团队采用 Mamba+Transformer 混合 MoE 架构，兼顾长文本处理效率与复杂推理精度；其次依靠 2 位量化、弹性压缩等技术，把大参数量模型压缩到有限显存内运行，兼顾算力开销与模型能力；最后采用完全开放权重的分发模式，开发者可以自由微调、二次开发，不受闭源模型的调用限制。落地部署有着清晰的执行路径，企业优先选用 Super VL 承载云端多模态复杂智能体任务，桌面端选用 Bolt 74B 版本完成本地业务，嵌入式设备选用 Bolt E4B 轻量模型，再搭配 vLLM、Ollama 等主流框架完成部署调试，最终实现全业务线智能体全覆盖。综合来看，本次开放权重模型上线，补齐了 Nemotron 系列从超大算力到低显存硬件的产品矩阵，进一步推动本地自主智能体项目规模化落地。

一、两款开放权重模型核心参数清单

1. Nemotron 3.5 Super VL（云端多模态主力模型）

1. 基础架构：混合 Mamba-Transformer MoE 架构，总参数量 1200 亿，单次激活参数仅 120 亿，大幅降低推理算力消耗NVIDIA。
2. 能力范围：集成视觉理解、工具调用、多步骤任务规划，支持图文文档解析、网页检索、代码调试等多模态智能体工作流IT之家。
3. 性能表现：单 GPU 下任务吞吐量达到同级别开放模型的 5 倍，适合长时间连续运行的常驻式企业智能体NVIDI...。
4. 部署环境：适配 DGX Spark、H100、B200 等数据中心 GPU，支持 BF16 精度运行，权重文件约 227GBNVIDIA。

2. Nemotron 3.5 Bolt 系列（本地边缘双版本）

表格

二、模型技术架构与核心技术亮点

（1）混合网络架构设计

• 主干网络采用 40 层 Mamba 模块 + 8 层注意力模块 + 40 层 MoE 专家层，长序列处理速度更快，百万 Token 上下文依然保持稳定吞吐NVIDIA。
• MoE 路由机制优化，只激活少量专家模块，避免全参数运算带来的算力浪费，兼顾大模型能力与低延迟推理。
• 视觉编码器搭载 RADIO v2.5-H，支持高清图文、多页文档识别，把语言理解与视觉识别融合为一体NVIDIA。

（2）轻量化压缩技术（Bolt 模型专属）

1. 量化感知蒸馏：采用原生 2 位量化方案，在不明显降低推理精度的前提下，把大模型体积压缩至原来的 1/8 左右。
2. Star Elastic 弹性压缩：精简 MoE 层专家数量，在显存有限的 RTX 桌面显卡上流畅运行多轮智能体任务NVIDIA。
3. 配套草稿器：同步发布 LiLiCorr 推测解码组件，进一步拉高 Token 生成速度，本地推理效率大幅提升NVIDIA。

三、分场景落地实施步骤

场景 1：企业云端多模态智能体（选用 Super VL）

1. 环境搭建：在 DGX Spark 集群部署 BF16 权重，接入 NeMo 工具链，开启多 token 预测功能。
2. 微调优化：导入企业自有业务数据，对工具调用、文档解析能力做定向后训练，适配内部业务流程。
3. 链路打通：对接内部业务系统 API，搭建多智能体调度平台，实现多任务自动流转。
4. 性能调优：开启 MoE 负载均衡，优化批处理大小，把单卡任务吞吐量拉满。

场景 2：桌面端本地 AI 项目（选用 Bolt 74B-A9B 24GB）

1. 硬件准备：搭载 RTX 3090/4090 等 24GB 显存显卡，安装 vLLM 或 Ollama 推理框架。
2. 模型部署：加载量化后的模型权重，开启 speculative decoding 加速组件。
3. 业务调试：搭建网页浏览、代码调试、本地文档分析类智能体，全程离线运行，数据不出本地设备。
4. 稳定性优化：限制模型并发进程，保障多任务并行运行不出现显存溢出。

场景 3：嵌入式对话智能体（选用 Bolt E4B 4GB）

1. 硬件适配：部署在 Jetson 边缘设备、小显存 RTX 硬件上。
2. 能力裁剪：保留对话交互、简单指令执行能力，精简视觉模块，进一步压缩内存占用。
3. 上线测试：接入语音接口，打造离线语音助手、交互式数字角色。

四、开放权重获取渠道清单

1. 开源平台：Hugging Face、ModelScope、OpenRouter 可直接下载完整开放权重文件IT之家。
2. 开发工具：支持 llama.cpp、vLLM、SGLang、Ollama、Unsloth 全主流推理框架，适配各类本地开发环境NVIDI...。
3. 配套工具：可搭配 NVIDIA NeMo 工具链完成微调、对齐、蒸馏全流程二次开发NVIDIA。

【相关 FAQ】

问题 1：Nemotron 3.5 Super VL 这款开放权重模型，在智能体任务上具备哪些性能优势？

回答 1：Nemotron 3.5 Super VL 开放权重模型采用 MoE 混合专家架构，单 GPU 智能体任务吞吐量最高可达同级别开放模型的 5 倍；同时融合视觉识别、工具调用、长链路任务规划能力，适合长时间不间断运行的企业级多模态智能体，开发者还能使用自有数据自由微调模型，完全自主管控业务流程NVIDI...。

问题 2：Nemotron 3.5 Bolt 系列开放权重模型，两个版本分别适配什么样的硬件与业务？

回答 2：Nemotron 3.5 Bolt 74B-A9B 24GB 开放权重模型适配 24GB 显存桌面 RTX 显卡，适合搭建网页检索、代码调试、文档分析这类本地离线智能体；Bolt E4B 4GB 开放权重模型体积更小，适配 4GB 低显存边缘设备，主要用来开发离线语音助手、交互式对话智能体，两款模型均为开放权重，支持二次开发与量化部署NVIDI...。

问题 3：开发者获取 Nemotron 3.5 Bolt 与 Super VL 开放权重模型之后，能用哪些框架完成本地部署？

回答 3：Nemotron 3.5 Bolt 与 Super VL 开放权重模型兼容 llama.cpp、vLLM、Ollama、SGLang、Unsloth 等主流开源推理框架，既可以在数据中心 GPU 部署 Super VL 大模型，也能在桌面 RTX 显卡部署 Bolt 系列轻量化模型，同时可以借助 NVIDIA NeMo 工具链完成模型微调与蒸馏优化NVIDI...。

【数据来源】

[2026-10-20]（从数据中心到桌面全面开放：NVIDIA 扩展 Nemotron 系列，推出高效的 Super VL 和 Bolt 模型）NVIDIA 英伟达中国官网博客

[2026-10-15]（英伟达发布 1200 亿参数大模型 Nemotron 3.5 Super VL，单 GPU 吞吐量提升 5 倍）IT 之家

[2026-10-15]（Nemotron 3.5 Super VL 多模态智能体模型技术文档）NVIDIA 开发者官网

[2026-10-15]（Nemotron 3.5 Bolt 74B-A9B 24GB 技术白皮书）NVIDIA 研究实验室

[2026-10-15]（Nemotron 3.5 系列开放权重模型分发渠道说明）Hugging Face 官方公告

免责声明：本文仅客观介绍 Nemotron 3.5 Bolt 与 Super VL 开放权重模型的技术参数、部署方案与产业应用，仅面向技术研发交流使用。所有模型权重均遵循开源许可协议，开发者在二次开发、模型微调与业务落地时，需要严格遵守开源协议条款、网络数据安全法规与行业管理规范。本文不构成硬件采购、模型开发与项目投入的商业决策建议。