首页 >> 综合 > 快讯 >

BOSS 直聘开源 33B 旗舰教师模型 Nanbeige4.3-33B,主攻智能体编程与协作办公,推出 “大教小” 蒸馏新方案

2026-10-26 11:46:03 来源:网易 编辑:庄泽胜 

BOSS 直聘正式开源 Nanbeige4.3-33B 这款 33B 参数旗舰教师模型,专门面向智能体编程、多人协作办公两大核心场景,同时打造出 “大教小” 全新蒸馏技术路线,能高效把大模型的高阶能力迁移到轻量化小模型里,给企业落地端侧智能体提供低成本方案。之所以推出这款模型,一是当前市面上 30B 级开源模型大多偏向通用对话,缺少针对代码智能体、办公多轮协作的专项优化,很难直接用来搭建自动化办公机器人与自主编程助手;二是传统模型蒸馏缺少高质量教师模型,小模型学不到复杂长流程任务的推理逻辑,压缩之后性能衰减很明显;三是企业做智能体项目时,既要保证长文本理解能力,又要控制推理成本,迫切需要一个高性能大模型充当蒸馏范本。开发团队先完成 33B 稠密大模型的预训练与指令微调,打磨好智能体调用工具、多步骤代码开发、文档协同处理的完整能力;再把模型输出的推理轨迹、软概率标签整理成蒸馏数据集;接着把这套高质量数据灌入 3B 级小模型,完成 “大教小” 的知识迁移;最后在真实办公与编程场景下做闭环测试,持续优化小模型的任务成功率,最终实现大模型能力下沉、小模型低成本部署的目标。整套方案落地之后,开发者既能直接使用 Nanbeige4.3-33B 做复杂智能体开发,也能用它来蒸馏轻量化小模型,兼顾性能与部署成本。

一、Nanbeige4.3-33B 模型基础硬件与技术参数

  1. 基础模型规格
  • 参数规模:331 亿稠密参数,采用 LlamaForCausalLM 架构,无 MoE 混合专家结构,推理行为稳定可控。
  • 精度与存储:BF16 精度,完整模型体积约 66.2GB,单卡即可完成推理运行。
  • 上下文窗口:支持 524288 词元超长上下文,能够一次性读取整份项目代码、多份办公文档,满足长流程智能体任务需求。
  • 开源协议:Apache 2.0 宽松协议,科研场景与商业项目都可以免费使用,无额外版权限制。
  • 配套版本:同步发布 Nanbeige4.3-33B-Base 基座模型,方便研发人员自主开展二次微调与定制训练。
  1. 核心能力优化方向
  • 智能体编程能力:针对仓库级代码修改、程序调试、终端自主开发做专项优化,在主流代码智能体评测榜单中,在 20 项测试里拿下 17 项第一,领先同规格开源模型。
  • 协作办公能力:支持多文档读取、表格数据处理、PPT 内容生成、多轮办公任务串联,可搭建自动化办公智能体,完成跨文档协同工作。
  • 双语能力:完善中英双语理解与生成,兼顾国内办公场景与海外代码开发场景。

二、“大教小” 全新蒸馏技术路径完整流程

步骤 1:搭建高标准教师模型

把 Nanbeige4.3-33B 打磨成合格教师模型,不光优化问答能力,重点沉淀长链条任务的思考过程,把代码调试、多步骤办公任务里的每一步推理逻辑完整保留,输出带思考轨迹的软标签,而不只是简单给出最终答案。

步骤 2:生成高质量蒸馏数据集

  1. 批量构造智能体编程、协作办公类复杂任务;
  2. 调用 Nanbeige4.3-33B 完成任务,留存完整思维链、工具调用记录、代码执行日志;
  3. 对全部样本做自动化校验,通过沙箱运行代码、核验文档逻辑,剔除错误样本,保证蒸馏数据质量。

步骤 3:面向小模型开展定向蒸馏

以 Nanbeige4.3 系列 3B 小模型作为学生模型,把教师模型输出的软概率分布、长思维链作为训练信号,不再只用标准答案做监督训练。通过多轮迭代,让小模型复刻大模型处理复杂智能体任务的推理思路,大幅缩小大小模型之间的性能差距。

步骤 4:场景闭环迭代优化

在代码智能体、多人协作办公真实业务场景中做效果测试,针对工具调用失败、长任务中途断链等问题,补充对应的蒸馏样本,持续迭代提升小模型的稳定性。

三、两大核心落地应用场景

  1. 智能体编程场景 开发者直接调用 Nanbeige4.3-33B,搭建可以自主读取项目代码、定位 BUG、自动编写修复代码、执行单元测试的软件工程师智能体;同时借助 “大教小” 蒸馏方案,把这套能力压缩到 3B 小模型,部署在本地服务器或者个人电脑,降低线上推理算力开销。
  2. 协作办公场景 依托 524K 超长上下文,模型可以一次性读取合同、报表、会议纪要等多份文件,自动完成信息汇总、方案撰写、数据整理;蒸馏后的轻量化小模型可以嵌入 OA 办公软件、企业文档系统,实现员工自助式文档处理、多任务自动流转。

四、模型实测性能表现

在 20 项主流开源模型评测基准里,Nanbeige4.3-33B 在 17 项测试指标中优于同级别 30B 区间其他开源稠密模型,尤其在代码智能体、长流程办公任务、工具调用三类测试项里优势突出;经过 “大教小” 蒸馏之后,3B 学生模型在智能体任务上的表现,能够达到 33B 教师模型八成以上水准,推理速度提升 5 倍以上,显存占用仅为原来的十分之一。

【相关 FAQ】

问题 1:Nanbeige4.3-33B 作为教师模型,为什么更适合做 “大教小” 蒸馏?

回答 1:Nanbeige4.3-33B 专门针对智能体编程与协作办公做了深度优化,能够输出完整长思维链与工具调用轨迹,给小模型提供带推理细节的软标签,不像通用大模型只能输出简短答案;同时 524K 超长上下文可以产出超长任务样本,让小模型学会处理多步骤复杂任务,保障蒸馏之后智能体能力不会大幅缩水,完美适配 “大教小” 蒸馏新路径。

问题 2:使用 Nanbeige4.3-33B 开展 “大教小” 蒸馏,能给智能体项目带来哪些实际收益?

回答 2:借助 Nanbeige4.3-33B 完成 “大教小” 蒸馏后,轻量化小模型可以保留大部分智能体编程、协作办公能力,模型推理所需显存大幅降低,单台服务器可以承载更多并发请求;同时小模型推理延迟显著缩短,本地端设备也能顺畅运行办公智能体与代码助手,既保住业务效果,又把整体算力成本降到原来的三分之一以内。

问题 3:Nanbeige4.3-33B 配套的基座版本,对 “大教小” 蒸馏流程有什么帮助?

回答 3:Nanbeige4.3-33B-Base 基座模型没有经过对齐微调,开发者可以基于基座自由定制蒸馏任务,自主生成编程、办公领域专属的教师输出样本,灵活调整蒸馏的数据分布;还能针对自家业务场景继续微调基座模型,打造行业专属教师模型,进一步提升 “大教小” 蒸馏产出的小模型与业务场景的匹配度。

【参考资料】

[2026-10-26] BOSS 直聘开源 Nanbeige4.3-33B 旗舰教师模型,开启大教小蒸馏路线 智源社区

[2026-10-26] Nanbeige Releases Nanbeige4.3-33B,一款面向智能体编程的开源大模型 Block AI Report

[2026-10-26] Nanbeige4.3-33B:33B 开源智能体大模型发布 Tooliax News

[2026-10-24] Nanbeige 4.3 33B 双语稠密模型正式开源 The Open Weights

免责声明:本文所有技术参数、评测数据均来自模型开源公告与公开评测文档,仅作技术研究与行业参考;模型开源使用需严格遵守 Apache 2.0 开源协议条款,项目落地产生的技术风险与业务结果由使用者自行承担。

 
最新文章
站长推荐