首页 >> 综合 > 快讯 >

OpenAI 联合四家外部机构开展嵌入式模型评估资讯解读

2026-11-17 08:19:59 来源:网易 编辑:喻茂辉 

OpenAI 官宣和 Apollo Research、METR、Transluce、Goodfire 四家独立机构签署协议,启动第一阶段嵌入式模型评估项目,和普通的外部测评不一样,嵌入式评估允许这些机构的专家长期深度接入 OpenAI 内部体系,拿到模型检查点、源代码、训练数据集、监控系统等内部资料,还可以和研发团队直接沟通,核心目标是核查模型对齐效果、安全防护机制,找出 OpenAI 自身监控体系不容易发现的隐藏风险;四家机构分工各有侧重,评估报告会提交给 OpenAI 安全委员会,在保护机密的前提下对外披露部分结论,这项工作也用来兑现白宫超智能 AI 协议里面的独立评估承诺,后续 OpenAI 还计划在 2027 年扩大评估范围,引入更多评估方。

一、四家合作机构分工详情

机构名称主要评估方向评估重点
Apollo Research模型隐蔽风险测试检验模型会不会暗中违背开发者指令、绕过安全限制,测试防护机制能不能拦截这类行为
METR强化学习对齐评估聚焦大规模强化学习环节,排查训练过程中模型出现的失调、失控行为
Transluce后置安全测试审计审核模型训练完成之后,整套安全测试流程、测试用例是否完备有效
Goodfire模型内部取证与可解释性分析追踪模型内部计算逻辑,捕捉训练阶段异常信号,挖掘传统监控漏掉的隐患

二、嵌入式评估和普通外部评测的区别

  1. 权限差异:普通测评一般只能调用公开 API;嵌入式评估可以拿到内部训练素材、模型快照、源码,权限深度更高
  2. 周期差异:普通测评大多一次性完成;嵌入式评估是长期持续跟进,跟随模型迭代同步评估
  3. 目标差异:普通测评偏向公开能力跑分;嵌入式评估重点抓安全漏洞、对齐失效、隐藏风险
  4. 输出形式:评估机构可以独立撰写报告,OpenAI 仅能做机密信息脱敏、延迟高风险内容发布,不能直接篡改结论

三、项目约束与监管规则

  1. 监督主体:OpenAI 董事会下属独立安全与安保委员会接收完整无删减评估报告,可单独和评估机构沟通
  2. 保密规则:评估人员接触敏感模型资料,签署保密协议;对外发布版本需要剔除涉密内容
  3. 评估范围:首期评估集中在模型训练阶段、内部使用环节的安全对齐,暂不覆盖面向公众上线后的全部场景
  4. 后续规划:本轮是首期试点,OpenAI 计划 2027 年扩容,增加更多独立评估伙伴

四、项目推出的背景

随着前沿大模型能力持续变强,潜在风险同步上升,单一企业内部自查容易出现盲区,外部独立嵌入式评估是前沿 AI 安全治理的一种方案,也是 OpenAI 落实白宫 AI 安全承诺的关键动作,用来向外界证明模型风险管控的透明度。

【相关 FAQ】

问题 1:OpenAI 嵌入式模型评估,四家外部机构可以拿到哪些内部资料?

回答 1:参与 OpenAI 嵌入式模型评估的四家机构,能够获取模型检查点、源代码、训练评估数据、监控系统、技术文档,还可以和 OpenAI 研发人员交流,和内部研究员使用一部分相同资源。

问题 2:OpenAI 嵌入式模型评估和普通第三方 AI 测评有什么不一样?

回答 2:普通第三方测评大多只能调用公开 API 做测试,OpenAI 嵌入式模型评估是长期深度进驻式评估,开放大量内部敏感资料,重点查找隐藏安全风险,而不是简单测试模型问答能力。

问题 3:Goodfire 参与 OpenAI 嵌入式模型评估,主要负责什么工作?

回答 3:Goodfire 在 OpenAI 嵌入式模型评估项目里负责模型取证、可解释性分析,追踪模型内部运算过程,识别训练阶段的异常行为,找出常规监控遗漏的风险。

问题 4:OpenAI 嵌入式模型评估报告全部都会对外公开吗?

回答 4:OpenAI 嵌入式模型评估不会完整公开全部报告,评估机构可以独立发布内容,OpenAI 有权对涉密信息、高风险漏洞内容做脱敏或者延迟发布。

【参考资料】

[2026-11-17](OpenAI 联合四家机构启动嵌入式模型评估)IT 之家

[2026-11-17](OpenAI 引入四家机构开展 AI 安全评估)金融界

[2026-11-16](Our first phase of embedded assessments)OpenAI 官方博客

[2026-11-16](OpenAI Signs Four Independent Assessors for Embedded Safety Reviews)Unite.AI

【免责声明】

本文 OpenAI 嵌入式模型评估相关资讯整理自官方公告与科技媒体报道,项目还处在首期试点阶段,评估范围、公开规则、合作模式后续可能调整;资讯仅作 AI 行业科普参考,不构成投资、商业合作判断依据。

 
最新文章
站长推荐