METR 认可 Anthropic 低风险结论但双方评估细节存在明显分歧

METR 整体认可 Anthropic 给出的 AI 灾难性危害低风险评估结论，不过在评估依据、调研方法、风险路径预判这几个核心环节，双方产生了大量不一样的观点，分歧表现得十分突出。先从整体共识来看，METR 在完成对 Anthropic 风险报告的独立复审之后，确认当前 Claude 系列模型出现对齐失效、自主启动危险研发等极端事故的整体概率处于较低水平，这一点和 Anthropic 自身给出的整体判断保持一致。再往下拆解分歧形成的完整过程，第一步是审核调研材料，METR 逐条核验了 Anthropic 内部员工问卷、红队攻防测试、模型能力阈值统计这三类核心材料，发现问卷设计、样本筛选、数据统计环节存在多处瑕疵；第二步是重新推导风险逻辑，Anthropic 只把完全自动化科研当成主要风险来源，METR 则补充了 AI 加速科研进度、在半自动化阶段就带来隐患的新增路径；第三步是修正评估严谨度，METR 认为现有证据不足以充分支撑 “风险极低” 这一强结论，只能支撑 “整体风险可控”，而 Anthropic 坚持现有测试数据已经可以锁定低风险等级。综合共识与分歧来看，双方大方向达成统一，但是论证过程、证据采信、风险边界界定上的差异非常明显，后续还需要优化调研方案、扩充测试维度来缩小评估偏差。

一、双方达成一致的核心内容

1. 整体风险等级达成共识 METR 完成独立复核之后，认可 Anthropic 对当前 Claude 模型的整体定级：模型发生严重对齐失控、脱离人类管控开展高危科研的灾难性风险整体处于低位，不会在短期内出现极端安全事件。
2. 基础测试结论保持统一 针对红队对抗测试、模型危险指令响应测试的基础结果，两家机构结论一致，都认定模型在现有安全围栏约束下，主动发起恶意行为的概率不高。

二、双方出现明显分歧的关键板块

（一）内部调研问卷的有效性判定

1. Anthropic 执行步骤：面向内部技术人员发放模型风险预判问卷，剔除部分悲观反馈，汇总后得出员工普遍认为模型达不到高危阈值的结论METR。
2. METR 提出的不同意见：

• 问卷样本规模偏小，问题设置不够细化，容易引导受访者给出偏向乐观的答案；
• 事后跟进修正受访者观点，会人为压低风险预判结果，造成数据偏向低风险；
• 个别缺失回答被直接算作低风险反馈，存在统计口径偏差，降低了调研数据可信度METR。

（二）AI 科研自动化的风险路径判断

1. Anthropic 评估逻辑：只把 AI 实现全流程自主科研作为核心风险点，只要模型还做不到完整自动化，就判定该条风险路径处于低风险区间。
2. METR 补充新风险维度：

• 不完全自动化的半阶段，AI 也可以大幅加快危险科研项目进度，提前催生安全隐患；
• 报告没有对比 AI 能力与人类专家水平，缺少实证来支撑 “自动化科研风险很低” 的判断，论证链条不够完整METR。

（三）评估结论的严谨程度界定

1. Anthropic：依靠现有问卷与测试数据，直接得出 “自动化科研带来的灾难性风险极低” 的确定性结论。
2. METR：仅依靠当前提交的证据，只能证明风险处于可控范围，不足以支撑 “风险极低” 这种强度很高的判断，整体论证严谨度不足METR。

三、缩小评估分歧的优化方案清单

1. 问卷优化：扩大受访人员样本，拆分问题层级，取消事后回访修正受访者观点的操作，固定统一统计口径，避免人为修正数据。
2. 丰富证据链：增加 AI 与人类专家能力横向对比、多轮次红队长期追踪测试，把半自动化科研提速风险纳入整体评估框架。
3. 分级输出结论：把评估结论分成 “可控、较低、极低” 多个等级，严格匹配现有证据力度，不给出超出数据支撑范围的强判定。

【相关 FAQ】

问题 1：METR 与 Anthropic 在 AI 风险评估上的共识是什么？

回答 1：METR 与 Anthropic 的核心共识是当前 Claude 模型产生灾难性对齐事故的整体风险偏低，基础红队安全测试的结果保持一致，仅在论证细节上存在差异。

问题 2：METR 和 Anthropic 评估分歧主要集中在哪些环节？

回答 2：METR 和 Anthropic 评估分歧主要集中在内部风险问卷的数据真实性、AI 科研风险路径的覆盖范围、最终风险结论的严谨程度这三大环节，问卷统计偏差、风险路径缺失是分歧产生的主要原因。

问题 3：METR 给出了哪些方案来缩小和 Anthropic 的评估分歧？

回答 3：METR 给出的优化方案包含优化内部调研问卷设计、扩充多维度实证数据、对风险结论进行分级设定，让评估结论和实测证据保持匹配，减少主观判断带来的偏差。

【数据来源】

[2026-10-20]（METR 发布 Anthropic 风险报告复审内容）METR 官网METR

[2026-10-20]（独立评估方 METR 认可 Anthropic 低风险结论但提出多处质疑）Benzinga 财经资讯

[2026-05-08]（METR 对 Anthropic 自动化科研风险章节的评审报告）METR 官网METR

免责声明：本文仅客观整理公开行业评估文件内容，不构成任何 AI 技术风险判定的最终依据；所有评估观点均来自机构公开文稿，不代表平台立场。