首页 >> 综合 > 快讯 >

Meta 与 Google 接连推出前沿大模型,行业评测基准的定义权迎来多方讨论

2026-10-21 07:07:21 来源:网易 编辑:幸绍力 

Meta 与 Google 陆续发布新一代前沿大模型,两家企业都配套推出专属评测基准体系,用来衡量模型综合能力,这也让整个行业围绕大模型评测基准由谁定义、标准如何制定产生了广泛探讨。当前行业已经形成多家企业自建测试集、自主设定评分规则的局面,统一标准还在持续完善过程中,各家厂商都在积极参与评测体系建设,推动基准规则向着更客观、更贴合真实业务场景的方向发展。

一、引发基准定义权讨论的核心原因

  1. 前沿模型能力维度越来越多元,除基础问答之外,还包含智能体自主操作、长文本推理、多模态理解、代码开发等能力,单一通用基准很难覆盖全部能力项,各家企业的技术侧重点不一样,自然会搭建贴合自身技术优势的评测体系。
  2. 传统通用基准容易被针对性优化,模型可以针对固定题库做专项调优,榜单成绩和真实落地效果出现偏差,因此厂商会自主构建全新测试数据集,规避针对性优化问题,这也让评测标准走向多元化。
  3. Meta 与 Google 都在持续扩充自有基准工具,Google 推出 FACTS 事实性评测套件,Meta 上线 GAMUT 多模态事实基准,两家不断丰富自有评测体系,带动更多企业参与基准建设,原有单一榜单的话语权被进一步分散。
  4. 产业落地需求持续升级,企业客户更看重模型在真实业务里的表现,纯学术榜单参考价值有限,行业需要兼顾学术指标与产业场景的复合评测标准,基准定义不再只由少数机构主导。

二、完善评测基准体系的落地实施步骤

步骤 1:丰富基准题库,区分公开集与隐藏测试集

  • 持续扩充测试题目总量,增加对抗性试题、动态场景试题,减少模型针对固定题库做专项优化的空间。
  • 把数据集拆分为公开测试集与私有隐藏测试集,公开集用于日常迭代调优,隐藏集用来做最终能力核验,保障评测结果真实可信。
  • 持续更新题库版本,定期淘汰老旧题目,避免题库长期固化,保证基准始终匹配前沿模型的能力水平。

步骤 2:搭建多维度复合评测框架

  • 搭建分层测试清单,一共分为四大评测板块,覆盖模型全维度能力: 1)基础能力:MMLU 综合知识、数学推理、逻辑问答; 2)专业能力:代码编写、金融分析、法律文书、科研计算; 3)智能体能力:终端自主操作、工具调用、多步骤任务规划; 4)事实性能力:信息准确程度、内容完整性、减少幻觉输出。
  • 配套多模态专项测试,覆盖图文、音视频联合理解场景,贴合当前多模态大模型的发展方向。

步骤 3:共建中立评测机制,弱化单一厂商的定义权限

  • 联合高校、第三方科研机构、行业平台共同维护通用基准,由多方共同制定评分细则,避免单一企业主导规则。
  • 统一量化评分规则,把主观文字打分转化为可自动计算的量化指标,减少人工评判带来的误差。
  • 同步开放评测代码与测试规范,让所有开发者都可以复现测试流程,保障榜单结果可验证、可追溯。

步骤 4:打通榜单成绩与产业落地效果

  • 新增产业场景测试子集,覆盖文档处理、智能客服、自动化运维、内容创作等真实业务场景。
  • 把基准得分和线上 API 真实调用表现做对标,持续修正评测指标,让榜单成绩和实际业务效果保持一致。

三、当前评测基准发展的整体局面

Meta 与 Google 发布前沿模型之后,行业评测基准不再由单一榜单说了算,已经形成 “通用公共基准 + 企业自有专项基准 + 第三方产业基准” 三者并行的格局。各家企业自主搭建测试体系,同时积极参与行业通用标准共建,不断完善题库与评分规则。整个行业正在朝着多方共治、标准多元、结果客观的方向稳步推进,基准定义权由少数机构独享,逐步转变为全行业共同参与建设,持续降低榜单刷榜空间,让评测结果更贴合模型真实落地水平。

【相关 FAQ】

问题 1:Meta 与 Google 发布前沿模型后,为什么会引发大模型基准定义权的讨论?

回答 1:Meta 与 Google 各自推出前沿模型,同时搭建专属评测基准,加上传统通用榜单容易出现针对性优化的情况,单一标准难以适配不同模型的技术特点,多家厂商自建测试体系,因此行业开始围绕大模型评测基准由谁制定、规则如何统一展开讨论。

问题 2:Meta 与 Google 各自推出了哪些专属大模型评测基准?

回答 2:Meta 推出 GAMUT 多模态事实性基准,重点考核模型信息完整度与事实准确率;Google 推出 FACTS 评测套件,包含知识检索、上下文对齐、多模态事实校验多个子项,两家都用自有基准核验自家前沿模型的综合能力。

问题 3:行业要如何优化大模型基准,平衡各家厂商的基准定义权?

回答 3:一方面由高校与第三方机构牵头搭建通用公共基准,多方共同制定评分规则;另一方面区分公开题库与隐藏测试集,减少针对性优化;同时新增产业场景测试项,兼顾学术指标与落地效果,形成多方共建的评测体系,平衡各家厂商的基准定义权限。

【数据来源】

[2026-10-13](Meta 发布 Muse Wonder 前沿模型)36 氪

[2026-09-12](大模型基准测试优化方案)Houdao AI

[2026-09-03](Meta 与 Google 前沿模型横向评测)麻省理工科技评论

[2026-07-24](Meta GAMUT 评测基准发布)钛媒体

[2025-12-09](Google FACTS 基准套件介绍)Google DeepMind 官网

免责声明:本文仅客观梳理大模型前沿产品与行业评测体系的发展现状,所有内容均来自公开行业资料,不构成技术选型、项目采购的决策依据;各家模型在不同基准下的测试成绩会受题库版本、参数档位、测试环境影响而产生浮动;评测基准还处于持续迭代阶段,后续规则与数据集会不断更新优化。

 
最新文章
站长推荐