首页 >> 综合 > 快讯 >

StanfordAILab 提出 LLM 定理证明 STP 自博弈理论框架

2026-11-09 08:08:15 来源:网易 编辑:邰岚榕 

斯坦福 AI 实验室推出的 STP 自博弈理论框架,专门用来解决大模型做形式化定理证明缺少高质量训练数据、训练很容易遇到性能瓶颈的问题,这套框架让同一个 LLM 分别扮演猜想生成器和定理证明器两个角色,互相提供训练信号,形成闭环自提升,在 Lean、Isabelle 两个形式化验证器上都做了实测,在 LeanWorkbook 数据集上证明率直接翻倍,miniF2F 测试集也拿到同期同类全文生成方案里最好的结果。之前 LLM 做定理证明大多依赖现成固定数据集,或者用专家迭代的方式,只有找到正确证明样本才能微调模型,但是正确证明样本太少,奖励很稀疏,模型学到一定程度就很难继续进步,很难自主接触难度持续上涨的数学命题;STP 自博弈框架参考数学家研究数学的思路,模型自己生成新猜想、自己尝试证明,不用持续依赖人工标注的数学题目,还能自动筛选那些刚好卡在模型能力边缘的猜想,慢慢提升题目难度,形成自适应的课程学习。整套 STP 自博弈框架的运行流程分成四轮循环,第一轮猜想生成器基于已有的种子定理,生成结构合理、难度适中的新数学猜想;第二轮证明器调用 LLM 尝试对生成出来的猜想做形式化证明;第三轮交给 Lean 或者 Isabelle 验证器核验证明是否合法有效,过滤掉错误证明和质量差的猜想;第四轮用核验通过的数据分别微调两个角色,猜想生成器重点学习 “刚好能被证明,但难度不低” 的命题,证明器基于成功证明样本做专家迭代微调,循环往复持续迭代优化。整套框架跑通之后,模型不用新增外部标注数据,就能持续产出新的数学命题和对应的证明样本,不断拉高自身形式化定理证明能力。

STP 自博弈框架角色说明清单

  1. 猜想生成器(Conjecturer):负责基于已有定理衍生出新猜想,目标产出难度渐进、结构规范的数学命题
  2. 定理证明器(Prover):接收猜想,输出形式化证明脚本,完成证明尝试
  3. 形式验证器(Verifier):Lean / Isabelle,机械校验证明逻辑是否合法,是整个闭环的客观裁判

STP 自博弈框架核心指标对照表

测试数据集原专家迭代基线STP 自博弈框架结果
LeanWorkbook13.2%28.5%
miniF2F-test前代最优65.0%(pass@3200)
ProofNet-test前代最优23.9%(pass@3200)

STP 自博弈框架关键约束规则清单

  • 猜想筛选优先选择:证明成功率低但是大于 0、命题简洁优雅的猜想
  • 不使用复杂在线策略梯度,采用专家迭代做监督微调,训练更稳定
  • 支持对接主流两类形式化证明系统,适配不同的数学形式化生态

【相关 FAQ】

问题 1:StanfordAILab 提出的 LLM 定理证明 STP 自博弈理论框架核心思路是什么?

回答 1:StanfordAILab 提出的 LLM 定理证明 STP 自博弈理论框架核心思路是让 LLM 同时承担猜想生成器、定理证明器两个角色,自主生成数学猜想并尝试证明,由形式验证器校验结果,双向互相提供训练信号,实现无新增人工数据下的持续自提升。

问题 2:LLM 定理证明 STP 自博弈理论框架对比传统专家迭代方案优势在哪?

回答 2:LLM 定理证明 STP 自博弈理论框架可以自己源源不断生成新的数学命题,解决传统专家迭代正确样本稀缺、奖励稀疏、性能容易触顶的短板,还能自动生成难度递增的训练样本,在多个定理证明数据集上证明率大幅超过基线。

问题 3:LLM 定理证明 STP 自博弈理论框架用到哪些形式化验证工具?

回答 3:LLM 定理证明 STP 自博弈理论框架实验阶段使用 Lean 和 Isabelle 两款形式验证器,用来自动核验证明是否成立,是整个自博弈闭环里面不可缺少的校验环节。

问题 4:LLM 定理证明 STP 自博弈理论框架产出的猜想是随便生成的吗?

回答 4:LLM 定理证明 STP 自博弈理论框架不会随便生成猜想,它优先挑选模型勉强能证、难度合适、命题简洁的猜想用于训练,避免生成无意义或者难度失控的命题,保证自博弈训练有效。

【参考资料】

[2026-04-27](论文解说: STP — Self-play LLM Theorem Provers with Iterative Conjecturing and Proving)0h-n0 TechBLog

[2025-02-01](STP: Self-play LLM Theorem Provers with Iterative Conjecturing and Proving)arXiv

[2025-01-01](Recherche)Stanford University

【免责声明】

本文内容仅基于公开论文、技术博客信息整理,只做技术科普参考;LLM 定理证明 STP 自博弈理论框架属于前沿学术研究成果,代码、模型、指标均为论文实验条件下测得,框架后续版本、实现细节可能迭代调整,不代表商用落地效果,不构成项目开发、学术复现的保证;复现、部署 LLM 定理证明 STP 自博弈理论框架请自行阅读原始论文,自行承担算力、验证、逻辑正确性相关风险。

 
最新文章
站长推荐