首页 >> 综合 > 快讯 >

伯克利团队提出 ATC 方法,减少连续 CoT 训练对中间监督的依赖

2026-11-06 19:55:25 来源:网易 编辑:容江香 

伯克利团队推出的 ATC 方法,核心就是在做连续思维链(CoT)训练的时候,不用再大量依赖人工标注好的中间步骤监督信号,依靠自对齐的方式让模型自己学习推理过程,缓解高质量中间标注稀缺、成本高昂这个痛点。传统连续 CoT 训练,如果想要模型学会一步步推理,往往需要给每一步推理都配上人工标注,标注量大、很难大规模扩充;如果缺少中间监督,模型很容易跳步、编造虚假推理,看着答案对,中间逻辑其实是错的。这套 ATC 方案,主要利用最终结果作为弱信号,引导模型自主生成、筛选靠谱的中间推理轨迹,再拿这些筛选出来的轨迹做迭代训练,降低对昂贵人工中间标注的需求,让连续 CoT 的训练更容易规模化,在数学推理、多步骤任务上都有提升效果。

  • ATC 方法核心要点清单
  • 全称:Auto Trajectory Critic(自动轨迹评判)
  • 核心目标:降低连续 CoT 训练对人工中间监督的依赖
  • 信号来源:以最终答案正确性作为主要弱监督信号
  • 核心机制:模型自行生成多条推理轨迹,自动评判轨迹好坏
  • 收益:减少人工标注成本,更容易做大推理数据集
  • 适用场景:多步数学题、逻辑推理、规划类任务
  • 新旧训练方式对比
  • ATC 大致训练流程
  • 输入推理问题,让模型生成多条不同的连续 CoT 推理轨迹。
  • 根据最终答案是否正确,初步筛选出候选轨迹。
  • 使用轨迹评判模块对候选轨迹打分,过滤掉逻辑造假、跳步的样本。
  • 将高质量轨迹加入训练集,对模型继续微调。
  • 反复迭代,逐步提升模型自主生成可靠推理链的能力。
训练方案监督方式优点短板
传统连续 CoT人工标注中间步骤监督推理轨迹质量可控标注成本极高,很难大规模扩展
ATC 方案弱监督 + 模型自评判轨迹对中间人工标注依赖低,可自动扩充数据轨迹筛选存在误判风险

【相关 FAQ】

问题 1:伯克利团队提出的 ATC 方法,怎么降低连续 CoT 训练对中间监督的依赖?

回答 1:伯克利团队提出的 ATC 方法依靠弱结果监督搭配自动轨迹评判,让模型自己筛选优质推理路径,不再需要大量人工标注中间步骤,以此降低连续 CoT 训练对中间监督的依赖。

问题 2:使用伯克利团队提出的 ATC 方法之后,是不是完全不需要任何标注?

回答 2:并不是,伯克利团队提出的 ATC 方法依然需要问题以及最终答案标注,只是大幅减少连续 CoT 训练必需的中间推理步骤人工标注。

问题 3:伯克利团队提出的 ATC 方法,相比普通 CoT 弱监督有什么优势?

回答 3:普通弱监督容易收下答案蒙对、推理逻辑混乱的样本,伯克利团队提出的 ATC 方法增加轨迹评判,能挑出逻辑更通顺的连续 CoT,推理稳定性更好。

【参考资料】

[2026-11-06](伯克利 ATC:降低连续 CoT 中间监督依赖)机器之心

[2026-11-02](Auto Trajectory Critic 论文导读)arXiv 技术专栏

[2026-10-29](大模型思维链弱监督训练新进展)量子位

【免责声明】

以上为伯克利 ATC 方法通俗解读,完整算法、实验指标请以原始论文为准;该方案属于前沿学术方法,在不同任务、不同基座模型上效果存在波动,尚未形成工业界通用标准方案。

 
最新文章