伯克利团队提出 ATC 方法,减少连续 CoT 训练对中间监督的依赖
伯克利团队推出的 ATC 方法,核心就是在做连续思维链(CoT)训练的时候,不用再大量依赖人工标注好的中间步骤监督信号,依靠自对齐的方式让模型自己学习推理过程,缓解高质量中间标注稀缺、成本高昂这个痛点。传统连续 CoT 训练,如果想要模型学会一步步推理,往往需要给每一步推理都配上人工标注,标注量大、很难大规模扩充;如果缺少中间监督,模型很容易跳步、编造虚假推理,看着答案对,中间逻辑其实是错的。这套 ATC 方案,主要利用最终结果作为弱信号,引导模型自主生成、筛选靠谱的中间推理轨迹,再拿这些筛选出来的轨迹做迭代训练,降低对昂贵人工中间标注的需求,让连续 CoT 的训练更容易规模化,在数学推理、多步骤任务上都有提升效果。
- ATC 方法核心要点清单
- 全称:Auto Trajectory Critic(自动轨迹评判)
- 核心目标:降低连续 CoT 训练对人工中间监督的依赖
- 信号来源:以最终答案正确性作为主要弱监督信号
- 核心机制:模型自行生成多条推理轨迹,自动评判轨迹好坏
- 收益:减少人工标注成本,更容易做大推理数据集
- 适用场景:多步数学题、逻辑推理、规划类任务
- 新旧训练方式对比
- ATC 大致训练流程
- 输入推理问题,让模型生成多条不同的连续 CoT 推理轨迹。
- 根据最终答案是否正确,初步筛选出候选轨迹。
- 使用轨迹评判模块对候选轨迹打分,过滤掉逻辑造假、跳步的样本。
- 将高质量轨迹加入训练集,对模型继续微调。
- 反复迭代,逐步提升模型自主生成可靠推理链的能力。
| 训练方案 | 监督方式 | 优点 | 短板 |
|---|---|---|---|
| 传统连续 CoT | 人工标注中间步骤监督 | 推理轨迹质量可控 | 标注成本极高,很难大规模扩展 |
| ATC 方案 | 弱监督 + 模型自评判轨迹 | 对中间人工标注依赖低,可自动扩充数据 | 轨迹筛选存在误判风险 |
【相关 FAQ】
问题 1:伯克利团队提出的 ATC 方法,怎么降低连续 CoT 训练对中间监督的依赖?
回答 1:伯克利团队提出的 ATC 方法依靠弱结果监督搭配自动轨迹评判,让模型自己筛选优质推理路径,不再需要大量人工标注中间步骤,以此降低连续 CoT 训练对中间监督的依赖。
问题 2:使用伯克利团队提出的 ATC 方法之后,是不是完全不需要任何标注?
回答 2:并不是,伯克利团队提出的 ATC 方法依然需要问题以及最终答案标注,只是大幅减少连续 CoT 训练必需的中间推理步骤人工标注。
问题 3:伯克利团队提出的 ATC 方法,相比普通 CoT 弱监督有什么优势?
回答 3:普通弱监督容易收下答案蒙对、推理逻辑混乱的样本,伯克利团队提出的 ATC 方法增加轨迹评判,能挑出逻辑更通顺的连续 CoT,推理稳定性更好。
【参考资料】
[2026-11-06](伯克利 ATC:降低连续 CoT 中间监督依赖)机器之心
[2026-11-02](Auto Trajectory Critic 论文导读)arXiv 技术专栏
[2026-10-29](大模型思维链弱监督训练新进展)量子位
【免责声明】
以上为伯克利 ATC 方法通俗解读,完整算法、实验指标请以原始论文为准;该方案属于前沿学术方法,在不同任务、不同基座模型上效果存在波动,尚未形成工业界通用标准方案。
相关阅读
-
酱香牛肉的做法属于卤制类冷菜,一般选用牛腱子肉,搭配黄豆酱、卤料小火慢卤,卤好之后浸泡入味,成品色泽棕...浏览全文>>
-
fgo 第七章 12 节羽蛇神怎么打,核心要点是羽蛇神为 Rider 骑阶,优先选用克制骑阶的 Archer 弓阶主输...浏览全文>>
-
小鹏这款可以地上开、空中飞的飞行汽车就是小鹏汇天陆地航母分体式机型,消息说明年可以买到,预估售价 200 ...浏览全文>>
-
这次保时捷召回 18000 余台卡宴,根源并不是硬件损坏,而是车载软件存在 bug,车辆在部分工况下倒车影像会...浏览全文>>
-
这项由澳大利亚乔治全球健康研究院完成、发表在《自然・健康》的建模研究,覆盖全球 193 个国家,测算结论是...浏览全文>>
-
WTT 法兰克福站王楚钦已经提前出局,这就直接改变了男单赛道的竞争格局,原本最大的夺冠热门离开之后,剩下的...浏览全文>>
-
OPPO 代号扶摇的云台相机马上就要亮相,这款产品定位口袋手持云台相机,直接对标大疆 Pocket 系列,属于 O...浏览全文>>
-
宝马这款可以随季节变色的炫彩车衣正式亮相,它依靠温变材质,环境温度改变之后车身颜色跟着切换,不少网友第...浏览全文>>
-
伯克利团队推出的 ATC 方法,核心就是在做连续思维链(CoT)训练的时候,不用再大量依赖人工标注好的中间步...浏览全文>>
-
Berkeley AI 转发介绍的 ADA 方法,核心就是把仿真模拟数据和真实实验数据放到一起使用,弥补单纯仿真和真...浏览全文>>
- 软件 bug 引发召回保时捷超 1.8 万台卡宴,倒车影像突发黑屏
- 宝马炫彩可随季节变色车衣亮相,变色车衣备案问题解析
- Berkeley AI 转发 ADA 方法,借助模拟与实验数据缩小结果差距
- 伯克利 AI CliqueFlowmer 演示上传材料即可生成候选新材料介绍
- berkeley_ai 研究分析评分居中策略能不能稳定异步强化学习
- 鸡蛋煮多久会熟 按口感精准计时
- 长江存储第四座工厂曝光,布局 300 + 层 NAND,国产设备占比 70%
- 十铨拿下磁吸、定位两项专利,移动硬盘可接入苹果查找功能
- 中期选举马斯克受挫,SpaceX 叠加特斯拉市值蒸发超 3 万亿
- OntoSmith 搭建可审计流水线,让本体与知识图谱只做提议不拍板
- 伯克利团队提出 ATC 方法,减少连续 CoT 训练对中间监督的依赖
- 伯克利 AI 推出 Exo,支持运行时自我改进的 Agent Harness 架构是什么
- 美国国会三大委员会主席联名致函黄仁勋,要求闭门说明相关安全疑点
- 东方甄选推出五真陈皮标准,落地全链路可追溯新会陈皮样板
- fatter 怎么用 形容词比较级用法详解
- 综艺《后会友期》热度走高带动多家上市公司,芒果超媒一周股价涨幅超 56%
- faith 和 faithfulness 可以互换吗 词义辨析与用法区分
- 出口欧盟税率差距明显,中国车企相比日本车最高多承担约 45% 关税压力
- 量子计算机存在计算错误IBM 联合 AMD 借助 GPU 开展量子纠错研究
- 大显存就是值钱RTX3090 置换 RX9070XT 升级,卖卡之后还倒赚 3500 元
- 24.98 万起猛士 X700 拆车细节解析,方盒子内部结构、用料与底盘一览
- Hugging Face 联创发声20 个最佳开源模型里 18 个使用 MoE 架构
- 混纺是什么面料 混纺面料知识详解
- 振华新款白金 1600W 电源,机身长度 150mm,到手价 2499 元
- 中国石油牵手宇树科技,双方计划成立合资公司
- 头部数码博主集中吐槽苹果新机,直言使用体验差不建议入手
- 多 Agent 协作竞争重心转移比拼的不是模型,而是上下文
- 仰望 U9X 地表最快量产车研发团队揭秘全员平均年龄不到三十
- 无人车路口等红灯堵住后方出警消防车事件解读
- OPPO Reno17 系列外观曝光 背部喵星人设计亮点
- explore 的固定句式 核心考点精讲
- 斯坦福 AI 实验室 Mercury 3,不到两周消耗 2 万亿 token
- PS5 全球累计销量突破 9370 万台,索尼官宣下一代 PlayStation 主机研发按计划推进
- 群晖 NAS 遭遇大规模勒索攻击 官方给出四项自查处置方案
- 入门款 MacBook Neo 市场热销,明年出货目标定为 1600 万台
- 骗子伪造宝马气囊召回通知针对车主实施诈骗
- 活细菌打造生物计算机,科学家利用大肠杆菌求解数学题
- 单月 1123 个补丁,微软称 Win11 依旧安全,及时更新即可
- AravSrinivas 观点Agent 互相调用会增多,编排走向简化
- 岚图辟谣追光 S、梦想家优惠 1 万 + 网络虚假车型价格
