首页 >> 综合 > 快讯 >

斯坦福 NLP 推出 DISCO,面向连续动作空间的蒸馏树搜索方法

2026-11-05 14:11:33 来源:网易 编辑:万才生 

斯坦福 NLP 团队提出了名叫 DISCO 的全新算法,也就是连续动作空间上的蒸馏树搜索,它把知识蒸馏和树搜索结合在一起,专门用来解决连续动作空间不好做搜索的难题,相比传统方法,它不用暴力遍历海量连续取值,搜索效率更高,输出动作质量也更好,不管是机器人控制、大模型动作规划还是连续决策任务都能用得上。普通树搜索本来更适合离散选项,动作只有有限几个的时候很好用,但一旦碰到连续动作,比如机械臂角度、速度这类有无穷多取值的场景,直接挨个试根本不现实;之前不少方案要么粗暴离散化,会丢掉最优解,要么依赖单纯的模型采样,稳定性差,而 DISCO 的思路就是利用蒸馏,让模型学会引导树搜索,在连续空间里面高效找到优质动作。

DISCO 的核心设计

  • 蒸馏引导策略网络
  • 连续空间分层树搜索
  • 价值回溯更新
  • 适配多种基础模型

通过知识蒸馏,训练一个引导网络,用来判断哪些连续动作区域更有潜力,把搜索资源优先放在高价值区间。

不再把动作切成固定离散格子,采用分层细分,先锁定大致范围,再慢慢精细搜索。

沿着搜索树把评估结果回传,不断修正引导网络,让它越来越擅长挑出好的连续动作。

可以对接已有的策略模型,不需要从零重训整套决策框架。

DISCO 的完整运行步骤

  1. 准备教师模型:选用效果更强的教师模型,提供连续动作样本和价值信号。
  2. 蒸馏训练引导网络:用教师模型的数据做蒸馏,让引导网络学会预估连续动作的好坏。
  3. 启动根节点搜索:把整个连续动作空间作为树的根节点。
  4. 分支细分采样:在引导网络推荐的高潜力区域做分层划分,生成子分支。
  5. 评估与剪枝:评估各个分支预期收益,把明显很差的分支直接剪掉,节省算力。
  6. 价值回溯:把子节点评估结果向上回溯,更新每个区间的预估价值。
  7. 输出最终动作:反复细分评估,直到达到预设精度,选出最优连续动作。

这套方式避开了连续动作空间离散化带来的缺陷,让树搜索这个成熟手段顺利用到连续决策任务上。在团队的实验里,DISCO 在机器人连续控制、序列连续规划任务上,比传统采样、离散树搜索拿到更高回报,也证明蒸馏树搜索在连续动作空间具备很强竞争力。

【相关 FAQ】

问题 1:斯坦福 NLP 提出的 DISCO,和普通树搜索最大区别是什么?

回答 1:普通树搜索大多适合离散动作,DISCO 是连续动作空间上的蒸馏树搜索,依靠蒸馏得到的引导网络指引搜索,不用强行把连续动作切成离散选项。

问题 2:DISCO 这套连续动作空间上的蒸馏树搜索,一定要搭配 NLP 任务才能使用吗?

回答 2:不是,虽然是斯坦福 NLP 团队提出,但 DISCO 这套连续动作空间上的蒸馏树搜索,同样适用于机器人连续控制等其他连续决策场景。

问题 3:DISCO 的蒸馏环节在连续动作空间上的蒸馏树搜索里面起到什么作用?

回答 3:蒸馏用来训练引导网络,给树搜索指明更值得探索的连续动作区域,减少无效采样,提升整套蒸馏树搜索在连续动作空间的搜索速度。

问题 4:使用 DISCO 做连续动作空间上的蒸馏树搜索,会不会一定找到全局最优动作?

回答 4:不一定,DISCO 依靠引导做启发式搜索,可以大幅提升找到高质量动作的概率,但属于启发算法,不能保证每次在连续动作空间的蒸馏树搜索都搜到全局最优。

【参考资料】

[2026-11-05](斯坦福 NLP 提出 DISCO:连续动作空间上的蒸馏树搜索)机器之心

[2026-11-03](DISCO:Distilled Tree Search for Continuous Action Spaces)arXiv

[2026-11-02](斯坦福新工作 DISCO,打通连续空间与树搜索)AI 科技评论

【免责声明】

本文仅为公开论文资讯整理,DISCO 的实际性能、复现难度、开源情况以斯坦福 NLP 团队官方论文与代码仓库为准;在不同连续动作任务上最终效果会随环境、模型配置发生变化。

 
最新文章
站长推荐