Marc Schlichting博士论文答辩录像上线，聚焦自主系统安全生成模型

本次上线的博士论文答辩完整录像，完整展示了自主系统场景下安全生成模型整套研究成果，从底层模型漏洞机理、对抗风险测试方案，到安全约束架构、落地验证实验形成了完整技术闭环。整套研究专门面向自动驾驶、自主机器人、智能代理这类具备闭环决策能力的自主系统，解决通用生成模型直接接入自主控制环节后容易出现越界输出、被对抗提示劫持、长期任务行为漂移等核心风险。答辩全程完整公开了理论推导、仿真测试、真机落地三组实验数据，同时对比了传统输出过滤方案与新一代轨迹级安全约束方案的优劣，为高可靠自主智能系统的模型安全建设提供了可直接复用的技术框架，业内研发人员可以通过录像完整复现全部实验流程与技术细节。

一、研究背景与核心痛点

1. 自主系统与生成模型融合带来的新风险

当前大生成模型已经大规模接入自主智能体、自动驾驶决策模块、机器人任务规划单元。传统安全防护大多只针对文本输出内容做关键词拦截，无法管控模型连续多步决策形成的行为轨迹。一旦攻击者使用对抗提示篡改模型规划逻辑，就会让自主系统执行超出安全边界的动作，造成硬件设备运行风险。

2. 现有防护方案存在三大短板

1）防护滞后：仅做事后内容审核，无法在模型生成决策动作前完成约束拦截；

2）适配性差：通用对齐手段很难适配自主系统动态环境，环境发生微小变化，安全防护效果就会大幅衰减；

3）缺少量化指标：很难对自主场景下生成模型的安全稳定性做标准化评估，无法完成工程化安全认证。

二、论文核心技术体系（分层技术框架）

层级 1：风险机理分析模块

• 研究对象：自主闭环系统中生成模型的提示劫持、长程行为漂移、分布偏移三类失效模式；
• 核心实验：完成多组梯度对抗测试，量化计算出不同任务场景下模型安全防线被突破的临界阈值；
• 关键结论：自主系统内的生成模型安全不能只依靠内容对齐，必须增加时序行为约束。

层级 2：安全生成模型架构设计

1. 前置输入净化单元 自动清洗恶意对抗提示，对模糊指令做语义约束，阻断恶意指令进入模型推理环节；
2. 中间时序约束层 引入控制理论安全护栏，把单条输出管控升级为整条任务轨迹管控，限制模型连续动作不超出预设安全可行域；
3. 后置行为校验单元 对模型输出的控制指令做可执行性核验，剔除违背物理边界、系统运行规则的决策内容。

层级 3：多场景验证实验方案

（1）仿真环境测试

搭建自主驾驶仿真平台与机器人任务仿真环境，设置数十种极端对抗场景，对比纯基础模型、普通对齐模型、本研究安全生成模型的违规动作发生率。

（2）真机落地测试

将安全生成模型部署在自主移动机器人上，执行连续导航、障碍物规避长任务，连续采集数百组运行数据，验证长期运行下模型不会出现行为漂移。

（3）性能平衡测试

统计安全防护开启前后模型任务完成率，保障安全约束不会大幅降低自主系统的作业效率，实现安全性与实用性双向平衡。

三、关键实验数据汇总表

表格

四、技术落地实施步骤

1. 场景梳理：梳理自主系统全部任务链路，划分出规划指令、动作执行、环境反馈三个环节，定位生成模型介入的节点；
2. 风险定级：针对每个节点，梳理对抗提示、环境扰动带来的模型失效风险，划定安全可行域；
3. 模块部署：依次接入输入净化、时序约束、指令校验三层防护单元，嵌入原有模型推理管线；
4. 闭环测试：先用仿真场景完成对抗压力测试，再逐步上线真机小批量试运行，持续迭代安全阈值；
5. 指标固化：建立常态化安全评估指标，把违规动作概率、行为漂移率纳入模型版本上线的硬性准入标准。

五、研究成果应用范围

这套安全生成模型技术方案可以直接应用在四大类自主系统：

1）自动驾驶车辆的大模型决策规划模块；

2）工业自主机器人的任务智能规划单元；

3）具备工具调用能力的自主 AI 智能体；

4）无人机集群自主任务调度系统。

【相关 FAQ】

问题 1：自主系统安全生成模型博士论文答辩录像上线，这份答辩内容重点解决自主系统里生成模型的哪一类安全问题？

回答 1：自主系统安全生成模型博士论文答辩录像上线，这份答辩内容重点解决通用生成模型接入自主闭环决策系统后，容易被对抗提示劫持、长时序任务出现行为漂移、事后内容拦截无法管控连续动作的安全问题，把内容安全升级为整条行为轨迹安全。

问题 2：自主系统安全生成模型博士论文答辩录像上线，论文搭建的安全生成模型架构包含哪三层核心防护单元？

回答 2：自主系统安全生成模型博士论文答辩录像上线，论文搭建的安全生成模型架构包含三层核心防护单元，分别是前置输入净化单元、中间时序行为约束层、后置控制指令校验单元，形成全链路闭环防护。

问题 3：自主系统安全生成模型博士论文答辩录像上线，该安全模型在保障安全的同时，会不会大幅降低自主系统的任务完成效率？

回答 3：自主系统安全生成模型博士论文答辩录像上线，该安全模型可以做到安全与性能平衡，实测数据显示，开启全套安全防护后，自主系统任务正常完成率依然保持在 93.8%，仅出现小幅下降，不会影响整体作业效率。

问题 4：自主系统安全生成模型博士论文答辩录像上线，这套安全生成模型技术能够落地到哪些自主智能设备当中？

回答 4：自主系统安全生成模型博士论文答辩录像上线，这套安全生成模型技术能够落地到自动驾驶决策模块、工业自主机器人规划单元、工具调用型 AI 自主智能体、无人机集群调度系统四类自主智能设备。

【数据来源】

[2026-10-23]（自主系统安全生成模型博士答辩录像发布）AI 安全前沿社区

[2026-10-21]（自主智能体生成模型时序安全约束研究）arXiv

[2026-10-18]（闭环自主系统大模型安全防护技术白皮书）智能无人系统技术联盟

[2026-10-10]（生成模型在自主机器人场景下对抗风险测试报告）自动化技术研究期刊

[2026-09-27]（自主系统安全护栏控制理论研究进展）

免责声明：本文全部技术内容、实验数据、架构方案均来自本次博士论文答辩公开录像与配套学术文稿，仅作为科研学习与技术选型参考；将该模型部署到工业设备、自动驾驶车辆等安全关键场景时，还需要结合对应行业规范完成充分的第三方仿真与真机可靠性验证；模型实际防护效果会受任务场景、提示样本、硬件推理环境影响；论文后续研究成果、技术迭代内容均以作者后续公开学术资料为准。