OpenAI推出“封锁模式”以应对大模型提示注入风险

为强化生成式人工智能的数据安全性，OpenAI 近日宣布推出“封锁模式”（Lockdown Mode）。该功能已向包括个人用户及企业级工作区在内的所有已登录群体开放，旨在应对针对大语言模型的“提示注入”（Prompt Injection）攻击风险。

提示注入攻击是当前大模型面临的主要威胁之一。攻击者通常将恶意指令植入第三方网页或文档中，当模型通过联网功能获取并处理这些外部数据时，可能被诱导突破既定的安全协议，进而导致敏感信息泄露或执行未经授权的操作。据OpenAI官方文档显示，封锁模式采取了从源头限制外部交互的策略。

开启此模式后，ChatGPT的联网能力将受到显著制约。系统对外部网络请求的访问权限被大幅削减，包括“深度研究”（Deep Research）及智能体模式在内的自动化联网功能将被禁用。此外，实时网页浏览功能仅限于查阅缓存内容，且禁止模型从网络下载文件或显示外链图片。在Canvas等协作界面中，联网代码执行权限也将被移除。在该模式下，ChatGPT的数据处理范围被严格限制在用户本地上传的文档内。

尽管这一设置能有效降低网络层面的攻击风险，OpenAI在相关说明中也明确提醒，封锁模式并非针对所有恶意攻击的“银弹”。由于用户上传的本地文件或受信任的网页缓存中仍可能存在隐藏的恶意逻辑，模型在处理这些数据时仍存在潜在风险。此次功能的推出，反映出OpenAI在提升AI工具智能化水平的同时，试图通过赋予用户对网络权限的主动控制权，平衡生产力工具与信息安全之间的矛盾。