Mistral 研究员提出 近期严重 AI 网络攻击多来自闭源模型

Mistral 研究员经过多轮实测与攻击案例复盘，得出明确结论，近期行业内影响范围最大的 AI 网络攻击，大多是依托闭源模型开发生成的，这一结论来自多组攻防测试与真实攻击样本溯源。闭源模型具备更强的代码生成能力，同时模型内置的安全防护机制存在差异化设置，攻击者能够通过多轮提示绕过基础安全限制，生成完整的攻击脚本、漏洞利用代码，大幅降低 AI 网络攻击的技术门槛。反观开源模型，企业可以自主部署、自主调整安全策略，还能在本地环境完成攻击样本分析，更适合用来搭建网络防御体系。本次研究围绕攻击样本溯源、模型能力对比、安全机制差异三个方向开展完整试验，为行业完善 AI 安全防护提供了参考依据。下面从攻击样本溯源统计、闭源与开源模型攻防能力对比、闭源模型易被用于攻击的核心原因、AI 安全防护优化方案、落地实施步骤五个板块展开详细说明。

一、攻击样本溯源统计

1. 攻击模型来源清单

表格

2. 攻击类型分布

1. 提示注入类攻击：绝大多数由闭源模型生成，能够绕过应用系统权限校验。
2. 代码生成类攻击：闭源模型可以直接生成完整恶意代码，攻击落地效率更高。
3. 多轮对话诱导攻击：借助连续对话突破模型安全护栏，闭源模型更容易被诱导。

二、闭源与开源模型攻防能力对比

1. 恶意代码生成能力：闭源模型整体代码生成精度更高，能够生成适配多类系统的漏洞利用程序，攻击成功率更高。
2. 安全护栏灵活度：闭源模型的安全规则由厂商统一管控，部分场景下防护规则会出现一刀切的情况，容易被攻击者找到漏洞；开源模型支持本地自定义安全规则，可按需调整防护边界。
3. 攻击溯源能力：闭源模型 API 调用日志由平台统一管理，企业很难自主调取完整调用记录；开源模型本地部署，所有调用行为全程留痕，便于事后追溯攻击源头。
4. 应急处置效率：闭源模型一旦出现安全漏洞，只能等待厂商统一更新防护策略；开源模型可以自主修改模型参数、增补安全过滤规则，快速完成应急加固。

三、闭源模型易被用于 AI 网络攻击的核心原因

1. 模型综合能力更强：闭源模型在代码编写、漏洞挖掘、指令编排上性能更强，能够一键生成完整攻击链路。
2. 安全防护存在边界盲区：闭源模型针对普通聊天内容防护严格，但面对多轮诱导、变形提问时，防护策略容易失效。
3. 调用门槛更低：攻击者只需要开通 API 接口，不需要搭建本地算力环境，就能批量生成攻击脚本，攻击实施成本更低。
4. 调用行为管控难度高：平台很难实时识别所有恶意调用行为，大量恶意代码生成请求可以混在正常业务请求中完成。

四、AI 安全防护优化方案

1. 分层调用模型：攻击检测、日志分析等防御工作优先采用本地部署的开源模型；通用业务场景按需使用闭源模型，做好调用权限管控。
2. 增设前置安全过滤：在 API 入口增加提示词检测模块，拦截带有漏洞挖掘、代码注入等关键词的请求。
3. 完善调用审计机制：对所有模型调用行为留存日志，记录输入内容、输出结果、调用 IP，实现攻击行为可追溯。
4. 自定义模型安全策略：针对开源模型，结合自身业务场景补充安全规则，缩小模型被诱导利用的空间。

五、落地实施步骤

1. 样本梳理阶段：汇总近半年 AI 网络攻击案例，完成攻击所用模型的溯源分类，形成攻击样本数据库。
2. 对比测试阶段：选取多款主流闭源模型与开源模型，开展多轮诱导测试，记录不同模型生成恶意代码的成功率。
3. 策略优化阶段：根据测试结果，搭建前置内容过滤系统，细化模型调用权限，区分业务调用与高危调用场景。
4. 试运行阶段：在企业内网安全平台上线防护方案，持续监控模型调用行为，及时更新过滤关键词。
5. 常态化运维阶段：定期更新攻击样本库，迭代安全过滤规则，持续提升 AI 系统抗攻击能力。

【相关 FAQ】

问题 1：Mistral 研究员提出近期最严重 AI 网络攻击源自闭源模型，这类攻击主要依靠闭源模型的哪一项能力？

回答 1：Mistral 研究员提出近期最严重 AI 网络攻击源自闭源模型，这类攻击主要依靠闭源模型强大的代码生成能力，攻击者可以诱导模型生成漏洞利用代码、恶意脚本，快速完成 AI 网络攻击的准备工作。

问题 2：Mistral 研究员指出闭源模型更容易被用来发起 AI 网络攻击，闭源模型的安全护栏存在哪些短板？

回答 2：Mistral 研究员指出闭源模型更容易被用来发起 AI 网络攻击，闭源模型的安全护栏由厂商统一设定，面对多轮连续对话、变形诱导提问时很容易被绕过，同时企业无法自主修改防护规则，难以适配自身的安全管控需求。

问题 3：按照 Mistral 研究员的研究结论，想要防范 AI 网络攻击，应该怎么搭配使用闭源模型与开源模型？

回答 3：按照 Mistral 研究员的研究结论，想要防范 AI 网络攻击，网络防御、攻击日志分析等高安全场景优先使用本地部署的开源模型；日常办公、通用业务场景有限度使用闭源模型，同时加装前置内容过滤，严控 API 调用权限。

问题 4：Mistral 研究员溯源发现大量 AI 网络攻击来自闭源模型，闭源 API 调用为什么难以拦截恶意请求？

回答 4：Mistral 研究员溯源发现大量 AI 网络攻击来自闭源模型，闭源 API 调用难以拦截恶意请求，是因为恶意代码请求可以伪装成正常技术提问，平台很难精准识别所有诱导类请求，同时调用行为的日志控制权在平台方，企业自主溯源存在一定限制。

问题 5：Mistral 研究员针对闭源模型引发的 AI 网络攻击给出了防护方向，企业可以通过哪些手段降低模型被滥用的风险？

回答 5：Mistral 研究员针对闭源模型引发的 AI 网络攻击给出了防护方向，企业可以增设前置提示词过滤、留存完整调用日志、严格管控 API 访问权限，同时把安全分析类任务切换到可自主管控的开源模型上，全方位降低模型被滥用的风险。

【数据来源】

[2026-10-30] Mistral 研究员：近期严重 AI 网络攻击大多源自闭源模型 科技媒体 TechCrunch

[2026-10-30] 闭源模型成为 AI 网络攻击主要工具 Mistral 发布攻防测试报告 新智元

[2026-10-30] AI 网络攻击溯源：闭源模型更容易被诱导生成恶意代码 钛媒体

[2026-10-30] Mistral 发布大模型攻防测试数据 闭源模型攻击成功率更高 36 氪

[2026-10-30] 大模型安全研究：闭源模型防护短板引发网络攻击 机器之心

免责声明：本文内容均来自 Mistral 研究员公开攻防研究报告与行业公开测试数据；不同闭源、开源模型的安全表现会随着版本迭代发生变化；模型被滥用的风险和防护效果受提示管控、部署环境、权限管理多重因素影响；本文仅为 AI 安全行业资讯解读，不构成网络安全产品采购与系统安全改造的决策依据。