首页 >> 综合 > 快讯 >

微软扩充 Project Perception 项目,实现 AI 智能体风险常态化持续评估

2026-10-20 07:48:10 来源:网易 编辑:邹黛梅 

微软对 Project Perception 项目进行全面扩充升级,把常态化持续评估 AI 智能体运行风险作为核心能力,搭建起一整套闭环风控体系,能够全程实时监控企业内部所有 AI 智能体的每一步操作,动态计算行为风险等级,自动匹配对应的管控策略,让安全防护节奏和智能体自主运行速度保持同步,真正做到事前预判、事中管控、事后复盘,给企业内部海量智能体建立起全天候的安全防护屏障。本次项目扩展,核心是把原本面向外部网络攻击的防御框架,延伸到企业内部运行的各类 AI 智能体上,把智能体当成全新的内部管控对象,补齐了 AI 智能体自主执行任务带来的安全管理空白。整套体系依托全新网络安全技术栈,打通身份、权限、数据、云端、终端、运行环境等多层监测信号,随时抓取智能体的动作数据,结合场景上下文动态生成风险评分,不再依靠固定规则做静态检测,完全适配 AI 智能体行为多变、自主决策的运行特点。

一、项目扩展的核心支撑能力

  1. 多维度信号采集能力 搭建全域传感器矩阵,覆盖身份权限、数据调用、网络访问、工具调用、运行时行为五大维度,自动发现企业内所有在线 AI 智能体,给每一个智能体分配独立身份、运行隔离容器与精细化权限策略,做到所有智能体全部纳入统一管理范围,不存在管控盲区Microsoft。
  2. 动态风险研判能力 将采集到的行为信号和业务场景上下文结合,实时计算智能体每一次操作对应的风险数值。当智能体尝试调用高权限工具、访问敏感数据、跨业务域执行操作时,系统会自动调高风险等级,同步触发分级管控机制,全程保持风险评估和智能体行为同步更新,实现不间断连续评估Microsoft。
  3. 守护者智能体闭环管控 新增 Guardian Agents 守护者智能体,联动红蓝绿三类安全智能体形成协同机制。蓝队智能体负责持续识别风险行为、完成风险分级判定;绿队智能体根据风险等级自动执行约束动作,限制高风险操作;红队智能体持续模拟各类自主行为,提前挖掘潜在风险场景,不断优化风险评估模型,形成 “发现风险 — 评估等级 — 执行管控 — 迭代优化” 的完整闭环Microsoft。

二、持续评估 Agent 风险的完整执行步骤

步骤 1:资产盘点与统一纳管

系统自动扫描企业云平台、本地终端里全部运行中的 AI 智能体,完成资产建档,为每一个智能体配置专属身份标识、运行隔离环境,同时配置最小权限原则的访问策略,完成所有智能体的统一入网管理。

步骤 2:开启全链路行为信号采集

开启全域传感器,不间断抓取智能体调用大模型、开启工具、读取文件、发起网络请求、修改配置等全部操作日志,把所有动作转化为标准化监测信号,存入实时数据流。

步骤 3:实时动态风险计算

系统将行为信号和组织安全策略、数据敏感等级、岗位权限上下文做匹配,自动输出实时风险分数,区分低、中、高三级风险,全程不间断更新评估结果,不会出现评估断档。

步骤 4:分级自动管控 + 人工复核

低风险行为允许智能体自主执行;中风险行为自动增加操作日志留痕,等待安全人员事后复核;高风险行为直接自动阻断操作,同时推送告警信息给安全管理员,所有管控动作全程留存完整操作追溯记录

Microsoft ...

步骤 5:持续迭代优化评估规则

定期汇总智能体风险事件,由三类安全智能体联合复盘,不断优化风险判定模型,扩充风险场景库,让风险评估能力跟随智能体业务能力同步升级,长期保持评估精准度。

三、项目扩展后的落地应用效果

完成能力扩展之后,Project Perception 可以全天候不间断完成上千个 AI 智能体的风险评估工作,评估延迟控制在毫秒级别,能够跟上智能体自主执行任务的运行速度。整个风控流程全部自动化运行,只在高风险场景交由人工审核,大幅降低安全团队的运维工作量。同时所有风险事件都保留完整溯源日志,方便企业完成安全审计与合规自查,保障 AI 智能体业务平稳有序运行。

【相关 FAQ】

问题 1:Project Perception 扩展之后,持续评估 Agent 风险主要依靠哪些智能体协同工作?

回答 1:Project Perception 扩展后,持续评估 Agent 风险主要依靠 Guardian Agents 守护者智能体作为总调度,搭配红队智能体、蓝队智能体、绿队智能体协同运转;蓝队智能体负责实时研判智能体行为、输出风险等级,红队智能体持续挖掘潜在风险场景,绿队智能体根据评估结果执行管控动作,三者配合完成不间断的 Agent 风险评估与处置

Microsoft

问题 2:Project Perception 实现 Agent 风险持续评估,和传统静态安全检测有哪些区别?

回答 2:Project Perception 做 Agent 风险持续评估属于动态实时评估,能够跟着智能体自主行为随时更新风险判定,依托全域行为信号做上下文分析;传统静态检测只依靠固定规则做事后筛查,无法跟上 AI 智能体自主决策的变化节奏,很难做到不间断连续评估,而扩展后的 Project Perception 可以全程实时监控,实现风险事前预判、事中实时评估

Microsoft

问题 3:企业部署扩展版 Project Perception,要如何保障 Agent 风险持续评估的数据完整性?

回答 3:想要保障 Project Perception 对 Agent 风险持续评估的数据完整性,首先要开启身份、网络、终端、云端、运行时全部传感器,打通微软 Defender 全链路数据;其次给所有智能体配置只读监测权限,保证不会遗漏任何操作日志;最后开启日志长期留存功能,确保每一条 Agent 行为数据都能被完整采集,支撑持续风险评估工作正常开展

Microsoft ...

【数据来源】

[2026-10-19](Agents are your newest insiders. Security must move at their speed)微软安全技术博客

Microsoft

[2026-08-19](Application card for Project Perception)微软官方技术文档 Learn

Microsoft ...

[2026-07-27](Rethinking security for the age of AI)微软官方博客官网

Microsoft

免责声明:本文内容仅为技术项目信息整理,不构成任何产品采购与技术部署指导;项目功能、上线进度以微软官方后续发布内容为准,第三方解读内容仅供参考。

 
最新文章
站长推荐