首页 >> 综合 > 快讯 >

Gartner 报告指出,对齐 AI 价值、风险与安全已经成为 CIO 首要挑战

2026-11-09 22:41:27 来源:网易 编辑:连羽贵 

Gartner 在 2026 年 IT 研讨会上发布最新调研结论,当下 CIO 最核心的难题就是对齐 AI 价值、风险与安全,很多企业虽然在大范围落地 AI 项目,但 AI 相关风险增长速度远超 AI 带来的业务价值,调研显示 86% 的 CIO 反馈 AI 风险增速比价值快,平均快 4 倍,仅有 25% 的 CIO 能够把技术风险和业务风险做到有效对齐,而且只有五分之一的 AI 落地场景真正实现正向收益,不少项目只是单点小成功,没办法在全公司复制放大。造成这个局面的主要原因,一方面是影子 AI 泛滥,员工私自使用各类 AI 工具,IT 部门没有感知,数据泄露、违规输出、偏见错误的隐患持续增多;另一方面智能体 AI 开始大规模铺开,自主运行的 AI 系统很难追踪决策链路,传统安全管控体系跟不上 AI 的迭代节奏,价值、风险、安全三者互相脱节,业务部门想要快速落地拿收益,安全和风控团队优先保守管控,两边目标很难统一。Gartner 给出了一套落地思路,先用价值风险飞轮模型持续评估 AI 项目,再搭建 AI 中央银行作为统一管控平面,搭配 AI TRiSM 信任风险安全框架,把可解释性、数据溯源、持续检测嵌入到 AI 全生命周期。执行的时候,先梳理企业内部所有 AI 资产,区分官方 AI 和影子 AI;然后给每个 AI 应用做价值和风险分级,划定数据权限、输出审核规则;最后持续监控 AI 运行状态,定期复盘,动态调整管控策略,而不是一刀切禁止 AI 或者放任 AI 随便使用。长期来看,CIO 不能只追求 AI 项目数量,重点是让 AI 价值稳步累积,同时压住风险的指数级增长,保证安全和治理配套跟上 AI 业务推进节奏。

一、核心调研数据清单

调研指标数据结果说明
反馈 AI 风险增速高于价值的 CIO 占比86%风险平均增速是价值增速 4 倍
可有效对齐技术风险与业务风险的 CIO 占比25%大部分企业风险管控和业务脱节
看到 AI 项目正向价值的业务负责人占比58%有局部 AI 成功案例
能够实现正向回报的 AI 场景占比20%多数 AI 项目投入产出不理想
计划一年内部署智能体 AI 的企业占比71%自主 AI 加速普及,但治理能力不足
具备智能体 AI 治理能力的企业占比21%治理能力严重滞后于部署计划

二、三大核心痛点拆解

✅AI 价值痛点

  1. AI 成果零散,单点试点成功,很难在全企业规模化复制
  2. 大量 AI 项目只做演示,没有绑定业务指标,没法核算真实收益
  3. 业务部门追求快速上线,缺少长期价值评估机制

✅AI 风险痛点

  1. 影子 AI:员工私下使用公共 AI 工具,不受 IT 管控,容易泄露企业数据
  2. 模型幻觉、输出偏见、版权侵权、合规不合规风险
  3. 智能体自主决策,行为不可预测,出问题后溯源困难

✅AI 安全痛点

  1. 传统网络安全手段针对 AI 模型攻击、投毒、提示注入防护不足
  2. AI 训练数据、私有知识库缺少访问权限管控
  3. 第三方大模型服务商的安全边界不清晰,责任很难划分

三、Gartner 推荐的落地方法

  1. 价值风险飞轮模型:不再把价值和风险当成对立项,持续评估两者联动关系,避免盲目上马 AI 项目
  2. AI 中央银行管控平面:统一管控企业内全部 AI 资产,负责透明化、权责追溯、资源调度,不是集中管控,而是协同对齐
  3. AI TRiSM 框架:覆盖 AI 可解释、模型安全、数据治理、风险持续校验,嵌入 AI 全生命周期
  4. 分级管控:根据 AI 影响范围、数据敏感等级,设置不同审批、审核、监控强度

【相关 FAQ】

问题 1:Gartner 提出对齐 AI 价值、风险与安全,为什么是当前 CIO 首要挑战?

回答 1:Gartner 调研发现 AI 风险增长速度远快于 AI 带来的业务价值,大量 AI 项目只有局部效果、很难规模化,同时影子 AI、智能体 AI 带来新的安全隐患,业务、风控、安全目标不一致,对齐 AI 价值、风险与安全就成了 CIO 首要挑战。

问题 2:Gartner 价值风险飞轮模型,用来解决 AI 价值、风险与安全对齐的什么问题?

回答 2:价值风险飞轮模型把 AI 价值和风险当成联动系统,帮助 CIO 避免为了做 AI 而做 AI,一边累积 AI 业务价值,一边控制风险持续叠加,防止风险快速放大抵消 AI 收益。

问题 3:Gartner 所说的 AI 中央银行,在对齐 AI 价值、风险与安全时起到什么作用?

回答 3:AI 中央银行是企业 AI 统一管控平面,用来统筹 AI 治理、技术、成本、数据追溯,提升全公司 AI 可见度和责任划分,帮助对齐 AI 价值、风险与安全,它不是集权管控,而是协同协调。

问题 4:Gartner 的 AI TRiSM 框架,和 AI 价值、风险与安全对齐有什么关系?

回答 4:AI TRiSM 是 AI 信任、风险与安全管理框架,提供可落地的管控手段,覆盖模型检测、数据溯源、可解释性,是 CIO 对齐 AI 价值、风险与安全的配套落地工具。

【参考资料】

[2026-10-19](Gartner:AI 风险增速超过 AI 价值,对齐价值风险安全成为 CIO 核心任务)Gartner 官网

[2026-10-20](CIO 必须让 AI 价值增长跑赢加速的 AI 风险)Techstrong.ai

[2026-09-28](AI 治理跟不上部署速度,影子 AI 风险持续走高)至顶网

[2026-06-09](2026 CIO 指南:AI 规模化、成本与 AI 安全挑战)Gartner 中国

【免责声明】

本文内容基于 Gartner 公开研讨会资料与调研数据整理,仅为行业趋势参考,不构成企业 AI 治理方案、投资决策建议;不同行业、企业规模的 AI 风险、价值基线存在差异,落地 AI 治理方案请结合自身业务、合规要求调整。

 
最新文章