贵公司最大的AI风险是无人批准的AI

Source: Dev.to

六十五百分比的员工使用公司从未批准的 AI 工具。在高管和高级管理层中，这一比例高达 93 %。其中四分之三的人承认向这些工具输入敏感数据——包括客户记录、源代码、内部文档、员工档案。

这就是“影子 AI”。而且它已经导致公司在每次泄露事件上比标准事件多付 67 万美元 的成本。

数据比你想象的更糟

• IBM 2025 年泄露报告发现，13 % 的组织经历了涉及 AI 模型或应用的泄露。其中，97 % 缺乏基本的访问控制。

• 每五家组织中就有一家报告称泄露源于影子 AI —— 员工自行采用、IT 部门未监控的工具。

• 平均影子 AI 泄露造成 $4.63 million 的损失，且需要 247 days 才能被发现。

• 该泄露对客户个人信息（PII）的影响尤为突出，占案例的 65 %，对知识产权的影响占 40 %。

• 86 % 的组织无法看到其数据在 AI 系统中的流向。

• 平均每家企业托管 1,200 未授权应用。

• 只有 17 % 的组织拥有能够阻止未授权数据上传至 AI 平台的技术控制。

这已经发生

• March 2023: 三名三星半导体工程师将机密源代码、内部会议记录和设施测量数据库粘贴到 ChatGPT 中。数据一旦存入 OpenAI 的服务器，三星便无法检索，随后在内部禁用了 ChatGPT。
• 2025: 思科发现 46 % 的组织经历了通过生成式 AI 产生的内部数据泄漏——不是黑客，而是员工的提示导致的。
• Cybernews survey (1,000 U.S. workers): 59 % 使用雇主未批准的 AI 工具。原因：41 % 认为更快，33 % 认为比公司提供的更好，只有 33 % 表示已批准的工具完全满足他们的需求。

人们并非出于恶意，而是为了提高工作效率。IT 部门批准的工具速度慢、功能不足，或尚未出现，因此员工转向 ChatGPT、Claude、Perplexity、Copilot，以及日益增多的 IT 从未听说过的 AI 代理。

代理让情况更糟

Shadow AI 最初是从聊天机器人开始的——员工输入提示词，粘贴文本，获取答案。其暴露是实际的，但范围有限——一次一次的对话，一次一个人。

AI 代理改变了这种计算方式。一个代理可以：

• 读取电子邮件
• 查询数据库
• 写入 CRM
• 在项目跟踪系统中创建工单

当员工将未经授权的代理连接到 Slack 或 Google Workspace 时，他们实际上是授予 持久的、提升的访问权限 给企业系统，而不仅仅是通过提示泄露数据。

• Microsoft（2026 年 2 月）： 80 % 的《财富》500 强公司现在使用活跃的 AI 代理，但只有 14.4 % 为其获得了完整的安全批准。
• 65 % 的企业 AI 工具在没有 IT 监管的情况下运行。

这就是 “类固醇版的影子 IT”。影子 IT 是指员工使用 Dropbox 而不是 SharePoint；影子 AI 则是拥有对客户数据库读写权限的自主代理，使用的是安全团队根本不知道的凭证。

治理缺口

• 仅有 37 % 的组织制定了管理 AI 或检测影子 AI 的政策。
• 在这些组织中，只有 34 % 实际对未经授权的工具进行审计。
• 63 % 的被攻击组织要么没有 AI 治理政策，要么仍在起草中。

Gartner 预测，到 2030 年，超过 40 % 的企业将遭遇与影子 AI 相关的安全或合规事件——考虑到当前趋势，这一估计可能偏保守。

监管背景

• EU AI Act: 要求对高风险 AI 系统进行清单登记。
• HIPAA & SOX: 对数据处理提出要求，而影子 AI 常常违反这些要求。单个员工将患者记录粘贴到未经批准的 AI 工具中，就可能触发合规违规，导致的费用甚至超过泄露本身。

实际有效的做法

做对这件事的公司并没有禁止 AI——三星曾尝试禁用，结果失败；员工直接使用个人设备。

有效策略：

1. 让公司批准的 AI 工具足够好，让员工不觉得需要另辟蹊径。
2. 快速部署 已批准的工具，并保持 轻量化，避免抑制生产力。
3. 实施监控，捕捉 未授权访问，但不需要监视每一次按键。
4. 维护 集中式代理注册表——为组织内的每个 AI 工具和代理提供唯一的真相来源。如果你无法列出网络上运行的每个代理，就说明没有安全姿态，只有希望。

AI 采纳速度与治理速度之间的差距就是攻击面。每个月这段差距保持开放，泄露概率就会复利增长。

贵公司面临的最大 AI 风险并非高级的零日漏洞，而是 一名员工在晚上 11 点把客户名单粘贴到 ChatGPT，因为批准的工具太慢。

来源： IBM 2025 数据泄露报告、Microsoft 安全博客、Cisco 2025 AI 安全研究、Cybernews、Sweep AI at Work 研究、Gartner、三星事件（Bloomberg/Engadget/Fortune）