跟随 AI 足迹
Source: Towards Data Science
当你在城市公园散步时，常常会看到细窄的土路穿过草坪——在人行道之间、穿过草坪、以及穿过规划者从未打算让人们使用的拐角。
什么是欲望路径？
欲望路径是人们选择自己捷径而非官方步道时形成的非正式路线。随着时间推移，草地被踩掉，路径成为人们实际在空间中移动方式的可视记录。
- 历史上： 规划者把这些路径视为错误。
- 如今： 它们被视为有价值的反馈，显示设计未能匹配人类行为的地方。
组织内部的同样现象
员工已经在使用人工智能开辟自己的“欲望路径”：
- 营销: 使用语言模型起草活动文案。
- 财务: 使用 AI 助手汇总报告。
- 产品: 通过生成工具测试创意。
通常，这种实验在官方系统或政策之外悄悄进行——就像公园里出现的非正式小径一样。
Source: …
Shadow AI：新兴的职场现象
Shadow AI 这一术语呼应了更早的 shadow IT 概念——即员工在未经企业 IT 部门批准的情况下自行安装软件。如今，这一模式在人工智能领域再次出现：员工在组织建立治理结构或批准平台之前，就将生成式 AI 工具带入日常工作流程。
为什么它重要
- 数据泄露 – 敏感的企业信息可能流向外部系统，而组织无法看到这些数据是如何被处理或存储的。
- 合规风险 – 如 GDPR 或欧盟 AI 法案等框架可能被无意间违规。
- 监督缺失 – 安全团队难以追踪信息在组织内部的流动路径。
超越风险
仅关注风险会忽视一个关键洞见：Shadow AI 常常揭示现有系统已无法跟上人们工作需求的节奏。就像公园里的欲望小径，它暴露了员工在寻找更快、更智能的方式来完成日常任务的所在。
它有多普遍？
- 采用率 – 调查显示，近五分之四的在工作中使用 AI 的人会自行携带工具，而不是依赖雇主提供的系统。
- 个人账户 – 许多人通过 个人账户而非企业平台 与 AI 交互，这些平台本应保护敏感数据。
- Source: Microsoft Work Trend Index
- 数据泄漏 – 超过 一半的员工承认将机密信息输入 AI 系统。
- Source: ACM article on Shadow AI threats
- 业务影响 – 采用广泛 Shadow AI 的组织 报告更高的泄露成本，并面临更大的合规风险。
- Source: IBM Data Breach Report
结论
人工智能已经在职场大规模蔓延。治理、培训和安全框架随后才到位，导致真实的风险 以及 揭示技术变革在组织内部实际展开的方式。识别并应对 Shadow AI 对于将创新与合规、安全相匹配至关重要。
组织信号中的 Shadow AI
Shadow AI——在官方渠道之外使用生成式 AI 工具——不仅仅是绕过治理，它还揭示了现有工作流中的摩擦点。
为什么 Shadow AI 很重要
| 观察 | 洞察 |
|---|---|
| 员工尝试使用 AI 来撰写电子邮件、摘要文档、分析电子表格、准备演示文稿或进行头脑风暴。 | 官方技术栈尚未支持这些功能。 |
| 安全团队将此行为标记为“未授权使用”。 | 它可以被视为组织受限所在的诊断信号。 |
来自城市规划的类比
“城市的设计应围绕人们实际的移动方式，而不是规划者想象中的方式。” – Jane Jacobs
正如非正式小径揭示了城市中的真实移动模式，Shadow AI 揭示了组织中的真实工作模式。
将威胁转化为机遇
- 转变思维方式——将 Shadow AI 视为高价值 AI 用例的早期指示器，而不仅是治理失误。
- 绘制实验图谱——收集各团队非官方 AI 使用的案例。
- 识别共性痛点——寻找员工已在尝试加速的重复性任务。
- 优先治理化解决方案——构建安全、可扩展的工具，以满足最常见的需求。
好奇心驱动方法的收益
- 降低风险——未授权工具减少，攻击面更小。
- 赋能员工——安全工具与员工已有的工作方式保持一致。
- 提升生产力——自动化和增强聚焦于最关键的任务。
- 战略洞察——碎片化实验的“混乱”转化为 AI 采纳的路线图。
TL;DR
- Shadow AI 是一个信号，而不仅是问题。
- 像城市规划师对待非正式小径一样对待它：观察、学习、重新设计。
- 通过整理这些实验的洞察，组织可以将 AI 从负债转变为创造力和创新的倍增器。
从 AI 足迹中学习
组织若想有效治理人工智能，必须首先了解它已经是如何被使用的。
1. 获得可视性
- Shadow AI 是一种信号，而不仅仅是合规问题。 它显示了员工试图比现有系统更快行动的需求。
- 发现隐藏使用的方式：
- 员工调查
- 技术审计
- 开放的跨部门讨论
这些活动常常揭示 营销、销售、财务、人力资源和产品团队 是早期采用者。
2. 从压制转向结构化
一旦模式可见，焦点转向：
- 确定哪些工具是合适的。
- 建立与数据敏感性和监管要求相匹配的治理政策。
- 设计反映实际工作方式的流程。
3. 文化与政策同等重要
- 员工应感到可以安全地讨论 AI 实验，而不是把它隐藏起来。
- 对惩罚或额外工作负担的恐惧并不会阻止实验——它只会把实验进一步推向暗处。
4. 促进负责任的实验
| 促进因素 | 描述 |
|---|---|
| 培训 | 提供有关 AI 风险、收益和最佳实践的教育。 |
| 获取批准的工具 | 提供符合安全和合规标准的 vetted 平台。 |
| 明确的护栏 | 为数据使用、模型部署和伦理考量设定边界。 |
5. 将暗中实验转化为协同进展
了解已经在暗处存在的内容，往往是构建 有弹性且智能的 AI 战略 的第一步。通过让隐藏的工作可见、使政策与真实工作流对齐，并营造支持性的文化，组织可以将零散的实验转变为有组织、创造价值的举措。
最后的思考
在实践中，影子 AI 很少是出于恶意。它更常反映组织内部的目标不一致和沟通缺失。当员工觉得分享自己的实验不安全，且好奇心主要受到纠正时，可预见的结果就是沉默。
人们并没有停止实验。
他们只是停止分享。
如果组织想要有效治理 AI，就必须从创建能够进行深思熟虑探索的环境开始。培训、实际案例以及明确的防护措施能够让负责任的实验变得可见，而不是隐藏。
文化是关键
- 好奇胜于怀疑 – 鼓励开放分享。
- 明确的防护栏 – 让团队有信心安全实验。
- 可见的支持 – 领导层应示范并奖励负责任的创新。
当好奇取代怀疑时，实验就会走出阴影，进入公开。
**治理影子 AI 的第一步很简单：**了解人们已经在何处行动。
关于 Aleksandra Osipova
- 创始人 于 Apricity Lab，帮助领导者和组织在向 AI 驱动系统的转型过程中导航。
- 作者，撰写人工智能、系统思维以及工作未来等主题的文章。
- 在她的 LinkedIn 个人主页 上了解更多她的工作和见解。