是什么阻碍了 AI 代理?仍然是安全问题

发布: (2026年3月10日 GMT+8 20:59)
7 分钟阅读

Source: Docker Blog

请提供您希望翻译的具体文本内容,我将为您翻译成简体中文,并保持原有的格式、Markdown 语法以及技术术语不变。谢谢!

概述

如今很难找到一个团队不在讨论代理(agents)。对大多数组织而言,这已经不再是“某天再做”的项目。构建代理已成为我们在最新的《Agentic AI 研究现状》白皮书中对全球 800 多名开发者和决策者进行调查后,95 % 受访者的战略重点。转变速度非常快:代理的采用已经从实验和演示阶段迈向接近早期运营成熟的阶段。已有 60 % 的组织报告称在生产环境中使用 AI 代理,尽管其中三分之一仍处于早期阶段。

今天的代理采用是由对生产力、效率和运营转型的务实关注驱动的,而非收入增长或成本削减。早期采用主要集中在内部、以提升生产力为目标的用例,尤其是在软件、基础设施和运维领域。反馈循环快速,风险也更易控制。

whats holding agents back blog fig 1

AI 代理安全不是单一问题——它是约束

当团队讨论是什么阻碍了他们的进展时,AI 代理安全位居首位。在同一调查中,40 % 的受访者将安全性列为构建代理时的最大障碍。之所以影响如此深远,是因为它并不局限于堆栈的单一层面;它无处不在,并且随着部署规模的扩大而叠加。

  • 基础设施: 随着组织扩大代理部署,团队强调需要secure sandboxing和runtime isolation,即使是内部代理也不例外。
  • 运营: 复杂性本身就成为安全问题。更多的工具、集成和编排逻辑使得端到端的可视化和控制变得更加困难。我们的latest research data反映了这种蔓延:超过三分之一的受访者报告在协调多个工具时遇到挑战,另有相似比例的人表示集成会带来安全或合规风险。运营复杂性产生盲点,而盲点则转化为暴露。
  • 治理: 企业希望实现一致性——包括护栏、策略执行和跨团队、跨工作流的可审计性。目前的工具尚未达到这一标准。45 % 的组织表示,最大挑战是确保工具安全、可信且具备企业级准备度,这决定了“我们可以尝试”与“我们可以规模化”之间的差距。

MCP 受欢迎,但尚未准备好用于企业

许多团队正在采用 Model Context Protocol (MCP) ,因为它为代理提供了一种标准化的方式来连接工具、数据和外部系统,使代理更有用且更具定制性。在代理使用旅程中进展更远的受访者中,85 % 表示他们熟悉 MCP,且三分之二的人表示在个人和职业项目中积极使用它。

研究数据表明,大多数团队在 MCP 上处于“盲目信任模式”,在没有成熟企业基础设施所要求的安全保证和运营控制的情况下采用该协议。对于在代理旅程早期的团队,46 % 将安全性和合规性视为使用 MCP 的首要挑战。

组织正日益关注提示注入(prompt injection)和工具中毒(tool poisoning)等威胁,以及访问控制、凭证和身份验证等基础性问题。当前 MCP 工具的成熟度不足和安全挑战,使得在代理采用的这一阶段形成了一个脆弱的基础。

结论与建议

AI 代理安全是企业中代理式 AI 速度的上限。组织并非缺乏兴趣;而是缺乏对当前工具是否已具备企业就绪能力、访问控制能否可靠执行,以及代理能否安全地与敏感系统隔离的信心。

前进的道路很明确。释放代理的全部潜力需要为企业规模构建的新平台,具备默认安全的基础、强大的治理以及集成而非后加的策略执行。

  • 下载完整的 Agentic AI 报告,获取更多洞见和关于如何在企业中扩展代理的建议。
  • 请于 2026 年 3 月 25 日加入我们的网络研讨会,我们将逐步讲解关键发现和下一步的优先策略。

了解更多

0 浏览
Back to Blog

相关文章

阅读更多 »