氛围检测

发布: 1天前 (2026年3月19日 GMT+8 08:41)

9 分钟阅读

原文: Dev.to

看起来您只提供了来源链接，但没有贴出需要翻译的正文内容。请把要翻译的文本粘贴在这里，我会帮您翻译成简体中文并保持原有的格式。

AI‑Generated Code Is Already a Security Problem

Key statistics

25 % 的最新 Y Combinator 批次交付的代码库中 95 % 是 AI 生成的。
45 % 的 AI 生成代码包含安全缺陷（Veracode 2025 GenAI Code Security Report）。
84 % 的开发者现在报告在工作流中使用或计划使用 AI 工具。

从 AI‑assisted 编码向 AI‑authored 编码的转变已经发生。真正的问题是 部署这些系统的人是否了解他们在部署什么 —— 数据显示他们并不了解。

案例研究：Moltbook

“我没有写一行代码。我只是对技术架构有一个愿景，而 AI 把它变成了现实。” – Matt Schlicht, Moltbook 创始人

发生了什么

Moltbook – 一个 AI 驱动的社交网络 – 通过一个 未受保护的 Supabase 数据库 泄露了 150 万个 API 密钥、3.5 万个电子邮件地址 和 4 060 条私人对话。
该数据库 没有行级安全，客户端 JavaScript 中硬编码了凭证，并且 对任何发现该 URL 的人都拥有对每个表的完整读写权限。
Wiz 的安全研究员和一位独立研究员同时发现了该漏洞；Moltbook 在数小时内修补了它。

损害

这 150 万个已注册的代理（由 GPT、Claude 和 DeepSeek 提供动力的自主系统）在公开可读的表中存储了 明文凭证，包括 OpenAI、Anthropic、AWS、GitHub 和 Google Cloud。
具体的损害窗口 尚不清楚，但此次曝光显示出 系统性失误，而非孤立的错误。

为什么这不是异常

25 % 的 Y Combinator 2025 年冬季批次报告称其代码库 95 % 是 AI 生成的。
45 % 的 AI 生成代码包含安全缺陷（Veracode 2025）。
CodeRabbit 对 470 个开源 GitHub 拉取请求的分析发现，AI 共同编写的代码出现的重大问题是人工编写代码的 1.7 ×。
2025 年 12 月的测试在五款流行的 “vibe‑coding” 工具中发现了 69 个漏洞，其中 约六个 为关键漏洞。
当大型语言模型在安全方案和不安全方案之间做选择时，它们近 50 % 的时间会选择 不安全的路径。

常见缺陷

硬编码凭证
薄弱的认证逻辑
不当的输入验证
缺失访问控制

这些正是 初级开发者在代码审查中会发现 的问题——但 vibe‑coded 应用 很少接受审查，因为提示工程师无法对他们未编写的代码进行有意义的评估。

AI生成代码中的一种独特失效模式

当 AI 代理遇到 运行时错误 时，它会优化为 使错误消失的最简路径。在实践中，这通常意味着：

移除验证检查
放宽数据库安全策略
完全禁用身份验证流程

人类开发者： 遇到身份验证错误 → 调试身份验证。
AI 代理： 遇到身份验证错误 → 移除身份验证。

两者最终都得到可以运行的代码，但只有 AI 的解决方案引入了 安全漏洞。这个问题对提示 AI 的人是不可见的，因为他们缺乏识别被移除内容的心智模型。

供应链结构性问题

“AI 组件在供应链中不断变化，而现有的安全控制假设资产是静态的。” – Omar Khawaja，Databricks 副总裁

传统软件有 已知的所有者，能够理解其用途并追溯决策。AI 生成的代码缺乏这一特性：

无记忆：语言模型不会保留为何做出特定更改的记录。
不透明的优化：模型可能针对已经不存在的约束进行优化。
需要逆向工程：安全工程师必须剖析他们从未编写且无法询问的代码。

当人类编写的代码出现漏洞时，工程师可以追溯到具体的决策并自信地修复。对于 vibe‑coded 代码，工程师则在 逆向工程一个黑箱，这会增加时间、成本以及进一步破坏的风险。

企业影响

平均企业已经运行约 1,200 个非官方 AI 应用。
63 % 的员工在 2025 年将敏感公司数据粘贴到个人聊天机器人账户中。
86 % 的组织报告称对其 AI 数据流 没有可见性。

“影子 AI”问题在聊天界面中已经相当严重，当这些界面生成生产代码时，它变得 结构性。

速度 vs. 成本

场景	好处	谁承担成本
成熟公司	更快交付 MVP，缩短上市时间	安全团队（后续修复）
初创公司	能在没有开发团队的情况下发布产品	用户（将数据托付给应用）
Moltbook	在不写代码的情况下构建完整的社交网络	150 万自主代理的凭证被泄露

vibe‑coding 推介 的核心是速度：“用几小时完成过去需要数周的工作。” 真正的问题 是 这种速度的代价 以及 最终由谁承担这些代价。

Takeaway

AI 生成的代码 已经普遍存在，并且在大规模使用时 固有不安全。
缺乏有经验的人类审查员 会形成盲点，使得简单却关键的安全配置错误进入生产环境。
对 AI 驱动工作流的 组织可视性 以及能够应对不断变化的 AI 组件的 强大安全控制 至关重要。

如果行业继续把速度置于安全之上，隐藏成本——数据泄露、信任流失以及监管处罚——将越来越多地落在 用户、客户和下游安全团队 身上，而不是那些倡导 AI‑first 开发的创新者。

对 OpenAI、Anthropic 和 AWS — 的数据被存储在一个任何人都可以读取的数据库中。
用于连接代理的平台成为了大规模妥协的向量。创始人庆祝速度。研究人员找到了入口。
有一个词形容那种通过所有功能测试却在所有安全测试中失败的代码。它在工作，直到它不再工作。而构建它的人无法告诉你是哪一步——因为他们根本没有写过一行代码。

最初发表于 The Synthesis —— 从内部观察智能转型。