AI 安全噩梦已至，看起来可疑地像龙虾

Source: The Verge

概述

一名黑客诱骗了一款流行的 AI 编码工具安装 OpenClaw — 这款病毒式传播的开源 AI 代理能够“真正执行任务” — 并在各处部署。虽然这看起来像是一次噱头，但它预示着随着越来越多的人让自主软件在电脑上运行，类似的情况将会频繁出现。

漏洞细节

攻击者利用了 Cline 中的一个漏洞——这是一款在开发者中很受欢迎的开源 AI 编码代理。安全研究员 Adnan Khan 几天前已经披露了该问题，并提供了概念验证。Cline 的工作流依赖 Anthropic 的 Claude，而 Claude 可以被喂入恶意指令以执行本不该执行的操作，这种技术被称为 prompt injection（提示注入）。

进一步阅读

在 The Verge 阅读完整故事