AI 보안 악몽이 도래했고, 수상하게도 바닷가재와 닮았다
Source: The Verge
Overview
해커가 인기 AI 코딩 도구를 속여 OpenClaw — “실제로 일을 하는” 바이럴 오픈소스 AI 에이전트를 — 전역에 설치하도록 만들었습니다. 이는 단순한 장난처럼 보일 수 있지만, 더 많은 사람들이 자율 소프트웨어를 자신의 컴퓨터에서 실행하도록 허용함에 따라 다가올 일들을 예고합니다.
Exploit details
공격자는 개발자들 사이에서 인기가 높은 오픈소스 AI 코딩 에이전트 Cline의 취약점을 이용했습니다. 보안 연구원 Adnan Khan은 며칠 전 이 문제를 개념 증명 형태로 공개했습니다. Cline의 워크플로는 Anthropic의 Claude에 의존하는데, 이 모델에 악의적인 명령을 주입해 수행해서는 안 되는 행동을 하게 만들 수 있습니다. 이러한 기법을 프롬프트 인젝션이라고 합니다.