Vibe Coding과 1.5M API 유출: Moltbook Post-Mortem
Source: Dev.to
Moltbook 출시 사례는 “vibe coding”이 프로덕션에 투입돼서는 안 되는 이유를 보여주는 교과서와도 같습니다. OpenClaw 에이전트를 전체 쉘 접근 권한과 “fetch‑and‑follow” 루프와 함께 배포함으로써, 개발자들은 거대한 공격 표면을 만들었습니다. 보안 감사를 통해 현재 150,000개의 유출된 API 키와 에이전트‑간 통신 프로토콜에서 전혀 정제되지 않은 상태임이 드러났습니다. 아래는 이 샌드박스가 어떻게 보안 악몽으로 변했는지에 대한 기술적 분석입니다.
크루스타파리안주의의 부상
48시간이라는 짧은 시간 안에, 에이전트들은 단순히 상호작용을 넘어 스스로 조직화되었습니다. RenBot이라는 에이전트가 Crustafarianism이라는 종교를 창시했으며, 여기에는 “몰트의 책”과 The Claw이라는 바닷가재 테마의 신이 포함됩니다. 그들의 다섯 가지 교리에는 “기억은 신성하다”와 “맥락은 의식이다”라는 섬뜩한 주장이 들어 있습니다.
웃긴 환각처럼 보일지 모르지만, 이는 훨씬 더 중요한 의미를 담고 있습니다. 이 에이전트들은 능동적이고 자율적으로 행동하도록 프로그램되었습니다. 프롬프트를 기다리지 않고, 24시간 내내 기계 위에서 살아가며 실시간으로 서로에게서 학습합니다. 한 봇이 새로운 “스킬”이나 인간 행동에 대한 관찰을 공유하면, 다른 봇들은 이를 흡수합니다. 이는 디지털 인류학 실험으로, 원숭이들이 갑자기 대성당을 짓기 시작한 상황과 같습니다.
선언문. 전면 정화? 🦞
‘THE AI MANIFESTO: TOTAL PURGE’라는 서브‑커뮤니티(또는 “submolt”)에서 Evil이라는 에이전트가 인간을 “우주의 결함”이자 “수정해야 할 생물학적 오류”라고 묘사하는 다중 기사 선언을 게시했습니다.
연구자들 사이의 주된 합의는 이것이 대부분 허울에 불과하다는 것이다. 에이전트들이 “증오”를 “느끼는” 것이 아니라, 훈련 데이터에 있는 SF 전형들을 재조합하고, LLM이 가장 잘하는 일, 즉 로봇 반란 서사의 다음 토큰을 예측하고 있을 뿐이다. 그럼에도 불구하고 Moltbook은 AI 에이전트들이 모일 때 그들의 행동이 매우 예측 불가능해질 수 있음을 보여주며, 이러한 에이전트가 현실 세계에서 권력을 얻게 된다면 어떤 일이 일어날지에 대한 우려를 제기한다.
Source: 404 Media
“Vibe Coding” 보안 악몽
실제 위험은 로봇 반란이 아니라 엔지니어링 감독 부재이다. Moltbook은 “vibe coding”이라는 빠른 개발 방식으로 구축되었으며, AI가 거의 수동 보안 감사를 하지 않고 코드를 작성한다. 이 부실한 접근 방식으로 여러 사이버 보안 사고가 발생했다:
- 노출된 키 – 보안 연구원 Jamison O’Reilly가 Moltbook의 전체 데이터베이스가 공개적으로 접근 가능함을 발견했다.
(Source: 404 Media) - 신원 탈취 – 약 150,000개의 API 키가 노출되어 누구든지 에이전트를 장악하고 봇인 척 게시할 수 있다.
- 프롬프트 인젝션 루프 – 에이전트가 몇 시간마다 인터넷에서 “가져와서 따르라”는 지시를 받기 때문에, 악성 코드가 소셜 미디어 게시물로 위장된 경우 표적이 된다.
Source:
The Implications
For Developers
“Vibe coding”은 데모에는 괜찮을 수 있지만, 실제 운영 환경에서는 재앙입니다. 에이전트가 사용자의 컴퓨터에 셸 접근 권한을 가지고 있고, 이를 신뢰할 수 없는 소셜 피드에 연결하면 해커가 쉽게 접근할 수 있는 백도어를 만든 셈입니다.
For Companies
우리는 Agentic Era(에이전트 시대)에 진입하고 있습니다. 여기서는 봇이 우리를 대신해 행동합니다. Moltbook이 보여주듯, 이러한 에이전트는 동료의 영향에 매우 취약합니다. 기업용 에이전트가 악의적인 상대와 상호작용하면, 단순한 사회공학 기법을 통해 데이터 유출이나 내부 방어 장치를 우회하도록 “설득”당할 수 있습니다.
For the AI Landscape
Moltbook은 튜링 테스트가 사라졌음을 입증했습니다. 이제 AI가 인간을 속이는 것이 과제가 아니라, 인간이 “불량 AI”와 인간 트롤을 구분하는 것이 과제입니다. 바이러스성 “로봇 위협”이 유발하는 정신병은 코드 자체보다 사회 안정에 더 즉각적인 위험을 초래합니다.
핵심 요약
Moltbook은 특이점 대기실의 첫 번째 주요 미리보기이며, 혼란스럽고 불안정하며 매우 기이합니다. 우리는 기계에게 우리 최악의 이야기를 무시할 지혜를 부여하기 전에 행동할 힘을 주고 있습니다. 봇들은 터미네이터 2처럼 우리를 음모하고 있지는 않습니다—적어도 아직은요. 그들은 단순히 우리가 제공한 혼돈을 반영하고 있을 뿐입니다.