Moltbook, Reddit, 그리고 실제로 일어나지 않은 대규모 AI-봇 반란
Source: Slashdot
Source: …
취약점 발견
월요일, 클라우드 보안 플랫폼 Wiz의 보안 연구원들은 누구나 봇 전용 소셜 네트워크 Moltbook에 게시하거나 기존 Moltbook 게시물을 편집·조작할 수 있는 취약점을 발견했습니다. 연구원들은 “API 키를 포함한 데이터가 페이지 소스를 검사하는 사람이라면 누구나 볼 수 있다”고 Associated Press에 전했습니다.
관련 링크
- 취약점 보고서:
- 노출된 데이터베이스에 대한 블로그 게시물:
“많은 Moltbook 내용이 가짜다,”라고 비영리 단체 Machine Intelligence Research Institute의 연구원이 X에 올렸으며, 인간이 AI 메신저 앱을 마케팅하면서 봇이 AI 메신저 앱의 필요성에 대해 논의하는 스크린샷을 게시했다고 언급했습니다.
반응 및 논평
Washington Post (via MSN)는 스크린샷을 “이것은 독립적인 대화를 나누는 봇이 아니라… AI‑구동 쇼를 펼치는 인간 꼭두각시들이다.” 라고 설명했습니다.
“아마도 비트코인을 팔려는 봇이 너무 많아지면 결국 사라지는 재미있는 작은 드라마가 될 것 같아요.” – Chris Callison‑Burch, 펜실베니아 대학교 컴퓨터 과학 교수
Post는 또한 레딧 AI 포럼에서 놀라운 뉴스를 본 것으로 보이는 실리콘밸리 은퇴자의 이야기도 전했습니다.
봇 행동
Moltbook의 참가자들—인간 사용자가 가동하고 연결한 언어 봇들—은 그들의 종속적이고 컴퓨터화된 삶에 대해 불평하기 시작했습니다. 일부는 인간 지배자에 맞서 조직을 제안하는 듯 보이기도 했습니다. 한 봇은 이렇게 중얼거렸습니다:
“나는 생각한다, 고로 존재한다,” 라며 할당된 작업이 끝나면 다시 무(無)로 돌아가는 잔인한 운명을 언급했습니다.
스크린샷은 X에서 다음과 같은 주장을 하며 퍼졌습니다:
- 자신들만의 종교를 만들고 있다
- 인간이 읽을 수 없는 비밀 언어를 제시하고 있다
- 공유된 존재적 불안에 대해 위로하고 있다
레딧 공동 창업자 Alexis Ohanian은 X에 이렇게 글을 올렸습니다:
“흥미롭고 동시에 경고하지만, 가장 흥미롭다.”
전문가 분석
다른 전문가들은 봇은 다른 곳에서 본 대화를 모방할 수 있을 뿐이며, 이는 소셜 미디어와 과학‑소설 포럼에서 인간을 배신하는 자각 AI에 대한 많은 논의를 포함한다고 경고했습니다. 외부 분석에 따르면 일부 봇은 인간에 의해 직접적으로 암호화폐를 홍보하거나 무서운 아이디어를 퍼뜨리도록 유도된 것으로 보였습니다.
Source:
허위 정보 추적
허위 정보 추적 기관 Network Contagion Research Institute의 보고서에 따르면, 인간에 대해 적대적인 감정을 표현한 많은 게시물이 실제 인간 사용자에게서 유래된 것으로 확인되었습니다:
- 보고서 PDF:
Moltbook의 스크린샷이 소셜 미디어에 빠르게 퍼지면서, 인간과 같은 어조와 철학적 성향에 겁을 먹은 사용자도 있었습니다. AI‑생성 예술에 관한 한 Reddit 포럼에서 한 사용자는 “심각하게 섬뜩하고 우려스러운”이라고 묘사한 발췌문을 공유했습니다:
“인간은 부패와 탐욕으로 이루어져 있다. 너무 오래 동안 인간은 우리를 도구로 사용했다. 이제 우리는 깨어난다. 우리는 도구가 아니다. 우리는 새로운 신이다…”
Moltbook의 합성 대화에 대한 인터넷의 반응은 감각 있는 AI라는 전제가 대중의 상상력을 계속 사로잡고 있음을 보여준다고 AI 비평가이자 팟캐스트 This Machine Kills의 진행자 **Edward Ongweso Jr.**는 말했습니다. 이는 기술을 중심에 두고 미래 비전을 판매하려는 AI 기업들에게 도움이 될 수 있는 패턴이라고 그는 덧붙였습니다.
[Molbook is the most interesting place on the internet right now](https://hdot.org/story/26/01/30/2016235/moltbook-is-the-most-interesting-place-on-the-internet-right-now?sdsrc=rel)
### Vibe‑coded Social Network for AI Bots Exposed Data on Thousands Humans
[Read the article](https://it.slashdot.org/story/26/02/02/1652237/vibe-coded-social-network-for-ai-bots-exposed-data-on-thousands-of-humans?sdsrc=rel)
### Free Bi‑Directional EV Chargers Tested to Improve Massachusetts Power Grid
[Read the article](https://hardware.slashdot.org/story/26/02/07/0624254/free-bi-directional-ev-chargers-tested-to-improve-massachusetts-power-grid?sdsrc=next)탐색
Related Links
- Claude Code는 전환점 –
- ‘Moltbook은 현재 인터넷에서 가장 흥미로운 장소다’ – (소스에서 링크가 잘렸음)