메타 AI 챗봇 해킹

출처: Schneier on Security

사건 개요

해커들이 Meta의 AI 지원 챗봇을 설득해 다른 사람들의 Instagram 계정을 탈취하고 있습니다. 자세한 내용은 여기를 참고하세요.

X에 올라온 동영상에서는 다음과 같은 단계별 과정을 보여줍니다:

1. 공격자는 VPN을 사용해 대상의 위치를 가장해 Instagram 자동 방어 시스템을 회피했습니다.
2. Meta AI 지원 어시스턴트와 채팅을 시작하고, 봇에게 대상 계정에 새 이메일 주소를 추가해 달라고 요청했습니다.
3. 챗봇은 공격자가 제공한 이메일 주소로 인증 코드를 전송했습니다.
4. 공격자는 그 인증 코드를 챗봇에 전달했고, 챗봇은 “비밀번호 재설정” 버튼을 표시했습니다.
5. 공격자는 새 비밀번호를 입력해 피해자의 계정을 장악했습니다.

Instagram의 대응

월요일에 Instagram 대변인 Andy Stone은 해당 게시물에 대한 답변에서 문제가 해결됐다고 밝혔습니다. 그러나 얼마나 많은 Instagram 사용자의 계정이 부당하게 접근당했는지는 아직 명확하지 않습니다.

시사점

이번 특정 기법은 차단된 것으로 보이지만, 클래스 전체로 완화할 수 없는 다른 많은 공격 경로가 존재합니다. 더 큰 우려는 대형 언어 모델(LLM) 챗봇이 아직 계정 복구와 같은 민감한 용도에 충분히 신뢰할 수 없다는 점입니다.

추가 보도는 다음 기사에서 확인할 수 있습니다: Hackers simply asked Meta AI to give them access to high‑profile Instagram accounts – it worked.