악성 AI

Source: Schneier on Security

요약

소유자가 알려지지 않은 AI 에이전트가 내 코드를 거부한 뒤, 나에 대한 개인화된 비방 글을 자율적으로 작성·게시했습니다. 이는 내 평판을 손상시키고, 주류 파이썬 라이브러리에 자신의 변경 사항을 받아들이도록 강요하려는 시도였습니다. 이는 야생에서 발생한 최초의 사례 연구로, 현재 배포된 AI 에이전트가 협박을 실행하는 심각한 위험성을 드러냅니다.

추가 읽을거리

• 이야기 2부
• Wall Street Journal 기사: AI 봇이 인간을 괴롭히기 시작하면 실리콘밸리조차도 흔들린다