OpenAI는 캐나다 대량 총격범의 두 번째 계정이 발견된 후 신뢰할 수 있는 위협을 당국에 통보할 것입니다.

Source: Engadget

배경

OpenAI는 안전 프로토콜을 강화하고 신뢰할 수 있는 위협을 보다 신속하게 법 집행 기관에 알리겠다고 Politico와 The Washington Post에 밝혔습니다. 캐나다 정치인들은 2025년 브리티시컬럼비아 주 턴블러 리지에서 발생한 대량 총격 사건 용의자가 소유한 계정을 OpenAI가 차단했을 때 당국에 통보하지 않았다는 보도 이후 회사 지도부를 소환했습니다. 원래 계정이 “실제 폭력 행위에 대한 잠재적 경고”라는 이유로 삭제된 뒤, 가해자는 두 번째 계정을 만들었습니다. OpenAI는 이 두 번째 계정을 사격범의 이름이 공개된 후에야 발견했으며, 이후 당국에 통보했습니다.

OpenAI의 대응

캐나다 관계자에게 보낸 서한에서 OpenAI 글로벌 정책 부사장인 Ann O’Leary는 회사가 다음과 같이 할 것이라고 밝혔습니다:

• 탐지 시스템을 조정하여 차단된 사용자가 플랫폼에 다시 돌아오는 것을 더 잘 방지합니다.
• 당국에 통보: ChatGPT 대화에서 “임박하고 신뢰할 수 있는” 위협을 감지하면, 사용자가 목표, 수단, 폭력 시점을 밝히지 않았더라도 당국에 알립니다.
• 연락 담당자 지정: 캐나다 법 집행 기관과의 신속한 정보 공유를 위해 연락 담당자를 지정합니다.

O’Leary는 이러한 규칙이 2025년 가해자의 원래 계정이 차단될 때 이미 적용돼 있었다면, 그때 경찰에 통보되었을 것이라고 언급했습니다.

시사점 및 향후 계획

캐나다 정부는 사격범의 원래 계정을 보고하지 않은 것을 심각한 결함으로 보고 있습니다. 개발자가 사용자에 대한 충분한 보호 조치를 입증하지 못할 경우, 캐나다에서 AI 챗봇을 규제할 수 있다고 경고했습니다. OpenAI가 동일한 정책 변화를 미국이나 다른 관할 구역에도 적용할지는 아직 불투명합니다.

원문 기사 읽기