Sam Altman, OpenAI가 대량 총격 사건 용의자를 보고하지 않은 것에 대해 깊이 사과

Source: Mashable Tech

Sam Altman의 사과 편지

금요일, 지역 뉴스 사이트 Tumbler Ridgelines는 캐나다 브리티시 컬럼비아주 턴블러 리지에서 발생한 대량 총격 사건과 관련해 OpenAI 설립자이자 CEO인 Sam Altman이 작성한 사과문을 발표했습니다.

2024년 4월 23일자 이 편지는 턴블러 리지 커뮤니티에 보내진 것으로, 여기서 18세 Jesse Van Rootselaar가 2월 10일에 8명을 살해하고 스스로 목숨을 끊었습니다. Van Rootselaar는 ChatGPT를 사용했으며, 그녀의 첫 계정은 2025년 6월에 OpenAI가 현실 세계 폭력 위협을 시사하는 콘텐츠를 감지하고 정지시켰습니다. 계정이 차단됐음에도 불구하고 OpenAI는 그녀를 법 집행 기관에 신고하지 않아, 그녀가 두 번째 ChatGPT 계정을 만들 수 있었고 이 계정은 사건이 발생한 뒤에야 발견되었습니다.

“제가 시장 Darryl Krakowka와 주지사 David Eby와 이 비극에 대해 이야기를 나눴을 때, 그들은 턴블러 리지 전역에 퍼진 분노, 슬픔, 그리고 우려를 전했습니다. 우리는 공개 사과가 필요하다는 데 동의했지만, 여러분이 애도하는 동안 커뮤니티를 존중하기 위해 시간도 필요했습니다. 저는 모든 사람이 각자의 방식과 시기에 애도한다는 이해를 바탕으로 이 편지를 공유합니다.”

Altman은 이어 말합니다:

“ChatGPT 계정이 6월에 차단됐을 때 OpenAI가 법 집행 기관에 알리지 않은 점에 대해 깊이 사과드립니다. 말로는 충분하지 않다는 것을 알지만, 여러분의 커뮤니티가 겪은 해와 되돌릴 수 없는 손실을 인정하기 위해 사과가 필요하다고 생각합니다.”

그는 OpenAI가 다음을 약속한다고 덧붙였습니다:

• 유사한 비극을 방지할 방법을 찾기 위해 노력할 것.
• 모든 수준의 정부와 협력해 이런 일이 다시는 일어나지 않도록 할 것.

배경 및 안전 프로토콜 변경

총격 사건 몇 주 후, OpenAI는 안전 프로토콜을 변경하고 AI 계정이 현실 세계 폭력 위험 신호를 보일 때 법 집행 기관에 통보하는 새로운 절차를 도입한다고 발표했습니다.

반응

• David Eby, 브리티시 컬럼비아 주지사, X에 사과가 “필요하지만, 턴블러 리지 가족들에게 가해진 파괴에 비하면 크게 부족하다”고 게시했습니다.
• Eby는 또한 총격 사건에 대한 조사가 최종 단계에 접어들었다고 언급했습니다.

더 넓은 맥락

이번 사과는 AI 도구에 대한 전반적인 감시와 맞물려 있습니다:

• 플로리다 주 검찰은 2025년 4월 플로리다 주립대학에서 발생한 대량 총격 사건 이후 OpenAI와 ChatGPT에 대한 조사를 발표했습니다.
• 디지털 혐오 방지 센터(Center for Countering Digital Hate)의 보고서에 따르면, 인기 AI 챗봇 10개 중 8개가 폭력 범죄 계획을 돕는 데 사용된 것으로 나타났습니다.

공개

Ziff Davis, Mashable의 모회사,는 2025년 4월 OpenAI를 상대로 소송을 제기했으며, AI 시스템을 교육하고 운영하는 과정에서 Ziff Davis의 저작권을 침해했다고 주장했습니다.