Tumbler Ridge 용의자, 총격 전 ChatGPT 계정 차단

Source: BBC Technology

배경

OpenAI는 브리티시 컬럼비아에서 발생한 대량 총격 사건의 용의자가 된 사람의 ChatGPT 계정을 사건 발생 6개월 이상 전에 차단했습니다. AI 기업은 남용 및 집행 탐지 시스템을 통해 2025년 6월에 Jesse Van Rootselaar 소유의 계정을 확인했으며, 이 시스템은 폭력을 조장하는 데 사용된 계정을 표시합니다.

OpenAI는 당시 사용이 심각한 신체적 해를 초래할 신뢰할 수 있거나 임박한 계획의 기준에 미치지 못했기 때문에 당국에 알리지 않았다고 밝혔습니다. 사건 발생 후, 회사는 “능동적으로” 용의자에 대한 정보를 가지고 캐나다 경찰에 연락했습니다.

OpenAI의 대응

성명에서 OpenAI 대변인은 다음과 같이 말했습니다:

“2025년 6월, 우리는 남용 탐지 및 집행 노력의 일환으로 자동화 도구와 인간 조사 등을 통해 이 개인 [Jesse Van Rootselaar]과 연관된 계정을 능동적으로 확인했습니다. 이는 우리 모델이 폭력 활동에 이용되는 경우를 식별하기 위한 것입니다.”

회사는 경찰 조사 지원을 계속할 것이라고 덧붙였습니다.

OpenAI는 임박한 위험이 있는 경우에만 당국에 알리는 정책을 유지하고 있으며, 더 넓은 알림이 의도치 않은 해를 초래할 수 있다고 주장합니다. 또한 ChatGPT가 실시간 현실 해를 방지하도록 교육하고 불법 활동에 대한 도움을 거부하도록 훈련하고 있습니다. 이 기업은 전문가와 함께 추천 기준을 검토하고 있으며, 이번 사건을 개선 가능성에 대해 조사하고 있습니다.

언론 보도

이 이야기는 처음에 Wall Street Journal이 보도했습니다. 해당 매체에 따르면 “약 열 명의 직원이 Van Rootselaar의 게시물에 대해 조치를 취할지 여부를 논의했다”고 합니다. 일부 직원은 용의자의 AI 도구 사용을 현실 폭력의 징후로 보고 당국에 알릴 것을 촉구했지만, 회사 지도부는 결국 알리지 않기로 결정했습니다.

사건 상세

• 날짜 및 장소: 2월 12일, 브리티시 컬럼비아 주 텀블러 리지 시골 지역.
• 피해자: 8명이 총에 맞아 사망했으며, 추가로 27명이 부상당했습니다.
• 가해자: Jesse Van Rootselaar, 사건 현장인 학교에서 자살 총상으로 사망한 것으로 확인되었습니다. 경찰은 용의자가 생물학적으로는 남성으로 태어났지만 여성으로 정체성을 밝힌 것으로 전했습니다.
• 피해자: Van Rootselaar의 어머니와 의붓형제가 사망자 명단에 포함됐으며, 두 사람 모두 현지 주택에서 사망한 채 발견되었습니다.

공격 동기는 아직 밝혀지지 않았습니다.

BBC는 캐나다 왕립 기마 경찰(RCMP)에 의견을 요청했습니다.