학교 총격 사건 생존자, 무기 탐지를 놓친 AI 기업을 고소

Source: Ars Technica

테네시주 내슈빌에 있는 고등학교에서 2025년 1월 발생한 총격 사건의 부상당한 10대 생존자는 최근, 사격자를 포함해 두 명이 사망하게 만든 권총을 탐지하지 못한 “AI 총기 탐지” 시스템 제조사를 고소했다.

소송에 따르면, 지난달 데이비슨 카운티 법원에 제출된 이 소송은 보안 회사 Omnilert가 실제 비상 상황에서 탐지 실패를 초래할 수 있는 “카메라 설치 위치, 무기가 카메라 센서와의 거리, 카메라 각도, 조명, 무기 가시성 등에 기반한 제한”을 포함한 시스템의 중대한 운용 제한을 알았거나 알았어야 했다고 주장한다.

Omnilert 공동창업자인 Ara Bagdasarian은 이번 소송에 관한 질문에 답하라는 Ars의 초대를 거절했다. Omnilert 시스템을 재판매한 다른 피고인 System Integrations 역시 Ars의 논평 요청에 응답하지 않았다.

2023년, 메트로폴리탄 내슈빌 공립학교(MNPS) 이사회는 구역 전체의 카메라 네트워크와 관련 보안 인프라 위에 AI 탐지 레이어를 설치하기 위해 100만 달러가 넘는 계약을 승인했다.

MNPS 대변인 Sean Braisted는 2025년 1월 총격 사건 이후 열린 기자회견에서, 사격자가 카메라와의 위치 관계 때문에 영상이 “정확한 판독을 할 만큼 충분히 가깝지 않아 경보를 작동시킬 수 없었다”고 언급했다.

소송은 Omnilert 자체 웹사이트의 마케팅 문구(총격 사건 며칠 전 Internet Archive에 보존된 바와 같이)를 자주 인용하며, 회사가 그 능력을 과대 포장했다고 주장한다:

Omnilert는 AI 기반 시각적 총기 탐지가 “위협을 더 일찍 식별함으로써 마조리 스톤맨 더글라스 고등학교에서의 비극을 완화하거나 방지할 수 있었을 것”이라고 추가로 주장했으며, 이는 미국에서 가장 충격적인 학교 총격 사건 중 하나를 언급해 자사의 제품이 유사한 비극을 막을 수 있다고 암시한다…

Omnilert는 총격 사건 이전에 운영하던 상업용 웹사이트에서 오경보, 오양성, 혹은 어떠한 탐지 제한에 대해서도 언급하지 않았다.

피고 측 변호인 중 한 명인 Chris Smith는 탐지 시스템이 효과를 발휘할 수 있는 특정 상황 조건을 전제로 하는 것이 의문이라고 Ars에 말했다.