AI 총기탐지 실패로 총격 못 막아…생존 학생, 옴니레르트 고소

2025년 1월 미국 테네시주 내슈빌의 한 고등학교에서 발생한 총격 사건의 부상 생존 학생이, 권총을 탐지하지 못한 'AI 총기탐지' 시스템 제조사를 상대로 최근 소송을 제기했다. 이 총격으로는 총격범을 포함해 두 명이 숨졌다.

지난달 데이비드슨 카운티 법원에 제출된 소장에 따르면, 보안업체 옴니레르트(Omnilert)는 자사 총기탐지 시스템에 '실제 비상 상황에서 탐지 실패로 이어질 수 있는 중대한 운영상 한계'가 있다는 점을 알았거나 알았어야 했다. 소장은 카메라 설치 위치, 무기와 카메라 센서 간 거리, 카메라 각도, 조명, 무기 노출 정도 등을 그러한 한계로 들었다.

옴니레르트 공동창업자 아라 바그다사리안은 소송에 관한 질문에 답하기를 거부했다. 옴니레르트 시스템을 재판매한 또 다른 피고 시스템 인테그레이션스(System Integrations)도 입장을 내지 않았다.

앞서 2023년 메트로폴리탄 내슈빌 공립학교(MNPS) 이사회는 교육구 전역의 카메라망과 보안 인프라 위에 AI 탐지 계층을 얹는 100만 달러 이상 규모의 계약을 승인했다.

MNPS 대변인 숀 브레이스테드는 2025년 1월 총격 직후 기자회견에서, 총격범이 카메라와 떨어진 위치에 있었던 탓에 영상이 '정확히 판독해 경보를 울릴 만큼 가깝지 않았다'고 말했다.

소장은 총격 며칠 전 인터넷 아카이브에 보존된 옴니레르트 자사 웹사이트의 마케팅 문구를 자주 인용하며, 회사가 자사 성능을 과대 포장했다고 주장한다.

소장에 따르면 옴니레르트는 AI 기반 시각적 총기탐지가 위협을 더 일찍 식별해 '마조리 스톤맨 더글러스 고등학교의 비극을 완화하거나 막을 수 있었다'고 표현했다. 미국에서 가장 참혹한 학교 총격 사건 중 하나를 끌어들여 자사 제품이 유사한 비극을 막아줄 것처럼 전달했다는 것이다.

소장은 또한 총격 이전의 옴니레르트 상업용 웹사이트가 오경보나 오탐지, 어떤 종류의 탐지 한계도 전혀 언급하지 않았다고 지적한다.

원고 측 변호인 중 한 명인 크리스 스미스는 탐지 시스템이 효과를 내는 특정 상황 조건을 미리 설정해 두는 방식 자체가 문제라고 아르스 테크니카에 말했다.