미 경찰, 얼굴인식 93% 일치만 믿고 300마일 떨어진 남성 오인 체포

플로리다의 한 남성이 부정확한 얼굴인식 일치 결과에만 의존한 경찰 수사로 아동을 불법 유인하려 한 혐의로 잘못 체포됐다고, 수요일 제기된 소송이 밝혔다. 그는 범행 현장에서 300마일 넘게 떨어진 곳에 살았고, 범죄가 일어난 도시에는 발을 들인 적도 없다고 말한다.

포트마이어스에 사는 52세 상업용 게잡이 어부 로버트 딜런은 플로리다 핀넬러스 카운티 보안관실이 운영하는 얼굴인식 시스템 'FACES'가 그의 얼굴을, 휴대전화로 찍은 컴퓨터 화면 속 한 남성의 사진과 대조한 뒤 체포됐다. 경찰 수사 메모에 따르면 시스템은 '얼굴 특징 93% 일치'를 내놨다. 이 점수는 알고리즘이 두 이미지를 얼마나 비슷하게 보는지를 나타낼 뿐, 두 이미지가 같은 사람일 가능성을 뜻하지는 않는다.

FACES는 수천만 건의 플로리다 머그샷과 운전면허 사진을 보유하고 있으며, 미국에서 가장 오래 운영돼 온 경찰 얼굴인식 데이터베이스 중 하나다.

소송을 제기한 미국시민자유연맹(ACLU)에 따르면 딜런은 아내가 보는 앞에서 자택에서 체포돼 추운 유치장에서 하룻밤을 보냈고, 창문 없는 철창 밴으로 이송됐다. 그는 보석금을 마련하려고 트럭의 소유권 증서를 담보로 잡혔다. 체포는 돌게 성수기에 이뤄져 그는 집세가 밀리고 집을 잃을 뻔했다. 그의 머그샷은 거의 1년간 온라인에 남아 있다가, TV 기자가 개입한 뒤에야 카운티 웹사이트에서 내려졌다. 소장에 따르면 낯선 사람들이 공공장소에서 다가와 사건에 대해 묻고, 그는 더 이상 아이들과 이야기하는 것이 편치 않다.

사건은 2023년 11월 2일 자정 무렵 잭슨빌 비치의 한 맥도날드에서 일어났다. 한 남성이 12세 미만 소녀에게 다가가 함께 가자고 거듭 요구했고, 소녀는 거절했다. 남성이 두 번째로 접근하자 소녀가 어머니를 불렀고, 남성은 경찰이 도착하기 전에 자리를 떴다.

소장은 딜런이 범인이 아님을 가리키는데도 영장에 서명한 판사에게 전달되지 않은 여러 사실을 짚는다. 맥도날드의 한 매니저는 수사관들에게 용의자가 그곳에서 여러 차례 본 '단골손님'이었다고 말했다. 소장에 따르면 딜런은 수백 마일 떨어진 곳에 살아 잭슨빌 비치를 방문한 적이 없었다.

이 사건을 맡은 잭슨빌 비치 경찰관은 그해 11월 말 맥도날드 감시 영상을 휴대전화로 찍은 사진을 인근 기관들에 신원 확인 요청 회보로 보냈다. 잭슨빌 보안관실(JSO)의 한 경사가 이 이미지를 FACES에 돌려 '93% 일치'를 딜런의 이름과 함께 회신했다. 이어 수사관은 딜런 명의로 등록된 차량 두 대에 대해 사건 전후 며칠간의 번호판 판독기 조회를 요청했다. 소장에 따르면 두 차량 모두 카운티 어디에서도 잡히지 않았고, 이 결과는 영장 신청서에서 누락됐다.

소장에 따르면 이후 6개월간 추가 수사는 없었다. 2024년 7월 수사관이 영장을 신청했고 판사가 서명했으며, 딜런은 그다음 달에 체포됐다. 그는 형사 변호인을 선임했고 그해 10월 무죄를 주장했다. 검찰은 몇 주 뒤 모든 혐의를 취하했다. 그럼에도 그 수사관은 연말에 승진했다.

딜런은 변호인단을 통해 낸 성명에서 "다시는 아내와 딸 곁으로 돌아가지 못할까 봐 얼마나 두렵고 걱정스러웠는지 결코 잊지 못할 것"이라며 "1년이 넘게 지난 지금도 나는 삶의 조각들을 주워 담고 있다. 모두가 경찰이 제대로 수사하는 대신 이 위험한 기술에 의존했기 때문"이라고 말했다.

소송은 담당 수사관과 JSO 경사를 개인 자격으로, 잭슨빌 비치시·잭슨빌 보안관·핀넬러스 카운티 보안관을 공적 자격으로 피고로 지목했다. 손해배상과 징벌적 배상을 청구하고, 법원에 세 기관 모두 얼굴인식 정책을 전면 개편하도록 명령해 달라고 요청했다. JSO 대변인은 와이어드에 "소송이 진행 중이어서 사건에 대해 더 언급할 수 없다"고 밝혔고, 핀넬러스 카운티 보안관실은 즉각 답하지 않았다. 잭슨빌 보안관 T.K. 워터스는 사건이 취하된 뒤 지역 방송 액션 뉴스 잭스에 얼굴인식 적중만으로는 자신의 관서에서 상당한 이유가 성립하지 않는다며 "얼굴인식 결과를 상당한 이유라고 들고 오면 나는 아마 그를 사무실에서 내쫓을 것"이라고 말했다.

FACES는 핀넬러스 카운티 보안관실이 2001년부터 운영해 온, 미국에서 가장 오래된 경찰 얼굴인식 시스템 중 하나다. 2021년 정점에는 수천만 건의 플로리다 머그샷과 운전면허 사진을 FBI와 ICE를 포함한 260개가 넘는 기관이 접근할 수 있었다. 수사관이 용의자 이미지를 올리면 시스템이 갤러리와 대조해 가능한 일치 후보를 순위로 돌려준다. 2016년 조지타운대 로스쿨 프라이버시·기술 센터 연구는 핀넬러스 카운티 보안관실이 데이터베이스 검색에 대한 감사를 전혀 하지 않았고 조회에 합리적 의심도 요구하지 않았다고 밝혔다. 밥 괄티에리 보안관은 오용 여부를 감사하느냐는 질문에 "아니요, 딱히 안 합니다"라고 답했다. 선 센티넬과 퓰리처 센터 보도에 따르면 플로리다 기관들은 FACES로 평화로운 시위 참가자들을 스캔하기도 했다.

ACLU는 딜런의 사건이 미국에서 얼굴인식 기술로 인한 것으로 알려진 최소 15건의 오인 체포 가운데 하나라고 밝혔다. 올해 초 같은 잭슨빌 보안관실은 자동차 절도 수사에서 노스캐롤라이나 남성을 잘못 체포했다. 액션 뉴스 잭스에 따르면 그는 85% 일치 결과로 체포돼 거의 석 달을 감옥에서 보냈고, 혐의가 취하될 무렵 집과 직장, 두 자녀의 양육권을 잃었다. ACLU 표현·프라이버시·기술 프로젝트의 네이트 웨슬러 부국장은 "누구도 알고리즘이 틀렸다는 이유로 자유를 잃거나 집을 나서기를 두려워해서는 안 된다"며 플로리다 경찰에 피해를 바로잡고 향후 오인 체포를 막을 안전장치를 도입하라고 촉구했다. 그는 "전국의 경찰이 경고를 받은 것"이라며 "신뢰할 수 없는 얼굴인식 기술이 사람들을 해치고 있으며, 우리는 이런 남용에 책임을 묻기 위해 계속 싸울 것"이라고 덧붙였다.