더 버지 '프로젝트 메이븐, 미군에 AI를 가르치다'… 이란 공습 첫날 1,000건·LLM 결합시 하루 5,000건, 여학교 오인 폭격 150명 사망

더 버지(The Verge)가 카트리나 맨슨(Katrina Manson) 기자의 신간 'Project Maven: A Marine Colonel, His Team, and the Dawn of AI Warfare'를 토대로 미군의 AI 표적 시스템 '메이븐 스마트 시스템(Maven Smart System)'의 발전사를 조명했다. 미군은 이란 공습 첫 24시간 동안 1,000곳 이상을 타격했는데, 이는 20여 년 전 이라크 "충격과 공포" 작전 규모의 거의 두 배에 달한다. 이 가속을 가능케 한 핵심 시스템이 메이븐이다.

프로젝트 메이븐은 2017년 드론 영상에 컴퓨터 비전을 적용하는 실험으로 출발했다. 초기 계약자였던 구글은 2018년 직원 항의 시위 끝에 사업에서 철수했고, 이후 메이븐은 해병대 정보장교 드루 쿠코르(Drew Cukor) 대령의 주도로 팰런티어(Palantir)가 구축을 맡았다. 시스템은 마이크로소프트, 아마존, 앤스로픽 등의 기술도 활용한다.

메이븐은 위성 영상, 레이더, 소셜미디어 등 수십 종의 데이터 소스를 통합해 전장의 표적을 식별하며, 미군 전 부대에서 운용되고 최근에는 NATO도 도입했다. 컴퓨터 비전과 워크플로우 관리 시스템을 결합해 표적을 무기와 매칭하고 표적화 사이클의 다음 단계로 빠르게 넘어갈 수 있도록 한다. 한 관계자는 맨슨에게 "과거 하루 100건 미만이던 타격 처리량이 1,000건으로 늘었고, LLM이 더해지면서 하루 최대 5,000건까지 가능해졌다"고 전했다.

이란 공습 첫날 1,000개 표적 중 하나로 여학교가 타격받아 어린이를 포함해 150명 이상이 숨졌다. 해당 시설은 과거 이란 해군기지의 일부였으나 온라인에는 학교로 등록돼 있었고, 위성영상에서도 놀이터가 확인됐다. 사건 이후 보도 상당수는 Claude의 환각 가능성에 초점을 맞췄지만, 기술사학자 케빈 베이커(Kevin Baker)는 가디언 기고에서 "챗봇이 아이들을 죽인 것이 아니다. 누군가 데이터베이스를 업데이트하지 못했고, 또 다른 누군가가 그 실패를 치명적으로 만들 만큼 빠른 시스템을 만들었을 뿐"이라며 메이븐의 가속화 자체를 더 본질적인 문제로 지목했다.

맨슨의 취재에 따르면 쿠코르 대령은 아프가니스탄 전쟁 당시 엑셀과 파워포인트에 흩어진 정보 도구의 한계에 좌절했고, 일선 병력에 정보를 공급하는 분석 도구를 만들고자 했다. 그가 구상한 "흰 점(white dots)" 개념은 지도 위에 좌표·고도·기존 정보가 결합된 점을 표시하는 인터페이스로, 메이븐의 핵심 모티프가 됐다. 메이븐 초기에는 드론 수집 영상의 4%만이 분석되고 있었기에, AI로 인간의 눈을 대체하는 것이 일차 목표였다.

구글의 이탈 이후 마이크로소프트와 AWS가 알고리즘 생산과 컴퓨팅에서 더 큰 역할을 맡았고, 팰런티어는 사용자 인터페이스 개발을 시작으로 사업에 합류했다. 맨슨에 따르면 메이븐 스마트 시스템은 9월 말까지 "기록 프로그램(program of record)"으로 격상될 예정이며, 팰런티어가 주(主)계약자로서 장기적으로 큰 수익을 거두게 된다. 우크라이나 전장은 분기점이 됐다. 미군 18공정군단이 독일 비스바덴에서 메이븐 스마트 시스템의 컴퓨터 비전으로 러시아 진지와 전차 위치를 파악하면서 정보가 작전과 표적으로 직결되는 흐름이 분명해졌다.

맨슨은 또한 자폭형 드론 제트스키처럼 표적 식별·파괴를 자율적으로 수행할 수 있는 완전 자율 무기 개발 프로그램들도 추적했다고 밝혔다. 미국이 중국과의 잠재적 분쟁을 염두에 두고 "전쟁이 인간의 사고 속도를 추월할 것"이라는 전제 위에 메이븐을 키워 왔다는 점에서, 시스템의 가속은 앞으로 더 빨라질 것으로 보인다.