구글, 美 국방부와 'any lawful' 용도 AI 기밀 계약 체결 보도… 직원 공개서한 하루 뒤, 거부권 없이 기존 계약 개정

구글이 미국 국방부(DoD)와 자사 AI 모델을 "모든 합법적 정부 목적(any lawful government purpose)"으로 사용할 수 있게 허용하는 기밀 계약에 서명했다고 디 인포메이션(The Information)이 보도했다. 이번 계약 보도는 구글 직원들이 순다르 피차이 CEO에게 펜타곤의 자사 AI 활용을 차단해 달라고 공개적으로 요구한 지 하루도 채 지나지 않은 시점에 나왔다.

직원들은 펜타곤이 구글 AI를 "비인도적이거나 극도로 해로운 방식(inhumane or extremely harmful ways)"으로 사용할 수 있다는 우려를 제기한 바 있다. 보도가 사실로 확인될 경우, 구글은 OpenAI, xAI와 나란히 미국 정부와 기밀 AI 계약을 맺은 기업 명단에 이름을 올리게 된다.

앤스로픽(Anthropic) 역시 한때 같은 명단에 포함됐으나, 국방부가 무기·감시 관련 가드레일 제거를 요구하자 이를 거부한 끝에 펜타곤 블랙리스트에 오른 것으로 알려졌다.

디 인포메이션이 "상황을 알고 있는" 익명 소스 한 명을 인용해 보도한 바에 따르면, 양 당사자는 구글 AI 시스템이 "적절한 인간 감독과 통제(appropriate human oversight and control)" 없이 국내 대량 감시나 자율 무기에 사용되지 않아야 한다는 데 합의했다.

그러나 같은 계약서에는 구글에 "합법적 정부 작전 의사결정을 통제하거나 거부할 어떠한 권리도 부여하지 않는다"는 조항이 포함돼 있어, 합의된 제한 사항이 법적 구속력 있는 의무라기보다 단순한 약속에 가깝다는 해석이 가능하다. 또한 계약은 정부 요청 시 구글이 자사 AI 안전 설정과 필터를 조정하도록 지원해야 한다고 명시한다.

구글 대변인은 디 인포메이션에 보낸 성명에서 "국가 안보를 지원하는 AI 서비스와 인프라를 제공하는 선도적 AI 연구소·기술·클라우드 기업으로 구성된 광범위한 컨소시엄의 일원이 된 것을 자랑스럽게 생각한다"고 밝혔다. 이어 이번 합의가 기존 정부 계약의 개정안이라고 덧붙였다.

구글은 또한 "AI는 적절한 인간 감독 없이 국내 대량 감시나 자율 무기에 사용돼서는 안 된다는 민관 공감대에 변함없이 헌신하고 있다"고 입장을 밝혔다.

이번 보도는 4월 28일 업데이트되었으며, 구글이 처음 로이터에 제공한 성명 대신 디 인포메이션에 제공한 성명으로 교체된 것으로 전해졌다.