트럼프, AI 모델 출시 전 정부와 공유하는 자율 검토 행정명령 서명

도널드 트럼프 미국 대통령이 화요일 AI 기업이 프런티어 모델을 출시 전에 연방정부와 공유하도록 하는 '자발적 프레임워크'를 담은 행정명령에 서명했다. 명령은 '안전한 혁신을 촉진하고 핵심 인프라의 사이버보안을 강화하기 위한' 것이라고 밝혔다.

다만 정부와 정보를 공유할지 여부는 AI 기업의 결정에 달려 있다.

행정명령은 미국 AI 산업이 '과도하게 부담스러운 규제로 이 혁신을 억누르기를 거부했기 때문에' 성공했다고 하면서도, 새로운 AI 역량에는 보안 위험이 따른다는 점을 인정했다. 이에 여러 연방기관에 모델 공개 전 'AI 모델의 고급 사이버 역량을 평가'할 프레임워크를 마련하도록 지시했다.

기업은 출시 전 모델 공유 여부를 재량으로 정할 수 있지만, 공유를 택하면 일정한 기밀 보호를 받을 수 있다. 명령은 또 연방정부가 특히 핵심 인프라를 위한 AI 사이버 방어를 준비하도록 요구했다.

이번 서명은 트럼프가 중국과의 경쟁에 '방해가 될' 수 있다고 우려해 앞서 계획했던 행정명령 서명을 막판에 미룬 뒤 나왔다. 뉴욕타임스에 따르면 이전 버전은 AI 기업이 출시 14~90일 전 자발적으로 모델을 공유하도록 했으나, 이번 버전은 공개 최대 30일 전 공유를 요청한다.

구글·마이크로소프트·xAI는 지난달 상무부 산하 AI 표준혁신센터(CAISI)의 출시 전 검토를 허용하기로 합의했다. OpenAI와 앤스로픽은 이미 2024년 바이든 행정부 시절 AI 안전장치 추진의 일환으로 CAISI와 모델을 공유하기로 합의한 바 있다.

최근까지 트럼프 행정부는 데이비드 색스 전 백악관 AI 차르 체제에서 안전 우려를 경시하며 불간섭 기조를 취했다. 화요일 서명된 명령은 이를 의무 라이선스나 사전 승인의 형태로 받아들여서는 안 된다고 명시했지만, AI 기업에 대한 감독 의지를 일부 드러냈다.

이런 변화의 한 요인으로는 앤스로픽이 4월 제한적으로 공개한 강력한 모델 '미토스(Mythos)'가 꼽힌다. 회사는 이 모델이 '모든 주요 운영체제와 웹 브라우저의 일부를 포함해 수천 건의 고위험 취약점'을 찾아냈다고 밝혔다. 미토스는 또 자율 살상무기·대량 감시에 AI를 쓴 문제로 국방부와 법적 다툼을 벌였던 앤스로픽과 행정부 사이 긴장을 누그러뜨릴 계기가 된 것으로 보인다.

새로 서명된 명령은 주 단위 AI 법 규제에 반대해 온 단체들로부터도 호평을 받았다. '책임 있는 혁신을 위한 미국인(ARI)'의 브래드 카슨 회장은 '백악관이 공식적으로 미토스에 설득됐다'며 행정부가 AI 취약점을 진지하게 받아들이고 있음을 보여준다고 평했다. '안전한 AI를 위한 동맹'의 브렌던 스타인하우저 CEO도 환영의 뜻을 밝혔으며, 두 사람 모두 의회가 의무적 보호 조치를 법제화할 것을 촉구했다.