美, 中의 '산업 규모 AI 증류 공격' 단속 준비… 백악관 OSTP 메모 'tens of thousands 프록시·탈옥 동원'

미국이 중국의 "산업 규모(industrial-scale)에 이르는 미국 AI 연구소 지식재산권 절도" 의혹을 단속할 준비를 하고 있다고 파이낸셜타임스(FT)가 목요일 보도했다. 핵심 수단은 이른바 '증류(distillation)' 공격으로, 상대 모델의 출력을 대량 수집해 더 싸게 모방 모델을 학습시키는 방식이다.

이 흐름은 OpenAI가 자사 모델 출력으로 학습됐다고 주장한 중국 모델 딥시크(DeepSeek) 공개 이후 본격화됐다. 지난 1월 구글은 "상업적 동기를 가진" 행위자들이 중국에 국한되지 않은 채 제미나이(Gemini) AI 챗봇을 복제하기 위해 모델을 10만 회 이상 프롬프팅했다고 밝혔다.

2월에는 앤스로픽이 중국 기업 딥시크, 문샷(Moonshot), 미니맥스(MiniMax)가 같은 수법을 사용해 약 24,000개의 부정 계정을 통해 "클로드(Claude)와의 1,600만 건이 넘는 대화"를 생성했다고 비판했다. 같은 달 OpenAI도 자사가 관측한 공격 대부분이 중국에서 비롯됐다고 확인했다.

FT가 검토한 메모에서 백악관 과학기술정책실(OSTP) 디렉터 마이클 크라치오스(Michael Kratsios)는 "미 정부는 외국, 주로 중국에 기반한 단체들이 미국 프런티어 AI 시스템을 증류하기 위한 의도적이고 산업 규모의 캠페인을 벌이고 있다는 정보를 갖고 있다"고 경고했다.

크라치오스에 따르면 중국 측 캠페인은 "탐지를 회피하기 위해 수만 개의 프록시 계정을 활용하고, 독점 정보를 노출시키기 위한 탈옥(jailbreaking) 기법을 사용"하고 있다. 메모는 미국 기업들이 곧 이러한 공격에 대응할 수 있도록 정부 정보 접근권을 갖게 될 것이라고 적었다.

지금까지 AI 기업들은 이런 공격이 자사 서비스 약관(TOS) 위반이라고만 주장해 왔다. 그러나 의회가 곧 법을 개정해 미국 기업들이 의심되는 부정행위와 싸우는 데 더 강력한 무기를 부여할 가능성이 있다. 크라치오스는 메모에서 미국이 "산업 규모 증류 캠페인에 대해 외국 행위자에 책임을 묻기 위한" 조치들도 검토 중이라고 확인했다.

의회 측 움직임도 이미 시작됐다. 하원 미·중 특별위원회(Select Committee on China)는 4월 보고서에서 의회가 상무부 산업안보국(BIS)과 법무부(DOJ)에 "모델 추출(model extraction)을 산업 스파이로 취급"하고 "베이징의 미국 혁신 절도를 억제할 만큼 충분히 가혹한 처벌을 부과"하도록 지시할 것을 권고했다. 다만 입법 속도는 아직 불투명하다.