앤트로픽, 중국 AI 기업들의 클로드 대규모 디스틸레이션 공격 폭로

앤트로픽이 중국의 주요 AI 기업들이 약 2만 4천 개의 위조 계정을 동원해 자사의 AI 모델 클로드(Claude)의 역량을 무단으로 추출했다고 폭로했다. 이번 고발의 대상이 된 기업은 딥시크(DeepSeek), 문샷AI(Moonshot AI), 미니맥스(MiniMax) 등으로, 이들은 디스틸레이션(distillation) 기법을 사용해 클로드의 출력 결과를 대량으로 수집하고 이를 바탕으로 자체 모델을 훈련시킨 것으로 알려졌다. 디스틸레이션은 고성능 AI 모델의 응답을 활용해 더 단순하고 경량화된 대안 모델을 개발하는 기술로, 원본 모델의 핵심 능력을 복제할 수 있다는 점에서 논란의 여지가 있다.

이번 사건은 미국 정부가 중국으로의 첨단 AI 칩 수출 규제를 강화하는 방안을 논의하는 시점에 발생해 더욱 주목받고 있다. 앤트로픽의 주장은 단순히 기업 간 분쟁을 넘어 미중 간 AI 기술 패권 경쟁이라는 지정학적 맥락에서 해석되고 있다. 미국은 엔비디아의 고성능 GPU와 같은 첨단 반도체가 중국의 AI 개발에 활용되는 것을 제한하려 하고 있으나, 이번 사례는 하드웨어 규제만으로는 기술 이전을 막기 어렵다는 점을 보여준다. API 기반 서비스를 통한 소프트웨어 차원의 기술 유출 가능성이 새로운 보안 과제로 대두되고 있는 것이다.

앤트로픽이 지적한 2만 4천 개의 위조 계정은 클로드 API를 통해 대량의 쿼리를 실행하며 모델의 응답 패턴과 추론 능력을 체계적으로 수집했을 것으로 추정된다. 이러한 공격은 API 서비스의 근본적인 취약점을 드러낸다. 현재 대부분의 AI 서비스는 계정 인증에 의존해 사용량을 제한하고 있지만, 대규모 위조 계정을 생성하는 것이 기술적으로 어렵지 않아 악의적인 행위자가 이를 우회할 수 있다. 특히 국가 차원의 지원을 받는 조직화된 공격의 경우, 개별 기업이 이를 사전에 탐지하고 차단하기란 매우 어려운 실정이다.

중국 AI 기업들이 이러한 디스틸레이션 전략을 활용하는 배경에는 미국의 반도체 수출 규제가 있다. 최신 AI 모델 훈련에 필수적인 고성능 칩에 대한 접근이 제한되면서, 중국 기업들은 이미 배포된 서비스를 통해 간접적으로 기술을 습득하는 방법을 모색하게 된 것이다. 딥시크는 최근 자체 개발한 AI 모델로 주목받았지만, 그 기술력의 상당 부분이 서구 모델의 디스틸레이션에서 비롯되었을 가능성에 대한 의구심이 커지고 있다. 문샷AI와 미니맥스 역시 빠른 성장세를 보이고 있으나, 이번 고발로 인해 그 개발 과정의 투명성에 의문이 제기되고 있다.

이번 사건은 AI 산업의 글로벌 경쟁 구도에서 지식재산권 보호와 기술 이전 통제가 얼마나 복잡한 문제인지를 보여준다. 전통적인 하드웨어 중심의 수출 규제는 소프트웨어와 API를 통한 우회 경로를 완전히 차단하지 못한다. 동시에 AI 모델의 출력 결과가 공개적으로 접근 가능한 서비스로 제공되는 한, 디스틸레이션과 같은 기술 복제 시도를 완전히 막기는 어렵다. 이는 AI 서비스 제공 업체들이 더욱 정교한 사용량 모니터링, 이상 패턴 탐지, 그리고 계정 검증 시스템을 구축해야 한다는 필요성을 제기한다.

앤트로픽의 이번 고발은 미국 정책 입안자들에게 AI 기술 보호를 위한 다층적 접근의 필요성을 상기시킬 것으로 보인다. 하드웨어 수출 규제와 함께 소프트웨어 서비스 차원의 기술 유출 방지 메커니즘이 필요하다는 주장에 힘이 실릴 전망이다. 한편 중국 측은 이러한 주장을 근거 없는 비난이라고 반박할 가능성이 높으며, 미중 간 AI 기술 경쟁은 더욱 첨예한 양상으로 전개될 것으로 예상된다. 이번 사건은 글로벌 AI 생태계에서 기술 주권, 보안, 그리고 공정 경쟁이라는 복합적인 과제가 얼마나 긴밀하게 얽혀 있는지를 보여주는 상징적인 사례가 될 전망이다.