앤스로픽, 최신 모델 Mythos 제한 출시… 보안 보호 명분 뒤 기업 전략 논란

앤스로픽이 이번 주 최신 AI 모델 Mythos의 공개 출시를 제한한다고 밝혔다. 이유는 이 모델이 전 세계 사용자가 의존하는 소프트웨어에서 보안 취약점을 찾아내는 능력이 지나치게 뛰어나기 때문이라는 것이다.

Mythos는 일반 대중에게 공개되지 않으며, 아마존웹서비스(AWS)와 JP모건 체이스 등 핵심 온라인 인프라를 운영하는 대형 기업 및 기관에만 제공된다. 이들 기업이 악의적 행위자보다 먼저 보안 위협에 대응할 수 있도록 하겠다는 취지다. OpenAI도 차기 사이버보안 도구에 대해 유사한 제한적 배포 계획을 검토 중인 것으로 알려졌다.

AI 사이버보안 연구소 Irregular의 댄 라하브(Dan Lahav) CEO는 AI 도구의 취약점 발견 자체도 중요하지만, 특정 취약점이 공격자에게 얼마나 의미 있는지는 단독으로 혹은 공격 체인의 일부로 활용 가능한지에 따라 달라진다고 지적했다.

앤스로픽은 Mythos가 이전 모델 Opus보다 취약점을 훨씬 더 효과적으로 공격할 수 있다고 밝혔다. 반면 AI 사이버보안 스타트업 Aisle은 더 작은 오픈 웨이트 모델을 사용해 Mythos의 성과 상당 부분을 재현할 수 있었다고 주장했다. Aisle 팀은 사이버보안에 단일 딥러닝 모델이 만능은 아니며 과제에 따라 달라진다고 밝혔다.

스타트업 exe.dev의 CEO이자 소프트웨어 엔지니어인 데이비드 크로쇼(David Crawshaw)는 소셜 미디어에서 다른 시각을 제시했다. 그는 이번 제한 출시가 최상위 모델이 기업 계약으로만 제공되고 소규모 연구소가 증류(distillation)할 수 없게 된 사실에 대한 마케팅 포장이라고 분석했다.

크로쇼는 일반 사용자가 Mythos를 사용할 수 있을 때쯤이면 새로운 최상위 모델이 기업 전용으로 출시될 것이며, 이 순환 구조가 기업 매출을 유지하면서 증류 기업을 2류로 격하시키는 역할을 한다고 덧붙였다.

이러한 분석은 AI 생태계의 현재 흐름과 맞닿아 있다. 가장 크고 유능한 모델을 개발하는 프론티어 연구소와, 다수의 모델을 활용하며 중국 등에서 증류를 통해 개발된 오픈소스 LLM을 경제적 이점으로 삼는 기업들 간의 경쟁이 가속화되고 있다.

프론티어 연구소들은 올해 증류에 대해 한층 강경한 입장을 취하고 있다. 앤스로픽은 중국 기업들의 자사 모델 복제 시도를 공개적으로 폭로했으며, 블룸버그 보도에 따르면 앤스로픽·구글·OpenAI 3사가 증류 업체를 식별하고 차단하기 위해 공동 대응에 나섰다.

증류는 막대한 자본 투입을 통한 규모 확장의 경쟁 우위를 무력화하기 때문에 프론티어 연구소의 비즈니스 모델에 직접적인 위협이 된다. 증류 차단 자체도 가치 있지만, 선택적 공개 전략은 수익성 있는 배포를 위해 기업 서비스를 차별화하는 수단이기도 하다.

Mythos가 실제로 인터넷 보안을 위협하는 수준인지는 아직 미지수이며, 신중한 기술 배포 자체는 책임 있는 접근이다. 앤스로픽은 증류 우려와의 연관성에 대한 질문에 답하지 않았으나, 인터넷 보호와 수익 확보라는 두 목표를 동시에 달성하는 전략을 찾았을 가능성이 있다.