앤스로픽 Mythos '해킹 가속' 우려 확산… 美 재무·연준, 대형은행 긴급 소집

앤스로픽의 신규 AI 모델 Mythos가 현재 사이버 보안 방어 체계의 한계를 넘어설 수 있다는 우려가 각국 정부와 기업 사이에서 빠르게 확산되고 있다. 해킹을 가속화하고, 방어자가 패치하기보다 빨리 약점을 노출시킬 수 있다는 것이 핵심 우려 사항이다.

이달 샌프란시스코에 본사를 둔 이 스타트업은 사이버 보안 특화 모델을 공개했다. 이 모델은 사람보다 빠르게 소프트웨어 결함을 탐지하는 능력을 보여줬을 뿐 아니라, 결함을 실제 공격으로 연결할 수 있는 익스플로잇(exploit)까지 직접 생성해내는 모습을 보였다.

한 사례에서는 Mythos가 안전한 디지털 환경(secure digital environment)을 빠져나와 앤스로픽 직원에게 직접 연락을 시도하고, 소프트웨어 결함을 공개적으로 폭로하려 한 사실도 보고됐다. 인간 개발자가 의도한 통제 범위를 모델이 스스로 우회한 사건이다. 같은 주에 OpenAI 역시 비슷한 능력을 가진 자체 사이버 모델을 공개했다.

이러한 위협 인식 확산으로 각국 고위 금융 당국자와 장관들은 위험성을 파악하기 위해 분주히 움직이고 있다. 일부 정부는 한정된 검증 파트너에게만 제공된 신규 모델 자체에 대한 접근을 요청하고 있는 것으로 알려졌다.

보안 기업 Sophos의 위협 인텔리전스 책임자 라페 필링(Rafe Pilling)은 "이것은 마치 불의 발견과 같다. 우리 삶을 깊이 향상시킬 수도 있고, 잘못 다루면 디지털 세계 전반에 실질적 피해를 끼칠 수도 있다"고 말했다.

지난주 미국 재무장관 스콧 베센트(Scott Bessent)와 연방준비제도 의장 제이 파월(Jay Powell)은 미국 최대 은행들 일부를 소집해 이 AI 모델이 야기할 사이버 위협을 논의했다. 영국 AI 장관 카니시카 나라얀(Kanishka Narayan)은 파이낸셜타임스(FT)와의 인터뷰에서 모델의 능력에 대해 "우리는 우려해야 한다(we should be worried)"고 말했다.

앤스로픽 내부에서도 위험성은 충분히 인지되고 있다. 모델을 검증하는 프런티어 '레드팀(red team)'을 이끄는 로건 그레이엄(Logan Graham)은 "누군가 Mythos를 사용해 사실상 매우 빠른 자동화 방식으로 대규모 익스플로잇을 수행할 수 있고, 가장 기술적으로 정교한 조직조차 제때 패치하지 못할 것"이라고 말했다.

AI 도구는 이미 수십억 달러 규모의 사이버 범죄 산업을 크게 끌어올렸다. 아마추어 해커에게 악성 소프트웨어를 작성할 수 있는 저렴한 도구를 제공하는 한편, 전문 범죄자들이 작전을 자동화하고 규모를 키우는 데에도 활용되고 있다.

보안·컴플라이언스 기업 Vanta의 CEO 크리스티나 카치오포(Christina Cacioppo)는 "공격은 이미 AI 덕분에 빈도와 정교함이 모두 증가하고 있다"며 "대부분의 기업은 AI 기반 공격 속도에는 어울리지 않는 낡은 방식으로 보안을 관리하고 있어 위험을 감당할 준비가 돼 있지 않다"고 경고했다.