구글 GTIG, AI로 개발된 제로데이 익스플로잇 첫 차단

구글이 AI로 개발된 것으로 추정되는 제로데이 익스플로잇을 처음으로 포착해 차단했다고 The Verge가 보도했다. 구글 위협인텔리전스그룹(GTIG) 보고서에 따르면 '저명한 사이버 범죄 위협 행위자'들이 이 취약점을 '대규모 익스플로잇 이벤트'에 사용할 계획이었으며, 익명의 오픈소스 웹 기반 시스템 관리 도구의 이중 인증(2FA)을 우회할 수 있는 익스플로잇이었다.

구글 연구진은 익스플로잇에 사용된 파이썬 스크립트에서 AI의 도움 흔적을 발견했다. '환각된(hallucinated) CVSS 점수'와 LLM 학습 데이터에서 흔히 보이는 '구조화되고 교과서적인(structured, textbook)' 서식이 단서로 제시됐다.

익스플로잇은 해당 플랫폼의 2FA 시스템에서 '개발자가 신뢰 가정을 하드코딩한 고수준 의미 논리 결함(high-level semantic logic flaw)'을 활용했다. 단순한 메모리 오류가 아니라 시스템 설계 단계의 잘못된 가정에서 비롯된 취약점이라는 점이 특징이다.

구글이 실제 공격에서 AI 개입 정황을 확인한 것은 이번이 처음이다. 다만 연구진은 '제미나이(Gemini)가 사용됐다고 보지는 않는다'고 명시했다. 구글은 이번 익스플로잇을 '차단(disrupt)'했으며, 해커들이 보안 취약점을 찾고 이용하는 데 AI를 점점 더 많이 활용하고 있다고 덧붙였다.

이번 보고는 앤스로픽의 사이버보안 특화 모델 'Mythos'를 둘러싼 수 주간의 논란과, AI 도움으로 발견된 리눅스(Linux) 취약점 공개에 이어 나왔다. 사이버보안에 특화된 AI 모델의 실제 공격 활용 가능성이 잇따라 제기되는 흐름이다.

GTIG는 공격자들이 'persona-driven jailbreaking'으로 AI를 우회한다고도 지적했다. AI에 '보안 전문가인 척하라'고 지시하는 예시 프롬프트가 대표적이다. 해커들은 또한 AI 모델에 취약점 데이터 전체 리포지토리를 학습시키고, OpenClaw를 활용해 '통제된 환경에서 AI 생성 페이로드를 정교화해 배포 전 익스플로잇 안정성을 높이려는 의도'를 보였다.

보고서는 AI 자체가 공격 대상이 되는 흐름도 짚었다. GTIG는 '공격자들이 자율 스킬·서드파티 데이터 커넥터 등 AI 시스템에 효용을 부여하는 통합 구성요소를 점점 더 표적으로 삼고 있다'고 관찰했다.

이번 사례는 방어자가 AI 생성 코드의 흔적을 식별해 실제 공격을 사전 차단할 수 있음을 보여주는 한편, AI를 활용한 공격 도구 개발이 이미 위협 행위자 사이에서 운영 단계에 들어섰음을 시사한다.