구글, 제미나이로 피싱 사이트 양산한 중국 사기조직 '아웃사이더 엔터프라이즈' 제소

구글이 인공지능 챗봇 제미나이를 악용해 대규모 피싱 사기를 벌인 중국 조직 '아웃사이더 엔터프라이즈(Outsider Enterprise)'를 상대로 법적 대응에 나섰다. 구글은 법 집행기관 및 이동통신사와 함께 이 사기 조직에 맞서고 있다고 밝혔다.

구글의 소송 자료에 따르면 아웃사이더 엔터프라이즈는 텔레그램을 기반으로 활동하며, 직접 사기 사이트나 문자 캠페인을 꾸릴 기술이 없는 이들에게 '서비스형 피싱(phishing-as-a-service)'을 제공했다. 텔레그램 채널에서는 제미나이를 이용해 구글, 유튜브, 그리고 뉴욕주 통행료 시스템 E-ZPass 같은 정부 기관 사이트를 모방한 웹사이트를 만드는 방법을 안내한 것으로 전해졌다.

이 조직은 약 300종에 이르는 사기 템플릿을 제공했다. 구글은 아웃사이더 엔터프라이즈가 가능하게 한 사기로 250만 건이 넘는 문자 메시지가 안드로이드 사용자에게 발송됐다고 밝혔다. 이 가운데 약 5만 5,000건은 지난달 2주 동안 발생했다.

구글은 이 사기 조직과 연결된 가짜 웹사이트 9,000개와 100만 개의 URL을 추적했다고 덧붙였다.

사기 문자는 흔히 계정 문제나 택배 배송 문제를 빙자했다. 사용자가 링크를 누르면 제미나이가 진짜처럼 보이도록 디자인한 사기 웹사이트로 연결됐고, 범죄자들은 이 사이트를 통해 개인정보와 금융 정보를 빼냈다.

구글의 소송 자료는 이 사기로 빼앗긴 금액을 추산하지는 않았지만, 수백 명이 어느 정도의 금전 피해를 봤다고 블로그에서 밝혔다.

구글은 AT&T, 버라이즌, T-모바일과 협력해 다수의 악성 문자를 차단했다. 또 구글 메시지의 온디바이스 사기 탐지 기능이 피싱 시도를 줄이는 데 도움이 됐을 것이라고 설명했다. 구글은 이 AI 기반 기능이 매달 100억 건의 사기 문자를 차단한다고 밝혔다.