오픈AI, 미국 AI 정책 논쟁 노린 중국발 영향공작 ChatGPT 계정 차단

오픈AI가 중국에서 비롯된 것으로 보이는 ChatGPT 계정 두 묶음을 차단했다고 밝혔다. 이 계정들은 미국의 AI·기술 정책을 둘러싼 정당한 논쟁을 조작하려는 은밀한 영향공작에 자사 모델을 사용한 것으로 파악됐다.

오픈AI는 이런 활동을 권위주의 정권과 그 대리인들이 AI 시스템을 동원해 비판자를 압박하거나 사회를 감시하고 민주사회에 은밀히 개입하려는 시도로 규정했다.

첫 번째 묶음은 '데이터센터 밴드왜건(Data Center Bandwagon)'으로 명명됐다. 이 계정들은 AI용 데이터센터 건설이 일반 가정의 전기요금을 끌어올리고 있다고 주장하는 소셜미디어 댓글과 이미지를 만들어냈다.

두 번째 묶음은 '기술과 관세(Tech and Tariffs)'로 명명됐다. 미국의 관세를 기술 경쟁에서 우위를 점하려는 시도라고 비판하는 댓글과 이미지를 생성했다.

이 두 번째 묶음의 프롬프트에는 결과물에 중국 지도자 시진핑을 넣지 말고 트럼프 대통령만 포함하라는 지시가 담겨 있었다.

이 묶음은 또 다른 가짜로 추정되는 소셜미디어 계정 네트워크와 연결돼 있었고, 이 네트워크는 ChatGPT 사용자 데이터가 유출됐다고 주장하며 오픈AI를 겨냥하기도 했다. 오픈AI는 이 주장이 전적으로 거짓이라고 밝혔다.

오픈AI는 이번 공작이 여론을 실제로 바꿨기 때문이 아니라, 중국발 공작 세력이 미국 기술 리더십의 기반인 AI 인프라를 겨냥해 서사를 시험했다는 점에서 의미가 크다고 설명했다. 다만 자체 활동을 넘어서는 의미 있는 확산 정황은 발견되지 않았다고 덧붙였다.

오픈AI는 이런 공작이 전기요금과 데이터센터의 지역 영향에 대한 기존 우려를 파고들어 증폭하려 했다고 분석했다. 외국 영향공작은 오랫동안 지역 현안과 진심 어린 신념에 편승해 신뢰를 쌓고 분열을 키워 왔다는 것이다.

회사는 이번 조사 결과를 공개한 이유로, 업계와 정부·시민사회·대중이 외국 위협 행위자의 여론 조작과 민주주의 제도 약화 시도를 더 잘 식별하고 차단하도록 돕기 위해서라고 밝혔다.