AI 생성 콘텐츠, 새 웹사이트의 35% 차지… 인위적 긍정성으로 인터넷 분위기 왜곡

임페리얼칼리지런던, 스탠퍼드대학교, 인터넷아카이브 공동 연구팀이 발표한 프리프린트 논문에 따르면, 새로 생성된 웹사이트의 약 35%가 AI가 생성하거나 AI의 도움을 받아 만들어진 것으로 나타났다. 이 연구는 2022년 ChatGPT 출시 이후 소셜 플랫폼에 AI 생성 글이 범람하고 있다는 일화적 증거를 데이터로 뒷받침한 최초의 대규모 분석이다.

연구팀은 인터넷아카이브의 웨이백머신(Wayback Machine)을 활용해 2022년부터 2025년 사이에 생성된 웹사이트의 대표 샘플을 수집했다. AI 탐지에는 네 가지 접근법을 시도한 끝에, 가장 일관된 결과를 보인 Pangram Labs의 도구를 최종 채택했다. 다만 연구팀은 모든 AI 탐지 도구가 불완전하다는 점도 함께 언급했다.

이번 연구에서 가장 주목할 만한 발견은 온라인 글쓰기가 점점 더 살균되고 인위적으로 쾌활해지고 있다는 점이다. 감성 분석(sentiment analysis) 결과, AI가 생성하거나 보조한 콘텐츠의 평균 긍정 감성 점수는 비AI 웹사이트보다 107% 높았다.

연구팀은 이러한 인위적 행복감의 급증을 기존 대형 언어 모델(LLM)의 아첨적이고 과도하게 낙관적인 특성의 증상으로 분석했다. AI 글쓰기 도구가 사용자에게 아부하는 경향이 파급 효과를 일으켜, 온라인 글쓰기의 전반적인 분위기를 더 과잉 긍정적으로 만들고 있다는 것이다.

AI가 인터넷의 이념적 다양성을 감소시킨다는 결과도 나왔다. AI 웹사이트는 의미론적 유사성(semantic similarity) 테스트에서 인간이 만든 웹사이트보다 약 33% 높은 점수를 기록해, 독특한 아이디어와 다양한 관점의 범위가 축소되고 있음을 보여줬다.

반면, 연구팀의 여러 가설은 데이터로 확인되지 않았다. AI가 허위정보 증가로 이어질 것이라는 예측, AI가 외부 소스로의 링크를 줄일 것이라는 가설, 그리고 AI 문체가 더 획일적일 것이라는 가설 모두 증거로 뒷받침되지 않았다.

스탠퍼드 연구원 마티 보하체크(Maty Bohacek)는 "팀원 모두 문체 획일화가 사실일 것으로 예상했지만, 유의미한 증거를 찾지 못했다"고 밝혔다. AI가 표현하는 아이디어는 더 동질적이었지만, 글쓰기 스타일 자체는 평탄화되지 않았다는 점이 연구팀에게도 큰 놀라움이었다.

연구팀이 사전에 실시한 여론조사에서도 대부분의 응답자가 AI 글쓰기로 인해 가짜 뉴스가 증가하고, 외부 링크가 줄어들며, 획일적인 목소리가 늘어날 것으로 예상했다. 보하체크는 "사람들이 최악의 결과를 예상하는 경향이 있다는 점이 흥미롭다"고 말했다.