틱톡 속 AI 가짜 흑인 인플루언서, 공감 자극해 값싼 상품 비싸게 판다

미국에서 인공지능(AI)으로 만들어낸 가짜 흑인 인플루언서가 동정심을 자극해 값싼 공산품을 비싸게 파는 사례가 빠르게 늘고 있다고 IT 매체 더버지가 보도했다. 대표적 사례는 '얼라이야(Aliyah)'라는 인물로, 컨트리·웨스턴 풍 차림의 밝은 피부색 흑인 여성으로 등장해 직접 만들었다는 금속 벨트 버클을 틱톡에서 판다.

지난 3월 올라온 영상에서 얼라이야는 카메라 앞에서 눈물을 흘리며 조회수를 호소한다. 화면에는 "흑인 여성인 나조차도, 백인 여성들이 내 벨트 버클 사업을 살리려고 이 영상을 13초는 봐줄 거라 더 믿는다"는 자막이 깔린다. 그러나 얼라이야도, 그가 손수 만들었다는 제품도 실재하지 않는다.

해바라기 무늬에 분리형 칼이 박힌 똑같은 디자인의 벨트 버클은 패스트패션 사이트 셰인에서 4분의 1 가격에 팔린다. 영상 속 인물은 틱톡·페이스북·인스타그램에서 드롭십핑으로 대량생산 제품을 파는 수많은 AI 생성 인플루언서 중 하나다.

AI 영상임을 알아챌 단서도 있다. 우는 표정과 달리 목소리는 로봇처럼 감정이 없고, 보통 바느질이 필요 없는 가죽 벨트를 꿰매는 장면이 나오며, 눈물을 닦은 뒤에도 닦은 자리 아래 흘러내리던 액체가 사라진다. 게다가 배경과 탁자, 노끈 실패까지 똑같은데 등장인물만 다른 영상 수십 개가 돌아다닌다.

더버지는 벨트 버클뿐 아니라 카우보이 부츠 모양 머그컵, 손뜨개 가방, 카디건 등 다양한 드롭십핑 상품을 파는 비슷한 계정 수십 개를 찾았다. 일부 영상은 AI 생성물로 표시돼 있었고, 댓글에 대한 응답까지 자동화돼 일부는 아프리카계 미국인 특유의 말투를 흉내 냈다.

AI 생성 영상 탐지 단체 리댄스AI(Riddance.ai)의 제러미 카라스코 디렉터는 "규모가 어마어마하다"며 연구팀이 AI 아바타로 물건을 파는 계정을 하루 최대 100개까지 발견한다고 말했다. 그는 이를 "공감 미끼"라고 부르며, 인기 드롭십핑 상품을 특정 소수자 커뮤니티에 팔 수 있으면 어떤 인물이든 동원한다고 설명했다.

대부분의 계정은 최근 두 달 사이 만들어졌고, 소외 계층이 운영하는 작은 사업이 고전한다는 내용을 담는다. 아메리카 원주민과 히스패닉, 백인 여성 캐릭터도 있었지만 조회수와 호응이 가장 높은 것은 흑인 여성 캐릭터였다. 얼라이야 계정의 팔로워만 4만 명에 이르고, 가장 인기 있는 영상은 '좋아요' 81만 4,000개와 조회수 650만 회, 댓글 약 3만 개를 기록했다.

실제로 속는 사람도 나온다. 시애틀에서 카페 개업을 준비하는 흑인 사업가 인디아 케이터캠벨은 "독립적인 흑인 여성 사업가를 응원하려 했다"며 댓글을 달았지만, 구매 링크를 바로 찾지 못해 그냥 넘어갔다. 리얼리티쇼 '리얼 하우스와이브스 오브 포토맥'의 지젤 브라이언트는 백인 남자아이들에게 괴롭힘당한다는 AI 생성 흑인 소년 영상을 보고 손뜨개 가방 두 개를 샀다고 밝혔다.

전문가들은 이를 '디지털 블랙페이스'로 규정한다. 펜실베이니아대 커뮤니케이션 연구자 시에나 데이비스는 비흑인이 경제적·정치적 이득을 위해 디지털 기술로 흑인 문화 표현을 흉내 내는 현상이라며, 노예제 유산과 얽힌 블랙페이스 민스트럴쇼에 뿌리를 둔다고 설명했다. 피스크대 철학과 템페스트 M. 헤닝 교수도 조 샐다나가 니나 시몬 역을 위해 피부색을 어둡게 한 사례 등을 들며 디지털 블랙페이스가 맞다고 확인했다.

헤닝 교수는 "아바타 이름은 얼라이야나 어마야처럼 흑인을 연상시키지만, 아바타 외형 말고는 진짜 흑인성을 드러내는 요소가 전혀 없다"고 지적했다. 더버지는 얼라이야 계정 등에 입장을 물었으나 답을 받지 못했다.