얼굴 모르는 사람들끼리 '효율적인 돈벌이'…일본서 AI 혐중 콘텐츠 확산

日 온라인서 AI 제작 中 혐오영상 확산
"고령층 겨냥 조회수 장사"

일본 내 온라인에서 자국을 미화하고 중국인을 비하하는 생성형 인공지능(AI) 영상이 확산하고 있다. 조회수를 노린 혐오 콘텐츠가 AI를 통해 대량 생산되면서 고령층을 중심으로 혐중 정서를 자극하고 있다는 지적이 나온다.

일본에서 유튜브에 확산한 애국주의 관련 영상들. 유튜브

8일 일본 아사히신문은 "인터넷 동영상 플랫폼에는 일본을 찬양하고 외국인을 비난하는 영상이 범람하고 있으며 실제인지 창작인지조차 명시되지 않은 사례도 적지 않다"고 보도했다.

영상들은 대부분 AI로 생성한 이미지와 기계 음성으로 구성된 이야기 형식이다. "일본의 신칸센에 세계가 놀랐다", "벚꽃을 훼손한 중국인들에게 이상 증세가 나타났다"는 식의 자극적인 제목으로 일본을 치켜세우거나 중국인을 부정적으로 묘사하는 내용이 주를 이룬다. 일부 영상은 수십만 회 이상의 조회수를 기록, 영상 게시자에게 광고 수익을 안겨주고 있다.

이같은 영상 편집 작업을 하청 형태로 맡았던 한 20대 남성은 "특정한 사상이나 외국인에 대한 원한은 전혀 없었다"며 "가벼운 마음으로 시작했다"고 말했다. 그가 편집 부업을 시작한 것은 2년 전으로, 구인 사이트에서 일자리를 찾던 중 '중국 비판 계열 해외 반응 유튜브 영상 작업'이라는 모집 공고를 접했다고 전했다.

업무는 제공된 대본을 바탕으로 AI를 이용해 영상 속 인물과 장면 이미지를 생성하는 방식이었다. 그는 당시 "집에서도 간단히 할 수 있는 일"이라고 느꼈다고 했다.

유튜브 로고. 픽사베이

작업 과정에는 별도의 '매뉴얼'도 있었다. 창작 이야기라도 시설명과 지명은 실제 존재하는 것으로 설정하고, 주요 시청층이 고령자인 만큼 음성은 최대한 알아듣기 쉽게 만들라는 지시가 포함됐다고 신문은 전했다.

예컨대 "큰소리로 항의하는 중국인" 같은 문구를 AI에 입력하면 몇 분 만에 그럴듯한 이미지가 생성됐다. 그는 처음에는 당혹감을 느꼈지만 "당연히 창작물이라는 걸 알아차릴 것이라 생각했다"고 말했다.

하지만 일을 시작한 지 반년 정도 지나면서 이같은 '혐중 영상'이 누구에게 어떻게 소비되는지 의문을 갖게 됐다고 한다. 그는 대본 제목을 직접 동영상 플랫폼에 검색했고, 자신이 만든 영상들이 잇따라 게시된 것을 확인했다.

아사히는 "보는 사람의 증오를 자극하고 때로는 사고를 왜곡하는 인터넷 영상의 한편에는 얼굴도 모르는 사람들끼리 연결돼 AI로 영상을 대량 생산하는 '효율적인 돈벌이 구조'가 존재했다"고 지적했다.

윤슬기 기자 seul97@asiae.co.kr