"혼자 교실에 숨어 찐빵 먹어요, 도와주세요"…눈물 호소에 6억 조회수 폭발, 알고보니

불우한 사연 내세워 6억 조회수 기록
알고보니 AI 가상 인물로 밝혀져
중장년층 동정심 자극해 건강식품 판매

인공지능(AI) 기술이 발전하면서 AI를 악용한 온라인 상술에 대한 우려가 커지고 있다. 최근 중국에서는 가난에 허덕이는 어린 소년의 사연을 가장한 숏폼 영상이 누적 조회 수 6억 회를 돌파하며 큰 화제를 모았으나, 그 정체가 시청자들의 동정심을 자극해 돈을 벌어들인 AI 가상 인물로 드러나 충격을 주고 있다.

가슴 아픈 사연으로 화제, 6억회 조회수를 기록한 샤오하이. 하지만 이는 인공지능(AI)으로 만든 가짜 영상이다. 웨이보 캡처·게티이미지뱅크

"이모, 저 숨어서 찐빵 먹어요"… 6억명 울린 영상 진실

21일 중국중앙TV(CCTV) 등 현지 매체에 따르면 최근 중국 내 주요 숏폼 플랫폼에서는 '샤오하이'라는 이름의 소년이 등장하는 영상들이 급속도로 확산했다. 영상 속 소년은 홀어머니 밑에서 겨우 생계를 이어가거나 형편이 어려워 끼니를 제때 챙기지 못하는 등 가슴 아픈 사연을 호소했다.

특히 소년은 중장년층 여성 시청자들을 향해 "이모", "엄마"라는 살가운 호칭을 붙이며 친근하게 다가갔다. "친구들은 모두 밥을 먹으러 갔는데 저는 교실에 숨어 찐빵을 먹고 있다"며 눈물을 글썽이는 장면은 시청자들의 마음을 흔들었다. 댓글 창에는 소년을 안타까워하고 경제적 지원을 자처하는 메시지가 폭주했고, 관련 영상들은 누적 조회 수 6억 회를 기록할 만큼 폭발적인 관심을 끌었다.

동정심 이용해 고가 건강식품 판매

그러나 영상 속 소년은 실존 인물이 아닌 생성형 AI 기술로 빚어낸 가상 인물로 확인됐다. 영상 제작자들은 불쌍한 소년의 사연을 가공해 시청자들의 동정심을 극대화한 뒤, 이를 상업적 수단으로 활용했다. 소년의 사연에 동조한 시청자들을 대상으로 고가의 건강식품과 생필품 등을 판매해 막대한 수익을 챙긴 것이다.

지난 5월에는 글을 읽지 못하는 79세 할머니가 휴대전화 속에서 자신을 매일 "이모"라 부르던 샤오하이를 직접 만나 돕겠다며 가족 몰래 장거리 열차에 탑승하는 소동이 벌어졌다. 경찰에 발견된 할머니는 영상 속 소년이 실제로 존재하지 않는 AI 가상 인물이라는 사실을 여러 차례 설명을 들은 뒤에야 비로소 발길을 돌렸다.

플랫폼 제재 착수 속 과제… 'AI 윤리·가짜 뉴스' 규제 시급

사태의 심각성이 커지자 중국 소셜미디어 플랫폼들은 관련 계정에 대한 제재에 착수했다. 커뮤니티 가이드라인을 위반한 계정들의 게시물 업로드를 금지하고, 일부 운영자들은 계정명을 변경하거나 관련 영상을 삭제하고 상품 판매를 중단했다.

전문가들은 AI 콘텐츠에 대한 식별 표시(워터마크) 의무화 및 고령층 대상 디지털 리터러시 교육 등 기술 악용을 막기 위한 다각적인 제도적 안전장치 마련이 시급하다고 지적하고 있다.

서지영 기자 zo2zo2zo2@asiae.co.kr