[아경의 창] AI 슬롭의 시대…가짜가 진짜가 된 세상

AI 가짜 네팔 홍수 참사 영상 확산
참사가 조회수 올리는 '돈벌이 수단'
쓰레기 '슬롭' 생산 1위국 현실 씁쓸

거대한 흙탕물이 마을을 집어삼키고 거센 물살에 다리가 무너진다. 구조대원과 주민들이 범람한 강물로 초토화된 마을을 망연자실하게 바라볼 뿐이다. 최근 사회관계망서비스(SNS)에 '네팔 홍수 현장'이라는 설명과 함께 이 같은 사진과 영상들이 빠르게 퍼지고 있다.

AI가 생성한 네팔 홍수 가짜 영상. SNS에서 캡처한 스크린샷

하지만 문제는 이 가운데 적지 않은 콘텐츠가 인공지능(AI)이 생성한 이미지와 과거 재난 영상 등 가짜라는 점이다. 사망자는 1000명, 실종자는 4000명에 육박하는 네팔 내 대홍수 참사가 조회수와 화제성을 좇는 소셜미디어 이용자들에게 수익성 있는 콘텐츠로만 취급되는 모습이다.

가짜가 진짜 행세를 하는 사이 진짜 영상은 의심을 받았다. 홍수가 티베트 지룽 통상구를 덮친 뒤 네팔로 흘러간 CCTV 영상을 두고 외신은 물론, 국내에서도 AI 영상이 아니냐는 반응이 나올 만큼 진위 구분이 어려워졌다. 특히 과거 영상은 사람과 건물, 물의 움직임이 모두 실제라 AI 생성물보다 가려내기가 더 어렵다.

심지어 이재민 성금을 가로채려는 가짜 기부 QR코드가 SNS에 공유되면서 대홍수 참사가 돈벌이 판으로 변질한 모습까지 나타났다. 네팔 일간지 카트만두포스트는 총리 재난구호기금 명의로 개인 계좌나 전자지갑에 입금하라고 요구하거나 정부 기관의 로고와 명칭, 양식을 베낀 가짜 QR코드가 SNS에 유포되고 있다고 보도했다. '조회수 돈벌이'는 물론, 동정심을 악용해 구호 자금을 빼돌리려는 사기 행각이 본격적으로 등장하고 있는 것이다. 이에 네팔 정부는 언론과 SNS 이용자에게 검증되지 않았거나 조작됐거나 AI로 만든 소문이 오히려 유족의 고통을 키운다고 호소했다. 또, 개인과 단체가 승인받지 않은 QR코드와 개인 정보를 올려 모금하고 있다는 보고에 우려를 표했다.

'음식물 찌꺼기' 혹은 '오물'이라는 뜻의 '슬롭(Slop)'은 영국 시사주간지 이코노미스트가 선정한 2025년 올해의 단어다. 생성형 AI의 발전은 '창작의 민주화'를 가져왔지만 동시에 '쓰레기 생산의 자동화'를 초래했다는 분석이다. 슬롭 콘텐츠에선 맥락도, 서사도, 진실도 필수가 아니다. 대신 알고리즘의 간택을 받기 위한 자극적인 주제를 선정하는 것이 핵심이 된다.

국내에서도 이태원, 무안공항 참사 등을 돈벌이 수단으로 삼은 자극적 콘텐츠가 범람하지 않았던가. 올 1월 미국 영상 편집 플랫폼 '카프윙'이 1월 발간한 'AI 슬롭 보고서'에서 '슬롭을 가장 많이 보고, 만들고, 퍼뜨리는 나라' 1위에 한국이 선정됐다는 사실에 씁쓸해진다.

재난으로 정보 수요가 폭증하는 동시에 사람들의 관심을 차지하기 위한 경쟁도 커지면서, 피해 현장이 가짜뉴스와 자극적 콘텐츠의 소재로 변질하고 있다. 결국 구조조차 늦어지는 상황이 발생하면서 참사 피해자와 그 가족을 두 번 울리게 된다. 지금 내가 보고 있는 이 10여초짜리 영상이 나에게 어떤 가치를 주는지, 내가 만든 영상이 다른 사람들에게 어떤 영향을 주는지 곱씹어 볼 문제다.

조강욱 기자 jomarok@asiae.co.kr