"조회수 폭발한 홍수 영상, 알고 보니 AI"…네팔 참사 틈탄 가짜 콘텐츠 기승
네팔 참사 틈타 AI 가짜 콘텐츠 확산
다른 나라 재난 영상, 네팔 홍수로 둔갑
네팔에서 발생한 대규모 돌발 홍수로 막대한 인명 피해가 발생한 가운데, 사회관계망서비스(SNS)에서는 인공지능(AI)이 생성한 이미지와 과거 다른 나라의 재난 영상 등 가짜 콘텐츠가 기승을 부리고 있다. 이로 인해 정확한 피해 상황을 파악하는 데 혼란이 커지고 있다는 우려가 나온다.
SNS에 퍼진 네팔 홍수 사진·영상 상당수 'AI 생성물'
28일(현지시간) AFP통신, 호주연합통신(AAP) 등 외신에 따르면 재난 피해 상황이 전 세계에 전해지는 과정에서 실제 현장 영상과 가짜 콘텐츠가 뒤섞여 퍼지고 있다.
페이스북에는 이번 홍수로 한 마을이 파괴되기 전후 모습이라며 이미지가 올라왔지만, 해당 이미지는 AI가 만든 것으로 확인됐다. 메타는 게시물에 'AI 콘텐츠' 라벨을 붙였고, 오픈AI의 콘텐츠 검증 도구에서도 AI 생성물임을 나타내는 'SynthID'가 감지됐다.
이 같은 가짜 콘텐츠는 다양한 플랫폼으로 빠르게 번졌다. 유튜브에는 AI가 만든 가짜 사진으로 시작해 거센 물살에 다리가 무너지는 장면을 담은 영상이 올라왔다. 하지만 이 역시 AI를 이용해 생성하거나 변형한 영상으로 드러났다.
엑스(X·옛 트위터)에 올라온 구조대원과 주민들이 범람한 강물을 바라보는 사진 역시 거짓으로 확인됐다. 해당 게시물 하단에는 "Made with AI"라는 문구가 명시되어 있었다. 오픈AI 검증 도구를 통해서도 AI 생성물로 확인됐다.
타국 재난 영상 둔갑에 근거 없는 음모론까지
다른 나라에서 발생한 자연재해 영상을 네팔 홍수 현장으로 둔갑시킨 사례도 다수 발견됐다. 조회수 36만회를 넘긴 페이스북 영상은 2021년 7월 3일 일본 시즈오카현 아타미시에서 27명의 사망자를 낸 산사태 영상을 좌우반전한 것으로 밝혀졌다. 1년 전 인도에서 촬영된 산사태 영상 역시 네팔 홍수 영상으로 재유포됐다.
재난 원인을 둘러싼 음모론도 온라인을 중심으로 확산하고 있다. 한 페이스북 이용자는 실제 산사태 영상을 공유하면서 이번 재난이 "made by HAARP"라고 주장했다. HAARP는 미국 알래스카 페어뱅크스 대학교가 운영하는 고주파 활성 오로라 연구 프로그램이다. 과학자들은 HAARP가 기상을 조작할 수 있다는 주장에 대해 전혀 근거가 없다고 일축하고 있다.
가짜 콘텐츠와 확인되지 않은 주장이 실제 재난의 비극을 덮고 있다는 지적이 이어지면서, 온라인에서도 이를 비판하는 목소리가 커지고 있다.
한편 31일 네팔 당국에 집계에 따르면 네팔에서만 최소 788명이 숨지고 2500명 이상이 실종됐다. 중국 티베트 지역에서도 사망자와 실종자가 발생한 가운데 구조작업이 계속되고 있어 피해 규모는 더 늘어날 가능성이 있다.
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>