딸이 보낸 악어 사진 믿었다가 'AI 생성 가짜'…베트남 여성 44만원 벌금

태국 당국, 약 44만원의 벌금형 부과
AI 생성 이미지 혼란 사례 꾸준히 증가

딸이 인공지능(AI)으로 만든 가짜 악어 사진을 실제 상황으로 믿고 당국에 신고한 베트남 여성이 벌금 처분을 받았다.

지난달 26일(현지시간) 베트남 매체 VN익스프레스는 베트남 안장성 누이깜 지역에 거주하는 쩐티탄난(38)가 AI 사진을 진짜로 오인해 허위 정보를 당국에 제공하고 유포한 혐의로 750만동(약 44만원)의 벌금을 부과받았다고 전했다.

해당 사진의 악어 이미지는 생성형 AI를 활용해 만든 이미지임. 딸은 AI로 악어 사진을 만든 뒤 가족 메신저 단체방에 공유했고, 이를 실제 상황으로 오인한 어머니가 당국에 신고한 것으로 확인됐다. VN익스프레스

사건은 지난달 10일 일어났다. 쩐 씨는 "집 근처 빈쩨(Vinh Tre) 운하에서 몸무게 약 80㎏에 달하는 대형 악어를 발견했다"며 지방 당국에 신고했다. 그는 휴대전화로 촬영한 것으로 보이는 악어 사진까지 제출해 신고의 신빙성을 높였다. 신고를 접수한 당국은 즉시 주민들에게 운하 주변 통행과 낚시를 자제하라는 안전 경고를 발령했다. 또한 경찰과 관계 기관 인력을 투입해 현장 수색과 조사를 진행했다.

하지만 수색 결과 악어의 흔적은 어디에서도 발견할 수 없었다. 인근 주민들 역시 최근 악어를 본 적이 없다고 진술하면서 신고 내용에 의문이 제기됐다. 사건의 진실은 다음 날 밝혀졌다. 쩐 씨의 17세 딸이 직접 경찰서를 찾아와 "운하에는 악어가 없으며 사진은 AI를 이용해 만든 이미지"라고 자백한 것이다. 조사 결과 딸은 생성형 AI 서비스를 활용해 악어 사진을 만든 뒤 가족 메신저 단체방에 공유했고, 이를 실제 상황으로 오인한 어머니가 당국에 신고한 것으로 확인됐다. 당국은 추가 조사를 통해 목격담과 사진 모두 허위 사실임을 확인한 뒤 쩐 씨에게 허위 정보 유포 책임을 물어 벌금을 부과했다.

이번 사건은 생성형 AI가 만들어낸 허위 이미지가 실제 행정력 낭비와 사회적 혼란으로 이어질 수 있음을 보여주는 사례로 평가된다. 실제로 경제협력개발기구(OECD) 산하 AI 사고 모니터링 시스템(AIM)도 이번 사건을 AI로 생성된 허위 정보가 공공기관 대응과 지역사회 혼란을 초래한 사례로 분류했다.

최근 전 세계적으로 AI가 만든 가짜 이미지나 영상으로 인한 혼란 사례는 꾸준히 증가하고 있다. 지난해 미국에서는 자신의 집에 노숙자를 합성한 AI 사진을 가족 등에 보내는 챌린지가 유행하며, 이를 본 가족의 신고로 경찰이 출동하는 사례가 발생한 바 있다. 나아가 유명인들의 딥페이크 영상과 허위 재난 사진이 소셜미디어를 통해 확산하며 사회적 문제로 떠오르기도 했다. 전문가들은 "AI 콘텐츠가 점점 정교해지는 만큼 사진이나 영상만으로 사실 여부를 판단하기보다 출처와 맥락을 함께 확인하는 습관이 필요하다"고 지적한다.

방제일 기자 zeilism@asiae.co.kr