태연한 기자 뒤 시뻘건 용암…"서울 시내서 분출중" 영상이 위험하다

'AI 활용' 표시 움직임 활발
"출처 확인·리터러시 캠페인 필요"

인공지능(AI)을 활용해 만든 영상이 현실과 구분이 어려울 정도로 정교해지면서 관련 규제의 목소리가 커지고 있다.

8일 관련 업계에 따르면 소셜네트워크서비스(SNS) 스레드에서 AI 생성 영상이 화제가 됐다. 해당 영상은 방송국 아나운서가 "서울 시내에 용암이 분출하고 있다"는 속보를 전하며 현장 기자를 연결하는 장면으로 시작한다. 이어 등장한 취재 기자는 뒤편으로 시뻘건 용암이 솟아오르지만 태연하게 서 있다.

AI 생성 경고 영상. 유튜버 딸깍 디자이너 제공 연합뉴스

기자는 "뒤에 보이는 용암은 진짜가 아닙니다. 저는 AI입니다"라고 말하고, 뒤이어 등장한 학생, 연예인, 사업가 등도 모두 자신이 AI임을 강조하며 시청자에게 '속지 말라'고 경고한다.

영상이 공유되자 영상을 본 네티즌들 사이에서는 현실에 버금가는 영상 수준이 놀랍다는 반응이 나왔다. 동시에 끊임없이 진보하는 AI 기술이 악용될까 우려된다는 목소리가 함께 나왔다.

해당 영상을 제작한 유튜버 '딸깍 디자이너'는 "뉴스에서 일론 머스크의 얼굴로 로맨스스캠(연애 빙자 사기)을 당한 사례가 인상 깊었다"며 "조악한 AI 기술로도 사람들이 속을 수 있다는 게 놀라웠다"며 영상 제작 배경을 설명했다.

그는 "비오3로 누구나 마음만 먹으면 쉽게 영상과 음성을 생성할 수 있다"며 "AI 생성 영상에 대한 접근성이 쉬워지는데 이에 대한 경각심이나 인식은 낮은 것 같다"고 부연했다.

AI 영상 광고 제작소 '아웃오프라인'이 제작한 '한국 남성의 삶' 영상 역시 유년기부터 노년에 이르는 인생 과정을 AI 기술로 풀어내 주목받았다.

이처럼 AI 생성 영상이 현실과 경계를 허무는 수준에 이르자 콘텐츠에 AI 사용 여부를 표시해야 한다는 목소리도 커지고 있다.

내년 시행을 앞둔 AI 기본법에는 생성형 AI를 통해 만들어진 영화·드라마 등 콘텐츠 서비스에 AI 결과물 표시를 의무화하는 내용이 담겨 있다.

김은하 기자 galaxy656574@asiae.co.kr