"폭우에 잠긴 경복궁서 '물개'가 헤엄쳐"…"실감 나지만 속지는 않아"

진짜 같은 폭우 영상, 알고 보니 AI 영상
"무분별한 확산, 공동체 신뢰 해칠 수 있어"

"와 비가 엄청나게 왔습니다. 경복궁이 완전히 물에 잠겼어요."

노란 우비를 입은 남성이 셀카봉을 든 채 물에 잠긴 경복궁 안을 돌아다니고 있다. 남성은 "경복궁이 완전히 물에 잠겼다"며 서울 도심 속 폭우 재난 상황을 전했다.

남성의 뒤로는 플라스틱 양동이로 물을 퍼 나르는 사람의 모습도 보인다. 그런데 갑자기 물에 잠긴 경복궁에서 '물개'가 나타난다. 남성은 "대박, 물개다!"고 외치며 놀라워한다.

생성형 인공지능(AI)으로 만든 영상. 유튜브 채널 '골파닭'

그러나 이 영상은 실제 상황이 아닌 인공지능(AI)이 생성한 가짜 영상이다.

연합뉴스는 21일 "최근 유튜브 등 영상 플랫폼에서 '장마' '폭우' 등 키워드로 검색하면 침수된 도심을 배경으로 한 생생한 재난 영상들이 다수 확인된다"며 AI 가짜영상에 대해 보도했다. 가짜 영상은 물이 가슴까지 차오른 지하철이나 침수된 강남역을 배경으로 중계방송하는 장면 등이다. 누리꾼들은 "진짜 같다"면서도 "상황 자체가 가짜인 티가 난다"고 평가했다.

해당 영상은 구글이 지난 5월부터 서비스를 시작한 동영상 생성 AI '비오3(Veo3)'에서 제작된 것으로 알려졌다. 음성 생성까지 지원하는 비오3에서 구독료만 내면 누구나 쉽게 짧은 고품질 영상을 제작할 수 있으며 두 달 만에 비오3에서 제작된 영상만 4000만건이 넘는 것으로 알려졌다.

생성형 인공지능(AI)으로 만든 영상. 유튜브 채널 '골파닭'

이 같은 AI 영상은 방송 제작에도 활용되고 있다. MBC는 최근 '서프라이즈' 프로그램에서 '우주 유영'이나 '모나리자 도난' 같은 재연이 어려운 장면을 AI 영상으로 구현해 화제를 모았다. 방송 예고편, 광고 시안 등에서도 AI 영상 활용 사례가 느는 추세다.

다만 AI 영상이 범죄에 악용되는 사례도 증가하고 있다. 특히 실제 인물을 합성하는 '딥페이크' 영상은 보이스피싱이나 연애 사기 등에 활용되고 있다. 한국형사·법무정책연구원에 따르면 딥페이크 관련 경찰 신고 건수는 2021년 156건에서 지난해 964건으로 급증했다. 올해 역시 증가세가 이어지고 있다.

전문가들은 AI 영상 기술이 사회적 불신과 갈등을 유발할 수 있다고 경고한다. 고삼석 동국대 AI융합대학 석좌교수는 "AI 영상의 무분별한 확산은 공동체 신뢰를 해칠 수 있다"고 경고했다.

그러나 법·제도 정비는 아직 미흡한 실정이다. 내년 1월22일부터 시행 예정인 AI 기본법은 생성형 AI 콘텐츠에 '워터마크' 표시를 의무화했지만 워터마크 제거가 가능하다는 점에서 실효성 논란이 있다.

서지영 인턴기자 zo2zo2zo2@asiae.co.kr