"헉, 지난 휴가때 다녀왔는데"…불길 활활 두바이 'AI 환각'이 만들어낸 가짜 지옥도

아랍에미리트(UAE) 두바이에 있는 고층 건물 부르즈 칼리파가 화염에 휩싸였다. 건물에서는 검은 연기가 하늘 위로 솟았다. 뿐만 아니라 바레인에 있는 고층 건물 역시 이란의 공격을 받아 불이 나면서 무너지기 시작했다. 사람들은 불타는 건물의 모습을 지켜보고 있다. 하지만 이 모든 장면은 AI로 만들어진 영상이다. 이 영상이 가짜라는 것을 알게 된 사람들은 "사회관계망서비스(SNS)에서 대중들이 쉽게 영상에 속고 있다" "우리 사회는 이제 디스토피아(암울한 미래를 뜻하는 용어)로 가고 있다" 등 반응을 보였다.

이달 초 사회관계망서비스(SNS) X(구 트위터)에서 확산된 미군 기지의 모습. 원래 이미지는 검은 연기만 나오는 정도였지만 AI로 불길에 휩싸인 것처럼 조작됐다. X 캡처

11일(현지시간) 미국 CNN·AP통신 등은 생성형 AI로 만들어진 전쟁 관련 사진 및 영상이 SNS상에서 기승을 부리고 있다고 보도했다. 중동 국가의 유명한 장소가 이란의 공격을 받아 불에 타거나 사람들이 폭탄을 피해 달아나는 모습 등이 영상에 담겼다. 하지만 AP통신은 영상에서 건물이 두 개로 겹쳐 보이는 등 AI로 만들어져서 할루시네이션(환각 현상)을 나타났다고 설명했다.

실제로 SNS에서 AI 등으로 만들어진 콘텐츠를 쉽게 찾을 수 있다. SNS 틱톡에서 두바이를 검색하자 이란의 드론 공격에 파손된 두바이 국제공항을 보여주는 영상이 등장했다. 영상의 조회 수는 약 3만5000건에 달했다. 해당 틱톡 계정은 '뉴스'를 태그하고 "두바이 국제공항의 내부가 파손된 모습"이라며 "두바이 국제공항 홍보실은 당국과 협력해 긴급 대응팀을 가동했다"고 설명했다. 이는 AI로 만들어진 영상이었음에도 사람들은 댓글을 통해 AI인지 아닌지 갑론을박을 펼쳤다.

AI 기술이 발전하면서 영상은 더욱 교묘해지고 있다. 중국의 미디어 기업 바이트댄스는 지난달 AI 영상 생성 모델 '시댄스 2.0'을 공개했다. 시댄스 2.0으로 유명 배우 브래드 피트와 톰 크루즈가 폐건물에서 싸우는 장면을 만들어내 논란을 일으켰다. AI 에이전트 플랫폼 '젠스파크' 역시 글로 된 설명만으로 영상을 쉽게 만들어낸다. 젠스파크로 영상을 만드는 데 걸리는 시간은 짧게는 15분에 불과하다.

문제는 AI 기술을 조작된 영상을 만드는 데 이용한다는 점이다. 전쟁을 활용한 조작 영상을 제작해 수익을 창출하거나 원하는 방향으로 여론을 이끌려는 것. 에반겔로스 카눌라스 암스테르담대 교수는 "발전된 인공지능 기술은 질감, 얼굴, 조명 또는 배경 세부 사항을 미묘하게 변경해 원본보다 더 실감 나는 이미지를 만들 수 있다"며 "특정 사건에 대한 내러티브를 강화하게 되는 것"이라고 설명했다.

SNS상에서 정보를 접할 때 AI 조작 가능성을 염두에 둬야 한다는 지적도 나온다. 하니 파리드 캘리포니아대 교수는 CNN과의 인터뷰를 통해 "불과 몇 달 전의 AI 조작 식별 요령이 쓸모없어진 상황"이라며 "SNS에서 게시물을 훑어보는 것 대신, 언론 등 믿을 수 있는 매체에서 소식을 접해야 한다"고 밝혔다.

공병선 기자 mydillon@asiae.co.kr