"어머니도 못 알아봐, 끔찍하다"…단돈 2만원이면 만드는 'AI 가짜 광고' 논란

목소리, 표정, 입 모양까지 똑같아
실제 모습과 구별하지 못할 정도
中 인기배우 최근 소송 제기도

중국에서 인공지능(AI) 기술로 만든 유명 연예인의 가짜 광고 영상이 잇따라 논란이 되고 있다. 유명 연예인이 화면에 등장해 제품을 광고하는 영상을 보고 상품을 구매했지만, 알고 보니 모두 AI로 조작된 가짜 영상인 것이 밝혀진 것이다. 특히 목소리와 표정, 입 모양까지 실제 인물과 똑같아 소비자들이 진위를 가려내기 쉽지 않은 것으로 알려졌다.

중국 현지 매체 다상신문은 3일 중국뉴스네트워크(CNN)의 인민생활조사국 조사를 인용해 전자상거래 플랫폼에서 AI로 제작한 유명 연예인이 제작한 홍보 영상은 70~100위안(약 1만6000원~2만2000원)에, 목소리는 1.98위안(약 450원)이면 복제해 사용할 수 있다고 보도했다. 실제 모습과 구별하지 못할 정도로 정교해 실제 연예인들의 이미지 실추는 물론 소비자들의 사기 피해가 막대하다는 내용이다.

중국에서 인공지능(AI) 기술로 만든 유명 연예인의 가짜 광고 영상이 잇따라 논란이되고 있다. AI 생성이미지.

70위안에 영상 뚝딱…1.98위안이면 목소리도 똑같이 제작

최근 중국의 한 인기 배우는 사회관계망서비스(SNS)에 "온라인에 유포된 가짜 AI 영상은 어머니조차 알아보지 못할 정도로 너무 똑같다. 끔찍하다"는 글로 분통을 터트렸다.

유명 연예인의 얼굴과 목소리를 AI 가짜 영상에 담는 방법은 간단하다. 사진 몇 장과 간단한 설명만 있으면 된다. 다상신문은 "중고 거래 플랫폼에서 AI 영상 제작이라는 키워드로 검색한 결과 맞춤형 AI 생성 캐릭터 영상을 제공하는 업체가 다수 발견됐다"면서 "대부분의 판매업체는 법적 위험을 인지하고 있으면서도 주문 제작을 진행했다"고 전했다. 이어 "230위안(약 5만2000원)을 지불하고 세 곳의 업체를 선정해 사진과 100단어 분량의 메시지를 제공하고 유명인 영상을 만들었는데, 생각보다 AI 생성 티가 남아있었다"고 했다.

목소리를 도용하는 업체는 문턱이 더 낮은 것으로 나타났다. 유명 연예인 목소리를 AI 영상으로 만드는 서비스는 단돈 1.98위안부터 시작해 단 40초 만에 생성할 수 있다. 500자 미만의 대본을 읽게 하는 가격은 10위안 미만(약 2200원)이며 싱크로율은 98%에 달하는 것으로 알려졌다. 업자들은 10초 분량의 유명 연예인 목소리는 영구적으로 복제해 휴대폰이나 컴퓨터를 통해 언제든지 들을 수 있다고 홍보했다. 하지만 영상 제작 업체와는 달리 음성 복제 서비스 제공업체는 불법 상업적 이용과 같은 법적 위험에 대해 언급하지 않는 모습이다.

톱스타들 잇따른 소송 제기…법조계 "명백한 초상권 침해"

중국에서 인공지능(AI) 기술로 만든 유명 연예인의 가짜 광고 영상이 잇따라 논란이되고 있다. 기사 이해를 돕기 위한 사진. 픽셀스.

최근 중국 인기 배우 양미 측은 AI 음성 저작권 침해 소송에서 승소한 내용을 공개했다. 당시 변호사는 피고가 원고의 허가 없이 원고의 이미지를 사용하고 AI 기술을 이용해 원고의 음색, 어조, 발음과 매우 유사한 음성을 합성하여 자신의 계정에 영상을 게시했다고 설명했다. 법원은 심리 후 피고가 AI 기술을 이용해 음성을 합성하고 원고의 이미지와 결합하여 영상을 제작한 후 이를 유포 및 판매 홍보하는 등 원고의 이름을 도용하여 상업 활동을 했다고 판단했다. 법원은 피고의 행위가 원고의 초상권과 음성권을 침해한 것이라고 판결했다. 최근 중국에서는 이와 유사하게 AI 단편 드라마(숏폼)나 AI 음악 등 다른 분야에서도 유명인의 저작권이 침해되는 사례가 발생하고 있다.

루이 상하이 지우저 법률사무소 변호사는 AI를 이용해 유명인의 목소리를 복제하거나 허가 없이 홍보 영상을 제작하는 기업들 저작권 침해 및 허위 광고에 해당할 수 있다고 설명했다. 이어 AI 생성 기술의 사용 여부를 떠나 "가짜 영상이 타인의 정당한 권익을 침해하고 소비자를 오도하는지 여부가 중요하다"라고 강조했다.

김진선 기자 carol@asiae.co.kr