전세계서 1700억원 수익 올렸다…버젓이 활개 '알몸 딥페이크' AI앱

"애플·구글, 성적인 콘텐츠 제대로 관리 안해"

스마트폰 앱 스토어에서 알몸 이미지를 합성해주는 인공지능(AI) 앱이 버젓이 등록된 것으로 나타났다.

비영리 감시단체 '기술투명성프로젝트'(TTP)는 27일(현지시간) 발표한 보고서에서 애플 앱스토어와 구글플레이 스토어에서 이와 같은 앱을 각각 47건과 55건 발견했다고 밝혔다. 애플과 구글은 성적인 콘텐츠나 타인을 비하·객체화하는 앱을 금지하고 있으나, 실제로는 관리·차단 기능이 제대로 작동하지 않았다는 지적이다.

문제가 된 앱들은 전 세계적으로 7억500만 회 이상 내려받아졌으며, 예상 수익은 1억1700만 달러(약 1700억원)에 달하는 것으로 분석됐다. 애플과 구글은 앱 개발자 수익의 최대 30%를 가져가므로, 양사가 실제 이와 같은 앱을 방치함으로써 직접적인 이익을 얻고 있다고 TTP는 비판했다.

이들 앱은 AI 기술을 활용해 사진 속 인물을 나신, 비키니 수영복 차림 등 선정적인 모습으로 변환하거나 다른 성적 이미지에 얼굴을 합성하는 '딥페이크'(AI 조작 영상) 기능을 제공했다. 해당 앱들은 오락용 이미지 합성이나 'AI 피팅룸' 서비스로 홍보됐지만, 실제로는 성적 콘텐츠 생성이 가능했다.

일부 앱은 외설스럽거나 다른 사람을 불쾌하게 할 수 있는 콘텐츠 생성을 금지한다는 약관을 설정해두고 있으면서도 실제 앱 사용 과정에서는 성적인 이미지의 생성에 별다른 제지를 하지 않았다. 또 다른 앱들은 아예 '옷 찢기' 등 선정적인 영상 서식을 제공하기도 했다.

TTP는 또 중국 기반 앱의 경우, 사용자 데이터가 중국 내 서버에 저장돼 개인정보 보호와 보안 관련 문제도 우려된다고 지적했다. 이에 대해 애플 대변인은 미 경제방송 CNBC에 "TTP가 지적한 앱 중 28건을 삭제 조치했고 개발자들에게 정책 위반 시 퇴출당할 수 있다고 경고했다"고 답했다. 구글 대변인도 보고서에 언급된 앱들을 정책 위반으로 사용 중지시켰다고 밝혔으나 조치 대상 앱 수는 공개하지 않았다.

한편 최근 일론 머스크의 AI 기업 xAI의 '그록'(Grok)이 비키니 차림 등 성적 이미지를 합성해 각국 정부에서 조사 대상이 되는 등 생성형 AI를 둘러싼 논란도 확산 중이다.

허미담 기자 damdam@asiae.co.kr