수영복 사진이 '나체사진 둔갑' 무차별 유포…AI개발사에 소송 건 美 여고생

고교 남학생이 가짜 나체사진 채팅방 공유
개발사와 텔레그램 상대로 소송 제기

인공지능(AI)을 이용해 만든 가짜 나체 사진, 일명 '딥페이크' 성범죄 피해 사례가 잇따르면서 미국 10대 여학생이 AI 개발사를 상대로 소송을 제기했다. 17일 연합뉴스는 미국 월스트리트저널(WSJ) 등을 인용해 미국 뉴저지주에 거주하는 17세 여학생이 AI 생성 소프트웨어 '클로드오프(Cloth Off)' 개발사인 'AI/로보틱스 벤처 스트래티지 3'을 상대로 소송을 제기했다고 소개했다. 이 여학생은 메신저 앱 텔레그램이 자동화 프로그램을 통해 클로드오프에 접근할 수 있도록 했다며 텔레그램도 피고 목록에 올렸다.

인공지능(AI)을 이용해 만든 가짜 나체 사진, 일명 '딥페이크' 피해 사례가 잇따르면서 미국 10대 여학생이 AI 개발사를 상대로 소송을 제기했다. 아시아경제

WSJ의 보도를 보면, 이 여학생은 14세 때 수영복을 입고 찍은 사진을 자신의 사회관계망서비스(SNS) 계정에 올렸다. 이를 본 고등학교 동급생인 남학생이 클로드오프를 이용해 이 사진을 가짜 나체 사진으로 바꿨다는 것이 여학생의 주장이다. 같은 반 일부 남학생은 AI 도구로 여러 여학생의 가짜 나체 사진을 만들고 단체 채팅방에 공유한 것으로 전해졌다.

소송을 제기한 여학생은 자신의 가짜 나체 사진이 인터넷에 유포될 수 있다는 두려움에 살고 있으며, 자신과 다른 여학생들의 사진이 클로드오프의 AI 훈련에 이용할까 봐 우려스럽다고 전했다. 여학생 측은 클로드오프 운영사가 당사자 동의 없이 보유한 모든 누드 이미지를 삭제·파기하고, 해당 이미지를 AI 모델 훈련에 사용하지 못하도록 명령해 달라고 법원에 요청했다.

특히 여학생 측은 "이러한 이미지 생성은 아동 성적 학대 콘텐츠"라고 주장하며 강력한 대응을 해야 한다고 주장했다. 반면 이번 사건이 자신들의 AI 소프트웨어 약관에 위배된다고 주장한 업체 측은 "미성년자 이미지 처리는 불가능하며, 이를 시도할 경우 계정이 정지될 수 있으며 우리는 어떠한 데이터도 저장하지 않는다"고 밝혔다.

불법 웹사이트에서도 클로드오프 링크가 아동 포르노 제작 수단으로 활용되고 있다. 이에 데이비드 치우 샌프란시스코 검사장은 지난해 클로드오프를 비롯한 주요 딥페이크·누드 사이트 16곳을 상대로 소송을 제기했고, 10여 곳을 폐쇄시켰다. 아시아경제

이 가운데 클로드오프를 개발한 회사는 영국령 버진아일랜드에 본사를 두고 있고, 벨라루스 거주자들이 이를 운영하는 것으로 알려졌다. 이들이 법정에 출석하지 않거나 소송에 응답하지 않으면, 법원이 미국 내 소프트웨어 사용을 차단할 수 있을 것으로 여학생 측은 기대하고 있다.

WSJ에 따르면, 불법 웹사이트에서도 클로드오프 링크가 아동 포르노 제작 수단으로 활용되고 있다. 이에 데이비드 치우 샌프란시스코 검사장은 지난해 클로드오프를 비롯한 주요 딥페이크·누드 사이트 16곳을 상대로 소송을 제기했고, 10여 곳을 폐쇄시켰다. 클로드오프를 상대로 소송을 계속 진행 중인 치우 검서장은 "모든 운영자가 책임을 질 때까지 (소송을) 멈추지 않을 것"이라고 강조했다.

갈수록 늘어나는 딥페이크 성범죄…피의자 60%가 10대

미국을 비롯한 해외뿐 아니라 국내서도 딥페이크 성범죄가 늘어나는 추세인 가운데 지난 10일 정성국 국민의힘 의원실이 경찰청에서 제출받은 자료에 보면, 올해 8월까지 딥페이크 성범죄로 입건된 피의자 수는 936명으로 전년도 수치(682명)를 이미 뛰어넘은 것으로 확인됐다. 무엇보다 우려스러운 점은 피의자 중 60%는 10대라는 점이다. 10대를 모든 연령대에서 전년도와 비교해 피의자 수가 배로 늘어난 것으로 나타났다.

올해 8월까지 딥페이크 성범죄로 입건된 피의자 수는 936명으로 전년도 수치(682명)를 이미 뛰어넘은 것으로 확인됐다. 무엇보다 우려스러운 점은 피의자 중 60%는 10대라는 점이다. 아시아경제

연령대로 보면 10대가 59.4%(556명), 20대가 32.0%(300명), 30대 6.4%(60명), 40대 1.1%(11명), 50대 이상 0.9%(9명)였다. 피의자의 절반 이상을 차지한 10대를 제외하고는 모든 연령대에서 피의자 수가 3배 가까이 늘었다. 20대 피의자는 2024년 107명에서 2025년(8월 기준)에는 300명으로, 30대 피의자는 20명에서 60명으로 늘었다. 40대 피의자도 4명에서 11명, 50대 이상 피의자는 3명에서 9명으로 증가했다. 8월까지 검거된 수치인 점을 고려하면 올해 말까지는 피의자 수가 훨씬 더 증가할 것으로 보인다.

방제일 기자 zeilism@asiae.co.kr