'수천만뷰' 선정적 AI 쇼츠, 아이들도 본다

유튜브 연령 제한 적용 의무에도
대다수 영상 수개월째 방치돼
제작 쉬워…모방 콘텐츠 우려

한 유튜브 '쇼츠'에 등장하는 피겨스케이팅 페어 경기 장면. 남성 선수가 여성 선수를 들어 올리는 동작에서 특정 신체 접촉이 강조된다. 실제 페어 경기에서는 볼 수 없는 구도다. 이는 생성형 인공지능(AI)으로 만들어진 조잡한 영상인데, 조회수가 무려 2300만회에 달했다.

AI로 만든 음란한 콘텐츠가 유튜브에서 3000만 조회수를 기록했다. 유튜브 캡처

최근 AI로 제작한 선정적 영상이 빠르게 확산하고 있다. 수천만회의 조회수를 기록하고 있지만, 연령 제한 등 기본적인 보호 장치는 제대로 작동하지 않는다는 지적이 나온다.

9일 유튜브 등에 따르면 선정적 AI 영상은 적게는 수십만회, 많게는 3000만회 이상의 조회수를 기록했다. 특히 영상 미리보기 이미지에서 특정 신체를 강조한 콘텐츠일수록 추천 빈도가 높은 경향을 보였다. 조회수가 높을수록 게시자와 플랫폼이 가져가는 광고 수익도 늘어나는 구조다.

유튜브는 운영 정책상 성적 자극을 유도하는 연출이 확인될 경우 '연령 제한' 조치를 적용하도록 하고 있다. 그러나 대다수 영상은 수개월이 지나도록 별도의 제한이 적용되지 않았다.

플랫폼의 관리 부실이 이어지면서 유사 콘텐츠 확산 우려도 커지고 있다. 생성형 AI 영상은 간단한 텍스트 입력만으로도 제작이 가능해 모방 콘텐츠가 늘어날 가능성이 크다.

국내에서는 AI를 활용한 '비동의 합성물' 제작을 처벌하는 규정이 마련돼 있지만, 불특정 다수를 대상으로 한 선정적 AI 영상물에 대한 별도 규제는 사실상 공백 상태다.

해외에서는 플랫폼 책임을 강화하는 법제화가 빠르게 진행되고 있다. 유럽연합(EU)은 디지털서비스법(DSA)을 통해 유해 콘텐츠를 신속히 삭제할 의무를 부과했고, 영국도 온라인 안전법을 통해 청소년·아동 유해 콘텐츠 차단 의무를 명문화했다.

유현석 서강대 신문방송학과 교수는 "AI 기반 영상은 누구나 손쉽게 제작할 수 있는 환경이 됐다"며 "선정적 콘텐츠 확산을 막기 위한 플랫폼 책임 강화가 필요하다"고 말했다.

변선진 기자 sj@asiae.co.kr