"경찰 보디캠 아니었어?"…AI 허위 영상물 제작·유포한 30대 구속

'순찰24시' 채널 운영…누적 3000만뷰
불법리딩방·AI 음란물 제작 및 판매 혐의도

유튜브 채널을 운영하며 인공지능(AI) 허위 영상물을 제작해 유포한 30대 남성이 경찰에 구속됐다.

피의자가 올린 AI 허위 영상물들. 경기북부경찰청

경기북부경찰청 사이버수사대는 전기통신 기본법 위반 등 혐의로 30대 남성 A씨를 구속했다고 2일 밝혔다.

경찰에 따르면 A씨는 '순찰 24시'라는 유튜브 채널을 운영하며 '중국인 난동 체포 영상', '여장남자 여성탈의실 신고 출동 영상' 등 마치 사건 현장에서 경찰의 보디캠으로 찍은 듯한 AI 허위 영상물을 제작하고 유포한 혐의를 받는다.

A씨는 채널 소개 글에는 '실제 경찰과 무관하며 실화를 바탕으로 각색한 AI 영상'이라는 문구를 적어두었지만 개별 영상에는 AI로 제작한 허위 영상이라는 안내를 하지 않았고 AI 제작 영상임을 알리는 워터마크도 삭제한 것으로 조사됐다.

해당 영상들은 인스타그램, 틱톡, 페이스북 등 사회관계망서비스(SNS) 상에서 숏폼 형태로 확산했으며 전체 누적 조회 수는 3000만회를 넘긴 것으로 파악됐다.

경찰은 이 같은 영상이 경찰의 공권력과 공공기관에 대한 국민적 신뢰를 훼손할 우려가 크다고 보고 A씨를 입건해 구속했다.

경찰 관계자는 "초반에 만든 영상은 상당히 어설펐지만 시간이 지날수록 영상의 질이 향상됐다"고 설명했다. A씨는 영상 제작 과정에서 챗GPT와 그록(Grok) 등 생성형 AI 도구를 활용한 것으로 조사됐다.

수사에 착수한 경찰은 A씨가 무허가 사설 선물거래 HTS와 해외선물 투자 리딩방 운영 범죄에도 가담해 피해자의 관심을 끄는 이른바 '바람잡이' 역할을 하며 대가로 약 3000만원을 챙긴 혐의도 확인했다. 이와 함께 유료 구독형 SNS 채널을 운영하면서 돈을 받고 AI로 제작한 음란물을 만들어 판매한 사실도 적발했다.

경찰은 올해 10월까지를 공동체 신뢰를 저해하는 허위정보 관련 범죄 집중 단속 기간으로 정하고 A씨와 같은 사례에 대한 단속을 강화하고 있다고 밝혔다.

박은서 인턴기자 rloseo8@asiae.co.kr