서울시, AI로 '디지털성범죄' 잡는다…삭제 신고까지 '6분'

AI가 채증하고 삭제 신고
이메일 7개 국어로 생성

서울시가 온라인에 유포된 디지털성범죄 영상을 AI가 찾아내고, 자동으로 삭제 신고까지 지원하는 시스템을 전국 최초로 개발했다.

서울시는 이같은 'AI 자동 삭제신고 시스템'을 실행한다고 21일 밝혔다. 시는 2023년 서울연구원과 협력해 전국 최초로 '디지털성범죄 AI 삭제지원 기술'을 개발한 바 있다. 서울 디지털성범죄 안심지원센터에서 이를 활용해 24시간 불법 영상물 감시 및 삭제지원을 하고 있다.

'AI 자동 삭제신고 시스템'을 사용해 삭제 요청 이메일을 자동 생성한 예시 이미지. 서울시 제공

AI 자동 삭제신고 시스템은 AI가 피해 영상물을 24시간 상시 검출한 뒤, 자동으로 영상물을 채증해 보고서를 만든 후 해당 사이트에 삭제를 요청하는 이메일을 자동으로 생성한다. 완성된 신고 이메일은 삭제지원관이 최종 확인해 발송한다. 이렇게 되면 불법 영상물을 찾아내 해당 사이트에 삭제 신고를 하는 데까지 드는 시간이 기존 2시간 반~3시간에서 6분으로 단축된다.

자동 채증 보고서 기능은 텍스트, 이미지, URL 등 콘텐츠 핵심 정보를 자동 추출하고, 이를 한글(HWP) 문서로 변환해 저장함으로써 향후 수사나 사법 절차에 필요한 증거자료로 활용될 수 있다.

최근 해외에 서버를 둔 사이트에 피해 영상물이 올라오는 사례가 늘어남에 따라 신고 이메일도 영어, 중국어, 일본어, 러시아어 등 7개 국어로 생성된다.

서울 디지털성범죄 안심지원센터는 올해 3월까지 지난 3년간 3650명의 피해자를 지원했다. 총 지원 건수는 6만4677건이다.

김선순 서울시 여성가족실장은 "서울시는 전국 최초로 AI를 통한 모니터링 기술을 도입한 데 이어서, 이제 AI가 자동으로 삭제 신고까지 하는 기술을 도입함으로써 검출부터 삭제 신고까지 걸리는 시간을 획기적으로 단축할 것으로 기대하고 있다"며 "앞으로도 디지털 성범죄로부터 아동·청소년이 안전한 서울을 만들기 위해 최선을 다하겠다"고 전했다.

김영원 기자 forever@asiae.co.kr