아동·청소년 성착취물 삭제, AI 도입 후 10배 가까이 증가

성평등가족부, AI기반 24시간 탐지 도입
6개월간 9만6000여건 삭제 지원

아동·청소년의 온라인 성착취물을 삭제하는 작업에 인공지능(AI) 시스템을 도입한 결과, 일평균 삭제 처리 건수가 10배 가까이 증가한 것으로 나타났다.

11일 성평등가족부는 올 4월부터 본격 운영한 'AI 시스템'을 통해 지난 6개월간 아동·청소년 성착취물 9만6000여건의 삭제 작업을 지원했다고 밝혔다.

AI 시스템을 도입하기 전인 지난 한 해에는 삭제 종사자가 일일이 수작업을 통해 4만5000여건을 처리했다. 1인당 일평균 20.8건을 처리해 온 셈이다. 그러나 AI 시스템 도입 후에는 6개월 만에 9만6000건을 처리, 1인당 일평균 삭제 처리 건수는 202건으로 약 9.7배 늘었다.

AI 시스템은 온라인상의 성착취물과 유인정보를 24시간 자동으로 탐지·분석하는 체계로, 사회관계망서비스(SNS)와 랜덤채팅앱 등에서 아동·청소년 성착취물과 유인정보를 자동으로 수집해 분석하고 이후 담당자의 검토를 토대로 유포 현황 모니터링과 삭제 요청 등이 진행된다.

AI가 유해 영상물을 먼저 탐지하면서 종사자가 성착취물 등에 직접 노출되는 빈도를 낮춘 것도 긍정적인 효과로 꼽힌다.

성평등가족부는 내년까지 과학기술정보통신부와 협업해 AI 시스템을 고도화할 방침이다. 탐지 대상 플랫폼을 대폭 확대하고, 대규모 데이터를 학습한 AI 모델을 활용해 탐지·판별 정확도를 높이겠다는 계획이다. 또한 중앙디지털성범죄피해자지원센터(중앙디성센터) 시스템의 핵심 기능을 탑재한 '설치형 삭제 지원 소프트웨어(SW)'를 지역디성센터에도 보급해 대응 역량을 확장할 계획이다.

오주연 기자 moon170@asiae.co.kr