악성 댓글과의 전쟁…"댓글에 욕설이 사라졌네"

연예뉴스 댓글 서비스 종료에 악성 댓글 분석 AI까지

[아시아경제 이진규 기자] 네이버와 카카오 등 양대 포털이 악성 댓글과의 전쟁에 적극 나서면서 댓글에 욕설·혐오 표현이 눈에 띄게 줄고 있다. 트래픽 감소를 감수하면서 연예뉴스 댓글 서비스를 종료하고, 악성 댓글을 가려내는 인공지능(AI) 기술까지 동원한 덕분이다. 지난해 가수 겸 배우 설리(본명 최진리)의 사망 사건 등 악성 댓글로 고통을 받던 연예인들의 잇단 사망 사건은 우리 사회에서 댓글 서비스 개선 목소리를 높여왔다.

20일 정보기술(IT) 업계에 따르면 네이버는 AI 기술로 댓글의 문장 맥락까지 분석해 악성 댓글을 가려낼 수 있도록 'AI 클린봇'을 업데이트했다. AI 클린봇은 욕설과 비속어가 들어간 댓글을 자동으로 탐지해 블라인드 처리한다. 지난해부터 웹툰과 쥬니버, 스포츠, 뉴스 등에 잇달아 적용됐다.

AI 클린봇은 악성 댓글 판단 기준을 욕설 단어에서 문장 맥락으로 확대했다. 비속어가 없어도 문장 맥락을 고려해 모욕적이라고 판단되면 블라인드 처리되는 것이다. 악성 댓글 상습 작성자도 자동으로 가려낸다. AI 클린봇이 인지한 악성 댓들 상습 작성자는 일정 기간 댓글 서비스를 이용할 수 없게 제한된다.

네이버는 지난 3월부터 연예뉴스에 댓글 서비스를 중단한 데 이어 사용자들이 이제까지 뉴스 기사에 쓴 댓글들의 이력을 공개했다. 기존에는 사용자가 쓴 뉴스 댓글들을 공개할지 여부를 마음대로 결정할 수 있었다. 이에 네이버 데이터랩에 따르면 네이버 전체 댓글 수는 지난 2월28일 기준 86만7011건에서 전날 기준 33만4925건으로 줄었고, 같은 기간 규정 미준수 댓글은 4709건에서 415건으로 급감했다.

카카오 역시 지난해 10월 연예뉴스 댓글 서비스를 없앴고, 지난 2월에는 포털 다음과 카카오톡 #탭의 뉴스 댓글 서비스에서 댓글 신고기준에 '차별·혐오' 항목을 추가했다. 또 '덮어두기'와 '접기' 등 댓글 영역의 노출을 관리하는 기능을 신설했다. 이 같은 댓글 제재 강화 이후 악성댓글 신고가 증가한 반면, 욕설·혐오 표현은 감소했다. 개편 이후 지난 3월 한 달간 댓글 신고건수는 개편 이전 대비 약 2배 증가했으며, 21대 국회의원 선거가 끝난 5월에도 개편 이전보다 14% 늘어났다.

신고 건수가 증가함에 따라 악성 댓글 삭제 건수도 3월 한 달간 개편 이전 대비 65% 증가했고, 5월에도 개편 이전보다 7% 늘어났다. 욕설·비속어를 포함한 댓글이 20% 이상 감소하기도 했다. 카카오는 AI를 활용해 댓글의 욕설·비속어를 필터링해 음표 모양으로 바꿔주는 '욕설 음표 치환 기능'도 운영하고 있는데, 댓글 개편 후 음표 치환된 댓글이 20% 이상 감소했다.

이진규 기자 jkme@asiae.co.kr