온라인 자살유발정보 차단 강화…정보통신사업자에 유통 방지 의무

개정 자살예방법 12일부터 시행
24시간 AI 모니터링 시스템으로 위험 게시물 선별

온라인에서 유통되는 자살유발정보를 차단하기 위해 정보통신서비스 제공자의 책임이 강화된다. 인공지능(AI)을 활용한 24시간 모니터링 체계를 통해 위험 게시물을 선별하는 시스템도 가동된다.

보건복지부와 한국생명존중희망재단은 11일 서울 강남구 보코서울강남호텔에서 '온라인 자살유발정보 대응강화 포럼'을 열고 개정된 '자살예방법'의 주요 내용과 온라인 자살유발정보 확산 방지를 위한 민관 협력 방안을 논의했다.

12일부터 시행되는 개정 '자살예방 및 생명존중문화 조성을 위한 법률(자살예방법)'에 따라 앞으로 정보통신서비스 사업자는 자살유발정보 유통 방지를 위한 조치를 하고 그 결과를 정부에 제출해야 한다.

복지부 장관의 자살유발정보 모니터링 업무도 법률에 명시됐다. 정부는 온라인상 자살유발정보를 모니터링하고, 명백한 자살유발정보가 확인되면 정보통신서비스 제공자에게 필요한 조치를 요청할 수 있다. 긴급한 대응이 필요한 경우에는 소방서 등 긴급구조기관장에 수사나 구조를 위한 협조도 요청할 수 있다.

복지부는 또 과학기술정보통신부의 공공AX 프로젝트를 통해 개발한 24시간 자살유발정보 모니터링 AI 솔루션을 이달 중 가동해 AI를 활용한 모니터링 체계를 구축한다. 이를 통해 모니터링 담당자가 자살 위험이 높은 게시물을 신속하게 확인하고, 필요한 경우 구조 신고 등 후속 조치에 나설 수 있도록 한다는 구상이다. 기존 인력 중심의 모니터링 체계를 AI로 보완해 온라인상 위험 정보에 대한 대응 속도와 효율성을 높이겠다는 것이다.

이날 포럼에서는 자살유발정보 차단의 필요성뿐 아니라 규제의 한계와 향후 정책 방향도 논의됐다. 발표를 맡은 유현재 서강대 신문방송학과 교수는 온라인 플랫폼과 미디어 환경이 변화하면서 자살 관련 정보가 확산하는 양상도 복잡해지고 있다고 진단했다. 특히 미디어를 통한 자살 보도와 관련 정보의 확산이 청소년 등 취약계층에 미치는 영향을 고려해 신중한 대응이 필요하다고 강조했다.

유 교수는 "자살유발정보 제한이 단순히 특정 게시물을 삭제하거나 차단하는 방식에 머물러서는 안 된다"며 "특히 자살 관련 정보의 확산을 막기 위해서는 플랫폼 사업자의 자율적인 관리 역량을 높이고, 신고와 위기 대응 체계를 연계하는 등 실효성 있는 협력 구조가 필요하다"고 제언했다.

이형훈 복지부 제2차관은 "자살유발정보를 생산하고 유통하는 행위는 소중한 생명을 위협하는 명백한 범죄"라며 "자살유발정보에 대한 대응은 일부 불법행위자를 적발하고 처벌하는 차원을 넘어 정부와 정보통신서비스 제공자, 나아가 우리 사회 전체가 함께 책임져야 할 공동의 과제"라고 말했다. 이어 "이번 법 개정과 AI 기반 모니터링 체계 구축을 계기로 민관의 역량을 결집해 자살유발정보로부터 국민의 생명을 보호하고 온라인 공간에도 생명존중문화가 확산될 수 있도록 노력하겠다"고 전했다.

조인경 기자 ikjo@asiae.co.kr