"청소년 2명 중 1명, 성·마약·도박 등 유해콘텐츠 접해…80%가 추천 알고리즘"

초록우산, '위험평가제도' 도입 강조
만 14세 이상 중고생 1000명 설문
가상계정 이용 숏폼 플랫폼 실험 결과

기사 이해를 돕기 위한 AI 이미지.

국내 아동·청소년 2명 중 1명은 유해콘텐츠를 접한 적이 있다는 연구결과가 나왔다. 이들이 유해콘텐츠를 접한 경로로는 추천 알고리즘이 80%를 차지하는 것으로 나타났다.

10일 아동복지전문기관 초록우산이 작년 말 숏폼 플랫폼을 이용한 적이 있는 14세 이상 중·고등학생 1000명을 대상으로 온라인 설문한 결과에 따르면 53.4%가 서비스 이용 중 유해콘텐츠를 접한 경험이 있다고 밝혔다.

유해콘텐츠 유형으로는 성 관련 콘텐츠가 42.7%를 차지했고, 이어 ▲섭식장애(18.8%) ▲마약·도박(18.6%) ▲자살(17.2%) ▲자해(16.5%) 관련 콘텐츠 순이었다.

접촉 경로의 80.3%가 '추천 알고리즘'으로 나타났다. 이어 게임 중 광고채팅창 링크(17.8%), 검색 엔진(13.7%), 직접 검색(12.9%) 등의 순이었다.

62.1%는 '추천 알고리즘 초기화·사용중단·새로고침 등 제어 기능을 이용한 적이 없다'고 응답했다. 그 이유로는 '기능이 있는지 몰라서'(56.1%), '위치를 몰라서'(15.4%), '이용해도 바뀌지 않을 것 같아서'(14.0%) 등을 들었다.

또 아동·청소년 가상계정을 만들어 진행한 플랫폼 이용 실증실험 결과, 초록우산이 생성한 만14세 가상계정에는 성 관련 콘텐츠, 자살과 자해를 암시하는 콘텐츠, 연관 해시태그 등이 노출된 것으로 나타났다. 또, 아동·청소년 계정임에도 대출 광고나 성인웹툰 사이트로 연결되는 콘텐츠들도 함께 노출됐다.

초록우산은 이와 같은 내용을 바탕으로 위험평가 제도 도입과 아동·청소년의 온라인 안전을 위한 사전예방 방안을 제언했다. 특히 플랫폼의 사전 예방적 책임을 제도적으로 강화하기 위한 '플랫폼 위험평가 제도' 도입 필요성을 강조했다. 구체적으로 ▲독립적인 평가기관 통한 위험평가 실시 ▲위험평가 결과 투명성 확보 및 감독 체계 마련 ▲ 위험평가 미이행·부실 이행에 대한 제재 강화 등을 핵심 과제로 제시했다.

'플랫폼 위험평가 제도'는 플랫폼이 불법·유해콘텐츠 유통 가능성과 서비스 구조 전반의 위험요인을 사전에 점검하고, 이를 플랫폼 자체적으로 개선·관리하도록 하는 제도이다. 이미 영국과 유럽연합 등에서는 플랫폼 내 개별 콘텐츠 조치를 넘어 유해콘텐츠 발생 가능성 자체를 구조적으로 줄이는 예방적 차원에서 해당 제도를 시행하고 있다.

초록우산이 발간한 ‘플랫폼 위험평가 제도’ 도입 필요성을 담은 이슈 브리프. 초록우산 제공

현재 플랫폼 위험평가 제도 도입을 포함한 정보통신망법 개정안 및 불법·유해 콘텐츠에 대한 신속한 사후 대응 체계를 마련하기 위한 전기통신사업법 개정안은 더불어민주당 조인철 의원이 대표 발의해 국회에서 논의되고 있다.

황영기 초록우산 회장은 "위험평가 제도는 디지털 환경에서 아동·청소년을 보호하는 효과적인 안전 장치가 될 수 있다"며 "초록우산은 앞으로도 아동·청소년이 플랫폼을 보다 안전하게 이용할 수 있도록 법과 제도 개선을 위해 노력할 것"이라고 말했다.

조강욱 기자 jomarok@asiae.co.kr