"무한스크롤, 자동재생…청소년 피해, 플랫폼 사업자 책임 강화해야"

4일, 성평등가족부 '청소년 디지털 안전포럼' 개최
중독적 설계·AI 의존 위험 논의

청소년의 소셜미디어(SNS) 과몰입과 생성형 인공지능(AI) 챗봇 이용에 따른 부작용을 예방하기 위해 플랫폼 사업자의 책임을 강화해야 한다는 목소리가 나왔다.

아시아경제DB

4일 성평등가족부와 한국청소년정책연구원은 이날 오후 서울 중구 그랜드센트럴 오디토리움에서 '청소년 디지털 안전을 위한 플랫폼 사업자 책임강화 방안'을 주제로 청소년정책포럼을 개최했다.

이날 성욱제 정보통신정책연구원 선임연구위원은 '안전한 플랫폼 환경을 위한 사업자의 예방과 보호책임'을 주제로 발표했다. 성 연구위원은 청소년의 SNS 과몰입 문제를 개인의 자기통제에만 맡길 것이 아니라 플랫폼 사업자의 책임을 강화해야 한다고 제안했다. 추천 알고리즘과 무한스크롤, 자동재생 등 이용자의 지속적인 참여를 유도하는 서비스 설계 자체가 위험 요인이 될 수 있다는 것이다.

'생성형 AI·챗봇 등 청소년 이용 현황 및 대응 방안'을 주제로 발표한 김봉섭 한국지능정보사회진흥원 연구위원은 생성형 AI와 챗봇 이용이 확산하면서 청소년의 정서적 의존과 판단력 약화, 부정확한 정보 수용 등의 위험이 나타날 수 있다고 지적했다. 그러면서 AI시대에 맞는 새로운 윤리관과 'AI 이용 사전 확인 제도' 등과 같은 법·제도적 대응과 기술적 안전장치 마련 등이 필요하다고 설명했다.

이어진 종합토론에서는 플랫폼의 중독적 설계에 대한 규제, 사업자의 위험평가 의무 등이 논의됐다.

상윤모 연세대학교 언론홍보영상학부 부교수는 "SNS와 AI 챗봇 등 플랫폼의 중독적 설계는 아동·청소년에게 실질적인 폐해를 낳고 있다"며 "플랫폼의 중독적 설계가 아동·청소년에게 미치는 부정적 영향이 명백한 만큼, 이들을 보호하기 위한 적절한 규제가 필요하다는 점에는 이견의 여지가 없어 보인다"고 말했다.

이어 "결국 특정 연령 기준에 따른 '접근 제한', 중독적 설계에 대한 규제, 그리고 플랫폼 사업자의 '주의 의무'를 기반으로 한 위험평가 및 위험완화 조치 사이에서 국내 현실에 적합한 정책 조합을 찾아내는 것이 중요한 과제라고 할 수 있다"면서 "다만 규제의 범위와 강도는 사회적 합의가 선행되어야 하는 만큼, 해외의 다양한 규제 사례들을 면밀히 검토해 시사점을 도출할 필요가 있다"고 제언했다.

오주연 기자 moon170@asiae.co.kr