방미통위 "AI 불법·유해정보, 자율 안전조치 마련해야"

카카오 '카나나 세이프가드' 사례 소개

인공지능(AI) 서비스 내 불법·유해정보 노출 위험이 커지는 가운데 사업자의 자율적 안전조치 방안이 논의됐다.

방송미디어통신위원회는 27일 AI서비스 불법·유해정보 대응을 위한 기술적 조치 동향 등을 논의하기 위해 정부, 산업계, 학계 등이 모인 가운데 'AI서비스 이용자보호 민관협의회 2차 회의'를 개최했다고 밝혔다.

회의에서는 김경훈 카카오 AI 안전 리더가 AI서비스 불법·유해정보 대응을 위한 가드레일 시스템 현황을 발표했다. 김 리더는 카카오가 자체 개발한 AI 안전성 검증을 위한 가드레일 모델 '카나나 세이프가드'를 소개하고, 사업자의 자율적 안전조치 고도화 방향과 생태계 협력 방안을 공유했다.

이성엽 민관협의회 위원이 주재한 종합토론에서는 사업자의 자율적 안전조치를 활성화하기 위한 민관 협력 방안에 관한 논의가 이어졌다.

신영규 방미통위 방송통신이용자정책국장은 "윤리적으로 신뢰할 수 없는 AI 기술은 사회적 불신을 초래해 AI 산업 전체의 성장을 가로막을 수 있으므로 기술 진흥과 이용자 보호를 위한 기술적 안전조치는 반드시 동반되어야 한다"고 강조했다.

방미통위는 지난 2021년부터 지능정보사회 이용자 보호 민관협의회를 운영해왔고, 2024년부터 AI 환경 변화에 대응하기 위해 협의회를 확대 개편했다.

이은서 기자 libro@asiae.co.kr