틱톡 "청소년·창작자 보호에 年 2.7조 투자…AI로 악플 자동 삭제"

신뢰·안전분야 글로벌 담당자 브리핑
"업계 최고의 청소년 보호 장치 구축"
AI 생성 콘텐츠, 라벨링 안하면 제재

글로벌 소셜 미디어 플랫폼 '틱톡'이 청소년 이용자 보호와 창작자 지원 등을 위해 연간 20억달러(약 2조7600억원) 이상을 투자하고 있다고 밝혔다.

틱톡의 아담 프레서(Adam Presser) 운영 및 신뢰와 안전 글로벌 총괄이 30일 온라인 브리핑에서 안전한 플랫폼 운영을 위한 자사 제도와 기능에 대해 설명하고 있다.

틱톡은 30일 온라인 브리핑을 열고 청소년 이용자와 창작자 보호 및 디지털 경험 개선을 위한 인공지능(AI) 기반 대응책과 다양한 제도에 관해 설명했다. 전 세계적으로 이용자 수 10억명 이상을 보유한 틱톡은 짧은 영상 중심의 사회관계망서비스(SNS) 플랫폼으로, 선정적·폭력적 콘텐츠와 중독성, 허위 정보 등으로 논란의 중심에 있었다. 이번 브리핑에는 틱톡의 운영 및 신뢰와 안전 분야를 총괄하는 애덤 프레서 글로벌 총괄이 발표자로 나섰다.

그는 "신뢰와 안전 관련 활동에 연간 20억달러 이상을 지출하고 있고, 수천 명의 전담 인력을 운영 중"이라며 "이것은 회사의 가장 중요한 우선순위 중 하나"라고 밝혔다. 이어 "회사의 경영 회의에서도 매일 논의되는 주제"라고 덧붙였다. 특히 매일 수억 건의 콘텐츠가 게시되는 상황에서 틱톡 커뮤니티 가이드라인을 위반한 콘텐츠 중 85% 이상을 자동화 기술로 식별하고 있다고 강조했다.

프레서 총괄은 청소년 계정과 관련해 "업계 최고의 보호 장치를 구축했다"고 자신했다. 그는 청소년들이 틱톡에서 긍정적인 경험을 할 수 있도록 돕고 보호자는 안심할 수 있는 환경을 제공하기 위해 50개 이상의 기능과 설정을 제공한다고 설명했다. 먼저 부모나 보호자는 자신의 계정을 청소년 자녀의 계정과 연결할 수 있게 했다. 자녀가 누구를 차단했는지 부모가 알 수 있는 기능을 추가했고, 자녀가 사진을 업로드 하면 부모에게 알림이 가도록 했다.

틱톡이 청소년 이용자 보호를 위해 보호자와 자녀의 계정과 서로 연결시켜 구현한 기능 중 일부. 틱톡 제공

창작자들의 활발한 콘텐츠 창작 활동을 돕기 위한 '크리에이터 케어(Creator Care) 모드' 기능도 추가했다. 공격적이거나 부적절한 표현이 담긴 댓글을 자동 차단할 뿐만 아니라 창작자의 삭제·신고 행동을 AI가 학습해 맞춤형으로 댓글을 필터링한다. 부적절한 댓글을 반복적으로 작성하는 사용자 역시 차단된다.

또한 틱톡은 AI로 생성된 콘텐츠는 창작자가 반드시 라벨링 표시를 해야 하는 규정을 세웠다. 프레서 총괄은 "만약 창작자가 이를 라벨링 하지 않았다면 그 콘텐츠는 제재를 받을 수 있다"고 했다. 그는 "해롭거나 오해를 불러일으킬 수 있는 콘텐츠는 AI 생성 여부와 관계없이 커뮤니티 가이드라인을 위반한 것으로 간주되며, 역시 삭제 조치 대상"이라고 밝혔다. 그는 틱톡이 AI 생성 콘텐츠 진위 여부를 알 수 있는 기술 표준인 'C2PA'를 도입해 타 플랫폼에서 생성된 AI 콘텐츠도 자동으로 라벨링 된다고 설명했다.

프레서 총괄은 "수억 건의 일일 업로드 규모에 대응하기 위해 기술과 인력의 결합이 필수"라고 강조하며 "틱톡의 창의성과 즐거움은 그대로 유지하면서도, 보다 건강하고 책임감 있는 디지털 경험을 가능하게 할 것"이라고 전했다.

김보경 기자 bkly477@asiae.co.kr