페이스북, AI로 선정성 높은 생방송 걸러낸다

생중계 방송도 폭력성 선별 및 차단
기존 게시된 동영상 콘텐츠에서 확대 적용
페이스북 라이브를 통해 이미 테스트 중

출처=엔가젯

[아시아경제 이민우 기자] 페이스북이 인공지능(AI) 기술을 이용해 선정적이고 폭력적인 생중계 방송들을 걸러낸다

1일(현지시간) 정보기술(IT) 전문매체 엔가젯은 호아킨 칸델라(Joaquin Candela) 페이스북 머신러닝 디렉터가 로이터통신과의 인터뷰에서 이 같이 말했다고 전했다.

호아킨 칸델라는 "지나치게 폭력적이거나 선정적이거나 하는 등 페이스북의 내부 정책에 반하는 모든 동영상 생중계를 AI로 걸러낼 것"이라며 "이미 페이스북 라이브를 통해 테스트중이다"라고 말했다.

기존에는 이용자들이 유해한 콘텐츠를 신고하면 페이스북 측에서 이를 확인하고 차단하는 방식으로 제재가 이뤄졌다. 이제는 시스템이 스스로 이 과정을 완전히 대체할 전망이다.

페이스북은 이 같은 자동 필터링 시스템을 지난 6월 발표한 바 있다. 당시에는 단순히 페이스북에 올라온 사진, 동영상 콘텐츠에만 적용된다는 내용이었지만 이번 발표에는 생방송 콘텐츠까지 포함된 것이다.

미국 시카고에서 경찰에게 총격을 당해 10대 흑인이 사망한 사건 영상이 페이스북을 통해 전파되면서 무분별한 동영상 생중계 속 폭력성에 대한 문제 제기가 시작됐다. 당시 페이스북은 해당 동영상 콘텐츠에 폭력성에 대한 경고 메시지를 첨부한 채 그대로 게재한 바 있다. 이후 페이스북은 폭력 행위를 선동하는 어떠한 동영상도 삭제할 것이라고 밝혔다.

다만 호아킨 칸델라는 이 같은 동영상 생중계 필터링 시스템 정책에는 두 가지 문제가 남아있다고 설명했다. 그는 "컴퓨터의 비전 알고리즘의 속도를 따라잡는 데에 어려움이 남아있다"며 "또한 우리의 시스템을 파악하고 이를 무너뜨리려는 전문가들도 문제점이 될 것"이라고 말했다.

이민우 기자 letzwin@asiae.co.kr