bar_progress

아시아경제 최신 기획이슈

알엔딥 "텔레그램 불법 동영상·사진 등 성인물 차단 RED AI 기술 개발"

최종수정 2020.04.09 07:12 기사입력 2020.04.09 07:12

댓글쓰기

[아시아경제 유현석 기자] 알엔딥은 AI 딥러닝 기술중 하나인 GAN(생성적 적대 인공 신경망)을 기반으로 폭력, 음란물, 유해사이트 등을 막을 수 있는 기술을 구현했다고 9일 밝혔다.


기술 개발을 위해 알엔딥은 약 30만장의 성인 노출 사진을 인공지능에 학습시켰다. 이를 통해 훈련된 AI는 순식간에 컨텐츠가 성인물인지 아닌지를 찾아낸다는 것이 회사 측의 설명이다.

알엔딥의 관계자는 "레드 AI 기술을 이용하면, 사진, 영상 뿐만 아니라 그림 속에 포함된 것 까지 정확하게 찾아낸다"며 "검사하는데 걸리는 시간은 불과 1초도 걸리지 않는다"고 말했다.


알엔딥에서 보유한 빅데이터와 크롤링 기술을 접목할 경우, 특정 사이트의 주소 내 성인물이 포함돼 있는 지 사전 검사할 수 있다. 또 성인물이 포함돼 있는 경우 사이트 전체를 차단하도록 하는 서비스에도 활용될 수 있다는 것이 회사 측의 설명이다.


알엔딥 레드 AI기술은 컨텐츠에 대한 직접적인 검사 뿐만 아니라 URL등을 검사하는 데도 사용될 수 있다. 메신저상에서 URL을 보낼 경우, URL에 연결된 컨텐츠가 성인 사진이나, 영상일 경우, URL 전달을 차단하게도 할 수 있다.

국가에서 운영하는 유해사이트 정보의 경우, 인위적으로 등록된 URL을 차단하는 시스템이다. 신규로 만들어진 사이트에 대해서는 차단이 불가능하다. 유해사이트로 등록되는 속도 보다 신규로 만들어 지는 사이트가 더 많기 때문에 100% 차단하기에는 역부족하다는 것이 회사 측의 설명이다.


알엔딥 레드 AI는 특정 유저가 사이트를 열기전, 사이트내 연결된 컨텐츠를 모두 검사하고 유해성을 확인한다. 즉 사이트를 열기전 AI가 먼저 성인물 포함 여부를 검사하기 때문에 유해사이트인지 아닌지를 훨씬 높은 정확도로 검사해 낼 수 있다. 이렇게 확인된 유해사이트 URL등은 국가유해사이트 정보원으로 자동으로 신고를 해 추가 접속의 경우 AI검사 없이 차단이 가능하다.


한편 알앤딥은 성인물 모자이크 생성기술 딥페이크 검출 기술도 완성 단계에 있으며 이달 내 공개할 예정이다.




유현석 기자 guspower@asiae.co.kr

<ⓒ경제를 보는 눈, 세계를 보는 창 아시아경제(www.asiae.co.kr) 무단전재 배포금지>

간격처리를 위한 class