딥페이크 419명 검거…'AI 포렌식'으로 끝까지 쫓는다
범행 전 과정 추적하는 AI 포렌식 기법 개발
경찰이 딥페이크(허위영상물) 등 진화하는 사이버 범죄에 대응하기 위해 인공지능(AI) 탐지 소프트웨어를 개발하는 등 공세적 대응에 나서 7개월간 419명을 검거하는 성과를 올렸다.
경찰청 국가수사본부는 올해 1~7월 딥페이크 범죄 피의자 419명을 붙잡아 17명을 구속했다고 13일 밝혔다. 경찰은 진화하는 범죄 수법에 대응하기 위해 ▲딥페이크 탐지 소프트웨어 판별 ▲과학수사 영상 분석관 판독 ▲AI 범행도구 분석 등 3중 대응체계를 갖추고 이를 고도화 중이다.
경찰이 디지털포렌식 분야에서 딥페이크에 악용되고 있는 상용 인공지능(AI) 프로그램의 특이점을 분석한 'AI 포렌식 기법'을 개발했다. 전문분석관이 AI 포렌식으로 딥페이크 범죄를 분석하는 과정을 시연하고 있다. 경찰청
일례로 올해 3월 경찰청 사이버 범죄 신고시스템에 '해외 성인사이트에 자신의 사진을 합성한 성적 허위영상물이 게시됐다'는 신고가 잇따라 접수됐다. 경찰청은 신고 접수 즉시 4개 시도경찰청에 관련 증거를 확보하고 유포된 사이트를 대상으로 범행 계정 및 게시물을 삭제하도록 했다. 딥페이크 탐지 소프트웨어로 영상물을 분석한 결과, 동일한 특징이 확인됐다. 집중수사를 거쳐 유포된 영상을 동일인이 만들었다는 정황을 잡아 수사했고 20대 남성을 잡아 구속 송치했다.
경찰이 활용한 소프트웨어는 다수의 해외 법집행기관에서도 사용하고 있다. ▲얼굴 생성 및 교체 여부 ▲눈 깜빡임, 혈류 변화 등 생물학적 특징 분석 ▲파일 메타데이터 구조 등을 종합 분석해 합성 여부를 가려낸다. 국내 딥페이크 탐지에 특화되도록 훈련된 AI 모델을 탑재하는 등 성능을 지속해서 고도화 중이다. 현재까지 1636건 활용됐고 선거범죄 수사에도 쓰이고 있다.
경찰은 또 디지털포렌식 분야에서 딥페이크에 악용되고 있는 상용 AI 프로그램의 특이점을 분석한 'AI 포렌식 기법'도 개발을 완료했다. 시도청 전문분석관은 '피의자가 어떤 프로그램으로 영상을 조작했는지' '어느 부분을 변경했는지' 등 제작부터 유포까지 범행의 전 과정을 기술적으로 분석 및 재구성한다. 이 같은 분석은 범행의 고의성을 입증하는 핵심 증거로 사용되고 있다.
꼭 봐야 할 주요 뉴스
"화장실 두 번 다녀오더니 답을 술술"…스마트 안경 숨긴 수험생 결국
국수본 관계자는 "기술이 진화하는 속도 이상으로 경찰의 대응 기술을 발전시키고 있다"며 "시스템 고도화와 집중단속을 통해 딥페이크 범죄에 무관용 원칙으로 강력 대응하겠다"고 말했다.
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>