조작물 정밀 탐지 시스템 등 8대 과제 추진

인공지능(AI) 기술을 악용한 범죄가 딥페이크 등 성범죄를 넘어 명예훼손, 투자 사기, 보이스피싱 등 다양한 양상으로 진화하는 데 따라 경찰이 탐지·분석체계 고도화에 착수한다.


'AI 악용' 범죄 대응…경찰, 탐지·분석체계 고도화 착수
AD
원본보기 아이콘

경찰청 국가수사본부는 AI 불법 조작물 탐지·분석체계 고도화 기본계획을 수립·시행한다고 15일 밝혔다. AI 악용 범죄에 선제적으로 대응하고 국민이 안심할 수 있는 AI 생태계를 조성하기 위해서다. 경찰은 이번 계획에서 조작 여부를 신속하고 정확하게 탐지·판별하고, AI 기술을 이용한 조작·유포 등 범행 전 과정을 분석하는 역량을 향상하는 데 중점을 뒀다고 설명했다.

이에 따라 경찰은 ▲AI 조작물 정밀 탐지 시스템 구축 ▲자동화 분석 도구 개발 및 기법 고도화 ▲AI 전문분석관 운영 등 기술ㆍ시스템ㆍ인력ㆍ조직 측면에서 8대 세부 과제를 추진한다.


먼저 AI 조작물의 조작 여부를 신속하게 탐지·대응할 수 있도록 '차세대 정밀 탐지 시스템'을 구축한다. 이미 세계적으로 사용 중인 딥페이크 탐지 시스템을 2024년부터 도입해 활용하고 있으며 한국인 맞춤형 자료를 학습시켜 국내 실정에 맞도록 시스템을 개선해 성능을 향상 중이다.

또 '멀티모달 딥페이크 탐지 기술'을 도입하기 위한 연구개발(R&D) 사업도 선제적으로 진행 중이다. 기존에는 영상·이미지 등 시각적 요소를 중심으로 조작 여부를 살폈다면, 앞으로는 음성·문자 등을 함께 분석해 탐지 성능을 높인다는 구상이다. 예컨대 영상 속 입 모양과 목소리가 일치하는지, 음성과 자막의 내용이 일치하는지 여부를 종합적으로 따져 확인하는 방식이다.


이 밖에도 생성형 AI 등을 이용한 조작물 생성·유포 등 범행 과정에 대한 분석 기술을 강화한다. 사용 빈도가 높은 주요 생성형 AI 서비스를 선정하고 실행이력 및 명령어 기록 분석, 조작에 사용된 특정 프로그램 식별, 변형자료 분석 등을 통해 범행 과정을 분석하는 기법들을 개발하고 있다. 관련 설명서를 배포하는 한편, 새로운 유행 기술에 대한 연구도 병행하고 있다.


동시에 AI 기술로 불법 조작물을 생성·유포하는 범행의 전 과정을 분석해 증거를 추출할 수 있도록 자동화한 도구 개발도 진행한다. 이를 위해 올해부터 4년간 100억원을 투입해 로컬환경 인공지능 모델 대상 포렌식 기술을 개발하는 등 관련 연구 사업도 충실하게 추진 중이다.

AD

김종철 경찰청장 직무대행은 "AI 기술을 이용한 범죄가 빠르게 변하는 만큼 경찰의 대응도 달라져야 한다"며 "AI 조작을 신속하게 찾아내는 것은 물론, 어떻게 만들어지고 유포됐는지까지 효과적으로 추적할 수 있는 첨단 수사역량을 갖춰 국민이 안심할 수 있도록 하겠다"고 말했다.


장희준 기자 junh@asiae.co.kr

<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>

함께 보면 좋은 기사

새로보기

내 안의 인사이트 깨우기

취향저격 맞춤뉴스

많이 본 뉴스

당신을 위한 추천 콘텐츠

놓칠 수 없는 이슈