앤스로픽 보고서 "中·러, 미사일 등 무기 개발에 클로드 AI 사용"

앤스로픽, 위협정보 보고서
中 연구소, '불법 증류' 시도
러 해킹조직, 사이버 공격 활용

중국과 러시아 등지에서 미국 인공지능(AI)을 활용해 미사일이나 드론 등 무기 개발을 하고 있다는 관측이 제기됐다.

미국 AI 기업 앤스로픽은 지난 8개월간 사이버 첩보 업체나 국가 배후 해킹 조직 등이 앤스로픽의 AI 챗봇 서비스 클로드를 악용한 사례를 담은 위협정보 보고서를 10일(현지시간) 발표했다.

예를 들어 중국과 러시아, 예멘 등지에서는 클로드를 활용해 총기와 미사일, 무장 드론, 폭탄 등 재래식 무기의 설계·개발에 필요한 소프트웨어(SW)를 제작한 사례가 적발됐다. 무기의 표적 설정과 제어 시스템을 개발하거나, 무기 프로그램과 관련한 정보 수집 및 물자 조달을 지원하는 것에도 이를 활용한 것으로 알려졌다.

미국 인공지능(AI) 기업 앤스로픽이 10일(현지시간) 발표한 위협정보 보고서 표지. 앤스로픽.

러시아 기반의 한 해킹 조직은 우크라이나 정부, 군, 외교 인사를 대상으로 피싱·호텔 와이파이 탈취·왓츠앱 계정 탈취 작전을 수행하는 대부분의 단계에서 클로드를 중점적으로 활용했다.

또한 앤스로픽은 먼저 해당 기간 중국에 기반을 둔 7개 연구소의 '불법 증류' 시도를 차단하기도 했다. 앤스로픽은 중국 알리바바, 문샷AI, 딥시크, 샤오미 등을 실명으로 언급했는데, 이들은 자사 AI 모델의 성능을 개선하기 위해 클로드의 기능을 대규모로 추출해 학습시키는 이른바 '불법 증류'를 시도한 것으로 나타났다. 문샷AI와 딥시크는 실제 이용자들이 자사 AI 서비스에 입력한 대화 내용을 클로드에 전달하고, 여기서 얻은 응답을 모델 학습에 활용한 것으로 조사됐다. 이 과정에서 이용자의 민감한 정보가 본인도 모르게 클로드에 전달된 사례도 확인됐다.

제이콥 클라인 앤스로픽 위협정보책임자는 현지 언론과의 인터뷰에서 AI의 발전과 함께 예상치 못한 새로운 위협이 대두되고 있다고 밝혔다. 그는 "1년 전만 해도 드론의 성능이나 미사일 SW를 최적화하려고 했다면 AI가 애초에 작업을 잘 수행할 수 없었을 것"이라고 전했다.

전진영 기자 jintonic@asiae.co.kr