앤스로픽 "기술탈취 시도 최대 99% 막아"…中즈푸 대놓고 겨냥

앤스로픽, '새 보안 체계 도입' 밝혀
AI 추론 데이터 유출량 90~99% 감소
업계 "불법 증류 막자" 공동 대응 촉구

미국 인공지능(AI) 기업 앤스로픽이 중국 등 해외 AI 기업의 기술 탈취를 막기 위한 새로운 보안 체계를 도입해 AI 추론 데이터 유출량을 최대 99% 줄였다고 밝혔다. 중국 기업들이 미국의 최첨단 AI 모델을 무단으로 활용해 개발 비용을 절감하고 있다며 '불법 증류'를 막기 위한 업계의 공동 대응도 촉구했다.

지난 2월 19일(현지시간) AI 행사에서 발언 중인 다리오 아모데이 앤스로픽 최고경영자(CEO). 로이터연합뉴스

앤스로픽은 12일(현지시간) 공식 블로그를 통해 자사의 AI 모델 '클로드'를 겨냥한 '증류(distillation) 공격'을 차단하기 위한 새로운 방어 기술로 증류 공격자들이 수집하는 데이터의 양이 약 90~99% 감소했다고 밝혔다.

증류 방식은 성능이 뛰어난 AI 모델에서 대량의 응답과 추론 과정을 확보한 뒤 이를 활용해 다른 모델을 학습시키는 방식이다.

AI 증류 자체가 불법은 아니지만, 원래 모델 개발사의 허가 없이 이뤄질 경우 기술 탈취 수단으로 해석될 수 있다.

앤스로픽은 "새로운 방어 체계 도입 이후 공격자들이 추출하는 추론 토큰 수가 이전보다 10~100배 감소했다"며 "증류 공격에 연루된 수만 개의 계정을 차단했다"고 밝혔다. 일부 계정은 공격을 시작한 지 2시간 이내에 적발됐다고 설명했다.

회사는 중국 AI 기업 즈푸가 AI 모델 'GLM-5.3' 개발 과정에서 미국 주요 AI 모델의 사이버보안 능력을 무단 추출했다고도 주장했다. 특히 클로드의 안전장치가 기술 추출을 방해하자 이전 버전의 클로드와 다른 기업의 AI 모델로 공격 대상을 바꿨다고 밝혔다.

앤스로픽은 무단 증류로 개발된 AI 모델이 안전장치 없이 공개되면 사이버 공격 등에 악용될 수 있다고 경고했다. 일례로 즈푸의 GLM-5.3은 보안 장치를 쉽게 우회해 해킹 도구를 개발할 수 있다고 주장했다.

국가안보 위협도 제기했다. 중국 문샷의 AI 모델 '키미'를 통해 클로드에 전달된 요청 중에는 중국 인민해방군 관련자로 추정되는 사용자가 특정 인물의 CCTV 감시 영상 분석을 요구한 사례도 있었다.

앤스로픽은 공격자들이 수십만 개의 허위 계정으로 보안망을 우회하자, AI 추론 과정에 대한 접근을 제한하고, 공격 탐지 시스템을 도입해 반복적인 공격 계정을 차단했다.

앤스로픽은 이 같은 대응 과정에서 상당한 매출과 수조 개 토큰에 해당하는 유료 요청을 포기했다고 밝혔다. 그러면서도 "불법 증류를 막으려면 모든 최첨단 AI 모델 개발자의 노력과 참여가 필요하다"며 다른 AI 기업과 클라우드 플랫폼에도 공동 대응을 촉구했다.

차민영 기자 blooming@asiae.co.kr

기자가 작성하고 AI가 부분 보조한 기사입니다.