이란 연계 단체, 앤트로픽 AI로 美군함 공격 시도

앤트로픽, 악용 감시 도구 개발

이란 연계 단체가 미국의 인공지능(AI) 모델을 활용해 미 해군 함정 등을 공격하려던 정황이 포착됐다.

앤트로픽. 로이터연합뉴스

11일(현지시간) 앤트로픽의 154쪽 분량 'AI 오남용 감지·대응' 보고서에 따르면 'GTG-30005'라는 코드명으로 식별된 이란 연계 위협 세력은 앤트로픽 AI 모델 '클로드'를 활용해 중동에 주둔하고 있는 미 해군 부대의 위치와 공격 표적 추천서 등을 작성했다.

이란 해커들은 공개된 군사 사진 캡션 등을 통해 추출한 ▲미군 명단▲군함·항공기 위치 데이터 ▲상업용 위성사진 등을 종합해 미 군함 등의 동선을 추적했고, 클로드를 활용해 이들 군함의 통신·제어 시스템 보안 취약점을 집중적으로 연구한 것으로 전해졌다.

앤트로픽은 이를 사전에 적발해 관련 계정을 정지시켰다. 정부 당국에도 해당 위협을 공유하고 향후 악용 위험을 줄이기 위한 감시 도구도 개발했다고 밝혔다.

또 이란 외 예멘 후티 반군 연계 세력(GTG-87001)은 클로드를 사용해 사거리 2000km 이상의 다단계 탄도 미사일과 극초음속 활공체 등을 포함한 유도 무기 소프트웨어 개발을 시도했다.

앤트로픽은 "안전장치가 요청 다수를 차단했지만, 전부를 차단하지는 못했다"면서도 해당 계정을 차단하고 당국과 공조했다고 설명했다.

아울러 중국 정부와 연계된 세력도 클로드로 시리아 내 위구르족 언론인들을 추적·감시하고 아시아 전역의 종교 지도자를 내사했으며, 러시아 연계 세력은 우크라이나 전선 데이터를 클로드로 학습시켜 자율 상상 드론 군집을 구축하려 시도하고 아프리카 국가에 친러시아 성향 선전물을 유포하는 데 악용했다.

특정 국가 연계 세력이 클로드로 치명적인 생물 무기를 개발하려 시도하다 적발돼 차단된 사실도 있었다. 앤트로픽은 "적절한 안전장치가 없다면 이와 같은 능력은 재앙적인 결과를 초래할 수 있다"라고 경고했다. 앤트로픽은 국가안보 우려를 이유로 ▲중국 ▲러시아 ▲이란 ▲북한 ▲쿠바 등에 대해서는 클로드의 사용을 제한하고 있다.

한편 앤트로픽을 퇴사한 연구원 제이컵 콕슨(27)은 지난 8일 AI가 인류를 파멸시킬 수 있다는 경고와 함께 회사를 떠나기도 했다.

콕슨은 "AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"며 "머지않아 이 기술들은 무엇이든 해킹하고 하룻밤 사이에 어떤 분야에서든 혁명을 일으키며 실질적인 권력과 자원을 확보하는 초인적 체계가 될 것"이라고 경고했다. 하지만 미 국방부는 AI 발 인류 멸망 경고가 괜스러운 공포라고 일축했다.

구나리 기자 forsythia26@asiae.co.kr