美국방부, 앤트로픽 '클로드' 계약해지 검토…윤리문제 충돌

오픈AI, 구글, xAI 등 협상 중

미국 국방부가 니콜라스 마두로 베네수엘라 대통령 체포·압송 작전에 활용된 인공지능(AI) '클로드'를 개발한 앤트로픽과의 계약해지를 검토하고 있다고 미국 정치전문매체 악시오스가 14일(현지시간) 보도했다.

앤트로픽 로고. 로이터연합뉴스

미국 국방부와 앤트로픽은 AI를 전장에서 활용하는 윤리 문제를 두고 갈등하고 있다. 보도에 따르면 국방부는 무기 개발, 정보수집, 전장에서의 작전 수행 등 민감한 분야에서 합법적으로 AI를 쓰고자 앤트로픽과 수개월간 협상했으나 지지부진한 상황이다.

앤트로픽은 미국인에 대한 전방위적인 감시, 완전 자율형 무기 체계 사용 등에서 클로드를 사용해선 안 된다는 입장이다.

영리화에 비판적이던 오픈AI 출신 직원들이 설립한 앤트로픽은 '안전하고 윤리적인 AI'를 표방하며 자사 모델이 살상 무기 개발이나 군사 작전에 직접적으로 사용되는 것을 제한하는 가이드라인을 유지해 왔다. 그러나 지난달 미군이 마두로 체포·압송 작전인 '확고한 결의(Operation Absolute Resolve)'에 클로드를 활용하자 국방부와 앤트로픽 간 갈등이 격화한 것으로 알려졌다.

이와 관련해 미국 국방부는 앤트로픽이 주장하는 금지영역에 상당한 회색지대가 존재한다는 입장이다. 개별 사례마다 매번 앤트로픽과 협상할 수도 없을 뿐더러 클로드가 예기치 않게 특정 애플리케이션(앱)을 차단하도록 내버려 두는 것도 현실적으로 불가능하다는 것이다.

미국 국방부 입장에선 기밀 네트워크에서 사용 중인 앤트로픽의 클로드를 대체하기 어려운 상황이지만 다른 AI 업체와도 적극적인 협상을 이어가고 있다. 현재 오픈AI, 구글, xAI 등이 협상 대상으로 거론되는 가운데 1곳이 정보 요구를 받아들였고 나머지 두곳도 앤트로픽보다는 유연한 입장을 보인 것으로 알려졌다.

미국 국방부 기밀 네트워크용으로 사용되는 AI는 앤트로픽의 클로드가 유일하다. 국방부는 지난해 여름 앤트로픽과 2억달러(약 2900억원) 규모 소프트웨어 사용계약을 체결했다.

박승욱 기자 ty1615@asiae.co.kr