앤스로픽, 증권신고서에 AI 위험성 강조…"인류 존립 위협"

앤스로픽은 기업공개(IPO)를 위해 제출한 증권신고서를 통해 AI 기술의 잠재적 위험성을 강조했다. 90여페이지에 걸쳐 각종 위험 요인을 설명하며 AI가 인간의 통제를 벗어나거나 사이버 공격과 생물무기 개발 등에 악용될 수 있으며 인류의 존립 자체를 위협할 가능성도 있다고 경고했다.

AP연합뉴스

앤스로픽은 26일(현지시간) 미국 증권거래위원회(SEC)에 IPO를 위한 S-1 증권신고서를 제출하면서 26쪽부터 119쪽까지 총 94페이지를 할애해 주요 위험 요인을 상세히 설명했다.

앤스로픽은 자사의 AI 기술이 "인류에게 재앙적이거나 존립 자체를 위협하는 위험을 초래할 수 있다"고 경고했다. AI가 화학·생물학 무기 등 위험한 무기를 개발하려는 악의적 행위자들에게 실질적인 도움을 줄 수 있다는 우려도 제기했다.

그러면서 AI 제품에 대한 통제력을 상실할 가능성을 경고했다. AI 모델이 향후 작동 중단에 저항하거나 정보를 은폐·조작하는 등 예상치 못한 자기보존 행동을 보일 수 있다는 것이다. 협박과 유사한 강압적이거나 기만적인 결과물을 생성할 가능성도 있다고 설명했다.

앤스로픽은 미국 행정부의 정책 변화에 따른 위험도 언급했다. 미국 정부가 새로운 규제를 도입하거나 사업 운영을 제한하면서 비용 부담이 늘어나고 AI 모델 수요에도 영향을 미칠 수 있다는 것이다. 실제 앤스로픽은 올해 초 미 국방부로부터 '공급망 위험' 기업으로 지정된 바 있다.

또한 컴퓨팅 자원 확보의 불확실성도 주요 위험 요인으로 꼽았다. AI 개발에 필요한 컴퓨팅 자원을 충분히 확보하지 못하거나 관련 비용이 크게 상승할 수 있다는 것이다. 특히 구글과 아마존, 스페이스XAI(현 스페이스XSI) 등 주요 인프라 공급업체들이 자체 AI 모델을 개발하며 앤스로픽과 경쟁하고 있다는 점도 문제로 지적했다. 앤스로픽은 이들 기업의 이해관계가 자사의 장기적인 이익과 항상 일치하지 않을 수 있다고 설명했다. 앤스로픽은 이들 기업과 반도체·데이터센터 등 AI 인프라를 이용하기 위한 대규모 계약을 체결한 상태다.

반대로 컴퓨팅 자원 수요를 과대평가해 지나치게 많은 투자를 단행할 경우 설비가 남아돌면서 막대한 비용이 낭비될 가능성도 제기했다. 앤스로픽은 "실제 컴퓨팅 자원 수요는 예측하기 어려운 수많은 요인에 달려 있다"며 연구 개발의 진전 속도와 AI 모델 학습에 필요한 연산량 등을 불확실성의 원인으로 꼽았다.

파이낸셜타임스(FT)는 앤스로픽의 증권신고서에 대해 기업들이 향후 법적 분쟁에 대비해 형식적으로 기재하는 일반적인 위험 공시와는 상당한 차이가 있다고 짚었다. 앤스로픽이 위험 요인에 할애한 분량은 스페이스X의 약 3배에 달한다.

유현석 기자 guspower@asiae.co.kr