앤트로픽 "AI 개발 잠시 늦추자" 호소…무슨 일

"AI 곧 자기 개선 수준 도달할 것"
"전 세계가 중단 선택권 갖춰야"

미국 인공지능(AI) 기업 앤트로픽이 전 세계 AI 경쟁 속도를 잠시 늦춰야 한다고 호소하고 나섰다. AI가 너무 빠르게 발전하면서 조만간 인간의 간섭 없이 스스로를 향상하는 '자기 개선' 수준에 도달할 수 있다는 우려에서다.

앤트로픽은 4일(현지시간) 자사 블로그를 통해 현재 자사 AI 모델이 얼마나 빠르게 발전하고 있는지를 보여주는 내부 데이터를 공개했다. 그러면서 전 세계 국가들이 AI 개발 속도를 늦출 수 있다면 "매우 좋은 일이 될 것"이라고 주장했다.

앤트로픽. 로이터연합뉴스

앤트로픽의 연구 책임자 마리나 파바로, 공동 창업자 잭 클라크는 함께 작성한 해당 게시글을 통해 AI가 머지않아 '재귀적 자기 개선' 단계에 도달할 수 있다고 전망했다. 재귀적 자기 개선은 인간의 지도나 개입 없이 AI가 스스로 성능을 향상하는 단계를 의미한다.

AI가 자기 자신을 직접 업데이트할 수 있게 되면, 성능 향상 속도는 기하급수적으로 빨라질 수 있다. 일부 전문가들은 재귀적 자기 개선을 달성한 AI가 사회 전반에 혼란을 초래할 수 있다며 우려를 제기하는 상황이다.

이에 대해 앤트로픽은 "사회 제도와 AI 정렬 연구가 기술 발전 속도에 발맞춰 나갈 수 있도록, 최첨단 AI 개발 속도를 늦추거나 일시적으로 중단할 수 있는 선택권을 국제사회가 갖는 것이 바람직하다"고 강조했다.

또한 AI 모델 개발 속도를 늦추기 위한 국제적 합의와 함께, 경쟁사들이 이를 실제로 준수하는지 확인할 수 있는 검증 매커니즘 마련도 제안했다.

이들은 아직 재귀적 자기 개선이 현실화되지 않았고 필연적인 현상도 아니라고 전제하면서도, "대부분의 기관이 대비하는 것보다 더 빠르게 도달할 가능성이 있다"고 경고했다.

클라크 공동 창업자는 이전부터 AI의 잠재적 위험성을 꾸준히 경고해 왔다. 그는 AI 모델이 재귀적 자기 개선 단계에 진입하면 문명 자체를 변화시킬 수 있다며 "그런 종류의 기술은 이전에는 존재한 적이 없지만 향후 2년 안에, 어쩌면 그보다 더 빠르게 등장할 수 있다고 본다"고 말했다.

앤트로픽은 앞으로 수년간 정치권, 연구계 및 산업계 관계자들과 함께 재귀적 자기 개선과 검증 시스템 구축을 둘러싼 논의를 지속해 나갈 방침이다.

임주형 기자 skepped@asiae.co.kr