"AI 통제권 잃고 인류 멸종될 수도"…앤트로픽 떠난 연구원 경고

앤트로픽 전 연구원 제이컵 콕슨
뉴욕시의회 AI 청문회 참석

미국의 생성형 인공지능(AI) 서비스 개발업체 앤트로픽에서 일했던 연구원이 AI 개발 경쟁의 위험성을 경고했다. 인류가 AI에 대한 통제권을 잃고 멸종에 이를 수 있다고 주장했다.

5일(현지시간) 뉴욕시의회 청문회에서 발언하는 제이컵 콕슨. 연합뉴스,로이터

5일(현지시간) 블룸버그 통신과 CNBC 방송은 앤트로픽 전 연구원 제이컵 콕슨이 이날 뉴욕시의회 AI 청문회에서 "우리는 아직 어떤 AI 시스템도 통제하는 방법을 모른다"고 말했다고 전했다. 콕슨은 지난달 앤트로픽에서 퇴사하면서 앤트로픽과 오픈AI가 "우리의 목숨을 걸고 도박을 하고 있다"고 비판한 인물이다.

이번에는 AI 규제 법안 패키지를 추진하는 줄리 메닌 뉴욕시의회 의장의 요청으로 증언에 나섰다. 그는 "현재 경로대로라면 인류가 AI에 통제권을 잃을 가능성이 그렇지 않을 가능성보다 크다"며 "이는 인류 멸종으로 끝날 수도 있다"고 경고했다.

콕슨은 AI 업계의 개발 방식이 "극도로 무모하다"고 지적했다. 이어 "(실리콘밸리의 오랜 격언인) '빠르게 움직이고 깨뜨려라'는 방식은 사진 공유 앱에는 통할지 몰라도 역사상 가장 강력한 기술을 만드는 데는 통하지 않는다"고 말했다.

시의회가 검토 중인 'AI 킬 스위치'(긴급 차단 장치)에 대해서는 단기적으로 도움이 될 수 있지만 장기적인 안전 대책으로는 충분하지 않다고 봤다.

구글 딥마인드 연구원 출신 알렉스 터너도 화상으로 참석해 개발 경쟁의 위험성을 지적했다. 그는 "중국만이 잠재적 적이 아니다"라면서 "우리는 상당히 높은 확률로 국내에서 우리 자신의 적, 즉 정렬되지 않은 AI를 만들기 위해 경쟁하고 있다"고 말했다. 이어 "이는 언젠가 중국보다 강력해질 수 있다"고 경고했다.

윤슬기 기자 seul97@asiae.co.kr