AI 석학부터 극우 인사까지…"초지능 개발 중단해야"

"최대 위협은 기업·국가 아닌 AI"

인공지능(AI)과 기술 전문가들은 물론 극우 인사, 기업인 등 각계각층 유명인들이 '초지능(Superintelligence)' 개발 노력을 중단해야 한다는 공동 성명에 서명했다고 22일(현지시간) 미 CNBC 방송 등이 보도했다.

비영리단체 미래생명연구소(FLI)가 이날 발표한 공동 성명에는 스티브 워즈니악 애플 공동 창립자, 버락 오바마 행정부에서 국가안보보좌관을 지낸 수전 라이스와 AI 석학 요슈아 벤지오 몬트리올대 교수, 제프리 힌튼 토론토대 교수, 스튜어트 러셀 UC버클리대 교수 등 800명 이상이 서명했다.

로이터연합뉴스

이 외에도 리처드 브랜슨 버진 그룹 창립자, 마이크 멀린 전 미국 합참의장, 영국 해리 왕자(서식스 공작)와 메건 마클 서식스 공작부인 등 다양한 분야의 유명 인사들이 폭넓게 참여했다.

스티브 배넌 전 백악관 수석전략가와 보수 정치평론가 겸 라디오 진행자 글렌 벡 등 도널드 트럼프 미 대통령의 측근들도 동참했는데 로이터 통신은 실리콘 밸리 인사들이 트럼프 행정부 내에서 영향력을 행사하고 있는 가운데 보수 진영 내에서도 AI에 대한 불안감이 확산하고 있음을 보여주는 신호라고 설명했다.

중국 AI 스타트업 딥시크가 전 세계적으로 충격을 안긴 이후 미·중 AI 경쟁이 치열해지는 가운데 튜링상 수상자인 앤드루 야오 칭화대 교수와 바이두 총재 출신 장야친 칭화대 인공지능산업연구원장 등 중국 과학자들도 서명했다.

초지능은 AI가 인간 지능 수준을 뛰어넘은 단계다. 최근 xAI부터 오픈AI까지 주요 기업들은 더 진보한 대형언어모델(LLM)을 내놓기 위해 치열하게 경쟁하고 있다. 메타는 LLM 부서를 '메타 초지능 연구소'로 이름짓기도 했다.

그러나 이들은 성명에서 초지능의 등장에 대해 "인류의 경제적 역할 상실과 무력화, 자유·시민권·존엄성·통제력 상실, 나아가 국가 안보 위협과 인류 멸종 가능성에 이르기까지 다양한 우려를 불러일으키고 있다"고 경고했다.

또 대중의 지지와 과학계의 폭넓은 합의가 형성돼 안전하고 통제 가능한 방식으로 초지능을 개발할 수 있다는 확신이 서기 전까지 초지능 개발을 금지해야 한다고 촉구했다.

맥스 테그마크 FLI 창립자는 파이낸셜타임스(FT)에 "우리를 하나로 묶는 것은 인간성"이라며 "점점 더 많은 사람이 최대 위협이 다른 기업이나 다른 나라가 아니라, 우리가 스스로 만들어내고 있는 기계일지도 모른다고 생각하기 시작했다"고 말했다.

오수연 기자 syoh@asiae.co.kr