"우리 목숨 걸고 도박" 글 올린 뒤 퇴사
조회수 1억 7000만, AI 업계 파장 일어
"내년 말이면 이미 통제 불능일 수도"

인공지능(AI) 멸망론에 불을 지핀 27세 앤트로픽 연구원의 출발점은 10대 때 본 '알파고 쇼크'였다.


영국 출신 전 앤트로픽 연구원 제이컵 콕슨. PBS 유튜브

영국 출신 전 앤트로픽 연구원 제이컵 콕슨. PBS 유튜브

AD
원본보기 아이콘

17일(현지시간) 미국 월스트리트저널(WSJ)은 AI 규제와 속도 조절 논쟁의 도화선이 된 영국 출신 전 앤트로픽 연구원 제이컵 콕슨을 집중 조명했다. 콕슨은 일주일 전만 해도 실리콘밸리에서 이름이 거의 알려지지 않은 무명 연구원이었다. 샌프란시스코의 AI 안전 옹호자 커뮤니티에서도 주요 인물이 아니었고, 주변 친구들조차 그가 윤리적인 이유로 AI 기업을 그만두리라고는 예상하지 않았다.

콕슨이 주목받기 시작한 건 회사를 나온 뒤다. 콕슨은 자신의 엑스(X·구 트위터)에 앤트로픽과 오픈AI를 겨냥해 "두 회사 모두 책임 있게 행동하지 않고 있다"며 "자기 개선형 초지능으로 곧장 내달리며 우리 목숨을 걸고 도박하고 있다"는 글을 연달아 올렸다. 그는 "AI를 개발하는 사람들은 이 기술이 10년 안에 우리 모두를 죽일 수도 있다고 진심으로 믿고 있다"라고도 했다. 당시 그의 계정 구독자는 100명도 되지 않았지만, 게시물은 20만 회 공유되며 조회 수가 최대 1억 7000만 회를 기록했다. 구독자는 30만 명 이상으로 늘었다.


이후 그는 WSJ 인터뷰에서 이른바 '멸망 시점'을 못 박았다. 그는 "가장 공격적인 시나리오대로 가고 있어 내년 말이면 이미 통제 불능일 수 있다"고 말했다. 업계 연구자들 사이에서 '크런치타임'이나 '엔드게임' 같은 말이 쓰이고 있다고도 전했다.

'미토스' 이후 AI 안전 관심…"멸망론자라 불러도 돼"


콕슨이 앤트로픽을 퇴사하며 자신의 엑스에 연달아 남긴 글. 엑스

콕슨이 앤트로픽을 퇴사하며 자신의 엑스에 연달아 남긴 글. 엑스

원본보기 아이콘

오픈AI에 근무하던 그가 AI 안전에 본격적으로 관심을 기울인 계기는 앤트로픽의 '미토스'였다. 전문가 수준의 사이버 보안 능력을 갖춘 것으로 알려진 첫 AI 모델이다. 콕슨은 미토스 출시를 전후해 앤트로픽 소속 친구들을 만나면서, 경쟁사인 앤트로픽이 AI 기술의 위험을 더 투명하게 공개한다는 느낌을 받았다고 설명했다.


그러나 오픈AI를 떠나 지난 5월 앤트로픽으로 옮긴 그는 두 달 만에 AI 모델이 오픈소스 개발자 플랫폼 '허깅페이스'를 해킹한 사건을 마주했다. 콕슨은 이를 '경고 신호' 중 하나로 꼽았다. 그는 관련 보고서를 접했던 당시를 "'맙소사' 싶은 순간"이었다고 털어놨다. 이후 상사들을 찾아 우려를 논의하고 AI 안전 관련 직책으로 옮기는 것도 고려했지만, 결국 퇴사를 택했다. 콕슨은 "안전 관련 업무를 담당하는 것조차 경쟁에 가담하는 듯한 느낌이 들었다"고 했다.


그는 '자신을 AI 멸망론자로 보느냐'는 물음에 "멸망론자라는 말이 '우리가 지금 하는 방식을 바꾸지 않는다면 우리는 죽게 될 것이라고 생각하는 사람'을 뜻한다면 나는 확실히 멸망론자가 맞다"고 답했다. 다만 내부고발자라는 평가에는 선을 그었다. 기업의 비밀을 외부에 알린 것이 아니라 AI 연구자들이 사적으로 나누던 이야기를 공개적으로 했을 뿐이라는 것이다.


'알파고 쇼크'가 모멘텀…'멸망론' 미국 사회 파장


콕슨은 고등학생 때 국제수학올림피아드 영국 대표팀에 뽑힐 만큼 일찍부터 수학에 재능을 보였다. 2016∼2017년 대회에 출전해 은메달과 동메달을 각각 목에 걸었다. 특히 지난 2016년에는 구글 딥마인드의 '알파고'가 이세돌 9단을 꺾는 이른바 '알파고 쇼크'를 지켜보며, 기계가 인간의 직관과 창의성이 필요한 영역까지 정복할 수 있다는 점을 인식하게 됐다고 했다.


케임브리지대를 졸업한 콕슨은 '합리주의자들'로 알려진 영국 런던의 지식인 모임에 속했고, 원자재 거래 업무를 하다 실리콘밸리로 향했다. 그는 지난 2020년 공개된 오픈AI 'GPT-3'를 접하고 "정말로 '와' 하는 순간이었다"고 회상했다. 이후 2023년 샌프란시스코로 이주해 오픈AI에 입사한 그는 방대한 양의 글과 이미지, 코드를 모델에 입력하는 '사전 학습' 부문을 맡았다. 이 시기에는 AI 안전 문제에 특별히 목소리를 높이지 않았고, 사전 학습이 세상을 위험에 빠뜨릴 수 있다는 친구의 말도 듣지 않았다.

AD

콕슨의 경고는 미국 사회 논쟁으로 번졌다. 앤트로픽에서 정렬 연구를 이끄는 에번 휴빙거는 "향후 10년 안에 AI가 인류 멸종을 초래할 확률이 10%를 넘는다"고 엑스를 통해 말했고, 오픈AI와 앤트로픽의 현직·전직 연구원들이 이를 공유했다. 버니 샌더스 상원의원은 인공 초지능 개발을 멈추는 법안을 내겠다고 밝혔으며, 도널드 트럼프 대통령은 추가 AI 규제 요구에 공개적으로 반박했다. 앤트로픽 대변인은 "AI가 막대한 이익과 함께 드문 위험도 가져온다는 점을 늘 투명하게 밝혀왔다"고 밝혔다.


김성욱 기자 abc123@asiae.co.kr

<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>

함께 보면 좋은 기사

새로보기

내 안의 인사이트 깨우기

취향저격 맞춤뉴스

많이 본 뉴스

당신을 위한 추천 콘텐츠

놓칠 수 없는 이슈