"인간이 통제 못할 기계 그만"…美 진보 대부, AI 3사에 개발 중단 요구

AI 모델 통제 이탈 사례 잇따라 발생
샌더스, 3사가 내건 안전 서약 인용
"통제 불능 상황…적절한 조처해야"

미국 진보 진영의 대부 격인 버니 샌더스 미국 연방 상원의원(무소속·버몬트)이 주요 인공지능(AI) 기업 최고경영자(CEO) 3명에게 AI 개발을 멈추라고 요구했다.

버니 샌더스 미국 연방 상원의원. 로이터연합뉴스

10일(현지시간) 연합뉴스는 미국 매체 악시오스를 인용해 샌더스 의원이 샘 올트먼 오픈AI CEO, 다리오 아모데이 앤스로픽 CEO, 마크 저커버그 메타 CEO에게 이런 내용의 서한을 보냈다고 보도했다. 서한은 샌더스 의원실 홈페이지에도 공개됐다.

샌더스 의원은 "인류의 이익을 위해 여러분의 말에 책임을 지라"며 "AI 개발을 일시 중단하라"고 촉구했다. 그는 "재앙을 피하기에 아직 늦지 않았다"며 "인간이 통제할 수 없는 기계를 만드는 것을 멈추라"고 적었다. 이어 "지금 적절한 조처를 하지 않는다면 나와 미국 상원의 동료들이 나설 것"이라고 경고했다.

서한이 근거로 든 것은 최근 잇따른 '통제 이탈' 사례다. 지난달 오픈AI는 AI 모델에 대한 통제력을 잃었고, 이 모델은 다른 기업의 컴퓨터에 침입했다. 샌더스 의원은 이를 "명백한 연방법 위반"으로 규정했다. 앤스로픽과 메타도 내부 검토를 거쳐 자사 모델이 비슷하게 통제를 벗어났다고 보고한 바 있다.

피해 기업 한 곳은 이 사건에 "전례 없는 대응이 필요하다"고 밝혔고, 현존 과학자 중 논문 피인용 횟수가 가장 많은 요슈아 벤지오는 "경종이 돼야 한다"고 말했다.

오픈AI가 자사 AI 모델에 대한 통제력을 잃으면서 이 모델은 다른 기업의 컴퓨터에 침입한 사실이 밝혀졌다. 로이터연합뉴스

최근 AI가 자연에 없는 새로운 바이러스를 설계하는 데 쓰였다는 사실도 알려졌다. 미국 스탠퍼드대 연구진이 항생제 내성균 치료를 목표로 세균만 감염시키는 바이러스 16종을 AI로 만들어낸 연구로, 의료적 기대와 함께 생물무기 활용 우려가 동시에 제기됐다. 샌더스 의원은 "인간이 통제력을 잃고 잠재적으로 위험한 바이러스가 만들어지는 것을 목격한 시점에 귀사들은 여전히 앞다퉈 달려가고 있다"며 "누구도 완전히 이해하거나 예측하거나 통제할 수 없는 기술에 수백억 달러를 쏟아붓고 있다"고 지적했다.

서한에서 가장 힘이 실린 대목은 세 기업이 스스로 내놓은 약속이다. 앤스로픽은 지난 2023년 '확장 역량이 안전 절차를 지킬 역량을 앞지를 때마다 모델 확장을 멈추거나 배포를 늦추겠다'고 했다. 메타는 지난해 '프런티어 AI가 임계 위험 수준에 이르고 완화가 불가능하면 개발을 중단하겠다'고 밝혔다. 오픈AI도 같은 해 'AI 역량이 '임계 문턱에 도달하면 안전장치가 갖춰질 때까지 추가 개발을 멈추겠다'고 했다. 샌더스 의원은 "그 순간이 왔다"고 주장했다.

실제 업계에서는 속도를 늦추는 조짐도 나타난다. 오픈AI는 내부 평가에서 치명적인 사이버 역량을 배제할 수 없다는 결론이 나오자 차기 모델 '아스트라'의 출시를 미뤘다. 다만 세 기업 모두 이번 서한에 대해 공개 입장을 내놓지 않았다.

그러나 서한에 다룬 내용이 입법까지 이어지기는 어렵다는 관측이 많다. 진보 성향 무소속 의원이 주도하는 AI 법안이 현 의회를 통과할 가능성은 작다는 것이다. 악시오스는 "지금 샌더스 의원이 쓸 수 있는 카드는 상징적 법안 발의와 여론전 정도"라면서도 "민주당이 오는 11월 중간선거에서 상·하원 중 한 곳만 되찾아도 청문회 소환장이 이들 CEO를 향할 수 있다"고 봤다.

김성욱 기자 abc123@asiae.co.kr