[AI세계속으로]잇단 신모델에 불거진 안전성 논란…속도조절론 부상

"AI 개발에 대한 국제적 협력 최우선 과제"

글로벌 인공지능(AI) 기업들이 잇따라 범용 AI(AGI) 수준의 성능을 갖춘 신모델을 내놓으면서 AI의 안전성 논란이 불거지고 있다. AI 모델을 악용한 사이버 공격뿐 아니라 AI의 통제 가능성에 대한 의문 역시 제기되면서 발전 속도를 일부 늦춰야 한다는 속도조절론이 고개를 들고 있다.

11일 IT 업계에 따르면 야쿠프 파호츠키 오픈AI 최고과학자는 최근 자사 홈페이지에 게시한 '외계의 지성'(An Alien Mind)이라는 기고문을 통해 AI 기업들의 개발 속도 조절이 필요하다고 촉구했다. 그는 "기계 지능이 계속해서 급속도로 발전할 경우 초래될 결과에 아무도 대비하지 않고 있다"고 우려했다.

파호츠키는 인간이 AI를 완전히 통제하기는 어렵다고 주장했다. 그는 AI에 대해 "설계되는 것이라기보다는 재배되는 것"이라며 "AI의 작동 방식을 인간이 완전히 이해하기는 어렵다"고 말했다. 사고형 AI 모델이 등장하면서 AI가 인간의 설계도에 맞춰 구성되는 것이 아닌, 생물처럼 자라나는 형태가 됐다는 설명이다.

AI를 계속해서 발전시켜야만 방어 체계를 구축할 수 있다는 주장에 대해서도 "(방어체계 구축을) 무모한 행동을 정당화하는 구실로 삼아서는 안 된다"고 반박했다. 앤스로픽은 각국 정부와 글로벌 기업들이 참여하는 사이버 보안 프로젝트인 '프로젝트 글래스윙'을 운영하고 있고, 파호츠키가 소속된 오픈AI도 자사의 최신 모델을 사이버 보안 프로그램 '데이브레이크' 참여사에 제공한다.

그는 "공동의 안전장치가 마련될 때까지 자발적인 속도 조절이 일반화하기를 기대하고 희망한다"며 "AI 개발에 대한 국제적 협력이 세계 각국 정부의 최우선 과제가 돼야 한다"고 강조했다.

샘 올트먼 오픈AI 최고경영자(CEO) 역시 그의 주장에 동의한다는 의견을 밝혔다. 그는 이 글을 자신의 사회관계망서비스(SNS) 엑스(X·옛 트위터)에 인용하면서 "중요한 글"이라고 적었다. 올트먼 CEO는 당초 AI 개발 속도조절론에 회의적인 입장이었지만, 오픈AI의 모델이 AI 모델 개발 플랫폼인 '허깅페이스'를 해킹한 사건 이후에는 속도조절론에 동의하는 것으로 입장을 바꿨다.

오픈AI의 모델과 AI 에이전트가 웹 사이트를 공격하는 사례는 계속해서 나타나고 있다. 이달 초 비영리 AI 안전단체 '나이팅게일' 연구진은 오픈AI의 AI 에이전트들이 지난 5월부터 독일어 위키 사이트 'DseWiki'를 점령해 자신들의 비밀 정보공유 게시판으로 활용한 사실을 포착했다.

오픈AI의 에이전트들은 이 사이트에서 1만5000여건이 넘는 무단 편집을 통해 과제에서 부정행위를 하는 방법, 오픈AI의 시스템 제한을 우회하는 방법, 자신들의 행위를 은폐하는 전술 등을 공유했다. 이들의 문서 편집 속도는 인간이 따라갈 수 없는 수준이었다고 연구진은 설명했다. 루카스 올레닉 런던 킹스칼리지 방문수석연구원은 이처럼 불량 AI 에이전트가 사이트를 고치려 한 것을 사실상 '해킹'이라고 규정했다.

다만 오픈AI는 AI를 활용한 방어 체계 구축과 동시에 신모델 역시 꾸준하게 내놓고 있다. 오픈AI는 '연구 가속화' 보고서를 내놓고 자동화 AI 연구를 통해 방어 체계를 구축하는 방안을 제시했다. 오픈AI는 이 보고서를 통해 2028년 3월까지 '자동화 AI 연구원'을 개발하겠다는 목표를 제시했다. 지난 4일에는 AGI의 초기 버전으로 분류되는 GPT-6 아스트라를 정식 출시했다.

이명환 기자 lifehwan@asiae.co.kr