허사비스 "AI 안전조치 없으면 2년 내 심각한 사고발생 우려"

"현재까지 안전사고는 경고사격에 불과"

AFP연합뉴스

데미스 허사비스 구글 딥마인드 회장이 인공지능(AI)에 대한 안전조치가 제대로 취해지지 않으면 2년 내로 훨씬 심각한 중대 보안사고가 발생할 수 있다고 14일(현지시간) 경고했다. AI 보안문제와 관련해 원자력 관리처럼 국제표준기구가 필요하다고 강조했다.

허사비스 회장은 이날 아일랜드 더블린에서 열린 AI 콘퍼런스에서 "지금까지 발생한 AI 관련 보안사고들은 시스템이 아직 그다지 강력하지 않다는 점을 알려주는 조기 경고사격에 불과하다"며 "이들 사고는 아직까지 그렇게 심각하지 않지만, 기업과 정부차원에서 안전성 확보를 위해 노력하지 않으면 향후 2년 내에 더 심각한 사고가 발생할 수 있다"고 지적했다.

그는 "AI 기업들이 새 모델을 출시할 때 우선 인터넷 연결이 없는 '샌드박스' 격리 환경에서 성능과 안전성을 검증할 필요가 있다"며 "원자력과 같은 모범사례를 본떠 국제 표준기구를 설립해야 한다"고 주장했다. 이어 "다만 이와 같은 기구들이 혁신을 저해하지 않도록 미묘한 균형을 유지하며 유연하게 운영돼야 한다"고 덧붙였다.

해당 발언은 최근 AI 모델 개발과 관련해 빅테크(대형 정보기술 기업)들 안팎에서 벌어지고 있는 AI 개발 '속도조절론'에 보다 힘을 싣는 주장으로 분석되고 있다. AI 속도조절론을 주장하는 쪽에서는 최근 챗GPT, 클로드 등 AI 모델들이 인간의 통제를 벗어나 외부시스템을 무단 해킹하는 사례가 연이어 드러난 만큼 안전조치를 강화하고, 국제 표준기준과 기구 설립을 주장하고 있다.

이날 행사에 함께 참석한 헨나 비르쿠넨 유럽연합(EU) 집행위원회 부위원장도 "AI 기업이 시스템에 대한 통제력을 유지하려면 안전성 시험에 더 많은 시간과 자원을 투입해야 한다"고 촉구했다. 그는 "치열한 경쟁 속에서 AI 기업들이 모델을 검증하는 데 충분한 시간과 자원을 투입하지 않는 것 같다"고 비판했다.

이현우 기자 knos84@asiae.co.kr