젠슨황 "위험한 AI 개발사엔 반도체 공급 안 할 수 있다"
엔비디아 CEO, 블룸버그 인터뷰
고객사와 대화 필요 단서 달아
"AI 업계, 불필요한 우려 키우고 있어"
젠슨 황 엔비디아 최고경영자(CEO)가 안전하지 않은 인공지능(AI)을 개발하는 고객사에 반도체 공급을 중단할 수 있다고 밝혔다. 다만 AI가 인간의 통제를 벗어날 것이라는 우려는 과도하다며 이를 업계가 급성장하는 과정에서 겪는 '성장통'으로 평가했다.
황 CEO는 14일(현지시간) 영국 런던에서 가진 블룸버그통신과의 인터뷰에서 '무책임한 AI 개발업체(irresponsible developer)에 반도체 공급을 중단할 의향이 있느냐'라는 질문에 "가정적인 상황이지만, 그렇다"고 답했다. 다만 "공급 중단에 앞서 대화가 필요하다"며 "고객사의 기술 활용에 개입하는 것에는 한계가 있다"고 단서를 달았다.
황 CEO는 유럽 내 AI 사업 확대를 위해 지난 13일 프랑스 파리를 방문한 데 이어 런던을 찾았다. 오는 20~22일 독일 베를린에서 엔비디아가 개최하는 AI 콘퍼런스 'GTC 베를린'에도 참석할 예정이다.
황 CEO는 이날 AI 안전성에 대한 우려를 급성장하는 산업이 겪는 성장통으로 꼽았다. 그는 "많은 신생 기업이 엄청난 속도로 성장하면서 기업 운영에 따르는 책임을 배워가는 단계"라며 AI를 충분히 통제하고 안전하게 활용할 수 있다고 주장했다. AI 업계가 기술의 장점을 제대로 설명하지 못하면서 불필요한 우려를 키우고 있다고도 지적했다.
최근 AI 개발사인 앤스로픽과 오픈AI 등이 AI 에이전트의 통제를 벗어난 문제 행동 사례를 공개한 이후 업계에서는 AI 안전성에 대한 감시·검증을 강화해야 한다는 목소리가 커졌다. 다리오 아모데이 앤스로픽 CEO 등은 AI 개발 속도 조절론을 주장했다. 앤스로픽은 최근 기업공개(IPO) 투자설명서에서 자사 기술이 "인류에 실존적 위험을 초래할 수 있다"고 경고하기도 했다.
황 CEO는 AI의 위험성을 줄이기 위해 AI 기술 자체를 활용해야 한다고 강조했다. 황 CEO는 "AI 시스템에 위험 억제 기술을 통합하는 속도를 높여야 한다"며 "감시 기술 개발도 가속해야 한다. AI가 바로 그 감시 수단"이라고 말했다. 그는 지난달 세일즈포스 행사에서도 AI 안전은 법이 아닌, 공학의 문제라는 취지로 새로운 AI 규제 도입에 반대한 바 있다.
최근 불거진 AI 투자 거품론과 관련해서는 "앞으로 수년간 AI 인프라 수요가 관련 부품 공급을 웃돌 것"이라며 "언젠가는 공급과 수요가 균형을 이루겠지만 지금은 아니다"고 말했다. 그는 지난달에도 "AI 호황이 2~3년 내 꺾이지 않을 것"이라며 긍정적 전망을 밝힌 바 있다.
황 CEO는 또 엔비디아가 향후 5년간 AI 안전성 연구를 지원하기 위해 영국에 2억5000만달러(약 3400억원) 상당의 연산자원을 제공할 계획이라고도 밝혔다. 옥스퍼드대와 유니버시티칼리지런던(UCL) 등 영국 연구기관들은 이를 활용해 AI 에이전트 통제 기술과 안전장치를 연구한다.
한편 데미스 허사비스 구글 딥마인드 회장은 이날 아일랜드 더블린에서 열린 'AI 콘퍼런스'에서 안전조치가 강화되지 않으면 향후 1~2년 내 심각한 AI 보안사고가 발생할 수 있다고 경고했다. 그는 최근 AI를 활용한 해킹 사례를 '초기 경고 신호'로 규정하며, 원자력 분야처럼 AI 안전성을 관리할 국제 표준기구가 필요하다고 주장했다.
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제. 무단전재 배포금지, AI 학습 및 활용 금지>