마이크로소프트 CEO "비상시 관리자가 AI 멈출 브레이크 필요"

"AI 통제, 내부자 위험 수준 관리 필요"

로이터연합뉴스

사티아 나델라 마이크로소프트(MS) 최고경영자(CEO)가 비상시 관리자가 인공지능(AI)를 즉시 중단시킬 수 있는 안전장치가 필요하다고 밝혔다. 만일에 대비해 기업 내 핵심 권한을 가진 내부자와 비슷한 수준의 위험관리와 통제가 필요하다는 것이다.

나델라 CEO는 11일(현지시간) 사회관계망서비스(SNS)인 엑스(X)에 '슈퍼지능 시대 내부자 위험으로서의 모델'이라는 글을 게재하고, AI 통제에 보다 강력한 관리 대응이 필요하다고 밝혔다. 그가 '인공지능(AI)' 대신 '슈퍼지능(SI)'라는 표현을 쓴 것은 최근 도널드 트럼프 미국 대통령이 AI를 SI로 바꿔 부르도록 행정명령에 서명한 영향으로 분석된다.

나델라 CEO는 AI 시스템에 대해 "행동을 지속적으로 관찰할 수 있고, 한계를 검증할 수 있으며, 언제든 통제 가능한 구조가 필요하다"며 "적절한 권한을 가진 관리자는 언제라도 비상시 AI의 작업을 멈추거나 종료할 수 있어야 한다"며 안전장치로서 브레이크 기능의 도입을 주장했다.

그는 "AI는 정보 제공 기능과 통제 권한을 분리하는 방식의 설계가 필요하다"며 "폐쇄형 모델과 오픈소스 모델을 구분하지 않고 고도화된 AI를 기업 내 핵심 권한을 가진 내부자와 비슷한 위험 요소로 관리해야 한다"고 설명했다. 기업들이 내부자 위험 관리를 위해 도입한 신원검증, 접근 권한 제한, 활동기록 관리 등 강력한 통제를 AI에도 적용해야한다는 것이다.

그의 발언은 최근 AI와 관련해 제기된 개발 속도 조절론 및 안전성 우려 의견에 영향을 줄 것으로 예상되고 있다. AI와 관련해 일부 기업들과 전문가들은 첨단 AI가 인간의 의도와 다르게 행동하거나 대규모 오류를 일으킬 상황에 대비한 안전장치와 국제적인 규범이 필요하다고 지적하고 있다.

이현우 기자 knos84@asiae.co.kr