유엔 사무총장 "살상용 로봇, 국제법으로 금지 촉구"

"치명적 자율무기, 규제 필요"
"인류 미래, AI가 좌우해선 안돼"

AP연합뉴스

안토니우 구테흐스 유엔 사무총장이 최근 광범위하게 확산되고 있는 군용 인공지능(AI)에 대해 "살상용 로봇"이라 지칭하며 국제법을 통해 금지해야한다고 주장했다. AI의 무분별한 사용에 따른 각종 사회적 부작용에 대해서도 경종을 울렸다.

월스트리트저널(WSJ)에 따르면 구테흐스 사무총장은 6일(현지시간) 스위스 제네바에서 열린 'AI 거버넌스 대화' 행사에서 가진 연설을 통해 "치명적인 AI 자율무기들이 인간의 통제나 판단없이 표적을 선정하고 공격해 생명을 앗아가는 행위는 윤리적으로 용납할 수 없다"며 "이런 살상용 로봇들은 국제법으로 금지해야한다"고 강조했다.

구테흐스 사무총장은 자율무기 뿐만 아니라 사회 곳곳에 침투한 AI의 위험성에 대해서도 경고했다. 그는 "AI는 스스로 코드를 작성하고 온라인에서 활동하며 점점 더 인간의 감독이 줄어드는 가운데 혼자 주요한 결정을 내리고 있다"며 "우리의 법과 제도들은 인간의 명령을 따르는 기계를 관리하도록 만들어졌지, 스스로 판단하는 기계를 다룰만한 준비가 아직 돼있지 않다"고 지적했다. 이어 "우리의 미래를 그들이 결정하도록 내버려둬선 안된다"고 강조했다.

또한 AI의 과도한 사용에 따라 최근 전세계 어린이·청소년들에게 발생한 각종 사건과 피해에 대해서도 규제가 필요하다고 주장했다. 구테흐스 사무총장은 "AI가 어린이들의 안전을 보장하기 위한 기준도 반드시 필요하다. 우리는 의약품이나 모든 장난감도 안전성 검사를 반드시 한다"며 "어린이들이 안전하게 AI에 접속할 수 있도록 기업들이 안전 서약을 해야한다"고 주장했다.

구테흐스 사무총장의 발언은 미국에서 불거진 군용 AI 안정성 논란을 재점화시킬 것으로 보인다고 WSJ는 전했다. 앞서 미 국방부는 올해 초 니콜라스 마두로 베네수엘라 대통령 체포작전 과정에서 앤트로픽의 AI인 클로드를 사용한 것으로 알려져 논란이 일었다. 앤트로픽 측은 자사 AI모델을 대규모 감시나 자율살상무기에 사용해선 안된다고 반대입장을 보였지만, 미 국방부는 합법적 활동에 모두 사용할 수 있다고 맞서면서 논란이 국제적으로 확산된 바 있다.

WSJ은 "AI 시스템을 어떻게 규제해야 하는지에 관한 논쟁이 여전히 격렬하다"며 "미국 정부가 AI 모델 출시 전 안전성을 검증할 수 있는 절차를 마련 중"이라고 전했다.

이현우 기자 knos84@asiae.co.kr