교황 "AI, 무장해제 필요"…앤스로픽 "외부 감시자 있어야"

레오 14세, 즉위 후 첫 회칙에서 AI 무장해제 언급

교황 레오 14세가 인공지능(AI)의 무장해제 필요성을 언급하고 AI 기업 앤스로픽이 외부 감시자의 필요성에 공감하는 등 AI에 대한 윤리적 논의가 급물살을 타고 있다.

교황 레오 14세 AFP연합뉴스

레오 14세는 25일(현지시간) 교황청 시노드 강당에서 즉위 후 첫 회칙 '마니피카 후마니타스'(Magnifica Humanitas·위대한 인간성)을 발표하며 'AI 무장해제'를 강조했다. 회칙은 전 세계 가톨릭교회에 교황이 보내는 최고 권위의 문헌이다. 교황이 직접 회칙을 발표하는 것은 이례적이다.

레오 14세는 "기술을 가진 자가 AI를 통치 수단으로 사용하는 권리를 거부해야 한다. AI는 누구든 환영할 수 있고 접근할 수 있도록 무장 해제돼야 한다"며 "인류가 또 다른 바벨탑 건설을 포기하고 공동선을 위해 힘을 모아야 한다"고 말했다. 신의 권위에 도전한 성경 속 바벨탑과 같이 AI가 자칫 인간의 통제를 벗어나 윤리적 문제를 건들 수 있다는 지적이다.

아울러 "디지털 환경은 국가가 아닌, 경제 권력과 기술 기업이 통제하고 있다"며 "권력이 소수에 집중될수록 불투명성과 의존, 배제, 불평등 위험이 커진다"고 강조했다.

레오 14세는 반전과 평화 메시지도 던졌다. AI를 활용한 전쟁 기술 발전과 무력 충돌뿐만 아니라 AI에서 촉발된 가짜뉴스, 단순한 서사가 전쟁 친화적인 문화를 조성한다는 것. 그는 "모든 종류의 전쟁을 합리화하는 데 자주 사용된 '정당한 전쟁' 이론은 이제 시대에 뒤떨어졌다"며 "폭력은 인간관계의 빈곤을 드러낸다"고 말했다.

이날 회칙을 발표하는 자리에는 크리스토퍼 올라 앤스로픽 공동창업자도 참석했다. 올라 공동창업자는 이익을 중심으로 운영되는 AI 연구소를 외부 감시자가 검증해야 한다며 레오 14세의 의견에 동의했다.

그는 "AI 연구소는 옳은 일과 이익 간 상충하는 환경 속에서 운영된다"며 "이익에서 벗어난 외부 감시자가 매우 중요하다"고 말했다. 또한 "종교계, 시민사회, 학계, 정부 등이 이 문제를 받아들이고 더 나은 방향으로 이끌어주길 바란다"며 "어떤 이익으로도 꺾을 수 없는 윤리적인 목소리가 필요하다"고 강조했다.

공병선 기자 mydillon@asiae.co.kr