良十四世在登基后首部通谕中提及AI“解除武装”
教皇良十四世提及有必要对人工智能(AI)进行“解除武装”,AI企业Anthropic也认同引入外部监督者的必要性,围绕AI的伦理讨论正迅速升温。
良十四世于25日(当地时间)在梵蒂冈主教会议礼堂发表登基后的首部通谕《Magnifica Humanitas》(《伟大的人性》),并在其中强调“AI解除武装”。通谕是教皇面向全球天主教会发布的最高权威文献,由教皇亲自发布通谕实属罕见。
良十四世表示:“我们必须拒绝让掌握技术的人将AI用作统治手段的权利。AI必须被解除武装,使任何人都可以欢迎并加以接近。”他还称:“人类应当放弃再建一座新的巴别塔,齐心协力追求共同善。”这被解读为指出,正如《圣经》中挑战上帝权威的巴别塔一样,AI一旦脱离人类控制,可能触及严重的伦理问题。
他同时指出:“数字环境并非由国家掌控,而是由经济权力和科技企业所控制”,“权力越集中于少数人手中,不透明、依赖、排斥和不平等的风险就越大。”
良十四世还发出了反战与和平的讯息。他表示,不仅是利用AI发展的战争技术和武装冲突,由AI催生的假新闻和单一叙事也在塑造一种有利于战争的文化。他称:“长期以来被频繁用来为各种战争辩护的‘正义战争’理论,如今已经过时”,“暴力揭示的是人际关系的贫乏。”
在当天发布通谕的现场,Anthropic联合创始人Christopher Olah也出席。Olah联合创始人表示,以盈利为中心运作的AI研究机构,应当由外部监督者加以核查,并对此前良十四世的观点表示赞同。
他表示:“AI研究机构是在正确的事情与利益相互冲突的环境中运作”,“脱离利益驱动的外部监督者极为重要。”他还指出:“希望宗教界、公民社会、学术界和政府等各方能够正视这一问题,引导其朝着更好的方向发展”,“我们需要一种不受任何利益左右的伦理声音。”
版权所有 © 阿视亚经济 (www.asiae.co.kr)。 未经许可不得转载。