即位后发表首部通谕《Magnifica Humanitas》
批判AI垄断、战争与劳动剥削

教皇利奥十四世在即位后发表的首部通谕中强调,为了在人工智能(AI)时代维护人的尊严,“必须让人工智能解除武装”。这并非主张拒绝AI技术,而是强调要通过加强公共管制和伦理责任,防止技术与算法反过来支配人类。


25日,联合新闻社援引梵蒂冈官方网站消息称,利奥十四世在梵蒂冈教廷主教会议礼堂发表了题为《Magnifica Humanitas》(伟大的人性)的通谕。他在通谕中表示,“仅靠简单的规制并不足够”,“应当通过解除AI的武装,使其更加开放,并让所有人都能接触到”。

此次会则值得关注之处在于,它并未将人工智能视作单纯的技术问题,而是作为关乎人类尊严、劳动、和平和政治责任的问题来对待。教皇表示,“不能认为人工智能在道德上是中立的”,并强调“应当公开讨论关于人工智能的伦理框架,并依据社会正义的共同标准对其进行评估”。路透社联合新闻供图

此次会则值得关注之处在于,它并未将人工智能视作单纯的技术问题,而是作为关乎人类尊严、劳动、和平和政治责任的问题来对待。教皇表示,“不能认为人工智能在道德上是中立的”,并强调“应当公开讨论关于人工智能的伦理框架,并依据社会正义的共同标准对其进行评估”。路透社联合新闻供图

View original image

教皇指出,“所谓解除武装,是指阻止技术支配人类”,“AI已经成为我们深深浸泡其中的一种环境,也成为我们必须加以应对的一种力量”。他接着呼吁,“必须遏制为了获取更强大的算法和庞大的数据集、从而在地缘政治或商业上取得优势的竞争”。

仅靠市场自律无法守护AI时代的公共善

此次通谕之所以受到关注,在于它并未将AI视为单纯的技术问题,而是从人类尊严、劳动、和平与政治责任的角度加以讨论。教皇表示,“不能认为AI在道德上是中立的”,“必须就AI的伦理框架进行公开讨论,并依据社会正义的共同标准对其进行评估”。他还强调,从AI系统的策划与开发阶段,到实际用于决策的全过程,都必须明确责任归属。教皇指出,“在引入AI时提出谨慎态度、严格评估,有时甚至要求放慢脚步,这并不是反对进步,而是出于对人类负责的关怀”。

此次会规之所以引人注目,在于它并未把人工智能视为单纯的技术问题,而是从人类尊严、劳动、和平和政治责任等角度加以讨论。教皇表示,“不能认为人工智能在道德上是中立的”,“必须公开讨论关于人工智能的伦理框架,并依据社会正义的共同标准对其进行评估”。路透社联合新闻供图

此次会规之所以引人注目,在于它并未把人工智能视为单纯的技术问题,而是从人类尊严、劳动、和平和政治责任等角度加以讨论。教皇表示,“不能认为人工智能在道德上是中立的”,“必须公开讨论关于人工智能的伦理框架,并依据社会正义的共同标准对其进行评估”。路透社联合新闻供图

View original image

对数字权力高度集中的忧虑也是此次通谕的核心内容之一。教皇主张,应将算法、数字平台、技术基础设施和数据纳入“普世财产”范畴,以缩小能够参与数字革命的人与无法参与者之间的失衡。他指出,“在数字环境中,平台、数据和基础设施并非由国家,而是由经济和技术主体所控制”,“当这类权力集中于少数人手中时,就会变得不透明,并存在被依赖、排斥和不平等所扭曲的巨大风险”。


通谕还传达出这样的信息:仅仅依赖市场自律,无法在AI时代守护公共善。教皇表示,“在AI与机器人时代,已经不可能再单纯依赖市场那只‘看不见的手’”,并强调政治必须保障劳动的尊严、社会包容性以及创新成果的公平分配。


他还提及数字经济背后的劳动剥削问题。教皇谈到从事数据标注、模型训练等隐形工作的劳动者,以及在稀土等资源开采过程中遭受的苛刻劳动,并将其批评为“一种新的奴隶制”。他进一步指出,“同新型奴隶制的斗争,是检验AI是否具备伦理性的关键考验”。

继工业革命之后,为AI时代提出社会教义

通谕中也包含反战与和平的信息。教皇指出,AI时代的战争已不再只是单纯的武力冲突,还通过技术制造的虚假信息、简化的叙事和二元对立的思维,在文化层面被建构出来。他表示,“长期以来被过于频繁地用来合理化各种战争的‘正义战争’理论,如今已经落伍”,“武力、暴力以及武器的使用,反映的是关系的贫乏”。


这份通谕共82页,约4万字,分为245条。通谕是教皇向全球天主教信徒和主教发布的、具有最高权威的牧灵书信,被视为教皇文献中约束力最强的形式。通常通谕以教皇名义公布即可,如此次这样由教皇亲自出席发表仪式的情况并不多见。

利奥十四世在梵蒂冈教廷主教会议礼堂发表通谕《Magnifica Humanitas》(《伟大的人性》)。AFP联合新闻供图

利奥十四世在梵蒂冈教廷主教会议礼堂发表通谕《Magnifica Humanitas》(《伟大的人性》)。AFP联合新闻供图

View original image

在发表仪式上,教廷各部门的枢机主教、神学家和专家出席。AI企业Anthropic的联合创始人Christopher Olah也到场参加。Anthropic是一家以反对将AI技术用于监控和武器开发而知名的企业。


利奥十四世已于本月15日签署这份通谕。当天恰逢利奥十三世通谕《Rerum Novarum》公布135周年纪念日。《Rerum Novarum》是在工业革命时期,讨论工人权利与资本主义局限的代表性社会教义文献。有观点认为,教皇将自己的名号定为“利奥十四世”,也与这种传承意识一脉相承。教廷在利奥十四世即位时曾解释,新教皇的名号蕴含继承强调劳动权与社会正义的利奥十三世之意。



在接受神职培训之前,利奥十四世曾在美国宾夕法尼亚州的维拉诺瓦大学主修数学。外界评价认为,这份通谕将其自然科学专业背景的关切,与天主教社会教义相结合,正面探讨了AI时代的技术权力与人类尊严问题。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点