[AI世界之中]AI快速进化引发伦理思考……“应放缓发展速度”

by Kong Byeongseon

Published 06 Jun.2026 06:30(KST)

Anthropic：“AI正朝着‘递归式自我改进’迈进”
教皇Leo XIV：“应对AI解除武装”

全球人工智能（AI）企业Anthropic指出，AI的发展速度过于迅猛，并强调有必要进行速度调节。围绕AI可能进入能够自我进化阶段的担忧，相关伦理讨论也正在展开。

路透社、韩联社供图

Anthropic于4日（当地时间）通过博客发布报告，并公开了其AI模型的内部数据，称“AI系统可能正接近在无人类干预的情况下自我改进的阶段”，并表示“AI看上去正朝着‘递归式自我改进’迈进”。所谓递归式自我改进，是指AI即使没有人类参与，也能自行修改自身结构、算法、代码等，从而创造出更聪明的下一代AI。

Anthropic强调，应当调节AI的发展速度。Anthropic联合创始人Jack Clark和Anthropic研究所负责人Marina Favaro通过帖子表示，“为了让社会制度和AI对齐研究能够跟上技术发展的速度，全球拥有放缓或暂时中止尖端AI开发速度这一选项是可取的”，并称“应就调节AI开发速度达成国际共识，同时建立核查企业是否遵守相关要求的体系”。

随着AI迅速发展，其水平已达到由AI而非人类自行进行开发的程度。全球AI企业OpenAI表示，编程专用模型“Codex”能够自行发现缺陷并进行开发。OpenAI解释称，“我们已确认Codex能够在多大程度上提升开发速度”。Anthropic也正在依赖其自家AI模型生成的代码来开发AI模型。

EPA联合新闻供图

随着外界担忧AI可能威胁人类社会，相关伦理讨论也已启动。教皇Leo XIV指出，应当对AI进行解除武装并加以控制。Leo XIV于上月25日在梵蒂冈主教会议大厅发表即位后的首份通谕《伟大的人性》（Magnifica Humanitas）。他表示：“必须拒绝让掌握技术者将AI用作统治手段的权利”，并称“人类应放弃建造另一座巴别塔”。