Anthropic呼吁“暂时放缓AI开发”……怎么回事

by Lim Juhyeong

Published 05 Jun.2026 21:33(KST)

“人工智能很快将达到自我改进水平”
“全世界应具备暂停的选择权”

美国人工智能企业Anthropic呼吁，应在全球人工智能竞争中暂时放缓速度。原因在于，随着人工智能发展过快，外界担忧其不久后可能在无人类干预的情况下达到可自行提升的“自我改进”水平。

Anthropic于4日通过公司博客公开了内部数据，展示当前其人工智能模型正以多快的速度发展。同时称，如果全球各国能够放缓人工智能开发速度，“将是一件非常好的事情”。

Anthropic。路透社韩联社供图

Anthropic研究负责人Marina Favaro与联合创始人Jack Clark在共同撰写的这篇文章中预测，人工智能可能很快达到“递归式自我改进”阶段。所谓递归式自我改进，是指人工智能在没有人类指导或介入的情况下，自行提升性能的阶段。

一旦人工智能能够直接更新自身，性能提升速度可能会呈几何级数加快。部分专家对此表示担忧，认为实现递归式自我改进的人工智能可能给整个社会带来混乱。

对此，Anthropic强调：“为了让社会制度和人工智能对齐研究能够跟上技术发展速度，国际社会最好拥有放缓或暂时中止尖端人工智能开发速度的选择权。”

此外，该公司还提议，在就放缓人工智能模型开发速度达成国际共识的同时，应建立核验机制，以确认竞争对手是否真正遵守相关约定。

两人以递归式自我改进尚未成为现实、也并非必然现象为前提，同时警告称，“它有可能比大多数机构准备的速度更快到来”。

联合创始人Clark此前就持续警告人工智能的潜在风险。他表示，一旦人工智能模型进入递归式自我改进阶段，甚至可能改变文明本身，并称：“那种技术此前从未存在过，但我认为它可能会在未来两年内出现，甚至更快。”

Anthropic今后数年将与政界、研究界及产业界相关人士持续围绕递归式自我改进及验证系统建设展开讨论。

本报道由人工智能(AI)翻译技术生成。