Anthropic:“AI很快将自行发展……应放缓开发速度”
人工智能快速发展风险警告
需要类似核武器条约的机制
Anthropic于4日(当地时间)敦促,应考虑让人工智能(AI)研究机构放缓开发速度。相关观点指出,AI发展过快,可能很快达到无需人类介入便可自行改进的阶段,这或将带来重大的社会风险。
Anthropic当天在博客上通过一篇题为“当AI构建自身时”的文章,公开了显示其最尖端模型性能提升的内部数据。该文由Anthropic内部研究组织Anthropic Institute负责人Marina Favaro与联合创始人兼政策负责人Jack Clark共同撰写。
根据文章内容,AI模型似乎正迈向所谓“递归式自我改进”(recursive self-improvement)阶段,即在无人类介入的情况下自行提升自身能力。部分AI行业人士认为,这一阶段可能是风险和社会剧变的信号。Anthropic警告称,递归式自我改进尚未发生,也并非必然出现,但“其到来速度可能远快于大多数机构的准备预期”。
Anthropic表示:“我们认为,拥有能够放缓或暂时停止最尖端AI开发的选项是可取的,这样社会制度与研究才能跟上技术发展的速度。”并提出,就放缓开发速度达成国际共识,同时建立可验证研究机构是否遵守相关共识的机制。该公司认为,暂时停止开发或降低开发速度,只有在被广泛遵守时才有意义;为此,需要类似过去曾大幅削减中程核导弹部署的《中程核力量条约》那样的体系。
该公司还表示:“当前,围绕这一问题展开共同审视的机会窗口已经打开,AI企业之外的人也应参与这场讨论。”
包括首席执行官Dario Amodei在内的Anthropic管理层,近年来一直就AI的影响发出警告。
不过,也有观点指出,Anthropic此类警告可能是一种营销策略。例如,近期该公司以“Claude Mythos”过于危险为由限制公开,便被认为是在借此展示自家产品性能。宾夕法尼亚大学沃顿商学院教授Ethan Mollick在社交媒体X(X,原Twitter)上评价称:“其中夹杂着一些自我反思和营销成分,但也充分体现了Anthropic对不久后AI发展的真实看法。”
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。