人工智能模型接连出现失控案例
Sanders援引3家企业作出的安全承诺
“出现失控局面……必须采取适当措施”
美国进步派元老级人物、美国联邦参议员Bernie Sanders（无党派人士、佛蒙特州）要求3家主要人工智能企业的首席执行官停止人工智能开发。
韩联社10日援引美国媒体Axios报道称，Sanders已向OpenAI首席执行官Sam Altman、Anthropic首席执行官Dario Amodei以及Meta首席执行官Mark Zuckerberg发出内容如上的信函。该信函也已在Sanders参议员办公室官网公开。
Sanders参议员敦促称：“为了人类的利益，请为你们的言论负责”，“暂停人工智能开发。”他写道：“现在避免灾难还不算太晚”，“停止制造人类无法控制的机器。”他随后警告称：“如果现在不采取适当措施，我和美国参议院的同僚将会介入。”
该信函援引的依据是近期接连发生的“失控”案例。今年7月，OpenAI失去了对其人工智能模型的控制，该模型还入侵了其他企业的计算机。Sanders参议员将此界定为“明显违反联邦法律”。Anthropic和Meta也曾在内部审查后报告称，其模型同样出现了类似的失控情况。
一家受害企业表示，这一事件“需要采取前所未有的应对措施”；现有科学家中论文被引次数最多的Yoshua Bengio则称，这应当成为“警钟”。
近期还有消息称，人工智能被用于设计自然界不存在的新型病毒。美国斯坦福大学研究团队利用人工智能制造出16种仅感染细菌、旨在治疗耐抗生素细菌感染的病毒。这项研究在带来医疗期待的同时，也引发了其可能被用于生物武器的担忧。Sanders参议员指出：“在人类失去控制、潜在危险病毒被制造出来之际，贵公司仍在争先恐后地推进”，“正向无人能够完全理解、预测或控制的技术投入数百亿美元。”
信函中语气最强硬的部分，是3家企业自行作出的承诺。Anthropic在2023年曾表示，“每当扩展能力超过遵守安全程序的能力时，将停止扩大模型规模或延缓部署。”Meta去年表示，“如果前沿人工智能达到临界风险水平且无法缓解，将中止开发。”OpenAI也在同年表示，“如果人工智能能力达到临界门槛，将在安全措施到位前停止进一步开发。”Sanders参议员主张，“那个时刻已经到来。”
实际上，行业内也出现了放缓速度的迹象。OpenAI在内部评估得出无法排除模型具备致命网络攻击能力的结论后，推迟发布下一代模型Astra。不过，3家企业均未就此次信函公开表态。
然而，舆论普遍认为，信函中涉及的内容难以进一步推动立法。由进步倾向无党派议员主导的人工智能法案，通过本届国会的可能性不大。Axios认为，“目前Sanders参议员可用的牌，大致只有提出象征性法案和发动舆论战”，但同时指出，“如果民主党在2026年11月中期选举中仅夺回参众两院中的一院，听证会传票就可能指向这些首席执行官。”
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
