“人类或失去对AI的控制，走向灭绝”……Anthropic离职研究员发出警告

曾在美国生成式人工智能服务开发商Anthropic任职的一名研究员警告称，人工智能开发竞赛存在风险。他认为，人类可能失去对人工智能的控制，最终走向灭绝。

5日，当地时间，Jacob Coxon在纽约市议会听证会上发言。韩联社、路透社供图

View original image

据彭博社和美国消费者新闻与商业频道当地时间5日报道，Anthropic前研究员Jacob Coxon当天在纽约市议会人工智能听证会上表示：“我们尚不知道如何控制任何人工智能系统。”Coxon于9月从Anthropic离职，当时曾批评Anthropic和OpenAI“正拿我们的生命作赌注”。

此次，他应正在推动一揽子人工智能监管法案的纽约市议会议长Julie Menin邀请出席作证。他警告称：“如果沿着当前的道路发展，人类失去对人工智能控制权的可能性，比不失去控制权的可能性更大。最终甚至可能导致人类灭绝。”

Coxon指出，人工智能行业的开发方式“极其鲁莽”。他接着表示：“硅谷长期奉行的‘快速行动，打破常规’或许适用于照片分享应用，但不适用于开发有史以来最强大的技术。”

对于市议会正在审议的“人工智能紧急关停开关”（紧急切断装置），他认为，这在短期内可能有所帮助，但作为长期安全措施仍不充分。

必读新闻

[独家]“说好赚超100亿韩元，结果仅1亿”……95%企业如此，韩国创业板特别上市为何如此[韩国创业板注水上市]①

• Lee总统向即将出席国政监查的Park Jinyoung表示：“抱歉……代表国民致谢”
• “我欠债7300万韩元”……每次还款都公开，竟迎来意外转机
• “早晨喝如同饮酒”……医生警告：“千万别喝”这种饮品
• 连“KOGUMA”也要来了？……“日本真要出大事了”长假将至，列岛高度戒备

曾任谷歌DeepMind研究员的Alex Turner也通过视频参会，指出开发竞赛的风险。他表示：“中国并非唯一的潜在对手。我们正在竞相于国内制造自己的对手，即未与人类目标对齐的人工智能，而这种情况发生的概率相当高。”他随后警告称：“它有朝一日可能比中国更强大。”

版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。