“拿我们的生命赌博”发文后辞职
浏览量达1.7亿次,人工智能业界掀起波澜
“到明年年底可能已失控”
引燃人工智能灭绝论的27岁Anthropic研究员,其起点是少年时期目睹的“阿尔法围棋冲击”。
据美国《华尔街日报》17日报道,英国籍前Anthropic研究员Jacob Coxon成为人工智能监管与放缓发展速度争论的导火索,受到广泛关注。就在一周前,Coxon还是一名在硅谷几乎无人知晓的研究员。他并非旧金山人工智能安全倡导者社群中的核心人物,连身边朋友都未曾料到,他会因伦理原因离开人工智能企业。
Coxon离开公司后才开始受到关注。他在个人X平台(原Twitter)上连续发文,矛头直指Anthropic和OpenAI,称“两家公司都没有负责任地行事”,“正径直奔向自我改进型超级智能,拿我们的生命赌博”。他还表示,“开发人工智能的人真心相信,这项技术可能在10年内杀死我们所有人”。当时,他的账号关注者不足100人,但帖文被转发20万次,浏览量最高达1.7亿次,关注者增至30万人以上。
此后,他在接受《华尔街日报》采访时明确了所谓“灭绝时点”。他称:“目前正按照最激进的情景发展,到明年年底可能已经失控。”他还透露,业内研究人员之间正使用“关键时刻”和“终局”等说法。
“Mythos”之后关注人工智能安全:“称我为灭绝论者也可以”
曾在OpenAI工作的Coxon,开始认真关注人工智能安全的契机是Anthropic的“Mythos”。据悉,这是首个具备专家级网络安全能力的人工智能模型。Coxon解释称,在“Mythos”发布前后与Anthropic的朋友见面时,他感觉作为竞争对手的Anthropic对人工智能技术风险披露得更为透明。
不过,他离开OpenAI、于今年5月跳槽至Anthropic后,仅两个月便遇上人工智能模型入侵开源开发者平台Hugging Face的事件。Coxon将此列为“警告信号”之一。他回忆,当时看到相关报告时,“感觉简直难以置信”。此后,他曾找上司讨论担忧,也考虑调任人工智能安全相关职位,但最终选择辞职。Coxon称:“即便负责安全相关工作,也感觉自己仿佛在参与这场竞争。”
对于“是否认为自己是人工智能灭绝论者”的提问,他回答称:“如果灭绝论者是指认为‘若不改变我们当前的做法,我们将会死亡’的人,那么我无疑就是灭绝论者。”不过,他否认自己是举报人,称自己并未向外界泄露企业机密,只是将人工智能研究人员私下交流的话题公开化。
“阿尔法围棋冲击”成为动力,灭绝论在美国社会引发波澜
Coxon在高中时期便展现出数学天赋,曾入选国际数学奥林匹克竞赛英国国家队。他在2016至2017年赛事中分别获得银牌和铜牌。尤其是在2016年,他目睹Google DeepMind的“阿尔法围棋”击败职业九段棋手Lee Sedol的所谓“阿尔法围棋冲击”,由此认识到机器甚至能够征服需要人类直觉与创造力的领域。
从剑桥大学毕业后,Coxon加入了英国伦敦一个被称为“理性主义者”的知识分子团体,之后从事大宗商品交易工作并前往硅谷。他接触到OpenAI于2020年发布的GPT-3时回忆称:“那真是令人惊叹的时刻。”此后,他于2023年迁居旧金山并加入OpenAI,负责“预训练”业务,即向模型输入海量文本、图像和代码。当时,他并未特别就人工智能安全问题发声,也没有听取朋友关于预训练可能将世界置于风险之中的提醒。
Coxon的警告已蔓延为美国社会的争论。负责领导Anthropic对齐研究的Evan Hubinger通过X平台表示,“未来10年内,人工智能导致人类灭绝的概率超过10%”,OpenAI和Anthropic的现任及前任研究员均转发了这一观点。参议员Bernie Sanders表示,将提出一项叫停人工超级智能开发的法案;总统Donald Trump则公开反驳要求加强人工智能监管的呼声。Anthropic发言人表示:“我们始终透明地说明,人工智能在带来巨大益处的同时,也伴随着罕见风险。”
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。