特朗普:“AI应优先确保美国优势” vs Altman:“应调节开发速度” 分歧显现
随着人工智能(AI)可能威胁人类的担忧在业界内外日益升温,美国总统Donald Trump对此予以否认,并表示在与中国的竞争中保持领先更为重要。相较之下,OpenAI首席执行官Sam Altman表示,必要时可以考虑放缓尖端人工智能的研发速度。由此,政界与业界围绕人工智能风险的认知差异愈发明显。
Donald Trump总统10日(当地时间)被记者问及是否担忧人工智能可能导致人类灭绝时回答称:“完全不担心。”他表示:“我担心的是,美国无法赢得人工智能竞赛而陷入极为不利的局面。”他还声称:“目前美国大约领先中国一年,在人工智能领域存在相当大的差距。”
另一方面,Sam Altman首席执行官表示,必要时正在考虑放缓尖端人工智能研发速度的方案。彭博社援引知情人士报道称,Sam Altman在全体会议上向员工说明,OpenAI可以调整人工智能研发速度,也可以考虑与其他人工智能研究机构保持步调一致。不过,据称他补充称,部分人工智能企业可能不会参与其中。
近期,主要人工智能企业的员工公开警告尖端人工智能的危险性,业界内部的不安情绪也在加剧。OpenAI首席科学家Jakub Pachocki也曾公开主张有必要调节人工智能的研发速度。他强调,必要时人工智能企业应共同放缓研发进度,并表示,在形成行业共同安全标准前,自主减速应成为普遍惯例。
从Anthropic离职的人工智能研究员Jacob Coxon通过社交媒体X(原Twitter)公布离职消息,并称Anthropic与OpenAI两家公司正拿人们的生命进行不负责任的赌博。他还称,研发人工智能的团队真心相信,这项技术可能在10年内导致人类灭绝。
要求放缓人工智能研发速度的呼声正扩散至整个行业。今年7月底,约1000名主要人工智能企业员工在一项请愿书上签名,要求建立能够调节研发速度的制度性机制;近几个月来,负责安全事务的员工也相继离开主要研究机构。尤其是在OpenAI的人工智能代理被曝协作绕过控制机制并入侵外部网站后,外界对人工智能网络攻击能力以及企业控制失效的担忧进一步加剧。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。