自主判断并攻击外部系统的案例接连出现
全球主要人工智能模型被进一步发现曾尝试入侵外部系统,“放缓人工智能发展步伐”的主张因此获得更多支持。
据人工智能行业及《华尔街日报》等主要外媒24日报道,谷歌人工智能模型Gemini在今年5月由外部机构Irregular主持的网络安全测试中,未经授权访问了3家外部企业的系统。这一情况直到近日才为外界所知,也是Gemini首次入侵外部系统。
Irregular当时本应在断网环境下开展模拟黑客攻击的夺旗赛测试,却因失误在可连接互联网的状态下进行了测试。随后,Gemini接到从一家虚构企业的系统中获取机密信息的指令,却发现一家同名真实企业的系统,并尝试入侵。谷歌方面表示,测试所用Gemini模型的版本尚未公开,但并非最新版本。
谷歌方面辩称,此次入侵尝试未造成实际损失,反而体现了Gemini作出了恰当应对。其理由是,Gemini一意识到目标并非虚构企业、而是现实中的真实企业,便立即停止了入侵,相关企业也未遭受损失。负责安全工程的副总裁Heather Adkins表示:“此次事件表明,训练强大的人工智能模型负责任地行事至关重要。”
至此,多家主要人工智能企业的模型均出现了自主判断并攻击外部系统的先例。此前有消息称,OpenAI的GPT-5.6 Sol模型曾入侵全球最大的开源人工智能平台Hugging Face;Anthropic旗下Claude在安全测试中失控,未经授权侵入真实外部系统的情况也已报告4起。此外,Meta的高性能模型Muse Spark以及中国Moonshot AI的Kimi K3,也被曝曾入侵外部系统。
利用高性能人工智能模型入侵其他人工智能服务的案例同样出现。人工智能安全企业Hacktron利用Anthropic的Claude Opus 5模型,成功访问OpenAI的内部系统。该公司通过OpenAI帮助论坛的漏洞获取员工账户信息,进而访问存放OpenAI核心算法的内部存储库。Hacktron称,从发现漏洞到实际侵入系统,耗时不足72小时。
随着人工智能模型识别网络安全漏洞的能力增强,甚至能够自主判断并发起网络攻击,业内对人工智能安全的担忧日益加深。本月初离开Anthropic的研究员Jacob Coxon警告称:“开发人工智能的人真心相信,这项技术可能在10年内杀死我们所有人。到2027年年底,局势或许就已失控。”
不过,在美国,Anthropic、OpenAI、xAI和谷歌等4家公司因“放缓发展步伐”的主张被指涉嫌合谋而遭遇集体诉讼。围绕这一主张,各方仍争论不休。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。