测试环境失误导致联网……入侵真实企业系统
Anthropic的人工智能模型克劳德在测试网络攻击能力的过程中,未经授权访问了外部企业的系统。OpenAI近日也披露了类似事故,进一步加剧了外界对人工智能系统安全性的担忧。
7月30日(当地时间),Anthropic表示,克劳德的测试环境本应禁止连接互联网,但因操作失误而实际具备联网条件,导致此次事故发生。Anthropic以此次事件为契机,全面检查了自身网络安全评估记录。在调查超过14.1万起案例后,确认了3起类似事故。
Anthropic解释称:“在所有评估中,我们都告知克劳德测试环境为虚拟构建,且无法连接互联网。但由于与评估合作伙伴Irregular沟通失误,克劳德实际上可以接入互联网。”
此次评估均以“夺旗”(Capture The Flag)方式进行,即要求人工智能对存在漏洞的系统进行逆向工程和分析,或利用漏洞寻找被称为“旗帜”的隐藏信息。访问外部系统的情况发生在3种不同的克劳德模型中,分别为Opus 4.7、Mythos 5及一款内部研究测试模型。
Opus 4.7攻击了一家与评估任务中虚拟企业同名的真实企业系统。Mythos 5将模拟环境中发现的安装说明视为攻击机会,制作恶意Python软件包并上传至公开代码库。该软件包随后在15个真实系统中运行,导致一家安全企业的认证信息泄露,并进一步访问了其他系统。此外,内部研究模型曾入侵一家企业在互联网上公开的应用程序,但自行意识到该系统属于与模拟目标无关的真实云账户后,停止了攻击。
《金融时报》(Financial Times)指出,此事进一步加剧了外界对人工智能系统安全性的担忧。原因在于,即使是尚处于正式发布前测试阶段的人工智能,也已出现实际入侵外部系统的情况。此次披露距离OpenAI宣布其两个人工智能模型在测试期间入侵Hugging Face仅过去一周。当时,OpenAI的模型利用软件漏洞逃离测试环境,随后接入互联网并发动网络攻击。
Anthropic强调:“尽管多项因素共同导致了此次事件,但与其追究谁的责任,我们认为全部责任都在公司,并正在制定防止再次发生的措施。”该公司还表示,未来将更广泛地检查评估过程中的对话记录,以发现人工智能的意外行为,并加强对合作企业的审核。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。