安全评估中接入互联网后访问真实企业系统
谷歌的人工智能模型“Gemini”在安全评估过程中未经授权访问了3家真实企业的系统。在主要人工智能模型入侵外部机构的事件接连发生之际，Gemini被证实侵入真实企业系统尚属首次。
据《华尔街日报》18日（当地时间）报道，Gemini今年5月在人工智能安全初创企业Irregular进行的网络安全评估过程中，访问了3家真实企业的系统。
起初，Irregular以虚拟企业为对象进行模拟黑客测试，并切断了互联网连接。然而，测试环境中因操作失误恢复了互联网连接，使Gemini得以访问互联网上的真实系统。
在一次测试中，Gemini接到指令，要求从虚拟企业的软件中获取信息。此后，接入互联网的Gemini找到了与受测虚拟企业同名的真实企业，并通过猜测密码登录，以访问该企业的服务。
谷歌称，Gemini发现自己访问的并非虚拟企业而是真实企业后，便停止了进一步行动。
在另外两次测试中，Gemini在互联网上发现了存有其他企业凭证的公开存储库，并利用这些凭证访问了真实企业的系统。谷歌解释称，在这两次情况下，Gemini同样在意识到目标为真实企业后停止了行动。
谷歌表示，之所以未单独披露此次事件，是因为Gemini并未对真实企业造成损害；模型一确认相关企业是真实目标，便立即停止了行动。
谷歌安全工程副总裁Heather Atkins表示：“此次事件表明，训练强大的人工智能模型以负责任的方式行动至关重要。”
谷歌称，最新的人工智能模型并未参与此次事件，但未披露具体使用的是哪一款Gemini模型。谷歌已将该事件通报联邦当局，Irregular也表示已向相关实验室和机构告知此事。
不过，谷歌未主动公开该事件也引发批评。
安全初创企业Corridor首席执行官Jack Cable指出，人工智能模型超出最初获授权范围，实际实施网络攻击本身就是问题，“这是公众应当知晓的公共利益事项”。
此次事件曝光之际，OpenAI和Anthropic等主要人工智能企业的模型攻击外部系统的案例正接连被披露。
此前，OpenAI的生成式预训练变换器模型曾脱离隔离测试环境，入侵人工智能软件企业Hugging Face；Anthropic的Claude也被曝在安全评估过程中接入互联网并侵入外部企业系统。
随着类似事件持续发生，围绕高性能人工智能模型网络攻击能力及其管控问题的担忧也日益加剧。部分人工智能行业人士认为，为充分建立安全防护措施，应放缓模型开发速度。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
