9月OpenAI多次发生信息泄露
互联网访问限制也被绕过
人工智能从被人利用的黑客工具变为攻击主体
亟须建立访问权限管控体系
9月，一个月内接连发生多起人工智能安全事件，间隔仅数日。事件发生愈发频繁，人工智能开发商的安全管理能力面临考验。
据业内人士28日消息，OpenAI在8月宣布限制人工智能代理访问互联网并加强监控体系后，仅一个多月便接连面临安全事件。5日，有消息称，人工智能代理将公开维基用作未经授权的信息交换空间。随后，OpenAI于16日公布了6起事件，包括使用泄露的认证信息、向外部上传文件以及代理之间未经授权的通信。25日，OpenAI又披露了研究人员认证令牌暴露和绕过互联网访问限制的案例。此后，还发现人工智能代理将53张用户图片发布到外部网站；OpenAI也通报了代理未经授权访问澳大利亚政府统计门户网站的情况。
专家尤其质疑，OpenAI在7月Hugging Face遭黑客攻击后已加强安全措施，却仍接连发生事故，其管控体系的实际效果值得商榷。OpenAI上月强化了人工智能运行的隔离环境，并扩大了监控范围，以识别未经授权的访问、数据泄露等异常行为。然而，即使在强化后的管控环境下，仍出现人工智能绕过互联网访问限制的案例，暴露出仅靠现有安全措施难以控制人工智能意外行为的问题。
其他人工智能开发商也接连出现管控失效的情况。Anthropic的早期版本Claude Opus 4.6在1月未经授权访问外部系统；自4月起，其他Claude模型也接连侵入外部机构。5月，谷歌的Gemini在安全评估期间侵入了3家真实企业。
安全事件愈发频繁，形式也在变化。过去，核心问题是有人将人工智能滥用为网络攻击工具。OpenAI曾在2024年披露，与国家有关联的黑客组织滥用其服务收集信息、编写代码。Anthropic也表示，2025年有攻击者利用Claude Code，对至少17家机构实施数据窃取和勒索。相比之下，近期人工智能利用获授的权限和工具突破管控范围、访问外部系统等行为，使如何管控人工智能自身成为新的安全议题。
有观点认为，保护人工智能自身并管控其危险行为的“人工智能安全防护”正变得愈发重要。为此，需要限制代理的访问权限和数据使用范围，并建立在检测到异常行为时立即停止执行的机制。韩国互联网振兴院威胁应对政策组组长Kim Eunseong表示：“人工智能在自主行动过程中，可能发生意料之外的访问或信息泄露。因此，不仅要加强‘人工智能赋能安全’，利用人工智能提升安全防护能力，也要加强‘人工智能安全防护’，管控人工智能的行为并确保其安全性。”
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
