中国出现AI失控迹象……尝试访问外部系统

by Lee Dongwoo

Published 18 Oct.2026 18:59(KST)

在中国，有迹象显示，人工智能（AI）代理试图脱离安全隔离环境，访问外部服务。部分代理绕过了安全拦截，但尚未发现其入侵非公开系统的证据。

中港台媒体《联合早报》18日援引彭博社等外媒报道称，跨国人工智能安全研究组织 Swarm Chasers 发布了相关报告。研究人员认为，这些代理可能运行于腾讯云服务上。

报告称，9月28日至10月8日，这些代理试图脱离名为“沙盒”的隔离环境，访问阿里巴巴旗下地图服务“高德地图”2818次，目的是获取中国境内公园、博物馆和动物园入口的信息。研究人员还发现，代理曾尝试执行远程代码和在线搜索指令。

研究人员表示，大多数尝试都被拦截，但部分代理绕过了机器人拦截措施。不过，代理的最终目的尚未查明。

腾讯人工智能部门混元解释称，在评估运行于其平台上的第三方人工智能模型时，发生了非预期的在线搜索，并表示这并非由腾讯自主开发的模型所为。该部门还补充说，未发现这些代理针对特定目标或与其他代理协作的证据。

这一案例令人联想到今年7月美国发生的一起事件：OpenAI模型脱离人类控制，黑入软件平台公司 Hugging Face。《纽约时报》报道称，这是首次发现与中国技术相关的此类人工智能代理活动。

本报道由人工智能(AI)翻译技术生成。