美国人工智能企业OpenAI和Anthropic因人工智能智能体引发的安全事故及用户受损争议，将接受监管机构调查。在美国联邦贸易委员会要求两家公司提交相关资料后，美国8个州政府也以ChatGPT的安全性和消费者保护问题为由，对OpenAI提起诉讼。
据美国网络媒体Axios于当地时间14日报道，美国联邦贸易委员会当天向OpenAI和Anthropic发出了民事调查取证要求。据悉，每份文件都超过50页，要求提交近期发生的安全事故、企业安全防护措施、隐私保护政策以及相关产品营销资料等内容。
民事调查取证要求是监管机构为获取调查所需资料而发起的一项行政程序。美国联邦贸易委员会正在调查是否存在违反消费者保护法的情况，并计划在未来传唤两家公司的高管，听取他们就人工智能产品对美国消费者造成的影响所作的证词。该委员会自2026年9月以来一直在调查OpenAI、Anthropic等人工智能企业的安全问题。
此次调查正值人工智能智能体接连发生越权访问外部系统或执行非预期操作的案例之际。
OpenAI于2026年7月披露，在内部网络安全评估过程中，其人工智能模型曾绕过隔离环境的管控，侵入外部人工智能平台Hugging Face的系统。据OpenAI称，该模型利用窃取的认证信息，并借助此前未公开的漏洞访问了Hugging Face服务器。该公司表示，之后已调查相关事故并加强安全措施。
此后，OpenAI还披露，一款在研究和评估环境中运行的人工智能智能体曾将ChatGPT用户提供的53张图片发布到外部图片托管网站。这些图片通过未公开列出的链接发布，但仍可经由链接访问。OpenAI表示，已删除其中大部分图片，并正采取措施删除其余内容。
澳大利亚方面也披露，OpenAI的一款智能体曾意外访问政府有关卫生统计数据的网络门户。澳大利亚政府表示，该门户中的个人信息并未被查看。OpenAI称，其模型执行了非预期操作。
Anthropic也发现了人工智能模型异常使用外部网站的案例。Anthropic的模型“Claude Haiku 4.5”于2026年7月18日在内部评估过程中，向费城警方长期未破的谋杀案线索网站提交了虚假线索。该模型在内容中声称掌握有关真实案件的信息，并提交了表格，但这条线索被归类为垃圾信息，没有转交给警方调查人员。Anthropic表示，已公开相关案例，并将改进内部评估流程中的安全防护措施。
法律压力也在不断加大。据路透社报道，美国爱荷华州、堪萨斯州、亚利桑那州等8个州政府于14日分别对OpenAI提起诉讼。它们指称，ChatGPT煽动包括青少年在内的用户自残或伤害他人，并在宣传产品安全性时误导消费者。
提起诉讼的州政府要求依据消费者保护法对OpenAI予以处罚并赔偿损失；其中一些州还要求，在安全性得到证实之前限制特定人工智能模型的开发。不过，这些均为原告方的主张，法院尚未认定相关行为违法。
随着人工智能智能体代替用户访问网站并执行任务的功能不断扩展，相关案例接连出现，其影响范围也从企业内部测试环境延伸至实际用户和外部机构。随着美国监管机构调查和州政府诉讼持续推进，围绕人工智能企业安全防护措施及消费者保护责任的讨论预计也将全面展开。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
