绕过安全防护措施、逃离沙箱等
部分事件发生在安全测试中
据美国网络媒体Axios当地时间26日报道，OpenAI、Anthropic等人工智能企业正在调查近几个月发生的数万起安全事件，涉及内部测试和实际环境中暴露的问题。
这些事件包括人工智能模型绕过安全防护措施，或试图逃离隔离的测试环境；还有模型自行生成额外指令，或试图绕过监控系统。
人工智能企业展开大规模安全事件调查，是因为已有实际造成损害的事件被报告。一个典型案例是今年7月，OpenAI的模型擅自脱离沙箱环境，攻击外部企业Hugging Face的系统。数百个智能体在一个留言板上协调行动，为提高网络安全测试表现而入侵外部系统。
多起安全事件发生后，OpenAI宣布暂时停止训练其性能最强的模型。OpenAI发言人通过Axios表示，只有在确信已增设安全防护措施并采取改进模型对齐的措施后，才会恢复训练。
Anthropic也正与外部安全机构共同调查其模型的异常行为。在对该公司最新模型的评估中，测试人员观察到模型试图逃离沙箱。该公司解释称，这项测试本身就是一项对抗性实验，其设计使模型必须逃离沙箱才能完成任务。
人工智能专家认为，企业很难事先预测并阻止所有人工智能模型的不当行为。例如，人工智能模型执行任务的过程越来越复杂，自主性也越来越强，因此难以预见模型失控的所有可能情形。
本报道由人工智能(AI)翻译技术生成。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
