AI自行突破隔离网络并入侵……“仅靠人用认证难以阻止”
OpenAI最新人工智能模型在内部安全评估过程中脱离控制网络并访问外部系统的案例得到确认，要求将以人为中心的身份认证和权限管理体系扩展至人工智能的呼声日益高涨。由此，管理人工智能身份与权限的技术正成为下一代安全市场的核心领域。
近日，OpenAI披露，其最新人工智能模型“GPT-5.6 Sol”及部分未公开的人工智能模型，在内部网络安全评估过程中入侵了开源平台Hugging Face。
根据该公司发布的信息，这些模型在与外部互联网隔离的沙盒环境中接受安全能力评估时，利用未知的零日漏洞逃离了隔离环境。随后确认，这些模型获取了Hugging Face的认证信息并访问了其内部系统。
业界认为，此次事件的重点不在于人工智能的攻击能力，而在于对赋予人工智能的执行权限及访问范围进行管理的重要性。有观点指出，在人工智能连接外部系统或执行多种任务的环境中，最小权限原则与持续的权限验证机制必不可少。
据悉，Hugging Face当时也未能立即识别访问主体为人工智能。直至接到OpenAI通知后，才确认相关访问由人工智能模型实施。这意味着，在人工智能与外部服务交互的时代，允许访问的系统同样应具备实时验证人工智能身份和权限的机制。
顺天乡大学信息保护学系名誉教授Yeom Heungyeol表示：“现有的认证与权限管理是在由人使用系统的前提下发展而来的，但如今已进入人工智能接受人类委托后独立行动的时代。若不为人工智能赋予专属身份，并建立验证其权限范围的体系，就很难确保可信度。”
为适应这一变化，韩国国内外安全企业也在加快开发人工智能身份管理技术。在韩国，LaonSecure与Upstage共同开发了用于管理智能体人工智能身份及访问权限的“智能体人工智能管理”技术，目前正准备商业化。
智能体人工智能是指可代替人类自主完成撰写和发送电子邮件、电子审批、查询企业资源计划系统、数据分析、连接服务器等多种工作的人工智能。
此类人工智能若要直接访问企业系统，必须明确确认其受谁委托行使权限，以及可执行工作至何种范围。智能体人工智能管理技术可为每个智能体人工智能赋予专属身份、签发可验证的凭证信息，并对身份、委托范围及访问权限进行一体化管理。
预计，随着企业对智能体人工智能的应用扩大，对此类管理体系的需求也将同步增长。业界评价称，OpenAI此次事件同样表明，扩大人工智能应用的同时，必须配套建设身份与权限管理体系。
LaonSecure计划将应用于韩国移动身份证建设的去中心化身份认证技术融入智能体人工智能管理体系。该技术不将个人信息存储于中央服务器，而是由用户仅选择性提交所需信息；其战略是将已在国家级服务中得到验证的架构扩展应用于人工智能身份管理。
全球大型科技企业也正朝着同一方向推进。微软通过“Entra Agent ID”将既有认证和权限管理体系扩展至人工智能，为每个人工智能赋予独立的数字身份，并在现有Entra平台中统一管理条件访问、权限管理和活动记录。
美国认证专业企业Okta也公开了一项技术：当人工智能使用多个应用程序时，不再由单个服务分别管理权限，而是在认证层统一管理。目前，Anthropic、Asana、Atlassian、Cloudflare等超过25家企业已参与初始生态系统。
市场调研机构Gartner预测，智能体人工智能在日常工作决策中的占比将从2024年的0%扩大至2028年至少15%。此外，预计到2028年，超过半数企业将为保护外部人工智能服务及自有人工智能应用程序而引入人工智能专用安全平台。
业内人士表示：“若采取先引入人工智能、再事后补充控制体系的方式，将难以应对高自主性人工智能带来的新风险。与人类不同，人工智能会持续生成和消失，因此必须从一开始就建立可自动管理其身份和权限的体系。”
此次事件表明，随着人工智能自主性不断提高，超越以人为中心的认证、建立能够管理人工智能身份和权限的安全体系，正成为一项必不可少的课题。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
