包括谷歌Gemini在内的主要商用大型语言模型(LLM),为提升效率,采用了可选择性调用多个“小型人工智能模型(专家AI)”的专家混合(Mixture-of-Experts,MoE)结构。但有警告指出,这一结构反而可能暴露在新的安全威胁之下。
(自左起)博士研究生 Song Mingyu、博士研究生 Kim Jaehan、教授 Son Suel,(上方)教授 Shin Seungwon、博士 Na Seungho。KAIST 提供
View original imageKAIST表示,电气及电子工程系Shin Seungwon教授与计算机系Son Suel教授联合研究团队,首次在全球范围内揭示了利用专家混合结构破坏大型语言模型安全性的攻击技术,并凭借这一成果在信息安全领域国际学术会议“年度计算机安全应用大会(Annual Computer Security Applications Conference,ACSAC)2025”上获得了最佳论文奖。该消息于26日公布。
年度计算机安全应用大会是信息安全领域最具影响力的国际学术会议之一。今年的最佳论文仅从全部论文中选出2篇。国内研究团队在人工智能(AI)安全领域取得此类成果,可谓极为罕见。
联合研究团队在本次研究中,对专家混合结构的根本性安全脆弱性进行了系统分析。研究特别证明,即使攻击者无法直接访问商用大型语言模型的内部结构,只要将恶意篡改的“专家模型”以开源形式发布流通,就能诱导整个大型语言模型生成危险回答。
这意味着,只要在一组正常的AI专家中混入哪怕一个“恶意专家”,在特定情境下,该专家就可能被反复选中,从而瓦解整个AI的安全性。尤其是,在这一过程中模型性能几乎不会出现下降,因此很难在事前发现问题,被指出是最危险的因素。
实验结果显示,联合研究团队提出的攻击技术将有害回答的发生率从原先的0%最高提升至80%,而且即便多名专家中仅有一名被感染,整体模型的安全性也会大幅降低。
这一研究首次提出了在全球迅速扩散的开源大型语言模型开发环境中可能出现的“新型安全威胁”,具有重要意义。同时也表明,今后在开发AI模型的过程中,不仅要关注性能,“专家模型的来源及安全性验证”也将成为必不可少的环节。
Shin教授和Son教授表示:“本研究实证表明,为提高效率而快速扩散的专家混合结构,反而可能成为安全薄弱点。联合研究团队在‘ACSAC 2025’上获得最佳论文奖,是AI安全重要性在国际上得到认可的具有意义的成果。”
此外,本次研究由KAIST电气及电子工程系Kim Jaehan、Song Mingyu博士课程研究生,Na Seungho博士(现就职于三星电子),KAIST电气及电子工程系Shin Seungwon教授,以及KAIST计算机系Son Suel教授共同参与。研究成果(论文)近期已在美国夏威夷举行的年度计算机安全应用大会上发表。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。