聚焦“潜在空间”……应用LSAA攻击
光州科学技术院（GIST）20日表示，人工智能学系Kim Seungjun教授研究团队开发出一种名为“LSAA（潜在空间感知对抗攻击）”的新型对抗攻击技术，可有效发现人工智能视觉识别方面的漏洞。
“对抗攻击”是指通过对图像数据等进行细微改动，诱导人工智能作出错误判断的技术。在实际应用中，它被用作一种“模拟黑客攻击”式的安全验证工具，以提前检查人工智能系统会在何种条件下出错。
自动驾驶汽车使用“语义分割”人工智能技术，按像素识别道路、行人和障碍物等目标。然而，传统漏洞验证方法依据人为定义的相似性来设计攻击，无法充分反映人工智能内部实际的识别机制。尤其是随着物体类别增加，这种方法更难应用，存在明显局限。
研究团队将目光投向“潜在空间”——人工智能将物体特征量化并进行排列的内部空间。该方法先找出人工智能在潜在空间中归类相似、容易混淆的目标，再对其施加细微变化；每当图像发生变化，就实时更新攻击目标，从而将误识别程度最大化。
验证结果显示，在城市道路行驶视频中，人工智能正常运行时的物体区域平均交并比（mean Intersection over Union，mIoU）为68.35%；应用LSAA攻击后，该指标骤降至0.41%。在涵盖150类不同物体的数据集实验中，该指标也降至0.6%以下，证实了这项技术具有广泛适用性。
Kim Seungjun教授表示：“人工智能会混淆什么，答案就在其训练过程中形成的内部潜在空间中。”他还称：“这项技术将为自动驾驶汽车和智能机器人搭载的视觉人工智能系统提前精准诊断漏洞、提升安全性作出重要贡献。”
此次研究由博士生Kim Gwangbin担任第一作者，在科学技术信息通信部和国土交通部的支持下开展，近期已在美国匹兹堡举行的机器人领域顶级学术会议“IROS 2026”上发表。
版权所有 © 阿视亚经济。未经许可不得转载，禁止用于AI训练及使用。
