删除信息再学习攻击后识别准确率仍为0.24%……有望应用于个人信息保护
韩国研究团队开发出一种“人工智能记忆橡皮擦”技术:即使人工智能已删除其学习过的个人信息或侵犯版权的数据,只要再次输入几张照片便可能恢复记忆的问题,也可得到防范。
蔚山科学技术院(UNIST)21日表示,Yoon Sunghwan人工智能研究生院教授团队与Park Saerom产业工程系教授团队开发出机器遗忘(Machine Unlearning)技术Spotter,可阻断将已删除信息重新学习的攻击。
机器遗忘是指从完成训练的人工智能中,选择性移除特定数据所产生影响的技术,可用于删除人脸识别人工智能中提出删除请求者的面部信息、个人信息及有害内容等。
阻断令删除信息复原的“再学习攻击”
现有遗忘技术存在“过度删除”问题,即连与删除对象相似的正常信息也无法识别;此外,只要再次输入几张删除对象的照片,人工智能便会重新学习已删除信息。
研究团队开发的Spotter在维持对与删除对象相似的正常信息识别性能的同时,仅选择性移除人工智能识别删除对象的核心标准。借此可有效阻断使已删除信息被重新学习的再学习攻击。
在采用包含汽车、猫、飞机等10个类别图像的代表性人工智能训练数据集CIFAR-10进行的实验中,Spotter将删除对象的识别准确率降至0%,即使在利用5张删除对象照片实施再学习攻击后,识别准确率仍被控制在0.24%水平。相比之下,现有遗忘技术在相同条件下,对删除对象的识别准确率最高恢复至99.98%。对于其他未删除类别的识别准确率则维持在99.96%。
研究团队还在大型图像数据集Tiny ImageNet及人脸识别数据集CASIA-WebFace中确认了类似性能。
研究团队预计,这项技术将广泛应用于人脸识别系统中的个人信息删除、有害内容清除等对隐私保护要求较高的人工智能服务。
第一作者Ha Seungbeom研究员表示:“以往未能充分评估与删除对象相似的正常信息性能下降,或已删除信息再次恢复的问题。Spotter能够弥补遗忘技术的盲区。”
该研究已被人工智能领域顶级国际学术会议——2026年国际机器学习大会录用。
版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。