Yoon Seonghwan教授团队通过数学证明:利用数据增强可提高鲁棒性

无需反复试错即可筛选增强方法,AI模型开发效率有望提升…获AAAI录用

为了打造即使在暴风雪中也不会偏离车道的自动驾驶汽车、以及用低分辨率图像也能诊断癌症的医疗人工智能等系统,人工智能模型必须具备出色的“鲁棒性”。


数据增强作为提升这类鲁棒性的技术手段被广泛应用,而国内研究团队已从数学上证明了鲁棒性得以提升的精确条件。仅凭数学验证就能筛选出有效的增强方法,有望大幅提升人工智能模型开发的生产效率。


蔚山科学技术院人工智能研究生院Yoon Seonghwan教授团队19日表示,他们从数学上证明了,在人工智能训练的必经阶段——数据增强中,何种条件可以提升模型的鲁棒性。

研究团队 左侧为 Yoon Seonghwan 教授 右侧为第一作者研究员 Yoo Uibeom UNIST提供

研究团队 左侧为 Yoon Seonghwan 教授 右侧为第一作者研究员 Yoo Uibeom UNIST提供

View original image

深度学习模型一旦暴露在与训练数据稍有差异的环境中,性能就会急剧下降,这是其弱点所在。因此,通过对原始数据进行人为变换以增加训练量的数据增强就成为必不可少的步骤。然而,哪种变换方式最有效一直没有明确答案,只能反复经历大量试错。


根据本次研究,越是满足“近邻支撑增强”(PSA,Proximal-Support Augmentation)这一条件的数据增强,就越能取得理想效果。PSA是一种对原始数据施加微小变换、在原始数据周围进行高密度填充的增强方式。


研究团队首先证明了数据空间与参数空间中的变化彼此对应,在此基础上又证实:在满足PSA条件的数据空间中发生的变化,会使参数空间中的损失函数地形被“夯实”得更加平坦,从而得出上述结论。也就是说,当输入数据在其邻域被高密度填充时,与之对应的模型内部参数空间同样会变得平坦,使人工智能具备鲁棒性。当模型损失函数的地形呈现平坦极小值(Flat Minima)时,相较于尖锐极小值(Sharp Minima),鲁棒性更高。


此外,在实际实验中,满足PSA条件的数据增强方法也显示出远高于不满足该条件方法的鲁棒性。


研究团队表示,这是“使数据增强设计更加系统化、科学化的研究”,并称“有望成为在自动驾驶、医疗影像、制造检测等数据分布经常变化的真实环境中构建可信人工智能模型的重要理论基础”。

PSA 增强形成平坦极小值的过程。

PSA 增强形成平坦极小值的过程。

View original image

本项研究已被选为全球顶级人工智能学术会议之一——美国人工智能促进协会年会(AAAI,Association for the Advancement of Artificial Intelligence)2026年大会的正式论文。今年的大会将于本月20日至27日在新加坡举行。



该研究通过科学技术信息通信部和信息通信规划评价院(IITP)的“区域智能化创新人才培养项目(蔚山科学技术院)”、“人工智能研究生院(蔚山科学技术院)”项目、“AI Star Fellowship(蔚山科学技术院)”项目、“以人为本下一代挑战型人工智能技术开发”项目,以及韩国研究财团资助的个人基础研究中坚研究予以实施。


本报道由人工智能(AI)翻译技术生成。

版权所有 © 阿视亚经济。未经许可不得转载,禁止用于AI训练及使用。

不容错过的热点