基于积分损失的对抗样本生成算法

摘要：

随着计算机性能的飞速提升和数据量的爆炸式增长,深度学习在越来越多的领域取得了惊人的成果.然而,研究者们发现深度网络也存在对抗攻击.在图像分类领域,攻击者可以通过向原始的图片上加入人为设计的微小的扰动,来使得深度神经网络分类器给出错误的分类,而这种扰动对于人类来说是不可见的,加入了扰动之后的图片就是对抗样本.基于梯度攻击的对抗样本生成算法(projected gradient descent,PGD)是目前有效的攻击算法,但是这类算法容易产生过拟合.该文提出了积分损失快速梯度符号法,利用积分损失来衡量输入对于损失函数的重要性程度,规避梯度更新方向上可能陷入局部最优值的情况,不仅进一步提升了对抗样本的攻击成功率,而且也增加了对抗样本的迁移性.实验结果证明了所提方法的有效性,可以作为测试防御模型的一个基准.

关键词：对抗样本、白盒攻击、积分梯度、卷积神经网络、深度学习

所属期刊栏目：32

分类号：TP391.41;TP183(计算技术、计算机技术)

资助基金：科技部重点研发计划2019YFB2101704

在线出版日期：2022-08-01（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：1-7