基于Logits向量的JSMA对抗样本攻击改进算法

摘要：

文章针对目前典型基于显著图的对抗样本攻击算法JSMA开展研究,提出基于Logits向量的JSMA对抗样本攻击改进算法L-JSMA.该算法在MNIST数据集和CIFAR-10数据集上证明了攻击效果与Logits排序成正相关.为进一步验证该理论,在Alexnet模型和Inception-v3模型上对攻击目标根据Logits排序进行攻击,结论支持该理论.通过实验分析,攻击能力越强的JSMA衍生算法越能够充分利用神经网络的线性特性,在实验结果中表现出的线性相关性越强.由于神经网络同时具有线性特征和非线性特征,攻击效果并不是与Logits排序严格的正相关.文章通过对白盒攻击的神经网络性质探讨,有利于理解神经网络的本质特征,并对黑盒攻击的研究具有借鉴意义.

关键词：神经网络、对抗样本攻击、JSMA、Logits

分类号：TP309(计算技术、计算机技术)

资助基金：国家自然科学基金61672531

在线出版日期：2022-04-20（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：62-69