基于快速边界攻击的黑盒对抗样本生成方法

摘要：

深度学习技术在不同领域有着广泛的应用,然而一个训练好的深度学习模型很容易受到干扰而得出错误的结果,从而引发严重的安全问题.为了检验深度学习模型的抗干扰性,提高模型的安全性和鲁棒性,有必要使用对抗样本进行对抗评估和对抗训练.有目标的黑盒对抗样本的生成方法具有较好的实用性,是该领域的研究热点之一.有目标的黑盒对抗样本生成的难点在于,如何在保证攻击成功率的前提下提高对抗样本的生成效率.为了解决这一难点,本文提出了一种基于快速边界攻击的有目标攻击样本生成方法.该方法包括线上的搜索和面上的搜索两步.线上的搜索由单侧折半法来完成,用于提高搜索效率;面上的搜索通过自适应调节搜索半径的随机搜索完成,用于提高搜索的广度.通过对5组图片的实验结果验证了方法的可行性.

关键词：黑盒攻击、对抗样本、深度学习

所属期刊栏目：29

在线出版日期：2020-12-18（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：216-221