基于决策边界搜索的对抗样本生成算法

摘要：

神经网络模型已被广泛运用于人工智能领域,并取得了成功,然而当前神经网络面临着对抗样本攻击的困扰.对抗样本是一种人为构造的虚假数据,可使得神经网络输出错误的结果.故提出了一种基于神经网络决策边界搜索的对抗样本生成算法.首先,在两个真实样本之间使用二分搜索来找到一个初始攻击点.然后,计算神经网络在决策边界面上的法线向量,以找到神经网络最敏感的方向.最后,使用方向信息迭代找到更接近原始数据点的对抗样本,直到对抗样本收敛.在公开的数据集上,使用该算法进行对抗样本攻击实验,实验结果表明该算法能够生成对抗扰动更小的对抗样本,并且可以与其他攻击算法结合,达到较好的攻击效果.

关键词：对抗攻击、对抗样本、神经网络、优化

所属期刊栏目：51

分类号：TP391.4(计算技术、计算机技术)

资助基金：国家自然科学基金61872404

在线出版日期：2022-10-13（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：721-727