基于图片边界后门嵌入的图像识别攻击研究

摘要：

采用公开数据集或预训练好的神经网络模型可以快速实现图像分析、语音识别等应用,但存在一定的风险或威胁.攻击者可以通过向开源训练数据或者训练模型中嵌入后门,使模型在接收到带有触发功能的数据时执行指定的后门行为.目前,图像识别的后门攻击采用的后门触发器大多在视觉上容易被发现,为此,文中提出一种基于图片边界后门嵌入的图像识别攻击方法.该方法向训练图片边界添加窄的有色带作为后门触发器,利用隐蔽的外形逃避视觉关注.在MNIST、CIFAR-10等图像识别数据集上对所提方法进行测试,实验结果表明,该后门可以稳定注入,并在毒药率为30％时,攻击成功率达到99.73％.相比于其他两种常见的后门攻击方法,所提方法攻击成功率更高,具有较强的攻击性和鲁棒性.

关键词：后门攻击、图像识别、神经网络、投毒攻击、深度学习、机器学习、信息安全、隐蔽后门

所属期刊栏目：46

分类号：TN911.73-34;TP391.41

资助基金：国家自然科学基金;中央高校基本科研业务费专项

在线出版日期：2023-03-22（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：129-134