深度神经网络中的后门攻击与防御技术综述

摘要：

神经网络后门攻击旨在将隐藏的后门植入到深度神经网络中,使被攻击的模型在良性测试样本上表现正常,而在带有后门触发器的有毒测试样本上表现异常,如将有毒测试样本的类别预测为攻击者的目标类.对现有攻击和防御方法进行全面的回顾,以攻击对象作为主要分类依据,将攻击方法分为数据中毒攻击、物理世界攻击、中毒模型攻击和其他攻击等类别.从攻防对抗的角度对现有后门攻击和防御的技术进行归纳总结,将防御方法分为识别有毒数据、识别中毒模型、过滤攻击数据等类别.从深度学习几何原理、可视化等角度探讨深度神经网络后门缺陷产生的原因,从软件工程、程序分析等角度探讨深度神经网络后门攻击和防御的困难以及未来发展方向.希望为研究者了解深度神经网络后门攻击与防御的研究进展提供帮助,为设计更健壮的深度神经网络提供更多启发.

关键词：深度神经网络、后门攻击、后门防御、触发器

所属期刊栏目：17

分类号：TP18;TP309(自动化基础理论)

资助基金：公安技术;网络空间安全十四五江苏省重点学科项目;南京大学优秀博士研究生创新能力提升计划

在线出版日期：2023-05-11（万方平台首次上网日期，不代表论文的发表时间）

页数：共11页

页码：1038-1048