深度学习中的对抗攻击与防御

摘要：

对抗样本是被添加微小扰动的原始样本,用于误导深度学习模型的输出决策,严重威胁到系统的可用性,给系统带来极大的安全隐患.为此,详细分析了当前经典的对抗攻击手段,主要包括白盒攻击和黑盒攻击.根据对抗攻击和防御的发展现状,阐述了近年来国内外的相关防御策略,包括输入预处理、提高模型鲁棒性、恶意检测.最后,给出了未来对抗攻击与防御领域的研究方向.

关键词：对抗样本、对抗攻击、对抗防御、深度学习安全

所属期刊栏目：6

分类号：TP18(自动化基础理论)

资助基金：国家自然科学基金;广东省数据安全与隐私保护重点实验室开放项目;陕西省重点研发项目

在线出版日期：2020-12-09（万方平台首次上网日期，不代表论文的发表时间）

页数：共18页

页码：36-53