面向深度学习模型的对抗攻击与防御方法综述

摘要：

深度学习作为人工智能技术的重要组成部分,被广泛应用于计算机视觉和自然语言处理等领域.尽管深度学习在图像分类和目标检测等任务中取得了较好性能,但是对抗攻击的存在对深度学习模型的安全应用构成了潜在威胁,进而影响了模型的安全性.在简述对抗样本的概念及其产生原因的基础上,分析对抗攻击的主要攻击方式及目标,研究具有代表性的经典对抗样本生成方法.描述对抗样本的检测与防御方法,并阐述对抗样本在不同领域的应用实例.通过对对抗样本攻击与防御方法的分析与总结,展望对抗攻击与防御领域未来的研究方向.

关键词：人工智能、深度学习、对抗攻击、安全防御、对抗样本

所属期刊栏目：47

分类号：TP391(计算技术、计算机技术)

资助基金：中央高校基本科研业务费专项资金3072020CF0604,3072020CFQ0602

在线出版日期：2021-01-20（万方平台首次上网日期，不代表论文的发表时间）

页数：共11页

页码：1-11