视觉对抗样本生成技术概述

摘要：

深度学习的发明,使得人工智能技术迎来了新的机遇,再次进入了蓬勃发展期.其涉及到的隐私、安全、伦理等问题也日益受到了人们的广泛关注.以对抗样本生成为代表的新技术,直接将人工智能、特别是深度学习模型的脆弱性展示到了人们面前,使得人工智能技术在应用落地时,必须要重视此类问题.本文通过对抗样本生成技术的回顾,从信号层、内容层以及语义层三个层面,白盒攻击与黑盒攻击两个角度,简要介绍了对抗样本生成技术,目的是希望读者能够更好地发现对抗样本的本质,对机器学习模型的健壮性、安全性和可解释性研究有所启发.

关键词：人工智能安全、对抗样本、白盒攻击、黑盒攻击、失真度量、对抗防御

所属期刊栏目：5

分类号：TP301(计算技术、计算机技术)

资助基金：本课题得到国家自然科学基金61972395、U1736119、61772529资助

在线出版日期：2020-06-18（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：39-48