面向自然语言处理领域的对抗攻击研究与展望

摘要：

随着人工智能的不断发展,深度学习已经被应用到各领域当中.然而,近年来有研究表明,深度学习易受到对抗攻击的影响,这些对抗攻击可以欺骗深度学习模型,使模型对样本类别产生错误判断.目前,有关计算机视觉对抗攻击的研究已经逐渐趋于成熟,而由于文本数据的结构性质比较特殊,自然语言处理领域的对抗攻击的研究还处于发展阶段.因此,通过介绍对抗攻击的概念及其在计算机视觉领域的应用,引出自然语言处理领域的对抗攻击的研究现状,并根据具体的自然语言处理下游任务进行分析,研究目前流行的对抗攻击方案.最后对自然语言处理领域的对抗攻击发展提出展望.对自然语言处理对抗攻击领域的研究人员具有参考价值.

关键词：人工智能、深度学习、对抗攻击、计算机视觉、自然语言处理

所属期刊栏目：8

分类号：TP183(自动化基础理论)

资助基金：国家自然科学基金;天津市自然科学基金

在线出版日期：2022-03-22（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：202-211