面向自然语言处理领域的对抗样本生成方法

摘要：

利用深度神经网络实现自然语言处理领域的文本分类任务时,容易遭受对抗样本攻击,研究对抗样本的生成方法有助于提升深度神经网络的鲁棒性.因此,提出了一种单词级的文本对抗样本生成方法.首先,设计单词的重要性计算函数;然后,利用分类概率查找到单词的最佳同义替换词,并将两者结合确定单词的替换顺序;最后,根据替换顺序生成与原始样本接近的对抗样本.在自然语言处理任务上针对卷积神经网络、长短时记忆网络和双向长短时记忆网络模型进行的实验表明:生成的对抗样本降低了模型的分类准确率和扰动率,且经过对抗训练之后模型的鲁棒性有所提高.

关键词：自然语言处理、文本对抗样本、文本分类、深度学习、单词级

所属期刊栏目：33

分类号：TP301.6(计算技术、计算机技术)

资助基金：安徽省自然科学基金2008085MF220

在线出版日期：2023-05-06（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：98-104