基于文本关键词的对抗样本生成技术研究

摘要：

深度学习模型已被广泛应用于处理自然语言任务,但最新研究表明对抗攻击会严重降低分类模型的准确率,使模型分类功能失效.针对深度学习模型处理自然语言任务时出现的脆弱性问题,提出一种新的对抗样本生成方法KeywordsAttack.该方法利用统计算法选择部分字词组成文本关键词集合,再根据关键词对模型分类结果贡献度大小进行迭代替换,直到成功误导分类模型或替换次数达到设定阈值.该方法针对中文的特点采用汉字拆分、拼音替换的方式生成对抗样本.最后,采用公开酒店购物评论数据集进行实验.实验结果表明,利用KeywordsAttack方法生成的对抗样本平均修改幅度占原始文本的18.2％,攻击BERT模型分类准确率约降低43％,攻击LSTM模型分类准确率约降低30％.该数据表明KeywordsAttack方法可以通过对文本进行较小的扰动成功误导分类模型,同时生成对抗样本过程中访问模型次数较少.

关键词：对抗样本、中文文本、神经网络、黑盒攻击、深度学习

所属期刊栏目：9

分类号：TP309(计算技术、计算机技术)

资助基金：中国博士后科学基金面上项目;公安部重点实验室开放课题项目;广东省信息安全技术重点实验室开放课题基金项目;北京电子科技学院一流学科建设项目

在线出版日期：2023-04-19（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：338-346