深度神经网络模型后门植入与检测技术研究综述

摘要：

作为当前人工智能快速发展的代表性技术之一,深度神经网络的应用范围越来越广,由此带来的安全性问题也逐渐受到关注.现有研究主要聚焦于如何高效构造多样化的对抗样本,以实现对深度神经网络模型的欺骗,以及如何检测对抗样本并加固深度神经网络模型.但是,随着深度神经网络模型的开发越来越依赖开源数据集、预训练模型和计算框架等第三方资源,模型被植入后门的风险越来越高.从深度神经网络模型生命周期的各个环节出发,对深度神经网络模型后门植入与检测相关技术进行了归纳总结,对比分析了不同技术的主要特征与适用场景,对相关技术未来的发展方向进行了展望.

关键词：深度神经网络、后门植入、后门检测、人工智能

所属期刊栏目：44

分类号：TP309.2(计算技术、计算机技术)

在线出版日期：2022-11-24（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：1959-1968