基于多级度量差值的神经网络后门检测方法

摘要：

深度神经网络在各类任务中都展现出良好的性能,但由于深度学习模型缺乏透明性和不可解释性,在推理阶段触发恶意攻击者设定的后门时模型出现异常行为而导致性能下降.针对上述问题,提出了一种基于多级度量差值的后门检测方案(backdoor detection scheme based on multilevel measurement difference,Mult-Measure).首先对源模型和被恶意注入后门的授权模型对抗攻击生成测试用例;并设置白盒和黑盒2种度量计算测试用例;最后通过统计阈值计算差值判断模型是否被注入后门.实验表明,Mult-Measure在植入特洛伊木马模型的后门攻击场景下,并在多触发器和隐形触发器下评估性能良好,相较近年来已有的检测方案,Mult-Measure具有更好的有效性和稳定性.

关键词：神经网络、深度学习、多级度量、特洛伊木马、后门攻击

所属期刊栏目：9

分类号：TP309.2(计算技术、计算机技术)

在线出版日期：2023-06-15（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：587-592