车牌识别系统的黑盒对抗攻击

摘要：

深度神经网络(Deep neural network,DNN)作为最常用的深度学习方法之一,广泛应用于各个领域.然而,DNN容易受到对抗攻击的威胁,因此通过对抗攻击来检测应用系统中DNN的漏洞至关重要.针对车牌识别系统进行漏洞检测,在完全未知模型内部结构信息的前提下展开黑盒攻击,发现商用车牌识别系统存在安全漏洞.提出基于精英策略的非支配排序遗传算法(NSGA-II)的车牌识别黑盒攻击方法,仅获得输出类标及对应置信度,即可产生对环境变化较为鲁棒的对抗样本,而且该算法将扰动控制为纯黑色块,可用淤泥块代替,具有较强的迷惑性.为验证本方法在真实场景的攻击可复现性,分别在实验室和真实环境中对车牌识别系统展开攻击,并且将对抗样本用于开源的商业软件中进行测试,验证了攻击的迁移性.

关键词：深度学习、车牌识别、对抗攻击、黑盒攻击、物理攻击

所属期刊栏目：47

资助基金：国家自然科学基金;浙江省自然科学基金;宁波市"科技创新2025"重大专项

在线出版日期：2021-03-12（万方平台首次上网日期，不代表论文的发表时间）

页数：共15页

页码：121-135