基于熵及随机擦除的针对目标检测物理攻击的防御

摘要：

物理攻击通过在图像中添加受扰动的对抗块使得基于深度神经网络(DNNs)的应用失效,对DNNs的安全性带来严重的挑战.针对物理攻击方法生成的对抗块与真实图像块之间的信息分布不同的特点,本文提出了能有效避免现有物理攻击的防御算法.该算法由基于熵的检测组件(Entropy-based Detection Component,EDC)和随机擦除组件(Random Erasing Component,REC)两部分组成.EDC组件采用熵值度量检测对抗块并对其灰度替换.该方法不仅能显著降低对抗块对模型推理的影响,而且不依赖大规模的训练数据.REC模块改进了深度学习通用训练范式.利用该方法训练得到的深度学习模型,在不改变现有网络结构的前提下,不仅能有效防御现有物理攻击,而且能显著提升图像分析效果.上述两个组件都具有较强的可转移性且不需要额外的训练数据,它们的有机结合构成了本文的防御策略.实验表明,本文提出的算法不仅能有效的防御针对目标检测的物理攻击(在Pascal VOC 2007上的平均精度(mAP)由31.3％提升到64.0％及在Inria数据集上由19.0％提升到41.0％),并且证明算法具有较好的可转移性,能同时防御图像分类和目标检测两种任务的物理攻击.

关键词：对抗样本、物理攻击、对抗块、对抗防御、目标检测

所属期刊栏目：8

分类号：TP181(自动化基础理论)

资助基金：科技创新新一代人工智能重大项目2030;No.2020AAA0140000

在线出版日期：2023-03-08（万方平台首次上网日期，不代表论文的发表时间）

页数：共12页

页码：119-130