基于随机扰动的过拟合抑制算法

摘要：

为了解决深度学习模型在小数据集或存在长尾效应的数据集上训练存在过拟合的问题,提出在训练模型的过程中加入随机扰动,并提出了随机扰动模块(Random Perturb Module,RPM).RPM模块首先计算输入特征的均值ζ,然后使用均值为0、方差为ζ/C的正态分布向网络提取的特征图中加入随机扰动.所提方法在CTSRD中国交通标志数据集和GTSRB德国交通标志数据集上的识别精度分别达到了96.9％和99.4％,同时相比原有模型,所提方法有效抑制了在CTSRD数据集上训练导致的过拟合现象,在PASCAL VOC 2012数据集上,基于残差网络的SSD模型和YOLOv3模型分别获得了10.7％和1.2％的mAP精度提升.实验证明,所提方法可以有效抑制模型过拟合,并在一定程度上提高模型的预测精度.

关键词：随机扰动、深度学习、交通标志识别、过拟合、目标检测

所属期刊栏目：39

分类号：TP391.4(计算技术、计算机技术)

资助基金：国家自然科学基金61903256

在线出版日期：2022-06-22（万方平台首次上网日期，不代表论文的发表时间）

页数：共5页

页码：134-138