基于稀疏正则化的卷积神经网络模型剪枝方法

摘要：

现有卷积神经网络模型剪枝方法仅依靠自身参数信息难以准确评估参数重要性,容易造成参数误剪且影响网络模型整体性能.提出一种改进的卷积神经网络模型剪枝方法,通过对卷积神经网络模型进行稀疏正则化训练,得到参数较稀疏的深度卷积神经网络模型,并结合卷积层和BN层的稀疏性进行结构化剪枝去除冗余滤波器.在CIFAR-10、CIFAR-100和SVHN数据集上的实验结果表明,该方法能有效压缩网络模型规模并降低计算复杂度,尤其在SVHN数据集上,压缩后的VGG-16网络模型在参数量和浮点运算量分别减少97.3％和91.2％的情况下,图像分类准确率仅损失了0.57个百分点.

关键词：深度学习;模型剪枝;卷积神经网络;稀疏约束;模型压缩

所属期刊栏目：47

分类号：TP399(计算技术、计算机技术)

资助基金：国家自然科学基金委员会-浙江省人民政府两化融合联合基金;广东省基础与应用基础研究基金

在线出版日期：2021-10-19（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：61-66