自学习稀疏密集连接卷积神经网络图像分类方法

摘要：

通道剪枝是深度模型压缩的主要方法之一.针对密集连接卷积神经网络中,每一层都接收其前部所有卷积层的输出特征图作为输入,但并非每个后部层都需要所有先前层的特征,网络中存在很大冗余的缺点.本文提出一种自学习剪枝密集连接网络中冗余通道的方法,得到稀疏密集连接卷积神经网络.首先,提出了一种衡量每个卷积层中每个输入特征图对输出特征图贡献度大小的方法,贡献度小的输入特征图即为冗余特征图;其次,介绍了通过自学习,网络分阶段剪枝冗余通道的训练过程,得到了稀疏密集连接卷积神经网络,该网络剪枝了密集连接网络中的冗余通道,减少了网络参数,降低了存储和计算量;最后,为了验证本文方法的有效性,在图像分类数据集CIFAR-10/100上进行了实验,在不牺牲准确率的前提下减小了模型冗余.

关键词：剪枝冗余通道、自学习、稀疏化密集连接卷积神经网络、图像分类

所属期刊栏目：35

分类号：TN911.73

资助基金：国家电网有限公司总部科技项目基于人工智能的视频图像处理及在巡检中的应用研究,5455HJ170002;国家自然科学基金项目61871182,61401154,61773160,61302163;北京市自然科学基金项目4192055;河北省自然科学基金项目F2016502101,F2017502016,F2015502062;中央高校基本科研业务费专项资金项目2018MS095,2018MS094;模式识别国家重点实验室开放课题基金201900051等资助

在线出版日期：2019-11-26（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：1747-1752