基于KPCA初始化卷积神经网络的方法

摘要：

为了解决卷积神经网络中卷积核不能得到有效初始化,导致网络训练难度增加,使网络收敛速度过慢的问题,提出了一种基于KPCA初始化卷积核的方法(KPCA-CNN).该方法首先创建一个与卷积核大小相同的感受野对每个卷积层第一次输入的所有图像进行滑动采样,采样后的数据经过KPCA处理提取主成分,初始化卷积核.与PCA相比,KPCA对图像中的非线性特征有较好的提取能力,所提取的主成分中包含了输入图像的非线性特征,能够更加有效地初始化卷积核,从而降低网络的训练难度,使网络收敛速度变快.分别将PCA初始卷积核方法和KPCA初始化卷积核方法应用在MNIST手写数字识别上进行实验仿真,结果表明KPCA初始化卷积核的方法增加了网络的准确率,加快了网络的收敛速度.

关键词：卷积神经网络、卷积核初始化、主成分分析、核主成分分析、MNIST

所属期刊栏目：29

分类号：TP391(计算技术、计算机技术)

资助基金：2016宁夏回族自治区高等学校科学技术研究项目NGY2016014

在线出版日期：2019-07-26（万方平台首次上网日期，不代表论文的发表时间）

页数：共4页

页码：76-79