基于混合maxout单元的卷积神经网络性能优化

摘要：

针对深度卷积神经网络中maxout单元非最大特征无法传递、特征图像子空间池化表达能力不足的局限性,提出混合maxout(mixout,mixed maxout)单元.首先,计算相同输入在不同卷积变换下所形成的特征图像子空间的指数概率分布;其次,根据概率分布计算特征图像子空间的期望;最后,利用伯努利分布对子空间的最大值与期望值加权,均衡单元模型.分别构建基于mixout单元的简单模型和网中网模型进行实验,结果表明mixout单元模型性能较好.

关键词：深度学习、卷积神经网络、maxout单元、激活函数

所属期刊栏目：38

分类号：TP391.3(计算技术、计算机技术)

资助基金：国家自然科学基金资助项目No.61601499 The National Natural Science Foundation of China 61601499

在线出版日期：2017-08-24（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：105-114