基于概念器的深度神经网络模型

摘要：

近年来, 深度神经网络, 亦被称为深度学习, 在机器学习方法主导的各个领域都取得了重大的突破. 虽然经过训练的深度神经网络具有卓越的性能, 但是整个训练过程却十分耗时, 即使借助高性能计算设备, 也需要数日甚至数周的训练时间. 概念器作为回音状态网络的延续和发展, 可以理解为描述神经动态活动模式的过滤器, 是一个强大的时序数据处理工具. 为了解决上述问题, 基于对原始概念器模型的改进, 本文在深度神经网络的非迭代方法和迁移学习两个方面分别做了一些工作. 具体来说, (1) 提出了针对非时序数据的概念器分类器, 并在此基础上提出了一种非迭代方法前馈卷积概念器神经网络, 通过在MNIST 变集数据集上的实验测试了前馈卷积概念器神经网络的分类性能, 不仅达到了同类方法的最高水平, 而且极大地降低了训练时间; (2) 提出了一种基于概念器的快速概念器分类器, 在数据集Caltech-101 和Caltech-256 上, 测试了快速概念器分类器结合预训练且不再微调的深度神经网络的表现, 不仅在性能上超越了同类方法的最高水平, 而且训练时间平均减少到原有的1/60.

关键词：概念器、图像分类、深度神经网络、迁移学习、非迭代方法

所属期刊栏目：48

分类号：TP391;TP183;TN919.82

资助基金：国家重点研发计划;国家自然科学基金;国家自然科学基金;青年教师基金

在线出版日期：2018-09-10（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：511-520