权重随机正交化的极速非线性判别分析网络

摘要：

极速学习机(Extreme Learning Machine,ELM)以其训练速度快、易实现、泛化性能好等优点受到了广泛关注.然而在数据维度较高的场景,数据中往往蕴含着较多冗余信息,而经典ELM尚未能很好地应对这个问题.此外,经典ELM也未能对标记数据的判别信息有效地加以融合利用.针对传统ELM方法的不足之处,提出一种权重随机正交的判别分析网络(O-ENDA).在O-ENDA中,一方面对ELM输入层权重施加正交约束,这就降低了输入特征的冗余信息以减低过拟合的风险(尤其在小样本场景下);另一方面将隐层特征与判别分析相融合进行联合学习,实现数据判别信息在ELM中的融合利用.实验结果表明,提出方法在保持数据判别特征的同时能够去除其冗余信息、提高模型的泛化能力并能获得更高的分类精度.

关键词：极速学习机、线性判别分析、神经网络、降维、分类

所属期刊栏目：28

分类号：TP389.1(计算技术、计算机技术)

资助基金：国家自然科学基金资助项目61472186;中国博士后科学基金特别资助项目20133218110032;南京信息工程大学人才启动基金

在线出版日期：2018-02-01（万方平台首次上网日期，不代表论文的发表时间）

页数：共5页

页码：23-27