高维数据中鲁棒激活函数的极端学习机及线性降维

摘要：

极端学习机(extreme learning machine,ELM)训练速度快、分类率高,已经广泛应用于人脸识别等实际问题中,并取得了较好的效果.但实际问题中的数据往往维数较高,且经常带有噪声及离群点,降低了ELM算法的分类率.这主要是由于:1)输入样本维数过高;2)激活函数选取不当.以上两点使激活函数的输出值趋于零,最终降低了ELM算法的性能.针对第1个问题,提出一种鲁棒的线性降维方法(RAF-global embedding,RAF-GE)预处理高维数据,再通过ELM算法对数据进行分类;而对第2个问题,深入分析不同激活函数的性质,提出一种鲁棒激活函数(robust activation function,RAF),该激活函数可尽量避免激活函数的输出值趋于零,提升RAF-GE及ELM算法的性能.实验证实人脸识别方法的性能普遍优于使用其他激活函数的对比方法.

关键词：极端学习机、线性降维、鲁棒激活函数、高维数据、神经网络

所属期刊栏目：51

分类号：TP391(计算技术、计算机技术)

资助基金：国家自然科学基金项目61173163,51105052;辽宁省自然科学基金项目201102037

在线出版日期：2014-08-08（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：1331-1340