在高斯分布下优化仿射变换的极限学习机

摘要：

极限学习机(ELM)会大量映射到激活函数的饱和区域,同时隐含层输入与输出远远不能获得共同的分布方式,导致泛化性能大打折扣.针对这一问题,研究了在高斯分布下优化激活函数中仿射变换(AT)的极限学习机,主要思想是在隐含层输入数据上引入新型的线性关系,利用梯度下降算法对误差函数中的缩放参数和平移参数进行优化,以满足隐含层输出能够高度服从高斯分布.基于高斯分布计算仿射参数的方法,能够保证隐节点相互独立的同时,也强调了高度的依赖关系.实验结果表明,在实际分类数据集和图像回归数据集中,隐含层输出数据不能很好地服从均匀分布,但服从高斯分布趋势,总体上能够达到更好的实验效果.与原始ELM算法和AT-ELM1算法比较,均有显著的改善.

关键词：极限学习机(ELM)、仿射变换(AT)、高斯分布、分类

所属期刊栏目：15

分类号：TP183(自动化基础理论)

资助基金：国家自然科学基金61572236

在线出版日期：2021-04-12（万方平台首次上网日期，不代表论文的发表时间）

页数：共12页

页码：690-701