基于M-estimator的鲁棒宽度学习系统

摘要：

宽度学习系统(BLS)是最近提出的一种准确且高效的新兴机器学习算法,已在分类、回归等问题中展现出优越的学习性能.然而,传统BLS以最小二乘作为学习准则,易受到离群值的干扰从而生成不准确的学习模型.鉴于此,提出一种基于M-estimator的鲁棒宽度学习系统(RBLS).与BLS不同,RBLS在学习模型中使用具有鲁棒特性的M-estimator代价函数替代传统的最小二乘代价函数,并采用拉格朗日乘子法和迭代加权最小二乘方法进行优化求解.在迭代学习过程中,正常样本和离群值样本将根据其训练误差的大小而被逆向赋予不同的权重,从而有效地抑制或消除离群值误差对学习模型的不利影响.实验结果表明,作为一种统一的鲁棒学习框架,RBLS可以融合使用不同的M-estimator加权策略,且能够取得更好的泛化性能和鲁棒性.

关键词：宽度学习系统、离群值、鲁棒性、M估计、迭代加权最小二乘、拉格朗日乘子法

所属期刊栏目：38

分类号：TP183(自动化基础理论)

资助基金：国家自然科学基金;江苏省心理与认知科学大数据重点建设实验室开放基金项目

在线出版日期：2023-05-24（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：1039-1046