基于Rescaled Hinge损失函数的多子支持向量机

摘要：

针对多分类学习模型性能会受异常值影响的问题,提出基于Rescaled Hinge损失函数的多子支持向量机(RHMBSVM).首先,该方法通过引入有界、非凸的Rescaled Hinge损失函数来构建相应的优化问题;然后,利用共轭函数理论将优化问题作等价变换;最后,使用变量交替策略形成一个迭代算法来求解非凸优化问题,该方法在求解的过程中可自动调节每个样本点的惩罚权重,从而削弱了异常值对K个超平面的影响,增强了鲁棒性.使用5折交叉验证的方法进行数值实验,实验结果表明,在数据集无异常值的情况下,该方法的正确率比多子支持向量机(MBSVM)提升了1.11个百分点,比基于Rescaled Hinge损失函数的鲁棒支持向量机(RSVM-RHHQ)提升了0.74个百分点;在数据集有异常值的情况下,该方法的正确率比MBSVM提升了2.10个百分点,比RSVM-RHHQ提升了1.47个百分点.实验结果证明了所提方法在解决有异常值的多分类问题上的鲁棒性.

关键词：机器学习、最优化方法、支持向量机、Rescaled Hinge损失函数、多子支持向量机

所属期刊栏目：40

分类号：TP181(自动化基础理论)

资助基金：新疆自治区教育厅自然科学重点项目XJEDU2018I002

在线出版日期：2020-11-23（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：3139-3145