稀疏结构化最小二乘双支持向量回归机

摘要：

最小二乘双支持向量回归机(LSTSVR)通过引入最小二乘损失将双支持向量回归机(TSVR)中的二次规划问题简化为两个线性方程组的求解,从而大大减少了训练时间.然而,LSTSVR最小化基于最小二乘损失的经验风险易导致以下不足:(1)"过学习"问题;(2)模型的解缺乏稀疏性,难以训练大规模数据.针对(1),提出结构化最小二乘双支持向量回归机(S-LSTSVR)以提升模型的泛化能力;针对(2),进一步利用不完全Choesky分解对核矩阵进行低秩近似,给出求解S-LSTSVR的稀疏算法SS-LSTSVR,使模型能有效地训练大规模数据.人工数据和UCI数据集中的实验证明SS-LSTSVR不但可以避免"过学习",而且能够高效地解决大规模训练问题.

关键词：最小二乘双支持向量回归、结构风险最小化、稀疏性、不完全Choesky分解、大规模

所属期刊栏目：55

分类号：TP181(自动化基础理论)

资助基金：国家自然科学基金61772020

在线出版日期：2019-10-30（万方平台首次上网日期，不代表论文的发表时间）

页数：共5页

页码：10-14