SMO算法的简化及其在非正定核条件下的应用

摘要：

SMO算法是求解大型支持向量机(SVM)的有效算法.已有的算法都必须判定4个Lagrange乘子位于哪个象限,从而使算法的实现更为复杂.此外,现有算法都假定核矩阵是正定的或半正定的,因此使其应用受到了限制.考虑到传统算法的不足,提出了一种用于ε-SVR的简化SMO算法,进而将其用于求解非正定核的ε-SVR.与已有的算法不同,通过将ε-SVR的原始规划问题进行展开并求解其KKT条件,提出的算法只需考虑2个Lagrange乘子,从而有效地简化了算法的实现,并能方便地应用于非正定核SVR的求解.采用一个常用于衡量预测误差的函数对算法进行了测试,实验表明,与ε-SVR现有的SMO算法相比,在不增加空间复杂度和时间复杂度的前提下避免了大量繁琐的判别条件,简化了算法的实现,这就为不同的损失函数所对应的SVR提供了一个通用的SMO算法,从而有利于SVR的推广应用.另外,提出的求解非正定核的ε-SVR的方法也为求解其他的非正定核SVR提供了一个思路.

关键词：非正定核、SMO算法、ε-支持向量回归机、支持向量机、拉格朗日乘子

所属期刊栏目：47

分类号：TP18(自动化基础理论)

资助基金：国家自然科学基金重点项目70931002;国家自然科学基金项目70672088

在线出版日期：2011-01-28（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：1962-1969