机器学习随机优化方法的个体收敛性研究综述

摘要：

随机优化方法是求解大规模机器学习问题的主流方法,其研究的焦点问题是算法是否达到最优收敛速率与能否保证学习问题的结构.目前,正则化损失函数问题已得到了众多形式的随机优化算法,但绝大多数只是对迭代进行平均的输出方式讨论了收敛速率,甚至无法保证最为典型的稀疏结构.与之不同的是,个体解能很好保持稀疏性,其最优收敛速率已经作为open问题被广泛探索.另外,随机优化普遍采用的梯度无偏假设往往不成立,加速方法收敛界中的偏差在有偏情形下会随迭代累积,从而无法应用.本文对一阶随机梯度方法的研究现状及存在的问题进行综述,其中包括个体收敛速率、梯度有偏情形以及非凸优化问题,并在此基础上指出了一些值得研究的问题.

关键词：机器学习、随机优化、个体收敛性、有偏梯度估计、非凸问题

所属期刊栏目：32

分类号：TP391(计算技术、计算机技术)

资助基金：国家自然科学基金61673394,61273296

在线出版日期：2017-05-16（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：17-25