稀疏学习优化问题的求解综述

摘要：

机器学习正面临着数据规模日益扩大的严峻挑战，如何处理大规模甚至超大规模数据问题，是当前统计学习亟需解决的关键性科学问题。大规模机器学习问题的训练样本集合往往具有冗余和稀疏的特点，机器学习优化问题中的正则化项和损失函数也蕴含着特殊的结构含义，直接使用整个目标函数梯度的批处理黑箱方法不仅难以处理大规模问题，而且无法满足机器学习对结构的要求。目前，依靠机器学习自身特点驱动而迅速发展起来的坐标优化、在线和随机优化方法成为解决大规模问题的有效手段。针对L1正则化问题，介绍了这些大规模算法的一些研究进展。

关键词：L1正则化、在线优化、随机优化、坐标优化

分类号：TP181(自动化基础理论)

资助基金：国家自然科学基金60975040,61273296;安徽省自然科学基金1308085QF121

在线出版日期：2014-01-07（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：2498-2507