在线学习算法综述

摘要：

随着信息技术的迅猛发展，尤其是互联网行业的广泛应用，越来越多的领域出现了对海量、高速到达的数据实时处理需求。如何从浩瀚的“数据海洋”中挖掘有用的知识变得尤为重要。传统批处理模式的机器学习算法在面临大数据时变得力不从心，而在线学习通过流式计算框架，在内存中直接对数据实时运算，为大数据的学习提供了有力的工具，这类在线学习框架有望应对大数据背景下机器学习任务面临的困境与挑战。本文总结了经典和目前主流的在线学习算法，主要包括：（1）在线线性学习算法；（2）基于核的在线学习算法；（3）其他经典的在线学习算法；（4）在线学习算法的优化理论。本文介绍在线学习与深度学习结合方法的研究现状，探讨在线学习算法研究中的关键问题与应用场景，最后展望了在线学习下一步的研究方向。

关键词：在线学习、核、优化理论、概念漂移、深度学习

所属期刊栏目：31

分类号：TP391(计算技术、计算机技术)

资助基金：国家自然科学基金61473149资助项目。

在线出版日期：2017-01-06（万方平台首次上网日期，不代表论文的发表时间）

页数：共16页

页码：1067-1082