Rademacher复杂度在统计学习理论中的研究:综述
假设空间复杂性是统计学习理论中用于分析学习模型泛化能力的关键因素。与数据无关的复杂度不同, Rademacher复杂度是与数据分布相关的,因而通常能得到比传统复杂度更紧致的泛化界表达。近年来, Rademacher 复杂度在统计学习理论泛化能力分析的应用发展中起到了重要的作用。鉴于其重要性,本文梳理了各种形式的Rademacher 复杂度及其与传统复杂度之间的关联性,并探讨了基于Rademacher 复杂度进行学习模型泛化能力分析的基本技巧。考虑样本数据的独立同分布和非独立同分布两种产生环境,总结并分析了Rademacher复杂度在泛化能力分析方面的研究现状。展望了当前Rademacher复杂度在非监督框架与非序列环境等方面研究的不足,及其进一步应用与发展。
机器学习、统计学习理论、泛化界、Rademacher复杂度
43
TP3;TP1
国家自然科学基金61673118,61273299;上海浦江人才计划16PJ D009;上海市人才发展资金201629资助Supported by National Natural Science Foundation of China61673118,61273299;Shanghai Pujiang Program16PJD009;Shanghai Talents Development Funds201629
2017-03-09(万方平台首次上网日期,不代表论文的发表时间)
共20页
20-39