分布式变量选择—MCP正则化

摘要：

随着数字化时代的发展,各个学科和领域都会遇到海量高维数据.面对收集到的大量数据,如何将其转化为可存储、便分析、能为解决实际问题提供参考的材料成为当前所面临的一个巨大挑战.针对数据存储的现状,分布式存储方式应运而生.分布式存储是将数据集按照某种方式不重复的存储在不同的机器中,以此解决数据存储问题.那么,如何设计和研究出适合于分布式数据存储方式的机器学习算法便成为另一个亟待解决的问题.伴随着信息技术理论的发展,正则化方法的提出和发展为我们处理和分析海量高维数据提供了有效工具,但其仅适合于单机数据处理.鉴于非凸正则化对变量选择和特征提取的优越性,我们将分布式存储与非凸正则化方法相结合,关注基于分布式计算的非凸正则化方法,以此解决海量高维数据的存储和分析问题.本文采用分布式数据存储的形式研究变量选择问题.我们将数据分开存储于可互相通信的多个计算机,并提出分布式MCP方法,基于ADMM算法实现相邻计算机之间交互信息的分布式MCP算法,完成全数据的变量选择,并给出分布式MCP算法的收敛性分析.分布式方法的变量选择结果与非分布式方法变量选择结果相同.最后,通过实验证明本文所提出的方法适合于处理分布式存储数据.

关键词：分布式、稀疏、MCP、ADMM

所属期刊栏目：38

分类号：O213;O236.2(概率论与数理统计)

资助基金：国家自然科学基金11571011

在线出版日期：2021-06-21（万方平台首次上网日期，不代表论文的发表时间）

页数：共14页

页码：301-314