线性回归模型的Boosting变量选择方法?

摘要：

针对线性回归模型的变量选择问题，本文基于遗传算法提出了一种新的Boosting学习方法。该方法对每一训练个体赋予权重，以遗传算法作为Boosting的基学习算法，将带有权重分布的训练集作为遗传算法的输入进行变量选择。同时，根据前一次变量选择效果的好坏更新训练集上的权重分布。重复上述步骤多次，最后以加权融合方式合并多次变量选择的结果。基于模拟和实际数据的试验结果表明，本文新提出的Boosting方法能显著提高传统遗传算法用于变量选择的质量，准确识别出与响应变量相关的协变量，这为线性回归模型的变量选择提供了一种有效的新方法。

关键词：Boosting算法、变量选择、集成学习、遗传算法、多样性

分类号：O212.1(概率论与数理统计)

资助基金：国家自然科学基金11201367,91230101；国家重点基础研究发展计划973项目2013CB329406；河南省社科规划项目2014BJJ069；河南省教育厅科学技术研究重点项目14B910001.@@@@The National Natural Science Foundation of China11201367,91230101;the National Basic Research Program 9732013CB329406;the Social Sciences Planning Project of Henan Province 2014BJJ069；the Key Project of Henan Education Committee14B910001

在线出版日期：2015-11-02（万方平台首次上网日期，不代表论文的发表时间）

页数：共13页

页码：677-689