基于互信息的多级特征选择算法

摘要：

针对在特征选择中选取特征较多时造成的去冗余过程很复杂的问题,以及一些特征需与其他特征组合后才会与标签有较强相关度的问题,提出了一种基于互信息的多级特征选择算法(MI MLFS).首先,根据特征与标签的相关度,将特征分为强相关、次强相关和其他特征;其次,选取强相关特征后,在次强相关特征中,选取冗余度较低的特征;最后,选取能增强已选特征集合与标签相关度的特征.在15组数据集上,将MI MLFS与ReliefF、最大相关最小冗余(mRMR)算法、基于联合互信息(JMI)算法、条件互信息最大化准则(CMIM)算法和双输入对称关联(DISR)算法进行对比实验,结果表明MI MLFS在支持向量机(SVM)和分类回归树(CART)分类器上分别有13组和11组数据集获得了最高的分类准确率.相较多种经典特征选择方法,MI MLFS算法有更好的分类性能.

关键词：特征选择、互信息、多级、相关度、冗余度、分类准确率

所属期刊栏目：40

分类号：TP181(自动化基础理论)

资助基金：福建省自然科学基金资助项目2018J01545

在线出版日期：2021-01-11（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：3478-3484