基于改进的RReliefF算法的超参数重要性分析

摘要：

自动化超参数配置方法在超参数调优过程中表现优异,但在超参数重要性分析方面还存在许多约束和限制.现有的超参数重要性评估方法多数局限于迭代构建模型,导致时间复杂度增加.为了解决该问题,提出一种基于改进的RReliefF算法直接评估超参数及超参数之间重要性权重.该算法根据每一个超参数对性能的影响程度估计单个超参数对性能贡献的能力,通过改进的归一化公式计算超参数之间的重要性权重.该算法分析得到了随机森林算法及SVM算法的超参数重要性权重,与相关方法比较具有一定的优势.

关键词：自动化超参数配置、超参数调优、超参数重要性评估

所属期刊栏目：48

分类号：TP391.1(计算技术、计算机技术)

资助基金：中国石油大学华东自主创新科研计划项目"面向糖尿病的自动化机器学习"编号:18CX02019A

在线出版日期：2020-10-13（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：1840-1845,2045