基于强化学习的模型选择和超参数优化

摘要：

随着机器学习技术的不断发展,机器学习算法种类的增多以及模型复杂度提高,造成了实践应用中的两大难题:算法模型选择及模型超参数优化.为了实现模型选择和超参数优化的自动处理,该文提出了一种基于深度强化学习的优化方法.利用长短期记忆(LSTM)网络构建一个智能体(Agent),自动选择机器学习算法模型及对应的超参数组合.该智能体以最大化机器学习模型在验证数据集上的准确率为目标,利用所选择的模型在验证数据集上的准确率作为奖赏值(reward),通过强化学习算法不断学习直到找到最优的模型以及超参数组合.为了验证该方法的可行性及性能,在UCI标准数据集上将其与传统优化方法中基于树状结构Parzen的估计方法和随机搜索方法进行比较.多次实验结果证明该优化方法在稳定性、时间效率、准确度方面均具有优势.

关键词：深度强化学习、超参数优化、LSTM网络、机器学习、模型选择

所属期刊栏目：49

分类号：TP391(计算技术、计算机技术)

资助基金：国家自然科学基金;四川省科技厅重点研发计划

在线出版日期：2020-04-08（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：255-261