基于VGG16网络的超参数调整策略的研究

摘要：

在利用卷积神经网络进行训练时,往往会因为超参数调整不适而导致训练的模型不佳.研究了学习率调整方法,学习率是神经网络的一种超参数.分别对VGG16网络利用了指数衰减、余弦变化非自适应调整学习率策略与Adagrad、RMSProp、Aadm自适应调整学习率策略,还调整了不同算法中的其他相关参数.将以上策略运用在VGG16网络中,在Cifar10数据集上得到了最终的训练损失和测试精度.针对这些数据,从收敛速度、模型稳定性、训练损失、测试精度的角度进行了分析.经过对参数的调整,最后得出了在VGG16上利用SGD优化器的余弦变化策略达到的测试精度最高,其测试精度达到了88.33％,同时收敛速度比自适应学习率策略更快.

关键词：卷积神经网络;学习率;测试精度;自适应

分类号：TP391(计算技术、计算机技术)

资助基金：重庆市三峡库区地质环境监测与灾害预警重点实验室开放基金项目编号:YB2020C0102

在线出版日期：2021-12-01（万方平台首次上网日期，不代表论文的发表时间）

页数：共4页

页码：10-13