基于ILSTM-AMSGD神经网络的时间序列预测方法

摘要：

针对标准长短期记忆(long short-term memory,LSTM)神经网络的结构参数众多、训练过程耗时长问题,提出一种基于自适应动量随机梯度下降(adaptive momentum stochastic gradient descent,AMSGD)算法的改进型长短期记忆神经网络(ILSTM-AMSGD神经网络),并将其用于时间序列预测中.首先,通过简化结构方程中的递归项权值,减少网络中所需训练的参数.其次,设计一种AMSGD算法对神经网络结构参数进行学习.最后,通过2个基准数据集和1个实际数据集对ILSTM-AMSGD神经网络模型在时间序列预测中的准确性和运行效率进行实验验证.结果表明,递归项权值简化方法可以提高模型的泛化能力,同时AMSGD算法加快了模型的收敛速度.与其他模型相比,ILSTM-AMSGD神经网络模型实现了对时间序列更加高效、准确的预测.

关键词：时间序列预测、改进型长短期记忆神经网络、权重精简、梯度下降算法、自适应、动量

所属期刊栏目：30

分类号：TP18(自动化基础理论)

资助基金：科技创新新一代人工智能重大项目;国家自然科学基金;国家自然科学基金;国家自然科学基金

在线出版日期：2023-11-27（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：1793-1800