基于增量式学习的正则化回声状态网络
针对回声状态网络(ESN)的结构设计问题,提出增量式正则化回声状态网络(IRESN).该网络由相互独立的子储备池模块构成,首先,子储备池根据奇异值分解方法生成,且可以保证每个子储备池权值矩阵的奇异值都小于1;其次,利用问题复杂度或者残差,将网络中逐一添加子储备池,直至满足预设的终止条件,在生成IRESN的过程中,回声状态特性能够得以保证,并不需要缩放储备池权值矩阵;然后,为了解决不适定问题,在网络增量式学习过程中,利用正则化方法训练输出权值,并利用留一交叉验证方法选择正则化参数.仿真结果表明,与其他ESNs相比较,所得网络具有紧凑的结构和较高的预测精度.
回声状态网络;增量式学习;奇异值分解;正则化;留一交叉验证
37
TP183(自动化基础理论)
国家重点研发计划;国家自然科学基金
2022-02-22(万方平台首次上网日期,不代表论文的发表时间)
共8页
661-668