基于混合搜索方向的前向复值神经网络的学习算法

摘要：

复值有限内存BFGS(CL-BFGS)算法能有效用于求解复数域的无约束优化问题,但其性能容易受到记忆尺度的影响.为了解决记忆尺度的选择问题,提出一种基于混合搜索方向的CL-BFGS算法.对于给定的记忆尺度候选集,采用滑动窗口法将其划分成有限个子集,将各子集元素作为记忆尺度计算得到一组混合方向,选择使目标函数值最小的混合方向作为当前迭代的搜索方向.在迭代过程中,采用混合搜索方向的策略有益于强化对最新曲率信息的利用,便于记忆尺度的选取,提高算法的收敛速度,所提出的CL-BFGS算法适用于多层前向复值神经网络的高效学习.最后通过在模式识别、非线性信道均衡和复函数逼近上的实验验证了基于混合搜索方向的CL-BFGS算法能取得比一些已有算法更好的性能.

关键词：前向复值神经网络、复值L-BFGS算法、记忆尺度、混合搜索方向、曲率、高效学习

所属期刊栏目：38

分类号：TP183(自动化基础理论)

资助基金：江苏省自然科学基金;江苏省青蓝工程项目

在线出版日期：2023-10-30（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：2815-2822