神经网络非梯度优化方法研究进展

摘要：

神经网络优化是机器学习领域的一个基础性前沿课题.相较于神经网络的纯梯度优化算法,非梯度算法在解决收敛速度慢、易陷入局部最优、无法解决不可微等问题上表现出更大的优势.在剖析基于梯度的神经网络方法优缺点的基础上,重点对部分非梯度优化方法进行了综述,包括前馈神经网络优化和随机搜索优化;从基本理论、训练神经网络的步骤以及收敛性等方面对非梯度优化方法的优缺点和应用情况进行了分析;总结了基于非梯度的训练神经网络的算法在理论和应用方面面临的挑战并且展望了未来的发展方向.

关键词：深度学习、神经网络、训练算法、优化理论、非梯度优化算法

所属期刊栏目：58

分类号：TP181(自动化基础理论)

资助基金：国家自然科学基金61806221

在线出版日期：2022-09-15（万方平台首次上网日期，不代表论文的发表时间）

页数：共16页

页码：34-49