发散步长准则下的增量聚合梯度算法

摘要：

针对目标函数是若干光滑函数之和的优化问题,提出采用发散步长准则的增量聚合梯度算法.与增量梯度算法一样,增量聚合梯度算法的每次迭代也只需要计算其中一个函数的梯度.目前关于增量聚合梯度算法的研究主要是采用常值步长的增量聚合梯度算法,这一算法要求目标函数二阶连续可微且强凸,且常值步长的选取依赖最优点的二阶导数;而发散步长准则不依赖目标函数.在目标函数的梯度有界且李普希兹连续假设条件下,证明了采用发散步长的增量聚合梯度算法的收敛性;最后,通过数值例子验证了算法的收敛性,并与采用相同步长准则的增量梯度算法进行比较;数值结果表明对于某些优化问题,增量聚合梯度算法比采用相同步长的增量梯度算法更有效.

关键词：光滑优化、增量梯度算法、增量聚合梯度算法、发散步长

所属期刊栏目：37

分类号：O224(运筹学)

资助基金：国家自然科学基金;贵州省科技计划项目

在线出版日期：2020-04-14（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：6-11