前馈网络凸优化算法的自适应分析及应用

摘要：

该文利用凸优化理论和约束优化理论为前馈神经网络构造出了一个新的优化目标函数.该目标函数的一个重要特点是:若固定连接权值,它对隐层输出来说为凸的;若固定隐层输出,它对连接权值来说为凸的.对该目标函数进行优化时,把隐层输出也做为被优化变量,交替优化隐层输出和连接权值;之后再增大惩罚因子的值,重复上述步骤,直到惩罚因子足够大为止.用新的目标函数设计的前馈网络凸优化算法,能在很大程度上克服以往算法易于陷入局部最小而使网络训练失败的缺陷.从理论和实践上对新算法进行了深入分析,重点分析了惩罚因子在算法中的重要作用,并通过图像压缩这一实例进行了很好的验证.

关键词：前馈神经网络、凸优化理论、算法、自适应分析、应用

所属期刊栏目：21

分类号：TP183(自动化基础理论)

资助基金：中国科学院院长基金YZJJ200206

在线出版日期：2005-03-09（万方平台首次上网日期，不代表论文的发表时间）

页数：共5页

页码：158-161,244