近似指数型神经网络的本质逼近阶

摘要：

针对一类比Sigmoid更为宽泛的指数型激活函数, 证明了三层前向神经网络的本质逼近阶. 特别地证明了对于定义在Rd中紧子集上的任意连续函数f, 存在隐层单元数为m(n)=minbd(f,n)＜ε(n+1)d(其中Bd(f,n)=1/2(1+π2/2d)2w2(f,1/n+2),w2(f,·)为f的二阶连续模,n为不小于1/ε的任意正整数)的近似指数型神经网络使其逼近f的精度与速度满足d∞(f,Rσn(d))≤1/2(1+π2/2d)2w2(f,1/n+2)·同时, 当f属于α-Lipschtz函数类时, 网络达到其本质逼近阶n-α(0《α≤2), 所获结果较完整地刻画了该类神经网络的逼近特征, 并揭示了该类神经网络逼近性态与网络拓扑之间的相依关系.

关键词：近似指数型神经网络、本质逼近阶、光滑模

所属期刊栏目：36

分类号：TP1(自动化基础理论)

资助基金：国家高技术研究发展计划863计划10371097;国家科技攻关项目70531030

在线出版日期：2006-06-28（万方平台首次上网日期，不代表论文的发表时间）

页数：共14页

页码：579-592