基于结构分解的神经网络设计算法

摘要：

@@1 引言
一般认为,在给定样本的情况下,能复现训练样本的较小结构神经网络,有好的泛化能力.尽管剪枝算法、构造算法等方法所设计的神经网络具有较小的结构,但能否在此基础上进一步精简网络结构,以提高神经网络的泛化能力,是一个令人感兴趣的课题.针对这一问题,本文得出了一些关于神经网络结构分解的结论:一个多输出前向网可以分解成多个具有更少隐节点的单输出前向子网,因而整个结构分解系统会有更好的泛化能力.基于以上结论,还提出一种基于结构分解的权衰减法(Structure Decomposition based Weight Decay,简称SDBWD).作者以煤灰结渣特性判别为例验证了该方法,获得较好的效果.

关键词：多层前向网、泛化能力、结构分解

所属期刊栏目：27

分类号：TP1(自动化基础理论)

在线出版日期：2004-03-19（万方平台首次上网日期，不代表论文的发表时间）

页数：共4页

页码：276-279