自适应前馈神经网络结构优化设计

摘要：

针对多数前馈神经网络结构设计算法采取贪婪搜索策略而易陷入局部最优结构的问题,提出一种自适应前馈神经网络结构设计算法.该算法在网络训练过程中采取自适应寻优策略合并和分裂隐节点,达到设计最优神经网络结构的目的.在合并操作中,以互信息为准则对输出线性相关的隐节点进行合并；在分裂操作中,引入变异系数,有助于跳出局部最优网络结构.算法将合并和分裂操作之后的权值调整与网络对样本的学习过程结合,减少了网络对样本的学习次数,提高了网络的学习速度,增强了网络的泛化性能.非线性函数逼近结果表明,所提算法能得到更小的检测误差,最终网络结构紧凑.

关键词：前馈神经网络、结构设计、自适应搜索策略、互信息

分类号：TP273(自动化技术及设备)

资助基金：国家自然科学基金资助项目60873043;国家“863”计划资助项目2009AA04Z155;北京市自然科学基金资助项目4092010;教育部博士点基金资助项目200800050004;北京市属高等学校人才强教计划资助项目PHR201006103

在线出版日期：2012-01-15（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：312-317