端到端的梯度提升网络分类过程可视化

摘要：

端到端的梯度提升网络是由多个基学习器集合而成的神经网络.它与残差网络结构上有相似之处,二者后面的网络单元(学习器或残差块)都在前面网络单元的基础上继续学习,以逐渐逼近目标函数.端到端的梯度提升网络其网络结构较为复杂,我们对其工作机制的理解还不足.可视化技术有助于我们直观地理解网络内部的工作机制.本文着眼于探究端到端的梯度提升网络的分类过程和特点,在模拟数据上对其分类过程进行了可视化,通过与全连接网络和残差网络的对比突出其特点和问题,并利用哑节点说明其自正则能力相对较弱.然后,利用可视化方法探索了学习率对其分类过程的影响.最后,通过实际分类任务上的实验,在一定程度上验证了可视化相关结论的正确性.

关键词：端到端的梯度提升网络、残差网络、分类过程、可视化、学习率

所属期刊栏目：38

分类号：TP391.4(计算技术、计算机技术)

资助基金：国家自然科学基金41971280

在线出版日期：2022-03-30（万方平台首次上网日期，不代表论文的发表时间）

页数：共12页

页码：355-366