随机赋值权重的深度网络具有物体分类能力

摘要：

一些文献中报道,即使深度网络的权重参数随机赋值,对应的深度网络仍有一定的分类能力.以AlexNet为模式网络,从3个侧面分析探讨了随机深度网络是否具有图像物体分类能力.首先,将AlexNet的权重随机赋值;然后,对多类不同的图像物体刺激下的神经元响应的表达不相似矩阵(RDM)与原AlexNet的RDM进行了相关性分析,发现这2类RDM具有显著相关性;鉴于深度卷积网络每层的卷积操作为加权求和,且根据中心极限定理,大量随机变量的和近似服从正态分布,进一步分别拟合了在同一输入图像下原AlexNet神经元响应的分布和随机AlexNet神经元响应的分布与高斯分布的拟合优度,并对上述2种优度进行了相关性分析.大量模拟实验表明,对于来自真实世界的样本,对应高斯拟合优度呈现显著相关性.最后,直接利用赋以随机权重的AlexNet输出的高层响应进行K近邻分类,发现其分类精度高于直接对原始彩色图像进行K近邻分类的精度.因此,与文献报道相似,实验结果再次表明随机深度网络的确具备一定的物体分类的能力.

关键词：AlexNet、随机权重、神经元响应、表达不相似矩阵、高斯拟合、相关性分析、K近邻

所属期刊栏目：34

分类号：TP391.41(计算技术、计算机技术)

资助基金：国家自然科学基金;国家自然科学基金;中国科学院战略性先导科技专项;空间光电测量与感知实验室开放基金课题

在线出版日期：2022-08-01（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：1068-1074