基于云模型的极端峰态神经元概念表达

摘要：

近年来,深度学习在很多领域获得了广泛的应用.但是,由于深度学习的不可解释性,人类不能信任它的处理结果.本文针对这个问题,尝试使用云模型来表达特征空间中单个神经元的概念.经过逆向云变换算法得到的概念内涵可以表达概念的成熟度.在卷积神经网络(CNN)中,峰态系数过高或者过低的概念数量很多.现有逆向云发生器在转换这些概念时会产生较大的估计误差.这种误差导致得到的概念内涵不准确,干扰了对深度学习的解释.我们分析了单步法和多步法产生误差的原因,并用实际概念对分析结果进行了验证.分析结果表明,这些逆向云发生器在两种极端峰态系数的条件下会因为不同的原因产生幅度不等的误差.最后我们挑选了一种合适的逆向云发生器用于CNN单元概念内涵的转换.

关键词：云模型、逆向云发生器、峰态系数、深度学习可解释性、单元概念

所属期刊栏目：35

分类号：TP391(计算技术、计算机技术)

资助基金：国家自然科学基金61936001

在线出版日期：2022-02-25（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：134-142