线性区域数量与PLNN表达能力的相关性

摘要：

使用分段线性激活函数的神经网络(PLNN)在机器学习中得到广泛应用.本文给出了一种PLNN模型表达能力的度量值——线性区域数量,并给出了线性区域的数学表示.分析了线性区域之间的关系并计算合并后的线性区域数量,同时给出一种基于Z曲线的线性区域数量的计算方法.针对一个任务实例进行分析,计算不同网络结构的线性区域数量及合并后的线性区域数量,分析了线性区域数量与不同网络结构的准确性的关联.结果表明,线性区域数量能够表现PLNN模型的表达能力,对于选择网络超参数及解释模型边界具有研究意义.

关键词：机器学习、分段线性神经网络、表达能力、线性区域

所属期刊栏目：42

分类号：TP183(自动化基础理论)

资助基金：国家自然科学基金资助项目61772124

在线出版日期：2021-03-04（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：201-207