基于离群值去除的卷积神经网络模型训练后量化预处理方法

摘要：

为了提高训练后量化模型的性能,提出一种基于离群值去除的模型训练后量化预处理方法.该方法仅通过排序、比较等简易的操作,实现权重、激活值的离群值去除,使模型在量化时仅损失少量的信息,从而提升量化模型的精度.实验结果表明,在使用不同的量化方法前,采用所提方法进行预处理,可显著地提升性能.

关键词：卷积神经网络、训练后量化、预处理、离群值去除、图像分类

所属期刊栏目：58

分类号：TP391.41;TP751;R714.3

资助基金：国家自然科学基金U20A20204

在线出版日期：2022-10-13（万方平台首次上网日期，不代表论文的发表时间）

页数：共5页

页码：808-812