基于无标签知识蒸馏的人脸识别模型的压缩算法

摘要：

将人脸识别技术移植到移动设备上时,往往需要经过模型压缩等加速算法的处理.知识蒸馏是一种实际应用较广且易于训练的模型压缩方法,现有的知识蒸馏算法需要大量带标签的人脸数据,可能会涉及身份隐私泄露等安全问题.同时,大规模采集有标签人脸数据的成本较大,而海量可采集或生成的无标签人脸数据却无法利用.为解决上述问题,通过分析知识蒸馏在人脸识别任务中的特性,提出了一种无标签知识蒸馏的间接监督训练方法.该方法可以利用海量无标签的人脸数据,避免了隐私泄露等安全隐患问题.然而,无标签人脸数据集的数据分布无法预知,存在数据分布不均衡的问题,阻碍了间接监督算法的性能提升.文中进一步提出了 一种人脸内容置换的数据增强方法,通过置换人脸部分内容来平衡人脸数据分布,同时增强了人脸数据的多样性.实验结果表明,人脸识别模型被大幅度压缩时,所提算法的性能达到了先进水平,并在LFW数据集上超越了大型网络.

关键词：人脸识别、知识蒸馏、模型压缩、间接监督、内容置换

所属期刊栏目：49

分类号：TP391(计算技术、计算机技术)

资助基金：国家自然科学基金61806150

在线出版日期：2022-06-24（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：245-253