适用于目标检测的上下文感知知识蒸馏网络

摘要：

针对现有应用于目标检测的知识蒸馏方法难以利用目标周围上下文区域的特征信息,提出适用于目标检测的上下文感知知识蒸馏网络(CAKD Net)方法.该方法能充分利用被检测目标的上下文信息,同时沿空间域和通道域进行信息感知,消除教师网络和学生网络的差异.该方法包括基于上下文感知的区域提纯模块(CARM)和自适应通道注意力模块(ACAM).CARM利用上下文信息,自适应生成显著性区域的细粒度掩膜,准确消除教师网络和学生网络各自特征响应在该区域的差异;ACAM引入空间-通道注意力机制,进一步优化目标函数,提高学生网络的性能.实验结果表明,所提方法对模型检测精确率提升超过2.9％.

关键词：知识蒸馏、通道注意力、模型轻量化、目标检测、深度学习

所属期刊栏目：56

分类号：TP37(计算技术、计算机技术)

资助基金：天津市科技计划项目;天津市自然科学基金资助项目

在线出版日期：2022-04-08（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：503-509