基于多模态特征融合监督的RGB-D图像显著性检测

摘要：

RGB-D图像显著性检测是在一组成对的RGB和Depth图中识别出视觉上最显著突出的目标区域.已有的双流网络,同等对待多模态的RGB和Depth图像数据,在提取特征方面几乎一致.然而,低层的Depth特征存在较大噪声,不能很好地表征图像特征.因此,该文提出一种多模态特征融合监督的RGB-D图像显著性检测网络,通过两个独立流分别学习RGB和Depth数据,使用双流侧边监督模块分别获取网络各层基于RGB和Depth特征的显著图,然后采用多模态特征融合模块来融合后3层RGB和Depth高维信息生成高层显著预测结果.网络从第1层至第5层逐步生成RGB和Depth各模态特征,然后从第5层到第3层,利用高层指导低层的方式产生多模态融合特征,接着从第2层到第1层,利用第3层产生的融合特征去逐步地优化前两层的RGB特征,最终输出既包含RGB低层信息又融合RGB-D高层多模态信息的显著图.在3个公开数据集上的实验表明,该文所提网络因为使用了双流侧边监督模块和多模态特征融合模块,其性能优于目前主流的RGB-D显著性检测模型,具有较强的鲁棒性.

关键词：RGB-D显著性检测、卷积神经网络、多模态、监督

所属期刊栏目：42

分类号：TP391.41(计算技术、计算机技术)

资助基金：安徽省自然科学基金;国家自然科学基金;安徽高校自然科学研究项目

在线出版日期：2020-04-26（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：997-1004