时空图卷积网络与注意机制的视频目标分割
目的 从大量数据中学习时空目标模型对于半监督视频目标分割任务至关重要,现有方法主要依赖第1帧的参考掩膜(通过光流或先前的掩膜进行辅助)估计目标分割掩膜.但由于这些模型在对空间和时域建模方面的局限性,在快速的外观变化或遮挡下很容易失效.因此,提出一种时空部件图卷积网络模型生成鲁棒的时空目标特征.方法 首先,使用孪生编码模型,该模型包括两个分支:一个分支输入历史帧和掩膜捕获序列的动态特征,另一个分支输入当前帧图像和前一帧的分割掩膜.其次,构建时空部件图,使用图卷积网络学习时空特征,增强目标的外观和运动模型,并引入通道注意模块,将鲁棒的时空目标模型输出到解码模块.最后,结合相邻阶段的多尺度图像特征,从时空信息中分割出目标.结果 在DAVIS(densely annotated video segmentation)-2016和DAVIS-2017两个数据集上与最新的12种方法进行比较,在DAVIS-2016数据集上获得了良好性能,Jacccard相似度平均值(Jaccard similarity-mean,J-M)和F度量平均值(F measure-mean,F-M)得分达到了85.3%,比性能最高的对比方法提高了1.7%;在DAVIS-2017数据集上,J-M和F-M得分达到了68.6%,比性能最高的对比方法提高了1.2%.同时,在DAVIS-2016数据集上,进行了网络输入与后处理的对比实验,结果证明本文方法改善了多帧时空特征的效果.结论 本文方法不需要在线微调和后处理,时空部件图模型可缓解因目标外观变化导致的视觉目标漂移问题,同时平滑精细模块增加了目标边缘细节信息,提高了视频目标分割的性能.
视频目标分割(VOS);图卷积网络;时空特征;注意机制;深度神经网络
26
TP391.4(计算技术、计算机技术)
国家自然科学基金项目;江苏省自然科学基金项目;江苏省六大人才高峰项目
2021-10-28(万方平台首次上网日期,不代表论文的发表时间)
共12页
2376-2387