多视图动量对比学习算法

摘要：

比较同一图像不同增强的相似性是对比学习取得显著成果的关键.传统对比学习方法使用了图像的两个不同视图,为了学习到图像更多的信息以提高分类准确率,在MoCo(momentum contrast for unsupervised visual representation learning)的基础上,提出了 一种多视图动量对比学习算法.每次迭代中,对于图像的多个数据增强分别使用一个查询编码器和多个动量编码器进行特征提取,使得本次迭代可以使用更多的数据增强和负样本.使用优化的噪声对比估计(InfoNCE)来计算损失,使得查询编码器能得到更有益于下游任务的特征表示.对查询编码器使用梯度回传更新网络,对各动量编码器使用改进的动量更新公式以提高模型的泛化能力.实验结果表明,使用多视图动量对比学习可以有效提高模型的分类准确率.

关键词：对比学习、多视图、动量更新、噪声对比估计

所属期刊栏目：40

分类号：TP181(自动化基础理论)

资助基金：云南省重大科技专项202002AE090010

在线出版日期：2023-03-07（万方平台首次上网日期，不代表论文的发表时间）

页数：共5页

页码：354-358