多模态视觉语言表征学习研究综述

摘要：

我们生活在一个由大量不同模态内容构建而成的多媒体世界中,不同模态信息之间具有高度的相关性和互补性,多模态表征学习的主要目的就是挖掘出不同模态之间的共性和特性,产生出可以表示多模态信息的隐含向量.主要介绍了目前应用较广的视觉语言表征的相应研究工作,包括传统的基于相似性模型的研究方法和目前主流的基于语言模型的预训练的方法.目前比较好的思路和解决方案是将视觉特征语义化,然后与文本特征通过一个强大的特征抽取器产生出表征,其中,Transformer作为主要的特征抽取器被应用表征学习的各类任务中.分别从研究背景、不同研究方法的划分、测评方法、未来发展趋势等几个不同角度进行阐述.

关键词：多模态表征学习、表征学习、多模态机器学习、深度学习

所属期刊栏目：32

分类号：TP18(自动化基础理论)

资助基金：国家自然科学基金U1836215

在线出版日期：2021-03-15（万方平台首次上网日期，不代表论文的发表时间）

页数：共22页

页码：327-348