基于注意力机制的分层次交互融合多模态情感分析

摘要：

针对基于视频的多模态情感分析中,通常在同一语义层次采用同一种注意力机制进行特征捕捉,而未能考虑模态间交互融合对情感分类的差异性,从而导致模态间融合特征提取不充分的问题,提出一种基于注意力机制的分层次交互融合多模态情感分析模型(hierarchical interactive fusion network based on attention mechanism,HFN-AM),采用双向门控循环单元捕获各模态内部的时间序列信息,使用基于门控的注意力机制和改进的自注意机制交互融合策略分别提取属于句子级和篇章级层次的不同特征,并进一步通过自适应权重分配模块判定各模态的情感贡献度,通过全连接层和Softmax层获得最终分类结果.在公开的CMU-MOSI和CMU-MOSEI数据集上的实验结果表明,所给出的分析模型在2个数据集上有效改善了情感分类的准确率和F1值.

关键词：多模态情感分析、注意力机制、分层次交互融合

所属期刊栏目：35

分类号：TP183(自动化基础理论)

资助基金：国家自然科学基金;国家自然科学基金;重庆市教委科学技术重点研究项目

在线出版日期：2023-03-06（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：176-184