融合知识图谱的影视视频标签分类算法研究

摘要：

鉴于视频感知方式的多样性,视频标签层级分类算法均从视觉和文本模态入手,训练联合模型共同推断视频内容.但现有研究通常只适用于粗粒度的分类,针对影视剧名的分类,则需要更加细粒度的识别.提出了一个融合知识图谱的影视视频标签分类算法.首先,使用了基于大规模通用数据训练的多模态预训练模型提取了视觉和文本的特征,训练了一个多任务的视频标签预测模型,得到视频的类型、题材和实体三级标签;通过在多任务学习网络中引入相似性任务提高分类模型训练的难度,使得同类样本特征更加紧密,且更好地表达样本差异.其次,对于最细粒度的实体标签,提出了一个局部注意力头扩展的实体纠错模型,引入外部知识图谱的共现信息对前置模型的预测结果做修正,得到更准确的实体标签预测结果.采集豆瓣的半结构化数据构建了影视知识图谱并对影视视频标签分类模型进行了实证研究.视频标签分类的实验结果表明,首先,基于多任务网络结构,在训练分类任务时加入交叉熵损失函数和相似性损失函数对模型进行共同约束优化了特征表达,在类型、题材、实体标签的Top-1分类准确率上分别提升了3.70%、3.35%和16.57%;其次,针对前置模型的困难样本提出的全局-局部注意力机制模型,在引入了知识图谱信息之后,实体标签的Top-1分类准确率从38.7%提升到45.6%.该研究是使用图片-文本对数据在多模态视频标签分类问题上新的尝试,为少量数据样本情况下的短视频标签分类提供了新的研究思路.

关键词：知识图谱、视频标签分类、多模态内容理解、实体纠错

所属期刊栏目：18

分类号：TP181(自动化基础理论)

在线出版日期：2024-01-17（万方平台首次上网日期，不代表论文的发表时间）

页数：共14页

页码：161-174