基于异质图神经网络预训练的多标签文档分类研究

摘要：

多标签文档分类是一种将文档实例与相关标签相关联的技术,近年来受到越来越多研究者的关注.现有的多标签文档分类方法尝试探索文本之外的信息的融合,如文档元数据或标签结构.然而,这些方法要么简单地利用元数据的语义信息,要么没有考虑标签的长尾分布,因此忽略了文档及其元数据之间的高阶关系和标签的分布规律等信息,从而影响到多标签文档分类的准确性.因此,文中提出一种新的基于异质图神经网络预训练的多标签文档分类方法.该方法通过构造文档与其元数据的异质图,采用两种对比学习预训练方法捕获文档与其元数据之间的关系,并通过平衡标签长尾分布的损失函数来提高多标签文档分类的准确性.在基准数据集上的实验结果表明,所提方法的准确率比Transformer提高了 8％,比BertXML提高了4.75％,比 MATCH 提高了 1.3％.

关键词：多标签文档分类、元数据、异质图神经网络、预训练、长尾分布

所属期刊栏目：51

分类号：TP391(计算技术、计算机技术)

在线出版日期：2024-01-23（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：143-149