用于短文本情感分类的多头注意力记忆网络

摘要：

随着社交网络的发展,对其包含的海量文本进行情感分析具有重要的社会价值.不同于普通文本分类,短文本情感分类需要挖掘隐含的情感语义特征,具有极大的难度和挑战性.为了能在更高的层次上得到短文本的情感语义特征,提出了一种多头注意力记忆网络(MAMN)用于短文本情感分类.首先,利用n元语法特征信息和有序神经元长短时记忆(ON-LSTM)网络对多头自注意力机制进行改进,以对文本上下文内联关系进行充分提取,使模型可以获得更丰富的文本特征信息.然后,利用多头注意力机制对多跳记忆网络的结构进行优化,使得在拓展模型深度的同时,挖掘更高层次的上下文内联情感语义关系.在电影评论集(MR)、斯坦福情感树(SST)-1和SST-2这三个不同的数据集上进行了大量实验.实验结果表明,与基于循环神经网络(RNN)和卷积神经网络(CNN)结构的基线模型以及一些最新成果相比,所提MAMN取得了较优的分类效果,验证了多跳结构对于性能改善的重要作用.

关键词：短文本;情感分类;情感语义特征;多头注意力;记忆网络

所属期刊栏目：41

分类号：TP389.1(计算技术、计算机技术)

在线出版日期：2021-12-10（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：3132-3138