10.3778/j.issn.1673-9418.2107069
局部与全局特征融合的方面情感分析网络模型
方面情感分析旨在预测句子或文档中一个特定方面的情感极性.最近大部分的研究都是通过使用注意力机制及外部语义知识对全局上下文进行建模,以完成这项工作.方面的情感极性往往取决于与方面高度相关的局部上下文,但大多数模型将过多的注意力集中于全局上下文,这使得模型的参数量普遍比较大,导致计算量也随之增大.为此,提出一种基于多头注意力机制的轻量化网络模型——局部与全局特征融合网络模型.首先,使用双向门控循环单元来对上下文进行编码.其次,根据与方面项的语义相关距离掩蔽掉与方面项相关度较小的上下文词,以此得到局部上下文表示.最后,通过多头Aspect-aware注意力网络对局部和全局上下文分别进行提取,将两者提取的结果进行结合.此外,还将预先训练的B E RT应用于这项任务,并获得了更好的结果.在三个数据集Twitter、Laptop、Restaurant上进行实验,采用Accuracy和F1指标进行评估.实验结果表明,该模型在参数量较小的情况下,取得了比其他基于方面的情感分类算法更好的结果.
注意力机制、局部上下文注意、情感分析、文本分类
17
TP391(计算技术、计算机技术)
国家自然科学基金61972182
2023-04-10(万方平台首次上网日期,不代表论文的发表时间)
共10页
902-911