基于BERT与注意力机制的方面级隐式情感分析模型

摘要：

在方面级情感文本中存在部分不含情感词的评论句,对其情感的研究被称为方面级隐式情感分析.现有分析模型在预训练过程中可能会丢失与方面词相关的上下文信息,并且不能准确提取上下文中深层特征.本文首先构造了方面词感知BERT 预训练模型,通过将方面词引入到基础 BERT 的输入嵌入结构中,生成与方面词信息相关的词向量;然后构造了语境感知注意力机制,对由编码层得到的深层隐藏向量,将其中的语义和句法信息引入到注意力权重计算过程,使注意力机制能更加准确地分配权重到与方面词相关的上下文.对比实验结果表明,本文模型的效果优于基线模型.

关键词：方面级情感分析、隐式情感分析、门控循环单元、注意力机制、BERT模型

所属期刊栏目：15

分类号：TP391(计算技术、计算机技术)

资助基金：国家自然科学基金;国家自然科学基金;江苏省高校青蓝工程创新团队

在线出版日期：2023-10-31（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：551-560