基于注意力机制的卷积-双向长短期记忆模型跨领域情感分类方法

摘要：

针对现有跨领域情感分类方法中文本表示特征忽略了重要单词的情感信息,且在迁移过程中存在负迁移的问题,提出一种基于注意力机制的卷积-双向长短期记忆(AC-BiLSTM)模型的知识迁移方法.首先,利用低维稠密的词向量对文本进行向量表示;其次,采用卷积操作获取局部上下文特征之后,通过双向长短期记忆(BiLSTM)网络充分考虑特征之间的长期依赖关系;然后,通过引入注意力机制考虑不同词汇对文本的贡献程度,同时为了避免迁移过程中出现负迁移现象,在目标函数中引入正则项约束;最后,将在源领域产品评论训练得到的模型参数迁移到目标领域产品评论中,并在少量目标领域有标注数据上进行微调.实验结果表明,与AE-SCL-SR方法和对抗记忆网络(AMN)方法相比,AC-BiLSTM方法的平均准确率分别提高了6.5％和2.2％,AC-BiLSTM方法可以有效地提高跨领域情感分类性能.

关键词：情感分类、跨领域、迁移学习、注意力机制、长短期记忆网络

所属期刊栏目：39

分类号：TP181;TP389.1(自动化基础理论)

资助基金：长江学者和创新团队发展计划项目IRT_16R72

在线出版日期：2019-09-11（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：2186-2191