一种结合词性及注意力的句子情感分类方法

摘要：

针对目前各种基于长短期记忆网络LSTM的句子情感分类方法没有考虑词的词性信息这一问题,将词性与自注意力机制相结合,提出一种面向句子情感分类的神经网络模型PALSTM (Pos and Attention-based LSTM).首先,结合预训练词向量和词性标注工具分别给出句子中词的语义词向量和词性词向量表示,并作为LSTM的输入用于学习词在内容和词性方面的长期依赖关系,有效地弥补了一般LSTM单纯依赖预训练词向量中词的共现信息的不足;接着,利用自注意力机制学习句子中词的位置信息和权重向量,并构造句子的最终语义表示;最后由多层感知器进行分类和输出.实验结果表明,PALSTM在公开语料库Movie Reviews、Internet Movie Database和Stanford Sentiment Treebank二元分类及五元情感上的准确率均比一般的LSTM和注意力LSTM模型有一定的提升.

关键词：自然语言处理、情感分类、神经网络、词性、自注意力

所属期刊栏目：47

分类号：TP183(自动化基础理论)

资助基金：广东省科技厅应用型科技研发专项资金项目20168010124010;广东省自然科学基金资助项目2015A030310318;广东省医学科学技术研究基金项目A2015065

在线出版日期：2019-10-12（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：10-17,30