一种注意力增强的自然语言推理模型

摘要：

在自然语言处理任务中使用注意力机制可准确衡量单词重要度.为此,提出一种注意力增强的自然语言推理模型aESIM.将词注意力层以及自适应方向权重层添加到ESIM模型的双向LSTM网络中,从而更有效地学习单词与句子表示,同时提高前提与假设文本之间局部推理的建模效率.在SNLI、MultiNLI及Quora数据集上的实验结果表明,与ESIM、HBMP、SSE等模型相比,aESIM模型的准确率能够提升0.5％～1％.

关键词：自然语言处理、自然语言推理、ESIM模型、注意力机制、双向LSTM网络

所属期刊栏目：46

分类号：TP18(自动化基础理论)

资助基金：国家自然科学基金;中央高校基本科研业务费专项资金

在线出版日期：2020-07-23（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：91-97