一种用于答案选择的知识增强混合神经网络

摘要：

答案选择是问答领域中一项重要的子任务,该任务旨在从候选答案集中选择出正确的答案.传统的模型主要依靠人工提取问答之间的语义相似度特征,并通过分类器或排名算法选择最匹配的答案.近年来的研究工作主要基于深度神经网络自动提取问答的语义相似度特征,并在问答匹配精度上取得了巨大的进步.但是,大多数深度神经网络模型依赖单一的神经网络来获取问答的语义表征,且未充分考虑问答在语义表征上的相互影响,无法充分挖掘问答之间的语义相似信息.针对上述问题,本文提出了一个知识增强的混合神经网络模型KE-HNN(Knowledge-enhanced Hybrid Neural Network).KE-HNN模型采用卷积神经网络CNN(Convolutional Neural Network)和双向长短期记忆网络Bi-LSTM(Bi-directional Long Short-Term Memory Network)构成的混合神经网络获取问答的上下文语义信息;利用多头注意力机制使模型关注于问题和候选答案语句中的关键部分;融合外部知识库并引入文本指导注意力卷积神经网络精确提取与问答相关的知识表征信息,从而增强问答的细粒度语义特征表示.Trec-QA数据集上的实验结果表明,与基准模型相比,本文所提出的KE-HNN模型获得了领先的性能.

关键词：答案选择;神经网络;多头注意力机制;知识库;文本上下文指导注意力卷积神经网络

所属期刊栏目：42

分类号：TP391(计算技术、计算机技术)

资助基金：国家自然科学基金项目;福建省高校产学合作项目;福建省科技引导项目;福建省自然科学基金项目

在线出版日期：2021-10-18（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：2065-2073