基于注意力机制的远程监督实体关系抽取

摘要：

关系抽取是许多信息抽取系统中的一个关键步骤,旨在从文本中挖掘结构化事实.在应用传统的远程监督方法完成实体关系抽取任务时存在2个问题:①远程监督方法将语料库中的文本与已标注实体和实体间关系的知识库启发式地对齐,并将对齐结果作为文本的标注数据,这必然会导致错误标签问题;②目前基于统计学的方法过于依赖自然语言处理工具,提取特征处理过程中生成的噪声积累严重影响抽取结果.为了解决远程监督存在的弊端,提出了一种基于注意力机制的端到端的分段循环卷积神经网络(convolutional neural network,CNN)模型.为了检测更加细微的特征,在网络输入层添加了注意力机制,自动学习句子中与关系抽取相关的内容;基于位置特征和词向量特征对句子进行编码,并使用分段卷积神经网络(piecewise CNN,PCNN)抽取句子特征进行分类,在网络中使用了效率较高的最大边界损失函数来衡量模型的性能.该方法在New York Times (NYT)数据集上的准确率比经典的PCNN+MIL模型提高了2.0％,比经典的APCNN+D模型提高了1.0％,与其他几种基线模型相比,该模型准确率表现出色.

关键词：实体关系抽取;注意力机制;深度学习;远程监督

所属期刊栏目：27

分类号：TP391.1(计算技术、计算机技术)

资助基金：国家重点研发计划2017YFD0400101

在线出版日期：2022-03-01（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：983-992