基于MRC和ERNIE的有色冶金命名实体识别模型

摘要：

命名实体是构建产业企业画像和产业知识图谱的重要依据,为解决现有方法在有色冶金领域命名实体识别任务当中无法充分提取文本语义特征、没有充分利用标签当中的先验知识和嵌套命名实体识别效果不佳的问题,提出了一种基于机器阅读理解框架(MRC)和知识增强语义表示模型(ERNIE)的MEAB(MRC-ERNIE-Attention-BiLSTM)模型结构.该模型在MRC框架的基础上,引入了基于Attention的信息融合策略,将两种不同结构的数据在ERNIE预训练模型进行特征提取之后转换为向量,并在信息融合层进行向量融合,使模型能够学习到标签当中的先验知识.随后BiLSTM模型对具有语义信息的向量从两个方向进行特征提取,并在一种多层嵌套命名实体识别器中进行输出,提高了嵌套命名实体的识别准确率.在构建的有色冶金领域命名实体识别数据集上的实验表明,MEAB模型的精确率、召回率和F1 值分别达到了78.77%、79.76%和79.26%,证明了该模型的有效性.

关键词：有色冶金产业、自然语言处理、命名实体识别、MRC、ERNIE

所属期刊栏目：33

分类号：TP391(计算技术、计算机技术)

资助基金：国家重点研发计划2020YFB1713600

在线出版日期：2023-10-30（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：93-100