基于层次化表示的电力文本命名实体识别和匹配算法

摘要：

针对电力领域科技项目申请书评审工作中存在的项目与专家精准匹配难的问题,提出一种基于层次化语义表示的电力文本命名实体识别模型(Attention-RoBerta-BiLSTM-CRF,ARBC)以及基于语义-象形双特征空间映射的电力项目与电力专家的匹配策略.ARBC模型包括词嵌入模块、双向长短时记忆网络BiLSTM模块以及条件随机场(CRF)模块.其中,词嵌入模块同时使用了电力文本词语、句子和文档3个层面的信息.具体地,首先提取基于RoBerta预训练模型的词嵌入向量,进而通过引入文档层面基于词频-逆文档频率值的注意力机制增强句子的上下文表征能力,最终将词嵌入与句子嵌入进行线性加权融合,形成词语的层次化表征向量.在ARBC模型输出电力文本命名实体基础之上,进一步提出基于语义-象形双特征空间映射的项目文本与领域专家的实体匹配策略,最终实现项目与专家的有效精准匹配任务.实验结果表明,ARBC模型在2000篇电力项目摘要文本命名实体识别测试集上获得83％的F1值,显著高于基于Bert和RoBerta的文本表示方法.此外,基于双特征空间映射的实体匹配策略在电力文本与电力专家匹配任务中准确率达85％.

关键词：层次化表示、命名实体识别、专家匹配、电力文本

分类号：TP391(计算技术、计算机技术)

资助基金：国家自然科学基金;教育部-中国移动科研基金

在线出版日期：2022-06-17（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：75-81