基于XLNet的医学文本实体关系识别模型

摘要：

目前在处理医学文本实体间关系提取任务中,使用传统的词向量表示方法无法解决医学文本中的词多义性问题,加上基于长短时记忆网络对文本语义局部特征抽取不够充分,不能充分捕捉医疗文本隐藏的内部关联信息.因此,提出一种基于XLNet-BiGRU-Attention-TextCNN的医疗文本实体关系抽取模型.利用XLNet模型将输入的医疗文本转化为向量形式,接着连接双向门控循环神经网络(BiGRU)提取文本语句的长距离依赖关系,然后使用注意力机制(Attention)为特征序列分配权重,降低噪声影响,最后利用文本卷积神经网络(TextCNN)对序列进行局部特征提取并通过softmax层输出关系抽取结果.实验结果表明,本文所提模型在精确率、召回率和F值上均优于基准模型.

关键词：医疗文本、医疗实体关系抽取、XLNet、双向门控循环单元、注意力机制、TextCNN

所属期刊栏目：13

分类号：TP391.1(计算技术、计算机技术)

资助基金：国家科技重大专项;科技创新新一代人工智能重大项目

在线出版日期：2023-05-25（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：8-13