预训练模型下航天情报实体识别方法

摘要：

为了快速处理航天情报,基于数据驱动的深度学习技术,提出融合多源异构知识标注中文航天情报数据集的方法流程,以及基于预训练(pre-training)模型的航天情报实体识别(AIER)方法;通过对航天情报进行命名实体识别,达到对航天情报进行信息抽取的目的.通过融合BERT(bidirectional encoder representation from transformers)预训练模型和条件随机场(CRF)模型构建AIER模型(BERT-CRF模型),将其与隐马尔可夫模型(HMM)、条件随机场(CRF)模型、双向长短期记忆网络加条件随机场(BiLSTM-CRF)模型进行实体识别对比实验.结果表明:基于预训练模型的AIER模型能够取得93.68％的准确率、97.56％的召回率和95.58％的F1值;相比于其他方法,基于预训练模型方法的性能得到提高.

关键词：航天情报处理;预训练;信息抽取;命名实体识别;信息科学

所属期刊栏目：42

分类号：V19:G352;TP391(航空、航天的应用)

资助基金：国家重点研发计划项目;国家自然科学基金资助项目

在线出版日期：2021-11-18（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：831-837