基于RoBERTa-wwm-BiLSTM-CRF的扶持政策文本实体识别研究

摘要：

扶持政策能够帮助企业获得政府在资金补助、税务减免等方面的支持,帮助企业更好地发展.针对扶持政策文本存在实体边界难以划分且传统词向量无法解决一词多义的问题,提出基于RoBERTa-wwm-BiLSTM-CRF的扶持政策文本实体识别模型.该模型使用预训练语言模型RoBERTa-wwm训练得到动态词向量,能够表征词的多义性;利用BiLSTM网络进一步抽取扶持政策文本的上下文信息和语义特征;最后通过条件随机场得到最佳的预测序列.提出的模型在自建的5 512条语料组成的扶持政策数据集上的F1值达到91.7%,结果表明,该模型能够有效识别扶持政策文本的命名实体,从而提高企业筛选政策的效率.

关键词：扶持政策文本、预训练语言模型、命名实体识别、动态词向量、企业扶持

所属期刊栏目：45

分类号：TP391.1(计算技术、计算机技术)

资助基金：国家自然科学基金;国家自然科学基金

在线出版日期：2023-08-22（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：1498-1507