基于规则约束的深度学习网络用于文本信息抽取

摘要：

针对文本信息抽取中由于训练样本不足导致性能下降的问题,提出一种基于规矩约束的深度学习网络模型.模型分为深度学习模块、逻辑规则库和差异单元3个部分.将文本句子作为输入数据馈送到学习模块中,基于Bi-GRU网络和多头自注意力机制在多个维度上为每个单词生成一个预测向量;规则库采用带权重的逻辑规则对深度学习进行约束;差异单元利用损失函数协调学习模块与规则库之间的一致性.实验结果表明,所提模型比其它算法具有更好的性能,能够高效精确处理复杂文本.

关键词：信息抽取;深度学习;规则约束;Bi-GRU网络;多头自注意力机制

所属期刊栏目：42

分类号：TP393(计算技术、计算机技术)

资助基金：四川省教育厅重点基金项目18ZA0233

在线出版日期：2021-12-30（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：3548-3554