基于BERT-GCN的因果关系抽取

摘要：

针对自然语言处理中传统因果关系抽取主要用基于模式匹配的方法或机器学习算法进行抽取,结果准确率较低,且只能抽取带有因果提示词的显性因果关系问题,提出一种使用大规模的预训练模型结合图卷积神经网络的算法 BERT-GCN.首先,使用 BERT(bidirectional encoder representation from transformers)对语料进行编码,生成词向量;然后,将生成的词向量放入图卷积神经网络中进行训练;最后,放入 Softmax层中完成对因果关系的抽取.实验结果表明,该模型在数据集 SEDR-CE 上获得了较好的结果,且针对隐式的因果关系效果也较好.

关键词：自然语言处理、因果关系抽取、图卷积神经网络、BERT模型

所属期刊栏目：61

分类号：TP391(计算技术、计算机技术)

资助基金：国家自然科学基金;吉林省技术攻关项目;吉林省自然科学基金;吉林省自然科学基金

在线出版日期：2023-03-22（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：325-330