10.3778/j.issn.1673-9418.2205064
基于潜层结构化语义增强的低资源摘要模型
当前低资源摘要生成任务通常采用数据增强或预训练结合微调的方式进行处理,对于源文本与目标摘要之间的潜层结构化语义信息未能充分利用.为此,提出一种基于潜层结构化语义增强的低资源摘要模型,以图结构对齐的方式增强模型对结构化信息的利用.首先,该模型通过结构特征表示层获取源文本与预测摘要的潜层结构化语义特征.然后,将获得的语义特征利用潜层结构对齐模块进行节点对齐和边对齐,这种对齐有助于模型捕捉语义特征中的结构化信息,从而增强模型对结构化知识的利用.最后,利用源文本与预测摘要之间的结构化特征对齐距离作为目标损失的正则项来辅助模型进行优化.在六个领域的低资源数据集上进行实验,ROUGE-1分值相对于基线模型平均提高了0.58.结果表明利用潜层结构化语义知识可以有效提高低资源摘要生成的能力.
低资源、结构化、语义特征、图结构
17
TP399(计算技术、计算机技术)
2023-08-15(万方平台首次上网日期,不代表论文的发表时间)
共13页
1961-1973