融合上下文信息和关键信息的文本摘要

摘要：

文本摘要的一个迫切需要解决的问题是如何准确地概括文本的核心内容.目前文本摘要的主要方法是使用编码器-解码器架构,在解码过程中利用软注意力获取所需的上下文语义信息.但是,由于编码器有时候会编码过多的信息,所以生成的摘要不一定会概括源文本的核心内容.为此,该文提出一种基于双注意指针网络的文本摘要模型.首先,该模型使用了双注意指针融合网络,其中自注意机制从编码器中收集关键信息,软注意和指针网络通过上下文信息生成更连贯的核心内容.两者融合能够生成具有总结性和连贯性的摘要.其次,采用改进后的覆盖率机制来处理重复问题,提高生成摘要的准确性.同时,结合计划采样和强化学习产生新的训练方法来优化模型.在CNN/Daily Mail数据集和LCSTS数据集上的实验表明,该模型达到了当前主流模型的效果.实验结果分析表明,该模型在总结性方面具有良好的表现,同时减少了重复的出现.

关键词：文本摘要、神经网络、注意力机制、指针网络

所属期刊栏目：36

分类号：TP391(计算技术、计算机技术)

资助基金：国家自然科学基金;国家自然科学基金;国家自然科学基金;国家自然科学基金;国家自然科学基金;广西自然科学基金;广西自然科学基金;广西八桂学者创新科研团队项目

在线出版日期：2022-05-07（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：83-91