基于多粒度对比学习的聊天对话摘要模型

摘要：

社交网络的发展在给人们带来便捷的同时也产生了海量的聊天数据,如何从聊天对话中筛选出关键信息成为一大难题.聊天摘要是解决此类问题的有效工具,既不必重复浏览冗长的聊天记录,又可以快速获取重要内容.目前,预训练模型被广泛应用于各种类型的文本,包括非结构化、半结构化和结构化文本.然而,针对聊天对话文本的应用,常见的预训练模型难以捕捉到其独特的结构特征,仍需进一步探索与改进.对此,提出了一种基于对比学习的聊天摘要算法MGCSum.该算法无需人工标注数据集,便于学习和迁移.首先使用文档频数、词项频数和信息熵构造了针对聊天文本的停用词列表,去除聊天中的干扰信息;其次,从词语和主题两个粒度进行自监督对比学习,识别对话中的结构信息,挖掘聊天中的关键词和不同主题信息.在聊天摘要公开数据集SAMSum和金融欺诈对话数据集FINSum上进行实验,结果表明,与当前主流的聊天摘要方法相比,该算法在摘要的连贯性、信息量和ROUGE评价指标上均有显著提升.

关键词：聊天摘要、对比学习、预训练模型、关键词检测、主题分割

所属期刊栏目：50

分类号：TP391(计算技术、计算机技术)

在线出版日期：2023-11-17（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：192-200