结合微调与重排序的情感可控对话生成方法

摘要：

现有的情感对话生成方法通常以基于序列到序列(Seq2Seq)的对话生成模型为基础,在编码或解码进行情感方面的改进,该类方法虽然能够实现一定的情感回复生成能力,但容易出现低质量的通用回复问题.为解决以上问题,实现情感可控且高质量的回复生成,提出了一种结合微调与重排序的情感可控对话生成方法,称为情感生成式预训练Transformer(EmoGPT).在模型训练阶段,提出使用带有情感类别标签的对话语料微调GPT-2模型的方法,使其学习语句中语义和情感的依赖关系;在回复生成阶段,提出情感重排序策略对生成的多句回复进行情感打分并排序,以提高回复情感可控性.在使用带有情感标签的对话数据集的情感回复生成实验结果显示,带有情感重排序策略的EmoGPT在生成回复的内容相关性和情感一致性方面取得了领先于对比模型的性能,从而验证了文中方法的情感可控且高质量的回复生成能力.

关键词：对话回复生成、情感可控、微调、情感重排序、内容相关性、情感一致性

所属期刊栏目：17

分类号：TP391(计算技术、计算机技术)

资助基金：国家自然科学基金;国家自然科学基金;内蒙古自治区自然科学基金项目;内蒙古自治区科技成果转化专项资金项目;内蒙古自治区科技重大专项;内蒙古自治区关键技术攻关计划项目

在线出版日期：2023-04-10（万方平台首次上网日期，不代表论文的发表时间）

页数：共11页

页码：953-963