10.3979/j.issn.1673-825X.202111150400
基于预训练模型和多视角循环神经网络的电力文本匹配模型
针对传统方法未能考虑词向量的动态性及句子间交互不充分等问题,提出基于BERT预训练模型及多视角循环神经网络的文本匹配模型.通过BERT-whitening方法对BERT输出的句向量进行线性变换优化,并利用多视角循环神经网络将两句子不同位置的BERT动态词向量进行双向交互计算;将句向量与词粒度交互向量进行融合后计算结果.实验结果表明,提出的模型相较于对比模型有明显性能提升,实用性良好.
预训练模型、多视角循环神经网络模型、文本匹配、电力运维系统
35
TP391(计算技术、计算机技术)
国家自然科学基金;国家重点研发计划;国家重点研发计划
2023-07-03(万方平台首次上网日期,不代表论文的发表时间)
共9页
545-553