10.3969/j.issn.1007-757X.2023.08.019
结合ChineseBERT的多尺度语义协同电网故障文本分类模型
针对传统深度学习模型特征提取不全面、静态词向量语义表示质量低等问题,提出基于ChineseBERT-BiSRU-MC-NN-AT的电网故障文本分类模型.ChineseBERT模型训练过程融入了字形和拼音信息,结合词的上下文信息进行动态学习,解决一词多义问题.多尺度语义协同模块BiSRU-MCNN提取故障文本局部语义和全局序列特征,确保提取特征的全面性,软注意力层赋予模型识别关键词的能力.通过对电网故障文本数据集进行实验,其结果表明ChineseBERT-BiSRU-MC-NN-AT取得了最高的F1值.
文本分类、ChineseBERT、BiSRU-MCNN、软注意力
39
TP391(计算技术、计算机技术)
中国南方电网有限责任公司科技项目;中国南方电网有限责任公司科技项目
2023-10-10(万方平台首次上网日期,不代表论文的发表时间)
共4页
64-67