基于改进CNN-BiGRU-att模型的文本分类研究

摘要：

为解决单一的卷积神经网络(CNN)缺乏利用上下文本信息与单一循环神经网络(RNN)对局部信息把握不全面问题,提出一种基于注意力机制的多通道TextCNN-BiGRU分类模型.首先,通过word2vec对初始文本向量化,经实验选取窗口值组成三通道.然后利用CNN的强学习能力提取局部特征,利用双向门控循环单元(BiGRU)提取上下文全局信息,运用注意力层与池化层获取并优化重要的特征.最后采用softmax函数使误差loss极小化.仿真实验结果表明,提出的模型分类性能,准确度达94％,损失函数值稳定在0.22％左右,具有良好的泛化能力,能够有效解决单一模型挖掘信息不全问题,有效提高分类效果.

关键词：深度学习、神经网络模型、文本多分类、注意力机制、文本特征提取

所属期刊栏目：47

分类号：TP391.1;TP183(计算技术、计算机技术)

资助基金：国家重点研发计划;四川省科技厅重点研发计划项目;中国民航局安全能力基金项目;中央高校教学科研专项项目;民航飞行技术与飞行安全科研基地开放基金项目;研究生科技创新基金项目

在线出版日期：2022-03-30（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：30-37