基于VDCNN和BiGRU混合的文本分类研究

摘要：

卷积神经网络(CNN)及循环神经网络(RNN)在自然语言方面存在着广泛的应用,但仅依靠CNN无法有效的处理自然语言中的上下文信息,RNN则在应用过程中常会出现梯度消失、梯度爆炸的现象,从而限制了文本分类的准确率.基于此,构建了基于超深卷积神经网络(VDCNN)和双向门控循环(BiGRU)神经网络的混合模型.模型首先利用VDCNN的进行文本向量局部特征的提取,利用BiGRU提取与上下文信息相关的全局特征;然后将提取到的局部特征与全局特征进行融合;最后将融合后的特征信息放入softmax函数实现对于文本内容的分类.利用20Newsgroups和MR数据集对VDCNN-BiGRU模型进行验证,通过与VDCNN、GRU、BiGRU三个模型的对比,结果表明VDCNN-BiGRU模型能够有效提升文本分类的精度.

关键词：文本分类、卷积神经网络、双向门控循环神经网络、特征融合

所属期刊栏目：37

分类号：TP391.9(计算技术、计算机技术)

资助基金：四川省重大科技项目;提升政府治理能力大数据应用技术国家工程实验室2018-2019年开放基金项目

在线出版日期：2020-12-03（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：450-455