基于Word2Vec和改进注意力机制AlexNet-2的文本分类方法

摘要：

为了提高文本分类的准确性和运行效率,提出一种Word2Vec文本表征和改进注意力机制AlexNet-2的文本分类方法.首先,利用Word2Vec对文本词特征进行嵌入表示,并训练词向量,将文本表示成分布式向量的形式;然后,利用改进的AlexNet-2对长距离词相依性进行有效编码,同时对模型添加注意力机制,以高效学习目标词的上下文嵌入语义,并根据词向量的输入与最终预测结果的相关性,进行词权重的调整.实验在3个公开数据集中进行评估,分析了大量样本标注和少量样本标注的情形.实验结果表明,与已有的优秀方法相比,所提方法可以明显提高文本分类的性能和运行效率.

关键词：文本分类、注意力机制、AlexNet-2模型、上下文嵌入、词相依性

所属期刊栏目：49

分类号：TP391;TP311(计算技术、计算机技术)

资助基金：国家自然科学基金;广东省高校科研项目;广东省高校科研项目;广东省高等教育专项

在线出版日期：2022-04-08（万方平台首次上网日期，不代表论文的发表时间）

页数：共6页

页码：288-293