基于自注意力机制的用户画像

摘要：

传统的词向量模型生成的词向量,存在着难以表达出一词多义和学习到词与词之间的依赖关系的问题.针对于此,本文提出基于自注意力机制的用户画像.首先采用自注意力机制,将所有单词信息编码进每一个单词中,学习查询句中词的语义,理解一词多义、一义多词.然后利用多头注意力机制提升模型能力,全面理解查询句中词与词之间的复杂语义.最后利用支持向量机(SVM)分类算法,得到用户基本属性的分类结果,构建用户画像.实验结果表明,模型分类精度高于使用词向量模型和LDA模型方法的分类精度.

关键词：自注意力机制、词向量模型、用户画像、SVM

所属期刊栏目：10

分类号：TP391(计算技术、计算机技术)

在线出版日期：2021-04-15（万方平台首次上网日期，不代表论文的发表时间）

页数：共5页

页码：49-53