面向网络文本的BERT心理特质预测研究

摘要：

随着互联网的普及应用,通过网络平台进行表达和交流的用户越来越多,在此过程中不可避免地会留下与个人相关的大量网络文本数据和信息,这些非结构化的文本数据往往体现着不同场景下的真实表达,反映了人们内在的心理特质及人格倾向.利用文本挖掘相关技术基于网络文本数据分析心理特质可以弥补传统心理测量方法易受应试动机等因素影响的缺陷.近年来,B E RT语言表示模型在文本分类、情感分析等任务上取得了很好的效果.针对网络文本数据构建心理特质预测模型,基于B E RT获取完整的上下文语义特征和长距离的上下文依赖关系;同时考虑到分类器内部结构的差异可能会导致不同的分类效果,在下游分类任务中分别采用BERTBASE模型的全连接层和经典的随机森林算法作为两种不同的分类器进行模型效果对比.结果显示,基于B E RT的文本分类模型能够有效实现心理特质的预测,平均准确率、平均精准率等各项指标都在97％以上.

关键词：BERT;心理特质;注意力机制;Transformer;文本挖掘

所属期刊栏目：15

分类号：TP391(计算技术、计算机技术)

资助基金：国家重点研发计划2018YFC0810602

在线出版日期：2021-08-11（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：1459-1468