基于概率语义分布的短文本分类

摘要：

在短文本分类中,面对特征稀疏的短文本,如何充分利用文本中的每一个词语成为关键.本文提出概率语义分布模型的思想,首先通过查询词矢量词典,将文本转换为词矢量数据；其次,在概率语义分布模型的假设下利用混合高斯模型对无标注的文本数据进行通用背景语义模型训练；利用训练数据对通用模型进行自适应得到各个领域的目标领域语义分布模型；最后,在测试过程中,计算短文本属于领域模型的概率,得到最终的分类结果.实验结果表明,本文提出的方法能够从一定程度上利用短文本所提供的信息,有效降低了对训练数据的依赖性,相比于支持向量机(Support vector machine, SVM)和最大熵分类方法性能相对提高了17.7%.

关键词：短文本分类、词矢量、语义分布、高斯混合模型

所属期刊栏目：42

分类号：TP3;TN9

资助基金：国家高技术研究发展计划863计划2015AA016306;国家重点基础研究发展计划973计划2013CB329302;国家自然科学基金11461141004,61271426,11504406,11590770,11590771,11590772,11590773,11590774;中国科学院战略性先导科技专项XDA06030100, XDA06030500, XDA06040603;新疆维吾尔自治区科技重大专项201230118-3资助Supported by National High Technology Research Program of China 863 Program2015AA016306;National Basic Research Program of China 973 Program2013CB329302;National Natural Science Foundation of China11461141004,61271426,11504406,11590770,11590771,11590772,11590773,11590774;the Strategic Priority Research Program of the Chinese Academy of SciencesXDA06030100, XDA06030500, XDA06040603;the Key Science and Technology Project of the Xinjiang Uygur Autonomous Region201230118-3

在线出版日期：2016-12-20（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：1711-1717