基于词频统计的文本关键词提取方法

摘要：

针对传统TF-IDF算法关键词提取效率低下及准确率欠佳的问题,提出一种基于词频统计的文本关键词提取方法.首先,通过齐普夫定律推导出文本中同频词数的计算公式;其次,根据同频词数计算公式确定文本中各频次词语所占比重,发现文本中绝大多数是低频词;最后,将词频统计规律应用于关键词提取,提出基于词频统计的TF-IDF算法.采用中、英文文本实验数据集进行仿真实验,其中推导出的同频词数计算公式平均相对误差未超过0.05;确立的各频次词语所占比重的最大误差绝对值为0.04;提出的基于词频统计的TF-IDF算法与传统TF-IDF算法相比,平均查准率、平均查全率和平均F1度量均有提高,而平均运行时间则均有降低.实验结果表明,在文本关键词提取中,基于词频统计的TF-IDF算法在查准率、查全率及F1指标上均优于传统TF-IDF算法,并能够有效减少关键词提取运行时间.

关键词：词频统计、齐普夫定律、同频词、关键词提取、TF-IDF算法

所属期刊栏目：36

分类号：TP391(计算技术、计算机技术)

资助基金：国家自然科学基金资助项目71271067;国家社会科学基金资助项目13BTY011;国家社会科学基金重大项目13&ZD091;河北省高等学校科学技术研究项目QN2014196;河北师范大学硕士基金资助项目201402002.This work is partially supported by the National Natural Science Foundation of China71271067;Projects of the National Social Science Foundation of China13BTY011;Key Project of National Social Science Foundation of China13&ZD091;Research Program of Science and Technology at Universities of Hebei ProvinceQN2014196;Master Foundation of Hebei Normal University201402002

在线出版日期：2016-06-13（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：718-725