基于Simhash的中文文本去重技术研究

摘要：

随着计算机技术的飞速发展,各领域存储系统中的数据存储量迅猛上升,而其中的冗余数据也呈不断增加趋势.以往的研究表明,某些存储系统中的冗余数据已达60%,其存储管理成本较高.处理冗余数据已成为目前存储系统研究的热点.为此,提出了一种基于Simhash的中文文本去重方案.该方案采用数据块作为粒度对重复数据进行去重处理,主要是将中文文本中的".?!"等特殊字符作为分割点,对数据进行相应的分块处理,并以Simhash作为唯一标识,通过海明距离(Hamming Distance)来判断其相似性并以此为依据进行数据去重.对比验证实验结果表明,相比于传统的hash去重技术,提出的基于Simhash的去重方案具有更高的去重率和准确率,展现了较好的应用价值和应用前景.

关键词：重复数据删除、Simhash、hash、数据分块

所属期刊栏目：27

分类号：TP311(计算技术、计算机技术)

资助基金：中央高校基本科研业务费专项资金资助项目2015JBM034

在线出版日期：2017-12-11（万方平台首次上网日期，不代表论文的发表时间）

页数：共5页

页码：137-140,145