基于采样的在线大图数据收集和更新

摘要：

互联网中,以网页、社交媒体和知识库等为载体呈现的大量非结构化数据可表示为在线大图.在线大图数据的获取包括数据收集和更新,是大数据分析与知识工程的重要基础,但面临着数据量大、分布广、异构和变化快速等挑战.基于采样技术,提出并行、自适应的在线大图数据收集和更新方法.首先,将分支限界方法与半蒙特卡罗采样技术相结合,提出能够自适应地收集在线大图数据的HD-QMC算法;然后,为了使收集的数据能反映实际中在线大图的动态变化,进一步基于信息熵及泊松过程,提出高效更新在线大图数据的EPP算法.从理论上分析了该算法的有效性,并将获取的各类在线大图数据统一表示为RDF三元组的形式,为在线大图数据分析及相关研究提供方便易用的数据基础.基于Spark实现了在线大图数据的收集和更新算法,人工生成数据和真实数据上的实验结果展示了该方法的有效性和高效性.

关键词：在线大图、数据收集、数据更新、并行爬虫、Spark

所属期刊栏目：31

分类号：TP311(计算技术、计算机技术)

资助基金：国家自然科学基金;云南省基础研究计划杰出青年项目;云南省青年拔尖人才培养支持计划;云南大学东陆学者培育计划

在线出版日期：2020-12-04（万方平台首次上网日期，不代表论文的发表时间）

页数：共19页

页码：3540-3558