基于语义树与VSM的主题爬取策略研究

摘要：

主题爬虫主要用于解决用户的定制化搜索需求,即在日益增长的网络数据中快速、有效、准确地选取用户关注的主题内容进行爬取.提高爬取特定信息的准确性,需要对网页的内容相关度进行主题相关判断,而主题爬虫关注的核心问题就是相关度计算,但现有的改进算法大多采用人工智能和机器学习等技术,不仅引起算法复杂度的提高,而且提升效果有限.为此,提出了一种基于语义树与VSM的主题爬取策略,将语义相似度的计算加入到内容相关度计算与链接排序中,并通过对策略中算法细节的改进优化相关度的主题判别.实验结果表明,使用基于语义树与VSM爬取策略的主题爬虫可将爬行路线一直保持在相关度较高的网页链接中,对网页链接进行了相关与不相关的有效分类,显著地提高了爬取的准确率.

关键词：主题爬虫、语义树、向量空间模型、内容相关度、链接排序

所属期刊栏目：27

分类号：TP301(计算技术、计算机技术)

资助基金：教育部专项研究项目2013116

在线出版日期：2017-12-11（万方平台首次上网日期，不代表论文的发表时间）

页数：共5页

页码：66-70