基于Hadoop的并行共享决策树挖掘算法研究

摘要：

共享知识挖掘是指通过学习不同事物之间的共享知识,将学习到的知识应用到未知事物来加快认知未知事物.针对大数据集中串行共享知识挖掘算法效率低下的问题,结合云计算技术,提出了一种基于Hadoop的并行共享决策树挖掘算法(PSDT).该算法采用传统的属性表结构实现并行挖掘,但其I/O操作过多,影响算法性能,为此,进一步提出了一种混合并行共享决策树挖掘算法(HPSDT).该算法采用混合数据结构,在计算分裂指标阶段使用属性袁结构,在分裂阶段采用数据记录结构.数据分析表明,HPSDT算法简化了分裂过程,其I/O操作是SDT的0.34左右.实验结果表明,PSDT和HPSDT都具有良好的并行性和扩展性；HPSDT比PSDT性能更好,并且随着数据集的增大,HPSDT的优越性更加明显.

关键词：共享决策树、并行共享决策树、混合数据结构、云计算、Hadoop

所属期刊栏目：40

分类号：TP311(计算技术、计算机技术)

资助基金：国家自然科学基金61240046

在线出版日期：2013-12-06（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：215-221