MapReduce高可用性的研究与优化

摘要：

为提高MapReduce的可用性,提出一种分布式Jobtracker节点模型的优化方案.对Hadoop的核心技术之一Map-Reduce编程模型中的作业调度过程进行研究分析,指出单一Jobtracker带来的性能瓶颈,提出相应的优化方案;在此基础上,建立总体设计模型,将原MapReduce中单一的Jobtracker节点优化为具有多个Jobtracker节点的Jobtracker集群;在该模型的基础上,采用多对多的通信方法优化通信方式,以维护作业量列表的方式优化作业均衡,提高MapReduce的可用性和作业执行效率.通过测试系统的容错性和执行效率,验证了优化后模型的高可用性和高效性.

关键词：云计算、编程模型、控制节点、高可用性、优化

所属期刊栏目：35

分类号：TP302(计算技术、计算机技术)

资助基金：河北省科学技术研究与发展计划基金项目12213511D

在线出版日期：2015-01-26（万方平台首次上网日期，不代表论文的发表时间）

页数：共5页

页码：4044-4048