异构集群节点与作业特性感知资源分配算法

摘要：

为了避免多应用间的资源争用,Spark采用了FIFO、FAIR等作业调度策略,辅以SpreadOut和非SpreadOut两种资源调度算法,但是这些算法没有充分考虑用户作业类型和集群节点性能的相互关系.用户作业类型及节点性能偏向感知的资源调度算法ATNPA提出了对该问题的解决方案.ATNPA根据作业运行所需的内存量和CPU核数将用户作业分为CPU密集型和内存密集型.节点的性能偏向性由节点的静态因素和动态因素决定.静态因素包括CPU速度、内存大小、CPU核数和磁盘容量等;动态因素包括CPU剩余率、内存剩余率、磁盘剩余率和磁盘读写速度等.ATNPA算法在进行资源分配时,能够将作业分配到最适合其类型的节点上.仿真实验表明,与未考虑节点和作业匹配的算法相比较,ATNPA能够有效缩短作业的执行时间、提高集群的性能.

关键词：资源调度、任务调度、作业类型、节点性能偏向、Spark

所属期刊栏目：58

分类号：TP393(计算技术、计算机技术)

资助基金：国家重点研发计划;国家重点研发计划

在线出版日期：2022-09-23（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：327-334