基于异构Flink集群的节点优先级调度策略

摘要：

Flink流处理系统默认的任务调度策略在一定程度上忽略了集群异构和节点可用资源,导致集群整体负载不均衡.研究分布式节点的实时性能和集群作业环境,根据实际作业环境的异构分布情况,设计结合异构Flink集群的节点优先级调整方法,以基于Ganglia可扩展分布式集群资源监控系统的集群信息为依据,动态调整适应当前作业环境的节点优先级指数.基于此提出Flink节点动态自适应调度策略,通过实时监测节点的异构状况,并在任务执行过程中根据实时作业环境更新节点优先级指数,为系统任务找到最佳的执行节点完成任务分配.实验结果表明,相比于Flink默认的任务调度策略,基于节点优先级调整方法的自适应调度策略在WorldCount基准测试中的运行时间约平均减少6％,可使异构Flink集群在保持集群低延迟的同时,节点资源利用率和任务执行效率更高.

关键词：Flink集群;异构集群;负载不均衡;节点优先级;自适应调度

所属期刊栏目：48

分类号：TP393(计算技术、计算机技术)

资助基金：国家自然科学基金;江苏省高等学校自然科学研究项目

在线出版日期：2022-03-22（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：197-203