面向Flink流处理框架的主动备份容错优化

摘要：

针对Flink任务出现故障后因为全局卷回使流处理作业恢复效率低的问题,提出基于缓存队列的容错策略.在作业中找出恢复时间最长的算子作为关键算子,将其处理过的数据存储到缓存队列中,并为其进行主动备份,备份算子同时接受来自上游的数据以达到在故障后作业可以瞬时恢复的效果.为了解决主动备份带来的额外消耗,提出数据过滤算法,备份算子在每次处理数据前会到缓存组件中检索当前数据,以判断是否继续处理.当Flink算子自身出现故障后,利用策略中的缓存队列与Flink的JobManager将故障发生时的数据信息发送给备份算子,在备份算子接收到数据后,实现即时恢复的效果.利用4项评价指标对策略进行评估,结果表明,与Flink1.8的故障恢复模式相比,所提策略在Flink任务故障恢复速度上有显著提升,当故障次数分别为1、2、3、4时,恢复效率分别提高56.3％、51.3％、46.2％和45.8％;而在处理时延、CPU利用率以及内存使用率方面仅产生极小的代价.

关键词：Apache Flink;流处理容错;主动备份;故障恢复;缓存队列

所属期刊栏目：56

分类号：TP316.4(计算技术、计算机技术)

资助基金：国家重点研发计划;大数据重点专项

在线出版日期：2022-03-11（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：297-305