基于工作负载感知的近似备份机制,以降低流处理应用中的容错开销

《Future Generation Computer Systems》:Workload-aware Approximate Backup to Reduce Fault-tolerant Overhead for Stream Processing Applications

【字体: 大 中 小 】 时间:2025年12月04日 来源:Future Generation Computer Systems 6.2

编辑推荐:

  袁壮|高毅|郭春宇|王静志|林宇|孙建国 中国黑龙江省哈尔滨市150001,哈尔滨工程大学计算机科学与技术学院 摘要 分布式流处理系统被用于处理高速数据流中的大数据应用。与离线数据处理模型相比,流处理在面对实时数据和大规模分布式集群部署时更容易出现故障。为提升DSP

  袁壮|高毅|郭春宇|王静志|林宇|孙建国
中国黑龙江省哈尔滨市150001,哈尔滨工程大学计算机科学与技术学院

摘要
分布式流处理系统被用于处理高速数据流中的大数据应用。与离线数据处理模型相比,流处理在面对实时数据和大规模分布式集群部署时更容易出现故障。为提升DSPS的可靠性,人们提出了多种容错技术,其中基于检查点、定期保存操作员状态的方法最为常用。然而,在保持系统性能的同时实现完整备份仍是一个难题:故障恢复时间越短,由于频繁的检查点操作带来的运行开销就越大。与此同时,越来越多的流处理应用愿意接受一定程度的输出精度下降以换取更快的结果。本文提出一种工作负载感知的近似备份方法(WAFP),该方法能够根据在线流应用的数据动态特性自适应调整备份策略,在保持指定输出精度的同时降低容错开销。针对单节点故障和关联故障场景,我们设计了两种算法来生成相应的备份计划。通过模拟器进行的大量实验表明,所提方法相较于现有方法具有显著优势。实验结果证明,该方案能够在单节点故障场景下,在保证指定输出精度的同时实现最小的容错延迟。

引言
如今的流处理已成为现代商业的核心,被广泛应用于实时欺诈检测[1]、点击流分析[2]以及传感器数据的实时挖掘[3]等数据密集型领域。为此,出现了多种分布式流处理软件平台,包括Apache Storm[4]、Spark Streaming[5]和Flink[6];Microsoft Trill[7];以及Timely[8]和Differential Dataflow[9]等新兴框架。为应对日益增长的数据量和数据传输速度,分布式流处理系统会在数千个可能发生故障的长生命周期操作员上分散计算任务。容错机制能够确保流处理在发生故障后快速且稳定地恢复,作为DSPS的关键要求,它近年来受到了更多关注[10]。

为提升流处理系统的可靠性,人们开发了多种容错方法[11],从被动复制[12]到主动复制[13],还有针对分布式环境的基于学习的可靠性模型。主动复制可通过立即切换到备用操作员来实现无缝故障恢复,但这种方式至少会消耗两倍的资源,因此不适用于大规模流数据处理任务。相比之下,被动复制通过保存计算状态(或逻辑)以及流式数据来实现无误差容错,但大多数被动复制方法依赖检查点在故障时进行回滚恢复,这会导致较大的运行开销[14],即检查点延迟。如图1所示,对于当前的DSPS(Storm、Spark Streaming和Flink),启用容错机制会对流处理的性能产生明显负面影响。即便在最理想的情况下,Flink在使用坐标检查点实现精确一次交付时,其吞吐量也会下降48.57%。

与以往方法不同,近期的研究[15][16]开始转向近似备份,以便在故障发生时在性能与精度之间取得平衡。近似备份的理念源于多重考量。首先,DSPS中实时分析查询的日益增多,使得人们更倾向于获得快速的结果而非精确结果[17]。同时,近似计算在数据分析[19]、高效AI系统设计[20]、边缘AI和物联网应用[21]等诸多领域的成功,也证明了许多数据密集型任务可以接受近似结果而非精确输出。其次,现有统计数据显示,DSPS中的故障相对较少,是在连续的流处理过程中零星发生的。因此,在数据密集型的DSPS应用中,采用近似备份方法在故障后几乎不会导致暂时性的精度下降。而且,后续流式数据的到来可以消除这种对结果的负面影响。

尽管DSPS中的近似处理技术日益增多[17][22],但很少有研究尝试将近似范式用于实现容错,因为这面临着巨大挑战。首先,量化近似恢复带来的信息损失是一项艰巨任务。现有的近似计算研究大多依赖于仅针对单个操作员的错误分析模型。例如,最新的近似备份研究AF[23]通过引入三个用户可配置变量简化了这一问题。其次,对不同的操作员采用相同的近似备份策略可能会导致不同的数据损失程度。理想的近似备份策略应能适应底层拓扑结构。因此,除了考虑延迟和精度限制外,我们认为还应将拓扑类型以及输入输出速率比纳入每个操作员的近似比例考量之中。最后,近似备份的整体优化目标是在全局检查点延迟与故障后的最终数据损失之间找到平衡,这进一步增加了近似备份的复杂性。

此外,DSPS还必须在各种条件下支持连续流处理,例如数据速率波动和低延迟要求。在真实的流处理应用中,数据流的规模和速度会动态变化,这是工作负载偏态和方差现象的常见表现[24][25]。当大规模流式数据涌入分布式处理系统进行分析时,即使输入数据流的分布仅发生微小变化,也可能对系统性能产生显著影响。因此,DSPS还必须具备在数据速率波动情况下透明处理节点故障的能力。

现有的流处理引擎容错技术是为静态工作负载设计的,这类工作负载的状态较为稳定,因此当实际工作负载偏离预期时,这些技术的性能可能会不佳。不幸的是,在实际应用场景中,工作负载的波动是持续存在的[26][27]。这对于分布式系统处理数据流的动态变化带来了新的挑战,尤其是对于基于检查点的方法,因为某个操作员的容错运行成本会随时间而变化。因此,我们认为DSPS中的最佳近似备份策略应能根据工作负载的变化动态调整。相应地,确定何时为每个操作员更新近似备份比例也成为一个关键问题。

为解决上述挑战,本文提出了一种新的工作负载感知的近似容错问题(WAFP),旨在在故障发生时降低无故障容错开销,同时确保用户定义的输出精度。据我们所知,我们是首个探索兼顾数据速率波动并最小化容错开销的近似备份全局优化策略的研究者。总之,本文的主要贡献如下:
(1) 我们提出了WAFP模型,在用户定义的精度限制下最小化整体容错延迟,并提出了一种指标来量化故障恢复后的最终输出信息损失。
(2) 我们设计了两种近似备份算法,分别适用于不同的故障场景:一种用于单节点故障,另一种用于多节点关联故障。
(3) 我们提出了一种算法,能够根据并行任务的负载不平衡和数据偏态来确定各自的近似备份比例。
(4) 我们提出了一种有效的调整方法,能够动态改变WAF的时间间隔,并适应在线工作负载的变化。
(5) 我们通过大量仿真验证了该模型在多种流处理应用和不同拓扑结构下的正确性和有效性。

片段摘录
流处理应用的容错机制
在分布式流处理系统中,为确保容错,通常采用主动复制[13]或被动备份[6]两种方式,但两者各有缺陷:主动复制会导致较高的资源开销,而被动备份则会使恢复时间变长。在主动复制中,所有复制模块协同工作,状态需要高度同步,这带来了较大的备份开销。正因如此,近年来被动复制在DSPS中被广泛采用。

流处理中的近期近似容错研究
我们首先讨论流处理中的近似容错问题。接着介绍了流处理及其在DSPS中如何实现近似备份,同时阐述了本文所假设的流处理负载背景。

问题建模
在本节中,我们将阐述两个关键指标对容错质量和效率的影响。首先,我们提出了一种基于检查点延迟的备份开销模型,重点分析生成快照时产生的时间延迟。随后,我们定义了一些关键变量来衡量近似备份的恢复质量,并进一步推导出最终输出的有效性模型。基于上述模型,我们提出了最优近似容错问题。通过确定……

WAFP方法的概述
在本节中,我们为两种场景提出了WAFP解决方案。WAFP-SF用于处理单节点故障,通过贪心算法最小化延迟。WAFP-CF则用于处理关联故障,被构建为一个非线性优化问题,并通过scipy.minimize函数得到近乎最优的解。为解决数据偏态问题,我们通过在操作员层面计算平均速率的平衡计划,并按比例调整各任务的采样比例,从而对WAFP-CF进行了扩展。对于动态工作负载,D-WAFP则通过触发……

仿真结果
所有实验均在如表1所示配置的本地集群上进行。每个工作节点使用一个CPU核心进行处理,负责数据流中每个操作员的一个并行实例。内存使用没有限制。Apache Kafka作为系统的源节点和目标节点,而MinIO则用于持久存储操作员状态检查点。我们通过以下实验评估WAFP的性能:(i)比较其吞吐量、备份延迟和恢复时间。

结论
本文提出了一种通过近似备份框架提升分布式流处理系统容错效率的方法。与传统的全状态容错机制不同,后者以高延迟和高计算开销为代价来追求高精度,而WAFP则致力于在性能与恢复精度之间实现最佳平衡。我们将WAFP正式定义为一种优化问题,其目标是最小化预期的容错……

作者贡献声明
袁壮:撰写——初稿、指导、项目管理、方法论、形式分析、概念设计。高毅:指导、方法论、资金筹措。郭春宇:撰写——审阅与编辑、验证、形式分析、数据整理。王静志:撰写——审阅与编辑、可视化、验证。林宇:撰写——审阅与编辑、可视化、验证。孙建国:指导、形式分析、概念设计。

利益冲突声明
作者声明不存在任何可能影响本文研究的已知财务利益或个人关系。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号