面向同步与异步应用的细粒度无服务器基准测试方法ServiTrace研究

《Future Generation Computer Systems》:Let’s Trace It: Fine-Grained Serverless Benchmarking for Synchronous and Asynchronous Applications

【字体: 大 中 小 】 时间:2025年12月30日 来源:Future Generation Computer Systems 6.2

编辑推荐:

  本文针对当前无服务器计算性能评估方法粒度粗糙、难以支持异步应用和外部服务集成分析的瓶颈,研究团队开发了ServiTrace——一种创新的分布式追踪分析与应用级基准测试套件。通过设计新型关键路径提取算法,在AWS平台收集超750万条执行轨迹,首次实现了对中位延迟、冷启动和尾延迟的细粒度分解。研究发现应用端到端延迟主要受外部服务调用和异步协调支配而非函数计算本身,该成果为性能根因分析提供了重要工具,相关数据和工具已开源。

  
随着无服务器计算在2010年代末期的兴起,这种通过API提供全托管云平台的技术范式,成功将运维复杂度从开发者身上抽象出来。开发者可以基于函数即服务平台(如AWS Lambda),组合丰富的生态系统服务(如消息队列、数据库、图像识别),通过同步和异步调用构建应用。然而,当前无服务器平台在带来管理便捷性的同时,也伴随着显著的性能权衡:高尾延迟、性能波动性,以及异步使用外部服务引入的延迟等问题亟待解决。
尽管理解这些性能权衡至关重要,但现有的性能基准测试、测量框架和分布式追踪方法,均未明确考虑异步调用和外部服务。这一空白使得对复杂应用端到端性能的解读和根因分析变得困难,限制了性能优化和平台比较的机会。分布式追踪技术虽在微服务架构中趋于成熟,但其假设的全栈可观测性和精确时序在无服务器场景下面临挑战——异步调用、平台黑盒性、有限的追踪协作支持,以及时钟同步问题,都使得传统方法难以直接适用。
为解决这一难题,研究团队在《Future Generation Computer Systems》上发表了题为"Let’s Trace It: Fine-Grained Serverless Benchmarking for Synchronous and Asynchronous Applications"的论文,提出了ServiTrace这一创新解决方案。该研究旨在通过细粒度的分布式追踪分析和应用级基准测试,揭示无服务器应用性能的本质特征。
为开展研究,团队主要采用了几个关键技术方法:首先设计了基于系统模型的无服务器应用抽象,明确用户定义函数和外部服务的交互关系;其次开发了支持异步调用的关键路径提取算法,通过改进的最长路径算法和启发式规则处理隐式转换和时序间隙;然后构建了包含10个代表性开源应用的基准测试套件,覆盖API、异步处理和批处理等类型;最后利用AWS X-Ray服务进行大规模轨迹收集,并通过自定义分析器实现延迟分解。
研究结果通过多个维度展开深入分析:
6.2.1 热启动延迟分解
数据显示,无服务器应用的中位端到端延迟往往由外部服务调用和协调机制主导,而非函数计算本身。例如轻量级应用App-H的协调时间(23ms)远超其计算耗时,而异步应用(App-B、App-C)则受触发和排队延迟支配。计算密集型工作负载(App-E、App-J)是少数例外。这一发现表明优化重点应从计算效率转向服务间通信和协调机制。
6.2.2 冷启动分析
通过对比冷热启动差异,发现运行时初始化是冷启动延迟的主要来源。以App-A为例,其265ms的冷启动开销中,运行时初始化占167ms。大型依赖包(App-E、App-J)和函数链(App-B、App-D)会显著增加绝对初始化时间。此外,外部服务连接建立和一次性计算任务也会贡献冷启动延迟。
6.2.3 尾延迟溯源
尾延迟(99th百分位)主要源于外部服务,特别是对象存储服务。App-J中云存储服务导致2427ms的延迟增加,占总延迟增长的90%。数据库服务的影响相对较小(35-99ms),而协调机制(同步编排和异步触发)的延迟波动幅度是基准值的2-3倍。
6.3 调用模式影响
研究还发现,基于Azure函数轨迹推导的四种调用模式(稳定、波动、尖峰、跳跃)在等效平均调用率下,对中位端到端延迟影响有限。只有当工作负载触发外部服务速率限制时(如App-D的面部识别服务),才会出现显著延迟差异,这证实了无服务器平台在突发负载下的弹性能力。
研究结论强调,ServiTrace提供的细粒度延迟分解为性能优化指明了新方向:性能瓶颈主要存在于控制流和协调机制而非计算本身;冷启动优化应聚焦语言运行时减负;尾延迟问题需通过审慎选择外部服务和触发类型来缓解。该研究不仅为无服务器性能分析提供了方法论创新,还通过开源实现促进了研究可重复性,对平台优化和应用设计具有重要指导意义。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号