异构平台上基于模型的任务与数据并行化方法研究:结合Halide的混合优化策略

《IEEE Access》:Hybrid Task- and Data-Parallelization on Heterogeneous Platform Using Model-Based Tool and Library Function Generation

【字体: 大 中 小 】 时间:2025年12月11日 来源:IEEE Access 3.6

编辑推荐:

  本研究针对嵌入式系统(如自动驾驶和机器人)在异构平台(CPU+加速器)上实现高性能计算的挑战,提出了一种结合模型化开发(MBD)与Halide域特定语言(DSL)的混合并行代码生成工作流。通过建立两种整数线性规划(ILP)方法(函数型和插值型)优化任务映射、调度及数据分区,在PC和Jetson Orin Nano平台上实验显示,相较于Embedded Coder生成的代码,本方法最高实现650倍(PC)和50倍(Jetson)加速比,显著提升跨平台(CUDA/OpenCL/Vulkan)并行效率。

  
随着自动驾驶汽车和机器人等嵌入式系统的普及,实时处理海量数据的需求日益迫切。现代异构计算平台通常包含多核CPU和多种加速器(如GPU、TPU、NPU),但如何高效协同这些硬件资源成为关键难题。传统代码生成工具(如Embedded Coder)仅能产生顺序执行的C代码,无法充分利用硬件并行性;而现有并行化方案往往将任务并行与数据并行割裂处理,缺乏统一的优化框架。更棘手的是,数据并行任务的执行时间与数据量之间可能存在非线性关系(如凸函数、凹函数或多项式关系),这给负载均衡带来巨大挑战。
为解决上述问题,日本名古屋大学的研究团队在《IEEE Access》发表论文,提出了一种创新的工作流,将Halide域特定语言(DSL)与模型化并行开发(MBP)框架深度融合。该研究首次实现了任务并行与数据并行的联合优化,通过建立两种整数线性规划(ILP)模型(函数型和插值型),动态分配数据块大小并调度任务执行顺序,在保证依赖关系的前提下最小化总执行时间。
研究团队首先从Simulink模型中提取任务图(Task Graph),其中节点代表功能模块,边表示数据依赖。针对可并行任务(如矩阵乘法),通过采样分析不同数据量在CPU和加速器上的执行时间曲线(图7-9),建立性能模型。核心创新在于两种ILP formulation:函数型方法假设执行时间与数据量存在函数关系(可非线性),直接计算最优数据分区;插值型方法则基于采样点进行线性插值,适用于复杂非线性场景。优化结果被用于重构多线程代码(pthread),并自动生成针对不同硬件的Halide库函数(图5)。
关键技术方法包括:1)基于Simulink模型的任务图提取与性能分析;2)使用Halide DSL描述计算模板(如矩阵乘法),自动生成跨平台优化库函数(支持CUDA/OpenCL/Vulkan);3)建立两种ILP模型(函数型与插值型)进行任务映射、调度与数据分区优化;4)通过随机任务图和实际Simulink模型验证,在PC(Intel i7-13700H+RTX 4070)和Jetson Orin Nano平台测试。
实验结果分析
在随机任务图测试中(图17),针对凸、线性、凹三种数据-时间关系模式,提出的ILP方法均显著优于传统策略(如全GPU执行、均匀分区、固定比例分区)。在凸函数模式下,函数型ILP因CPLEX支持二次约束而表现最佳;线性模式下两种方法差异微小;凹函数模式下插值法更优。求解时间分析(表6-8)显示,对于20-30个任务的典型嵌入式应用规模,多数案例可在300秒内求解。
实际Simulink模型测试(图23-26)表明,相较于Embedded Coder基线,新方法在PC上实现650倍加速,Jetson上达50倍。跨API测试(图28-29)验证了工具链的通用性:PC上CUDA性能最优(NVIDIA深度优化),Jetson上Vulkan因低开销反而优于CUDA。代码生成时间(表12)中,Halide库函数编译需数秒,属合理范围。
结论与展望
该研究开创性地将Halide自动库生成与模型化并行开发结合,解决了异构平台中任务与数据并行的协同优化难题。两种ILP formulation首次将非线性数据-时间关系纳入线性规划框架,实现了精确负载均衡。未来工作将扩展至动态负载均衡、分布式系统通信优化,并支持更多加速器(如TPU/NPU/RISC-V)。工具链已开源,为嵌入式高性能计算提供了可扩展的解决方案。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号