HBTASP:面向实时缺陷检测中动态DNN的两阶段温度感知多处理器调度

《Expert Systems with Applications》:HBTASP: Two-Stage Temperature-Aware Multiprocessor Scheduling for Dynamic DNNs in Real-Time Defect Detection

【字体: 大 中 小 】 时间:2026年09月28日 来源:Expert Systems with Applications 9.4

编辑推荐:

   •HBTASP 在截止期限和热限制下协同调度任务、DNN 路径和电压。•阻塞感知分配认证强制任务;RC 测试限制温度。•与匹配的 EDF 相比,HBTASP 将强制区域服务故障率从 21.27% 降低至 3.25%。•零信用指标量化了跳过、拒绝或延迟的损失并揭示了权衡。引言在

  
  • •
    HBTASP 在截止期限和热限制下协同调度任务、DNN 路径和电压。
  • •
    阻塞感知分配认证强制任务;RC 测试限制温度。
  • •
    与匹配的 EDF 相比,HBTASP 将强制区域服务故障率从 21.27% 降低至 3.25%。
  • •
    零信用指标量化了跳过、拒绝或延迟的损失并揭示了权衡。

引言

在现代制造业中,表面缺陷检测对于产品质量和可靠性至关重要。划痕、裂纹和夹杂物等缺陷可能导致航空航天和汽车制造等安全关键领域的功能故障(Cumbajin 等人,2023)。传统的人工检测效率低下且存在主观变异性,促使了基于视觉的自动化系统的发展。DNN 通过分层特征学习支持工业缺陷检测(He, Zhang, Ren, & Sun, 2016)。然而,实时生产线要求在产品到达分拣模块之前获取每个检测结果,通常需要在数百毫秒内完成(Kopetz, 2011)。这在 DNN 计算和确定性时序要求之间造成了矛盾。
为了在资源受限平台上部署 DNN,研究人员开发了各种压缩技术,包括网络剪枝(Li, Kadav, Durdanovic, Samet, & Graf, 2017)、量化(Han, Mao, & Dally, 2016)和知识蒸馏(Hinton, Vinyals, & Dean, 2015)。虽然这些方法减少了模型大小和推理延迟,但它们产生了具有固定计算图的静态网络。这种静态模型无法适应波动的生产线速度:当时序约束收紧时,它们可能错过截止期限;当约束放松时,它们无法充分利用可用的计算容量(Liu 等人,2022)。这种不灵活性导致要么截止期限错过过多,要么资源闲置浪费。
动态 DNN 通过在运行时调整其计算图来解决这一限制,根据当前约束在准确性和延迟之间进行权衡。代表性方法包括早退网络(Huang 等人,2018)、自适应深度控制(Veit & Belongie, 2020)和动态分辨率缩放(Kang 等人,2022)。已提出一种混合缩放动态 DNN(CS-DNN)(Han, Liang, Jing, & Zhu, 2024),它联合调整深度和宽度,与单维缩放相比实现了更优的准确性 - 效率权衡。还开发了一种增量训练策略来缓解执行路径之间的干扰,以及一种基于动态规划的单处理器系统调度器,保证低截止期限错过率同时最大化加权置信度。然而,在将此方法部署到现实世界的多线生产环境之前,必须解决两个关键挑战:扩展到异构多处理器平台,以及持续高吞吐量操作下的热可靠性。
现代工厂越来越多地部署异构多处理器平台(例如 CPU+GPU、多 GPU)以实现更高的吞吐量(Sha, Wen, Chaparro-Baquero, & Quan, 2019)。此类平台上的调度引入了额外的复杂性:任务必须分配给具有不同计算能力的处理器。虽然分区、全局和半分区调度已被广泛研究(Dhall, Liu, 1978, Liu, Layland, 1973, Yang, Wang, Zhang, Zuo, 2022),但这些方法假设静态任务执行时间,无法利用动态 DNN 的灵活性。最近的进展探索了 GPU-CPU 协同调度策略(Jiang & Wang, 2025)和边缘平台上的时间敏感多 DNN 推理(Ling 等人,2026),但未考虑热约束或动态 DNN 适应。因此,将动态 DNN 调度扩展到多处理器不仅需要负载均衡的任务分配,还需要热感知,因为异构平台上的持续高吞吐量操作可能导致过热和可靠性问题。
热问题并非微不足道。多处理器上的高密度计算产生大量热量,威胁系统稳定性和硬件寿命(Moulik, Sarkar, & Kapoor, 2021)。超过温度阈值的处理器可能会降频或关机,导致截止期限错过和生产中断。动态电压和频率调整(DVFS)(Burd, Pering, Stratakos, & Brodersen, 2000)是一种常见的热管理技术,以减少执行时间为代价降低功耗。
最近的温度感知调度器,如 ESATD(Jing, Hu, & Tan, 2023)和 HEAT(Sharma & Moulik, 2022),将 DVFS 与任务分配相结合。Niknafs 等人(Niknafs, Eles, & Peng, 2025)最近提出了一种具有工作负载预测的温度和截止期限感知运行时资源管理方法,用于异构多核平台。现有方法通常将 DNN 任务视为静态工作负载,因此不会将 DNN 配置与电压缩放协同适应。特别是,它们在选择 DNN 级别和电压时不会测试 RC 状态可行性。这一区别促使对任务分配、DNN 级别选择和电压缩放进行联合处理。
因此,我们将缺陷检测建模为实时多处理器调度问题,并提出了基于启发式的温度感知半分区调度(HBTASP),它运行在检测器之上。该框架采用两阶段结构,包括准入/分配和在线调度:第一阶段准入并分配区域工作,并建立每个子任务的执行预算;保护操作额外应用阻塞感知充分证书。第二阶段协同调度强制和可选工作,并在第一阶段执行预算、绝对截止期限和模型化热可行性测试下选择可行的 DNN - 电压对,对于符合条件的低权重工作设有辅助低电压分支。
主要贡献有三点。
首先,我们提出了一种两阶段异构调度分解。第一阶段在基准电压下进行任务到处理器的准入和分配,并建立每个子任务的预算;第二阶段对选定的就绪作业执行轻量级在线可行性搜索,以探索 DNN - 电压配置。
其次,我们开发了具有明确时序和热条件的温度感知动态 DNN 协同调度。分析给出了强制工作的阻塞感知充分条件,以及在所述执行时间和 RC 模型假设下的条件模型化峰值温度界限。
第三,我们提供了一种受控制的、截止期限感知评估,将调度器效果与动态 DNN 可用性分离,并对被拒绝、跳过或延迟的区域赋予零感知信用。额外的测试表征了热超标、优先级质量、跨区域缺陷和全图像部署边界。温度是通过 RC 模型化而非在 T4 上物理感知的。
第 2 节回顾相关工作,第 3-4 节介绍模型和 HBTASP,第 5 节报告评估,第 6 节总结本文。

章节摘录

用于高效推理的 DNN

为了克服静态 DNN 的不灵活性,动态神经网络即时调整其架构或执行路径。早退网络(Berestizshevsky, Even, 2019, Dimitriou, Xun, Hare, Merrett, 2025, Dong, Wang, Shen, Huang, He, Zhang, Wen, Zhang, 2023, Huang, Chen, Li, Wu, van der Maaten, Weinberger, 2018)将中间分类器附加到深度网络上,允许简单样本提前退出,从而减少平均推理时间。自适应深度控制方法(Veit, Belongie, 2020,

系统概述

如图 1 所示,摄像头捕获传送带上的产品,且必须在每个产品到达分拣机之前完成检测。可用的检测窗口由生产线速度和物理摄像头 - 分拣机距离共同决定,在实际工业检测设置中通常为数百毫秒级别。
为了降低硬件成本,资源有限的计算平台(例如少量 GPU)通常由...共享

HBTASP:一种两阶段协同调度框架

第 3.4 节中建模的调度问题是一个带有非线性约束的多维组合优化,属于 NP 难问题,使得在目标调度时间尺度上进行精确的在线优化通常不切实际。为了应对这一挑战,我们提出了 HBTASP,一种基于启发式的温度感知半分区调度框架(见图 3)。它将问题分为两个可操作管理的子问题:(1) 基准电压下的任务到处理器分配

实验评估

接下来我们将描述评估协议、指标、主要结果和操作边界;详细敏感性分析见附录。

结论

本文解决了在异构多处理器上使用动态 DNN 进行实时工业缺陷检测中的可扩展性和建模热管理挑战。提出了 HBTASP,一个两阶段温度感知调度框架。第一阶段在基准电压下进行负载均衡的任务到处理器分配。第二阶段执行每处理器协同调度,联合选择 DNN 级别和电压,具备针对符合条件的可选工作的辅助低电压机制。

CRediT 作者贡献声明

李辉:概念化、方法论、软件、写作 – 初稿。韩飞翔:方法论、软件、验证、写作 – 初稿。王凯:验证、写作 – 审阅与编辑。朱善英:概念化、监督、经费获取、写作 – 审阅与编辑。

写作过程中生成式人工智能和人工智能辅助技术的声明

在准备本作品期间,作者使用 ChatGPT 协助语言润色和语法检查。在使用该工具后,作者按需审查和编辑了内容,并对已发表文章的内容承担全部责任。

利益冲突声明

作者声明他们没有已知的竞争性财务利益或个人关系,这些利益或关系可能会影响本论文中报告的工作。
李辉 | 韩飞翔 | 王凯 | 朱善英
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号