引言
在现代制造业中,表面缺陷检测对于产品质量和可靠性至关重要。划痕、裂纹和夹杂物等缺陷可能导致航空航天和汽车制造等安全关键领域的功能故障(Cumbajin 等人,2023)。传统的人工检测效率低下且存在主观变异性,促使了基于视觉的自动化系统的发展。DNN 通过分层特征学习支持工业缺陷检测(He, Zhang, Ren, & Sun, 2016)。然而,实时生产线要求在产品到达分拣模块之前获取每个检测结果,通常需要在数百毫秒内完成(Kopetz, 2011)。这在 DNN 计算和确定性时序要求之间造成了矛盾。
为了在资源受限平台上部署 DNN,研究人员开发了各种压缩技术,包括网络剪枝(Li, Kadav, Durdanovic, Samet, & Graf, 2017)、量化(Han, Mao, & Dally, 2016)和知识蒸馏(Hinton, Vinyals, & Dean, 2015)。虽然这些方法减少了模型大小和推理延迟,但它们产生了具有固定计算图的静态网络。这种静态模型无法适应波动的生产线速度:当时序约束收紧时,它们可能错过截止期限;当约束放松时,它们无法充分利用可用的计算容量(Liu 等人,2022)。这种不灵活性导致要么截止期限错过过多,要么资源闲置浪费。
动态 DNN 通过在运行时调整其计算图来解决这一限制,根据当前约束在准确性和延迟之间进行权衡。代表性方法包括早退网络(Huang 等人,2018)、自适应深度控制(Veit & Belongie, 2020)和动态分辨率缩放(Kang 等人,2022)。已提出一种混合缩放动态 DNN(CS-DNN)(Han, Liang, Jing, & Zhu, 2024),它联合调整深度和宽度,与单维缩放相比实现了更优的准确性 - 效率权衡。还开发了一种增量训练策略来缓解执行路径之间的干扰,以及一种基于动态规划的单处理器系统调度器,保证低截止期限错过率同时最大化加权置信度。然而,在将此方法部署到现实世界的多线生产环境之前,必须解决两个关键挑战:扩展到异构多处理器平台,以及持续高吞吐量操作下的热可靠性。
现代工厂越来越多地部署异构多处理器平台(例如 CPU+GPU、多 GPU)以实现更高的吞吐量(Sha, Wen, Chaparro-Baquero, & Quan, 2019)。此类平台上的调度引入了额外的复杂性:任务必须分配给具有不同计算能力的处理器。虽然分区、全局和半分区调度已被广泛研究(Dhall, Liu, 1978, Liu, Layland, 1973, Yang, Wang, Zhang, Zuo, 2022),但这些方法假设静态任务执行时间,无法利用动态 DNN 的灵活性。最近的进展探索了 GPU-CPU 协同调度策略(Jiang & Wang, 2025)和边缘平台上的时间敏感多 DNN 推理(Ling 等人,2026),但未考虑热约束或动态 DNN 适应。因此,将动态 DNN 调度扩展到多处理器不仅需要负载均衡的任务分配,还需要热感知,因为异构平台上的持续高吞吐量操作可能导致过热和可靠性问题。
热问题并非微不足道。多处理器上的高密度计算产生大量热量,威胁系统稳定性和硬件寿命(Moulik, Sarkar, & Kapoor, 2021)。超过温度阈值的处理器可能会降频或关机,导致截止期限错过和生产中断。动态电压和频率调整(DVFS)(Burd, Pering, Stratakos, & Brodersen, 2000)是一种常见的热管理技术,以减少执行时间为代价降低功耗。
最近的温度感知调度器,如 ESATD(Jing, Hu, & Tan, 2023)和 HEAT(Sharma & Moulik, 2022),将 DVFS 与任务分配相结合。Niknafs 等人(Niknafs, Eles, & Peng, 2025)最近提出了一种具有工作负载预测的温度和截止期限感知运行时资源管理方法,用于异构多核平台。现有方法通常将 DNN 任务视为静态工作负载,因此不会将 DNN 配置与电压缩放协同适应。特别是,它们在选择 DNN 级别和电压时不会测试 RC 状态可行性。这一区别促使对任务分配、DNN 级别选择和电压缩放进行联合处理。
因此,我们将缺陷检测建模为实时多处理器调度问题,并提出了基于启发式的温度感知半分区调度(HBTASP),它运行在检测器之上。该框架采用两阶段结构,包括准入/分配和在线调度:第一阶段准入并分配区域工作,并建立每个子任务的执行预算;保护操作额外应用阻塞感知充分证书。第二阶段协同调度强制和可选工作,并在第一阶段执行预算、绝对截止期限和模型化热可行性测试下选择可行的 DNN - 电压对,对于符合条件的低权重工作设有辅助低电压分支。
主要贡献有三点。
首先,我们提出了一种两阶段异构调度分解。第一阶段在基准电压下进行任务到处理器的准入和分配,并建立每个子任务的预算;第二阶段对选定的就绪作业执行轻量级在线可行性搜索,以探索 DNN - 电压配置。
其次,我们开发了具有明确时序和热条件的温度感知动态 DNN 协同调度。分析给出了强制工作的阻塞感知充分条件,以及在所述执行时间和 RC 模型假设下的条件模型化峰值温度界限。
第三,我们提供了一种受控制的、截止期限感知评估,将调度器效果与动态 DNN 可用性分离,并对被拒绝、跳过或延迟的区域赋予零感知信用。额外的测试表征了热超标、优先级质量、跨区域缺陷和全图像部署边界。温度是通过 RC 模型化而非在 T4 上物理感知的。
第 2 节回顾相关工作,第 3-4 节介绍模型和 HBTASP,第 5 节报告评估,第 6 节总结本文。