SpALEn:一种基于稀疏性感知的神经网络负载均衡推理引擎

《ACM Journal on Emerging Technologies in Computing Systems》:SpALEn: Sparsity Aware Load Balancing Inference Engine for Neural Network

【字体: 大 中 小 】 时间:2026年03月25日 来源:ACM Journal on Emerging Technologies in Computing Systems

编辑推荐:

  卷积神经网络(CNN)通过大量乘加运算实现计算机视觉任务,本研究提出SpALEn架构利用并行处理单元(PE)实现零值计算跳过,结合动态负载均衡机制优化PE利用率,在密集架构上实现12倍加速。

  
要查看此由 AI 生成的摘要,您必须具有高级访问权限。

摘要

摘要

在计算机科学领域,卷积神经网络(CNN)算法是推动计算机视觉发展的关键工具。CNN 通过对输入数据进行大量的乘法和加法运算来计算概率并预测输出结果。在乘法运算中,如果任一操作数为零,则该操作对最终输出结果没有影响,因此可以省略这些计算以避免不必要的计算。在这项研究中,我们提出了一种通过并行处理单元(PE)进行计算的架构,并且能够跳过无效的零值计算以提高 PE 的利用率。我们提出的 SpALEn 架构采用了通道优先的数据流方式,旨在通过跳过零值计算来提升性能。然而,由于某些计算被跳过,不同 PE 之间的计算负载会不平衡。为此设计了一种动态逻辑来平衡负载,确保硬件资源得到充分利用。与密集型架构相比,SPALEn 的速度提升了 12×倍。

AI 摘要

AI 生成的摘要(实验结果)

该摘要是通过自动化工具生成的,并非由文章作者撰写或审核。它旨在帮助读者理解研究内容、评估文章的相关性,并为来自相关研究领域的读者提供辅助。它是对作者提供的摘要的补充,作者提供的摘要仍是文章的正式摘要。完整文章才是权威版本。点击此处了解更多。

点击此处对摘要的准确性、清晰度和实用性进行评论。您的反馈将有助于改进未来的摘要版本。

要查看此由 AI 生成的通俗语言摘要,您必须具有高级访问权限。

相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号