面向高性能、灵活的基于FPGA的CNN推理加速器:通用硬件架构与端到端部署工具流程

《ACM Transactions on Reconfigurable Technology and Systems》:Towards High-Performance Flexible FPGA-Based Accelerators for CNN Inference: General Hardware Architecture and End-to-End Deploying Toolflow

【字体: 大 中 小 】 时间:2026年03月30日 来源:ACM Transactions on Reconfigurable Technology and Systems

编辑推荐:

  FPGA加速器设计通过通用架构和ONNX IR工具流提升灵活性与性能,采用uint8 systolic阵列和X-bus模块优化计算与参数处理,实测吞吐量达3311.48 GOPS,相比CPU/GPU在延迟和能效上更具优势。

  
要查看此由AI生成的摘要,您必须具有高级访问权限。

摘要

摘要

FPGA被广泛用于高效加速卷积神经网络(CNN)的推理,但设计高性能加速器需要深厚的硬件专业知识。现有解决方案存在局限性:硬件设计通常针对特定模型或芯片,资源利用率不佳,且编译器支持通常受限于特定框架。为了解决这些问题,我们提出了一种通用且灵活的高性能FPGA加速器架构以及基于ONNX中间表示(IR)的端到端编译工具流程。该架构采用优化的uint8脉动阵列以实现高计算密度,并配备专门的X总线模块来处理各种卷积参数。片上缓冲区和分配算法提高了内存效率。可配置的设计变量使得架构能够适应不同需求并进行微调。在VCU118板上部署四种加速器变体并编译17个CNN模型后,测试结果显示卷积吞吐量达到5792.19 GOPS(理论峰值99.82%,即5825.42 GOPS),总吞吐量高达3311.48 GOPS。与以往的研究相比,我们的解决方案在DSP使用量相当的情况下提供了更好的可用性、更高的灵活性和更强的性能。此外,在大多数测试模型中,与CPU和GPU相比,它还具有更低的延迟和更高的能效。

AI摘要

AI生成的摘要(实验结果)

此摘要是通过自动化工具生成的,未经过文章作者的撰写或审核。它旨在帮助读者发现相关内容、评估文章的重要性,并帮助来自相关研究领域的读者理解文章内容。它是对作者提供的摘要的补充,作者提供的摘要仍是文章的官方摘要。完整文章才是权威版本。点击此处了解更多。

点击此处对摘要的准确性、清晰度和实用性进行评论。您的反馈将有助于改进未来的摘要版本。

要查看此由AI生成的通俗语言摘要,您必须具有高级访问权限。

相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号