MCU-MixQ:一种针对微控制器的硬件/软件协同优化的混合精度神经网络设计框架

《ACM Transactions on Embedded Computing Systems》:MCU-MixQ: A HW/SW Co-optimized Mixed-precision Neural Network Design Framework for MCUs

【字体: 大 中 小 】 时间:2026年03月28日 来源:ACM Transactions on Embedded Computing Systems

编辑推荐:

  混合精度神经网络(MPNN)通过优化低精度运算和SIMD指令提升MCU资源利用率,提出SIMD packing策略和高效卷积操作,结合NAS设计框架MCU-MixQ实现量化与计算效率的平衡,实验显示速度提升2.1倍和1.4倍,代码已开源。

  
要查看此由 AI 生成的摘要,您必须具有高级访问权限。

摘要

摘要

混合精度神经网络(MPNN)通过使用适量的数据宽度来进行神经网络处理,是一种有效的方法,可以满足微控制器(MCU)在资源和计算能力方面的严格限制。然而,目前 MCU 类指令集(ISA)中仍然缺乏亚字节级和混合精度的单指令多数据(SIMD)操作,而且 MCU 的有限计算能力也未能得到充分利用,这进一步加剧了神经网络处理中的计算瓶颈。因此,MPNN 的优势无法得到充分发挥。在这项工作中,我们提出在典型的 MCU 中将多个低位宽度的算术操作打包到单个单指令多数据(SIMD)指令中,并通过探索卷积中的数据并行性和计算并行性以及所提出的 SIMD 打包方法,开发出一种高效的卷积运算符。最后,我们利用神经架构搜索(NAS)构建了一个硬件/软件协同设计的 MPNN 框架,即 MCU-MixQ。该框架可以优化 MPNN 的量化和实现效率,在神经网络性能和准确性之间达到最佳平衡。根据我们的实验结果,在相同的资源限制下,MCU-MixQ 的速度分别比 CMix-NN 和 MCUNet 提高了 2.1 倍和 1.4 倍。MCU-MixQ 也在 Github 上开源。

AI 摘要

AI 生成的摘要(实验性摘要)

此摘要是通过自动化工具生成的,并非由文章作者编写或审核。它旨在帮助读者发现研究内容、评估其相关性,并协助来自相关研究领域的读者理解本文。它是对作者提供的摘要的补充,作者提供的摘要仍是论文的正式摘要。完整文章才是权威版本。点击此处了解更多。

点击 此处 对此摘要的准确性、清晰度和实用性进行评论。您的反馈将有助于改进未来的版本。

要查看此由 AI 生成的通俗语言摘要,您必须具有高级访问权限。

相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号