MCU-MixQ:一种针对微控制器的硬件/软件协同优化的混合精度神经网络设计框架
《ACM Transactions on Embedded Computing Systems》:MCU-MixQ: A HW/SW Co-optimized Mixed-precision Neural Network Design Framework for MCUs
【字体:
大
中
小
】
时间:2026年03月28日
来源:ACM Transactions on Embedded Computing Systems
编辑推荐:
混合精度神经网络(MPNN)通过优化低精度运算和SIMD指令提升MCU资源利用率,提出SIMD packing策略和高效卷积操作,结合NAS设计框架MCU-MixQ实现量化与计算效率的平衡,实验显示速度提升2.1倍和1.4倍,代码已开源。
要查看此由 AI 生成的摘要,您必须具有高级访问权限。
摘要
摘要
混合精度神经网络(MPNN)通过使用适量的数据宽度来进行神经网络处理,是一种有效的方法,可以满足微控制器(MCU)在资源和计算能力方面的严格限制。然而,目前 MCU 类指令集(ISA)中仍然缺乏亚字节级和混合精度的单指令多数据(SIMD)操作,而且 MCU 的有限计算能力也未能得到充分利用,这进一步加剧了神经网络处理中的计算瓶颈。因此,MPNN 的优势无法得到充分发挥。在这项工作中,我们提出在典型的 MCU 中将多个低位宽度的算术操作打包到单个单指令多数据(SIMD)指令中,并通过探索卷积中的数据并行性和计算并行性以及所提出的 SIMD 打包方法,开发出一种高效的卷积运算符。最后,我们利用神经架构搜索(NAS)构建了一个硬件/软件协同设计的 MPNN 框架,即 MCU-MixQ。该框架可以优化 MPNN 的量化和实现效率,在神经网络性能和准确性之间达到最佳平衡。根据我们的实验结果,在相同的资源限制下,MCU-MixQ 的速度分别比 CMix-NN 和 MCUNet 提高了 2.1 倍和 1.4 倍。MCU-MixQ 也在 Github 上开源。
AI 摘要
AI 生成的摘要(实验性摘要)
此摘要是通过自动化工具生成的,并非由文章作者编写或审核。它旨在帮助读者发现研究内容、评估其相关性,并协助来自相关研究领域的读者理解本文。它是对作者提供的摘要的补充,作者提供的摘要仍是论文的正式摘要。完整文章才是权威版本。点击此处了解更多。
点击 此处 对此摘要的准确性、清晰度和实用性进行评论。您的反馈将有助于改进未来的版本。
要查看此由 AI 生成的通俗语言摘要,您必须具有高级访问权限。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号