《Electronics》:DeVSA: A Density-Efficient Vector SNN Accelerator Exploiting Compressor-TreeReuse for Spike-Weight Accumulation
Yue Zuo,
Zhilin Li,
Yang Liu and
Ning Ning
编辑推荐:
针对脉冲神经网络(SNN)映射到高精度浮点向量架构时存在的粒度失配与计算密度低下问题,研究人员开展了一项主题为“密度高效型向量SNN加速器”的研究。他们提出了DeVSA架构,通过复用标准BF16乘法器的压缩器树,实现了八路脉冲-权重点积(DOT8)运算,在保持完整BF16乘法能力的同时显著提升了硬件利用率。该设计在28纳米工艺下合成,达到了340.6 GFLOPS的峰值吞吐量和838 GFLOPS/mm2的合成后计算密度,并在多个事件驱动数据集上实现了显著的端到端加速。这项研究表明,通过压缩器树结构复用,能够在保持向量可编程性的同时,为SNN推理提供高计算密度和高能效。
在人工智能(AI)向“边缘”延伸的浪潮中,能效成为了决胜关键。脉冲神经网络(Spiking Neural Network, SNN)因其利用稀疏的二进制脉冲进行计算,被认为是实现超低功耗边缘智能的潜力股。然而,理想很丰满,现实很骨感。当我们将这种“节俭”的1位脉冲计算,试图映射到现代主流的、为处理密集浮点运算而生的高性能向量处理器上时,就出现了严重的“水土不服”。就像一个只运送零星包裹的快递员,却要驾驶一辆满载能力超强的大卡车,导致车辆空间和动力绝大部分时间都在闲置,效率极其低下。具体到硬件上,标准的浮点乘法器内部有一个复杂且占用大量芯片面积的“压缩器树”(Compressor Tree)来完成多位数乘法。但在SNN的脉冲-权重相乘中,脉冲只有0或1,这使得庞大的压缩器树在绝大多数情况下处于严重的“空转”状态,利用率可能低至12.5%甚至0%。这就导致了一个核心矛盾:虽然SNN算法本身节能,但运行它的通用硬件却因不匹配而浪费了大量资源,最终拉低了整体的计算密度(即单位芯片面积能提供的算力)。现有的解决方案往往是“二选一”:要么设计专用但不可编程的SNN芯片(牺牲灵活性),要么忍受通用硬件在运行SNN时的低效率。如何能在保持向量处理器灵活可编程优势的同时,又让它能高效“消化”SNN这种独特的计算“食谱”,成为了一个亟待破解的难题。本论文发表在《Electronics》期刊上的研究——“DeVSA: A Density-Efficient Vector SNN Accelerator Exploiting Compressor-Tree Reuse for Spike-Weight Accumulation”,正是为了回答这一难题。
为了破解上述难题,研究人员主要采用了以下几种关键技术方法:首先是结构数据通路复用,核心创新在于重新利用了标准BF16乘法器内部的压缩器树结构,将其改造为可同时处理八对脉冲-权重相乘累加的运算单元(DOT8模式)。其次是统一的混合精度数据通路设计,该数据通路既能支持高效的SNN脉冲积累,也能无缝切换回标准的BF16浮点乘法。此外,研究还包含了硬件微循环控制器的设计,用于在SNN推理的时间步循环中分摊指令取指/解码开销,以及可重构共享加法树,以支持多种向量运算。最后,研究通过28纳米CMOS工艺下的数字电路综合与物理设计评估,来量化所提出架构的面积、功耗和性能指标。
架构与统一数据通路:研究人员设计了DeVSA,一个16通道的向量SNN加速器。其核心创新在于,没有为SNN增加专用的累加数据通路,而是通过巧妙的数据通路复用,将标准BF16乘法器的Wallace树压缩器重新用作一个八路脉冲-权重点积算子。通过将指数对齐、由脉冲门控的权重尾数直接注入共享的进位保存加法器,DeVSA实现了高吞吐量的突触聚合,同时保留了完整的BF16乘法能力。此外,架构集成了单周期的“发放与重置”逻辑以优化LIF(Leaky Integrate-and-Fire)神经元更新,并采用了可配置的加法器树来支持多种操作。
实现结果:将DeVSA在28纳米CMOS工艺下进行综合,其最高工作频率可达1.4 GHz。在专为SNN优化的DOT8模式下,其峰值吞吐量达到340.6 GFLOPS,功耗为163 mW,能效为2.09 TFLOPS/W,合成后的计算密度高达838 GFLOPS/mm2。在考虑到实际布局布线(Post-P&R)利用率(50%-70%)后,其密度估计值仍达到419-587 GFLOPS/mm2,显著高于基线方案。
评估:在N-MNIST、DVS-Gesture和CIFAR-10等事件驱动数据集上进行端到端推理评估。结果显示,与标准的向量基线相比,DeVSA可实现高达7.76倍的加速。与当前最先进的可编程SNN处理器相比,在50%利用率下估算的后布局布线密度要高出5.0倍至7.9倍,且准确率损失最小。
本研究得出结论,通过创新的压缩器树结构复用,可以在不牺牲向量处理器可编程性的前提下,显著提升运行脉冲神经网络(SNN)的计算密度和能效。DeVSA架构成功地解决了将1位脉冲映射到高精度浮点向量数据通路时产生的粒度失配问题,证明了在单一统一硬件上高效支持SNN和通用向量工作负载的可行性。这项工作为未来面向边缘智能的、高能效且灵活可编程的AI加速器设计提供了重要的新思路和有力的硬件范本,表明“鱼与熊掌”——即高硬件利用率和编程灵活性——在SNN加速领域可以兼得。