拓扑机械神经网络(Topological Mechanical Neural Networks, TMNNs)作为通过原位反向传播学习实现分类器的物理神经网络

《MECHANICAL SYSTEMS AND SIGNAL PROCESSING》:Topological mechanical neural networks as classifiers through in situ backpropagation learning

【字体: 大 中 小 】 时间:2026年04月03日 来源:MECHANICAL SYSTEMS AND SIGNAL PROCESSING 8.9

编辑推荐:

  摘要:近期,物理神经网络(Physical Neural Networks, PNNs)利用固有物理过程进行学习已成为计算领域的新前沿。本文受拓扑超材料中量子自旋霍尔效应(Quantum Spin Hall Effect, QSHE)启发,提出用于机器学习二分

  
摘要:近期,物理神经网络(Physical Neural Networks, PNNs)利用固有物理过程进行学习已成为计算领域的新前沿。本文受拓扑超材料中量子自旋霍尔效应(Quantum Spin Hall Effect, QSHE)启发,提出用于机器学习二分类任务的拓扑机械神经网络(Topological Mechanical Neural Networks, TMNNs)。TMNNs利用赝自旋(pseudospin)态及QSHE的鲁棒性,使其对损伤具有容忍性。研究人员首先展示了利用未训练TMNNs进行数据聚类;随后针对特定任务推导了一种原位反向传播(in situ backpropagation)算法——一种仅需局部信息的两步局部规则方法,可在原位物理更新TMNNs权重,实现物理学习。TMNNs在Iris鸢尾花、Penguin企鹅及Seeds种子数据集的分类任务中取得高精度,且在键(bond)剪除(damage/pruning)下保持鲁棒性。此外,研究人员演示了通过频分复用(Frequency-Division Multiplexing, FDM)实现并行分类,将不同任务分配至不同频率以提高效率。本研究为基于弹性波的机械神经网络引入了原位反向传播训练框架,并将TMNNs定位为具有潜力的神经形态计算硬件分类器。
论文解读:拓扑机械神经网络通过原位反向传播学习实现分类器
研究背景与意义
传统冯·诺依曼架构数字计算机训练人工神经网络面临能耗高、处理速度受限等瓶颈,物理神经网络(Physical Neural Networks, PNNs)——如分子、光学及机械神经网络(Mechanical Neural Networks, MNNs)——通过将信息编码于连续物理变量并利用本构物理定律(如波传播、变形)进行处理,成为低功耗、并行计算的替代方案。其中,拓扑力学系统中的量子自旋霍尔效应(Quantum Spin Hall Effect, QSHE)诱导的赝自旋(pseudospin)态具有背散射免疫的单向界面波导特性,但其二进制赝自旋自由度在机器学习中的应用尚属空白。现有平衡传播(Equilibrium Propagation, EP)等物理学习方法多为近似梯度且多用于准静态情形,缺乏针对波动力学(wave dynamics)的精确局部规则训练框架。因此,Li Shuaifeng与Xiaoming Mao(Department of Physics, University of Michigan)在《Mechanical Systems and Signal Processing》上提出拓扑机械神经网络(Topological Mechanical Neural Networks, TMNNs),推导频率域原位反向传播(in situ backpropagation)算法,验证其作为二分类硬件的可行性、鲁棒性及并行处理能力。
主要关键技术方法
研究人员基于蜂窝晶格(honeycomb lattice)拓扑机械超材料构建TMNNs,由非平庸(topologically nontrivial)内域与平庸(trivial)外域构成含U形界面的网络,以弹簧刚度ki(或节点质量mj)为可训练参数,兼容矩阵(C: 兼容性矩阵; D=CTKC: 动力/刚度矩阵)。数据经幅值编码(amplitude encoding)、相位编码(phase encoding)或混合编码映射为界面处简谐激励力F的振幅/相位,工作频率选带隙内拓扑态频率。核心训练采用基于伴随法(adjoint method)的原位反向传播:(1)前向传播测得节点模态位移U及各键模态伸长E=CU;(2)根据损失函数L(交叉熵)计算输出端伴随力Fadj=-?L/?UT并施加于网络进行后向传播得伴随位移Uadj及伴随伸长Eadj;(3)各键梯度?Li=2?{Eadj,i·Ei},按梯度下降更新ki←ki-α?Li。分类性能在Iris(幅值编码)、Penguin(相位编码)、Seeds(混合编码)标准数据集验证(70%训练/30%测试);鲁棒性通过单键剪除(bond pruning)量化精度下降率β评估;并行分类通过频分复用(Frequency-Division Multiplexing, FDM)在不同频率同时注入多任务编码信号,并采用动态模式分解(Dynamic Mode Decomposition, DMD)分离各频率响应。
研究结果
2. Untrained TMNNs as inherent classifiers(未训练TMNN作为固有分类器)
研究人员证明未训练TMNN在带隙频率激发可产生沿界面双向传播的赝自旋上行(pseudospin-up, Ψ+)与下行(pseudospin-down, Ψ-)态,其激发比例取决于输入两节点简谐力F1,F2的幅值比与相位差。定义右/左输出端模态位移能量比r,未训练网络可将输入特征空间按r>0.5/r<0.5自然聚类为两类,说明TMNN具备本征数据聚类潜能,但未训练固定拓扑无法适配任意监督分类边界。
3. In situ backpropagation in TMNNs(TMNN中的原位反向传播)
研究人员从频域谐波波动方程(-ω2M+D)U=F出发,通过伴随法导出损失函数对弹簧常数k的梯度?L=2?{UadjT·dD/dk·U}=2?{Eadj°E},其中E=CU为键伸长,Eadj=C Uadj,Uadj满足(-ω2M+D)Uadj=-?L/?UT。该框架仅需局部测量各键前向与后向伸长即可获精确梯度,符合物理学习局部规则,无需全网络全局通信。类似推导给出节点质量m为可调参数的更新规则。训练流程为四步迭代:前向激励→测U、算Fadj、测E→后向加Fadj→测Eadj算?L→更新k或m。
4. Training TMNNs for classification tasks(训练TMNNs执行分类任务)
采用幅值编码Iris(4特征→4节点x/y方向力幅值)、相位编码Penguin、混合编码Seeds。训练后TMNN测试集准确率分别为~86%、~92%、~94%。弹簧常数整体变化<5%,训练后网络呈弱无序(disordered)但仍保持拓扑:能带计算显示带隙内存在界面局域模,实空间自旋Bott指数内域为1(非平庸)、外域为0(平庸),证实赝自旋拓扑保护仍成立。推理时versicolor类激发左行pseudospin-down波,virginica类激发右行pseudospin-up波,且波沿60°弯折界面无背散射,依托拓扑保护实现明确方向判据。对比无拓扑保护的缺陷态MNNs,无清晰分类指示。节点质量亦可作训练自由度达到~92%测试准确率。
5. Robustness of TMNNs as classifiers(TMNNs作为分类器的鲁棒性)
逐键剪除单根弹簧并测试精度跌落归一化指标β。结果表明大部分体区(bulk)键剪除β≈0(非自旋混合缺陷,non-spin-mixing defects),对分类影响微小;界面键少量呈β>0(自旋混合缺陷,spin-mixing defects)会致精度下降。整体上浅色(低β)键占多数,证明TMNN对随机损伤具拓扑鲁棒性。
6. Parallel classification in TMNNs(TMNNs中的并行分类)
利用拓扑态在带隙内的频率带宽,选取ω0=1.154(Iris)、1.186(Penguin)、1.217(Seeds)三个非重叠频率通过FDM同时激励复合信号。批梯度下降最小化三任务总损失,训练后并行测试准确率分别达~84%、~90%、~92%。DMD分析分离各频率成分,确认对应类别波沿预期方向传播。并行训练使弹簧常数分布更宽以适应多任务冲突,Spin Bott指数仍为非平庸,拓扑性质保留。
讨论与结论翻译
研究人员提出TMNNs可利用赝自旋波进行二分类,未训练网络具数据聚类能力;推导的原位反向传播算法在频域波动力学中给出精确局部梯度,仅通过前向与伴随后向两次物理测量实现权重更新,降低数字计算负担。训练后TMNN在经典数据集达高分类精度,弱无序不破坏拓扑保护性故对键损伤具鲁棒性,且借助FDM可实现多任务并行分类。本研究将此前MNNs原位反向传播扩展至简谐波动力学,区别于EP等对比法为精确梯度法。TMNNs目前适用于二分类(依托QSHE双赝自旋),未来可拓展至时域任意波形编码及非线性拓扑机制以处理多类与非线性边界。实验上激光测振仪测位移/应变及相变/光调材料调变刚度已具可行性。结论如下:
综上所述,研究人员发现了TMNNs执行机器学习分类的能力。未训练TMNNs利用赝自旋波展现本征数据聚类的计算潜力。对于监督学习,研究人员推导了原位反向传播算法以获取损失函数梯度从而降低数字计算机负载,该算法兼容物理学习中局部规则。通过该训练方法,研究人员演示了TMNNs成功完成Iris花(幅值编码)、Penguin(相位编码)及Seeds(混合编码)分类任务,均达高分类精度。此外,研究人员展示了训练后TMNN在键剪除损伤下的拓扑保护鲁棒性——多数键损伤几乎不影响分类精度。进一步利用FDM演示了并行分类,将不同任务分配至不同频率。该并行计算能力使TMNN可用复合输入同时执行多个分类任务,产生对应于指定频率的推断结果。通过在机械动力学系统中展示此普适技术,研究人员揭示了TMNNs降低机器学习成本的潜力,其为连接力学与机器学习领域、提供高效鲁棒的未来机器学习硬件解决方案铺平了道路。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号