综述:动态系统中归零神经网络(ZNN)的协同优化:演变、进展与应用
《Neurocomputing》:Cooperative optimization of zeroing neural networks (ZNN) in dynamic systems: Evolution, advances, and applications
【字体:
大
中
小
】
时间:2026年04月06日
来源:Neurocomputing 6.5
编辑推荐:
零化神经网络(ZNNs)作为解决时变问题的有效工具,其核心在于误差零化动态模型。研究重点从单一性能优化转向协同优化设计,涵盖参数-激活协同优化、结构级合作与控制策略整合,并形成跨场景统一建模框架。本文系统梳理了ZNNs的演进路径,技术实现路径在机器人控制、多智能体系统、在线优化等典型任务中的应用,以及协同优化中的实时性与鲁棒性权衡,最后探讨了统一建模与高效部署的未来挑战。
刘一欣|洁金|陈朝阳|李红燕
湖南科技大学三亚学院,中国海南省三亚市572024
摘要
归零神经网络(ZNNs)已成为解决时变问题的强大工具,在这些问题中,构建的误差归零动态在动态系统计算中起着关键作用。实时性能和鲁棒性被广泛认为是评估ZNN有效性的关键标准。随着研究的深入,ZNN的设计范式已经从单一性能驱动的改进转向了以任务为导向的合作优化,而研究重点也从局部结构创新扩展到了统一的、跨场景的和可迁移的建模框架。本文从实际技术路径的角度,全面回顾了ZNN的进化轨迹、合作优化设计及其代表性应用,特别强调了若干先进的优化策略。最后,讨论了该领域的挑战和未来研究方向,旨在为跨场景的统一建模和ZNN的高效部署提供理论见解。
引言
近年来,随着人工智能技术的快速发展,各种智能学习算法已广泛应用于医疗保健[1]、[2]、工业[3]和信息安全[4]等领域。归零神经网络(ZNNs)在众多领域的广泛应用已经得到了充分证明[5]、[6]、[7]、[8]、[9]、[10]、[11]、[12]、[13]。通过构建误差归零动态模型,ZNNs将系统误差驱动至零,从而使系统收敛到期望的解。在这个收敛过程中,有两个关键性能指标受到了持续关注:实时性能和鲁棒性。与霍普菲尔德神经网络[14]、[15]、[16]、[17]类似,这两个属性的分析和增强构成了ZNN理论研究的核心。现有研究和实际应用表明,ZNNs表现出出色的可靠性,使它们在许多应用场景中不可或缺[18]、[19]、[20]、[21]、[22]、[23]、[24]、[25]、[26]、[27]、[28]。
为了满足对实时性能日益增长的需求,人们投入了大量努力来加速收敛。代表性的方法包括基于激活函数的改进,如新型和分段激活函数[21]、[29]、[30]、[31],以及有限时间收敛方案,包括固定时间收敛ZNNs(FxT-ZNNs)和预定义时间收敛ZNNs(PDZNNs),这些方案保证在有限或规定的时间范围内收敛[5]、[32]、[33]、[34]、[35]、[36]、[37]。这些方法突出了ZNNs在机器人控制、动态矩阵计算和在线优化等应用中的独特优势;然而,在实际实现中必须仔细考虑噪声和不确定性的影响。在复杂环境干扰的情况下,增强系统鲁棒性同样至关重要。通过引入单积分和双积分项[10]、[38]、非线性单元设计[39]以及基于模糊控制的增强策略[40]、[41]、[42],实现了鲁棒性的提升。鲁棒ZNN变体已广泛应用于机器人控制和多智能体系统。然而,以鲁棒性为导向的设计也必须考虑收敛速度和严格的实时要求。从更广泛的发展角度来看,ZNN研究正逐渐从单一性能驱动的模型改进转向以任务为导向的合作优化设计。相应地,研究重点也从局部结构创新扩展到了统一的、跨场景的和可迁移的建模框架,如参考文献[43]、[44]、[45]、[46]、[47]、[48]、[49]、[50]、[51]、[52]、[53]中所展示的。
根据应用场景和技术路径对ZNN进行分类,可以识别出几个代表性方向,包括机器人控制[54]、[55]、[56]、[57]、[58]、[59]、[60]、[61]、[62]、多智能体系统[63]、[64]、[65]、[66]、[67]、在线优化任务[68]、[69],以及动态矩阵计算和路径规划[70]、[71]、[72]、[73]、[74]、[75]、[76]、[77]、[78]、[79]、[80]、[81]、[82]。进一步细化这些路径可以得出特定的模型类别,例如基于逆运动学的ZNNs(IK-ZNNs)[83]、[84]、[85]、[86]、[87]、[88]、[89]、[90]、FxT-ZNNs [91]、[92]、[93]、PDZNNs [31]、[94]、[95]、[96]、[97]、面向约束优化的ZNNs [98]、[99]、[100]、[101]、[102]、[103]、[104]、[105]、[106],以及在线伪逆计算方法[107]、[108]、[109]、[110]、[111]、[112]、[113]、[114]、[115]、[116]、[117]、[118]、[119]、[120]、[121]。从合作优化的角度来看,技术路径可以进一步分为参数-激活协同设计[122]、[123]、[124]、[125]、[126]、结构级协作[127]、[128]、[129]、[130]、[131]、[132]、[133]、[134]和控制策略集成[136]、[137]、[138]、[139]、[140]、[141]、[142]、[143]。这些类别可以进一步细化;例如,控制策略集成包括基于滑模控制的ZNNs(SMC-ZNNs)[144]、[145]和基于模糊控制的ZNNs(Fuzzy-ZNNs)[146]、[147]、[148]、[149]、[150]。这样的分类基于实际应用,更清楚地揭示了ZNN方法与现实世界部署之间的紧密联系。基于上述背景,本文重点关注ZNN在合作优化设计和实际应用方面的最新进展。与传统的综述方法不同,本综述是从应用导向的技术路径角度组织的,同时系统地回顾了ZNN研究中实时性能和鲁棒性的历史发展。本文全面回顾了ZNN的主要性能改进、优化策略和应用。
本综述的主要贡献总结如下:
1.一个面向路径的ZNNs综述框架,强调实际部署场景。
2.从参数、结构和控制角度对合作优化设计进行系统分类。
3.关于实时性能与鲁棒性权衡以及未来跨场景建模挑战的统一讨论。
整体结构如图1所示。本文的其余部分组织如下:第2节简要回顾了ZNN的发展历史,并详细概述了收敛加速和鲁棒性增强路径。第3节调查了代表性任务中的ZNN技术路径。第4节重点讨论了合作优化设计路径及其应用导向的分析。第5节讨论了未来的挑战和应用前景。最后,第6节总结了这项工作。
节选内容
ZNN的进化发展
本节回顾了归零神经网络(ZNNs)的进化轨迹,并将ZNN的主要发展分为四个代表性阶段。每个阶段都具有特定的应用需求和相应的设计理念。这些阶段包括:(i)具有单一目标收敛的第一代ZNN模型,(ii)具有预定义时间加速收敛的ZNN模型,(iii)增强鲁棒性的ZNN模型,以及(iv)具有合作功能的ZNN模型
典型任务中的ZNN技术路径
基于上述进化分析,可以从任务导向的技术路径的角度进一步理解ZNN模型。本节根据实际应用中的任务需求对ZNN的技术实现路径进行了分类。ZNN在不同任务中的性能需求存在显著差异,导致了多样的建模选择和结构设计。为了阐明ZNN模型设计及其相关性能指标背后的理论依据,本文
ZNN的合作优化技术路径
虽然上述路径侧重于特定任务,但最近的研究表明,加速、鲁棒性和可行性应在合作优化框架内共同设计。
在之前的研究中,加速ZNN模型和抗噪声ZNN模型大多被视为两个独立的研究方向。加速ZNN,例如那些使用幂函数和符号函数的模型,主要关注非线性误差结构以提高收敛速度[29]、[34]、[77]。
未来研究方向
通过对ZNN的发展轨迹、典型任务中的ZNN技术路径以及ZNN协作优化技术路径的系统性回顾,可以清楚地得出结论:当前ZNN的发展不仅需要改进单个性能或局部结构修改,还需要系统级的协调设计。这一趋势不仅体现在模型设计的复杂性上,还体现在统一理论、工程可行性等方面
结论
本文从理论模型构建、性能优化和应用场景的角度,全面概述了归零神经网络(ZNN)。与以往的综述不同,本文以ZNN的实际应用需求为出发点,系统地根据任务需求对ZNN进行了分类,并构建了一个考虑收敛性、鲁棒性和可行性的框架。ZNN协作优化的进化路径得到了全面总结,
CRediT作者贡献声明
刘一欣:撰写——审稿与编辑,撰写——初稿,软件,方法论,形式分析,数据管理。洁金:撰写——审稿与编辑,监督,软件,资源管理,数据管理,概念化。陈朝阳:撰写——审稿与编辑,监督,项目管理,方法论,调查。李红燕:撰写——审稿与编辑,监督,调查,资金获取。
利益冲突声明
作者声明他们没有已知的可能会影响本文报告工作的竞争性财务利益或个人关系。
刘一欣于2024年从长沙师范学院获得电子信息工程学士学位。他目前正在湖南科技大学信息与电气工程学院攻读控制科学与工程硕士学位。他的主要研究兴趣包括神经网络和机器人技术。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号