《Engineering Applications of Artificial Intelligence》:Gate recurrent unit neural network inverse model prediction-based dynamic multi-objective evolutionary algorithm and application
编辑推荐:
针对动态多目标优化问题预测模型与决策变量进化规律不匹配导致初始种群质量低的问题,提出基于GRU神经网络的逆模型预测动态多目标进化算法。通过GRU建立目标函数与决策变量的映射关系,利用卡尔曼滤波预测未来环境目标函数,结合历史进化方向进行后优化改进,有效生成高质量初始种群,显著提升求解效率。
吴中强|刘明阳
中国河北省秦皇岛市燕山大学工业计算机控制工程重点实验室,066004
摘要
动态多目标进化算法(DMOEAs)基于预测模型生成未来环境的初始种群。当预测模型与动态多目标优化问题(DMOPs)中决策变量的进化规律不匹配时,基于预测的DMOEAs难以生成高质量的初始种群。为了解决这个问题,提出了一种基于门循环单元(GRU)神经网络逆模型预测的DMOEAs方法。GRU神经网络用于拟合DMOPs的目标函数与决策变量之间的映射关系,并作为DMOPs的逆模型。通过卡尔曼滤波预测未来环境的目标函数作为逆模型的输入,以输出未来环境的决策变量。基于逆模型在历史环境中输出的决策变量的进化方向进行后续改进,其结果用作初始种群。所提出的方法可以在大多数DMOPs中生成高质量的初始种群,且不受预测模型与决策变量变化规律匹配的限制,从而提高了求解效率。通过实验和在环境经济电力调度中的应用验证了该方法的有效性。
引言
动态多目标优化问题(DMOPs)存在于许多领域,如路径规划(Zhou等人,2018年)、系统控制(Han等人,2019年)、机器学习(Liu等人,2019年;Chen等人,2018年)和调度(Pan等人,2019年;Nguyen等人,2013年)。DMOPs的多目标函数之间存在冲突,目标函数、约束条件和决策空间可能会随时间变化。为了有效解决DMOPs问题,提出了动态多目标进化算法(DMOEAs)。DMOEAs通过动态响应跟踪DMOPs的帕累托最优解(Ye等人,2022a)。根据不同的动态响应类型,DMOEAs可以分为四类(Jiang等人,2022年),即基于多样性的DMOEAs(Ma等人,2021a;Ruan等人,2017年)、基于记忆的DMOEAs(Peng等人,2015年;Liang等人,2019年)、基于迁移学习的DMOEAs(Jiang等人,2017a;Feng等人,2020年;Guo等人,2022年)以及基于预测的DMOEAs(Zhou等人,2013年;Rong等人,2018年;Ma等人,2021b;Cao等人,2019a;Wang等人,2025年;Hou等人,2023年;Ye等人,2024年;Hu等人,2024年;Li等人,2025年)。
在检测到环境变化后,基于多样性的DMOEAs可以抵消环境变化导致的种群多样性损失。然而,当处理复杂的DMOPs时,基于多样性的DMOEAs表现不佳。原因是过度多样性会导致种群收敛性降低,从而降低种群的搜索效率和收敛速度(Hu等人,2021年)。基于记忆的DMOEAs将历史环境中的较好解存储在记忆池中,并将这些解作为新环境的初始种群以加速种群收敛速度。基于记忆的DMOEAs仅适用于环境周期性变化或环境高度相似的DMOPs,对于环境非周期性变化的DMOPs效果较差(Ye等人,2022b)。基于迁移学习的DMOEAs提取历史环境中种群之间的潜在关系并将其转移到新环境中,从而指导新环境中初始种群的生成并提高种群收敛速度。当基于迁移学习的DMOEAs的训练样本与测试样本之间的相似度较低时,会发生负迁移,导致新种群的生成方向错误,从而降低算法性能(Jiang等人,2020年;Li等人,2022a),并且基于迁移学习的DMOEAs消耗相对较高的计算资源。
基于预测的DMOEAs利用历史种群信息来跟踪帕累托最优集。基于预测的DMOEAs可以分为以下两类:1)使用线性预测模型的DMOEAs。Zhou等人(2013年)提出了一种基于种群的预测策略,假设种群由一个中心点和一个流形组成。当环境变化时,通过历史环境的流形估计新环境的流形,然后通过自回归模型预测新环境的中心点。在Rong等人(2018年)和Ma等人(2021b)的研究中,使用了多方向预测策略从多个方向跟踪帕累托最优解。与Zhou等人(2013年)的方法相比,多方向预测模型可以预测帕累托最优解的局部变化趋势,预测模型的准确性更高。Cao等人(2019a)提出了一种基于历史帕累托最优解集质心位置预测的差分预测模型。2)使用非线性预测模型的DMOEAs。Wang等人(2025年)通过预测环境变化趋势来生成预测解。他们将种群的运动向量作为历史知识,结合神经网络来拟合历史知识的变化规律,并通过神经网络预测新环境的初始种群。基于Zhou等人(2013年)中的中心点和流形思想,Hou等人(2023年)通过门循环单元神经网络预测新环境种群的中心点,并将中心点与新环境种群的流形结合得到新环境的初始种群。Ye等人(2024年)通过人工神经网络拟合历史种群之间的复杂非线性变化关系,并使用历史种群生成新环境的初始种群。Hu等人(2024年)通过循环神经网络拟合历史种群的变化规律,并将隐藏层节点的输出作为新环境的初始种群。Li等人(2025年)使用历史环境的特殊点训练前馈神经网络,并通过前馈神经网络预测新环境中的特殊点。通过局部搜索,收敛变量和多样性变量生成新环境的初始种群。
深度神经网络模型已广泛应用于各个领域。在Faizanbasha和Rizwan(2025a)的研究中,Faizanbasha等人提出了一种结合深度学习和随机过程的混合模型,用于工业设备的剩余使用寿命(RUL)预测。首先使用卷积神经网络(CNN)从原始传感器数据中提取空间特征,然后利用变换器层捕捉时间依赖性,接着使用长短期记忆(LSTM)层进一步细化这些时间特征,最后结合平滑半鞅过程来模拟不确定性,生成RUL的概率分布。在Faizanbasha和Rizwan(2025b)的研究中,提出了一种结合磨合期和维护预测的新方法,用于优化双单元系列制造系统的可靠性。使用半马尔可夫决策过程(SMDP)建立数学模型,并采用平滑半鞅来模拟系统老化。最后,应用策略迭代算法求解SMDP的贝尔曼方程,确定特定状态的最优行动。在Qin等人(2025)的研究中,结合了时间信息挖掘和空间关系建模。对于多传感器数据的复杂性,引入了双向自回归注意力机制来处理信号,并使用自注意力机制模拟传感器信号之间的序列关系。基于提取的特征,采用多通道图卷积网络来捕捉传感器数据之间的空间依赖性。
本研究的动机如下:大多数现有的基于预测的DMOEAs依赖于预测模型与决策变量进化规律匹配的前提。由于决策变量的非线性变化特性,预测模型难以准确描述它们的进化动态,导致生成的初始种群远离最优解。针对这些问题,提出了一种新方法。利用神经网络的强大非线性拟合能力建立目标函数与决策变量之间的高精度映射关系,称为DMOPs的逆模型。由于目标函数的变化模式相对简单,预测模型可以准确预测未来环境的目标函数。因此,一旦获得DMOPs的逆模型和未来环境的目标函数值,就可以将这些未来值作为输入到逆模型中,生成未来环境的决策变量。此外,可以根据历史环境的进化信息进一步细化逆模型的输出。基于这些思想,提出了基于GRU神经网络逆模型预测的DMOEA。具体来说,该方法使用GRU神经网络构建从目标空间到决策空间的逆模型映射,从而通过预测帕累托最优前沿(POF)来实现帕累托最优集(POS)的跟踪。与传统的预测方法相比,该方法通过POF预测来跟踪POS,有效缓解了预测模型与决策变量进化规律不匹配导致的初始种群质量低的问题。
主要贡献如下:
(1)设计了一种基于GRU神经网络的逆模型,该模型以POF和POS作为GRU神经网络的输入和输出,有效地建立了目标函数与决策变量之间的映射关系。
(2)基于历史环境中的POF,通过卡尔曼滤波预测未来环境中的POF。环境变化后,根据预测结果生成相应的决策变量。
(3)根据逆模型在历史环境中输出的决策变量的进化方向,对逆模型输出的POS与真实POS之间的误差进行后续改进。
创新之处如下:使用基于GRU神经网络的新逆模型来拟合目标函数与决策变量之间的映射关系。通过卡尔曼滤波器预测未来环境的目标函数。此外,提出了一种后续改进策略来进一步细化逆模型的输出。与传统的基于预测的DMOEAs相比,该方法具有更高的求解效率。
本文的其余部分组织如下:第2节介绍DMOPs和GRU神经网络的相关知识。第3节详细阐述了所提出的方法,包括逆模型的建立、未来环境目标函数的预测以及预测结果的后续改进。第4节通过实验验证了算法的有效性。第5节使用所提出的算法解决环境经济电力调度问题。第6节总结全文。
部分摘录
相关定义和GRU神经网络
首先介绍DMOPs的相关定义,然后介绍GRU神经网络。
提出的算法
本节详细介绍了所提出的基于GRU神经网络逆模型预测的动态多目标进化算法(IGM-DMOEA)。
测试函数和比较算法
测试函数为DF1?DF14(Jiang等人,2018年)。比较的算法包括AE-MOEAD(Liang等人,2020年)、MOEAD/KF(Muruganantham等人,2015年)、SGEA(Jiang等人,2017b)、TR-MOEAD(Jiang等人,2017c)、SVR-MOEAD(Cao等人,2019b)、ISVM-MOEAD(Hu等人,2019年)。评估指标
使用逆生成距离(IGD)(Jiang和Yang,2016年)作为评估指标,以评估解的收敛性和多样性。IGD可以衡量算法获得的POF与
环境经济电力调度问题
随着工业化的发展,环境经济电力调度问题(EEDP)(Wang等人,2024年;Wu等人,2024年)受到了越来越多的关注。在环境经济电力调度问题中,需要在满足电力需求约束的同时最小化发电成本和污染排放。然而,发电成本和环境排放的竞争性以及负载需求的时间变化性使得EEDP成为一个DMOP任务。结论
本文提出了一种基于GRU神经网络逆模型预测的动态多目标进化算法。通过使用GRU神经网络建立目标函数与决策变量之间的映射关系来构建逆模型。通过卡尔曼滤波器预测未来环境的目标函数作为逆模型的输入,从而实现未来环境的决策变量预测。此外,还提出了后续改进方法
CRediT作者贡献声明
吴中强:撰写——审稿与编辑、可视化、监督、方法论、调查、形式分析、概念化。刘明阳:撰写——初稿、验证、软件、方法论、调查、形式分析、概念化。
致谢
本工作得到了省级重点实验室绩效补贴项目(22567612H)的支持。