基于神经网络的渐进式多保真度学习用于物理系统预测

《COMPUTER METHODS IN APPLIED MECHANICS AND ENGINEERING》:Progressive multi-fidelity learning with neural networks for physical system predictions

【字体: 大 中 小 】 时间:2026年03月18日 来源:COMPUTER METHODS IN APPLIED MECHANICS AND ENGINEERING 7.3

编辑推荐:

  来自数值实验或物理实验的高精度数据集通常获取成本高昂且耗时,这给需要精确评估的应用(可能跨多个场景且实时进行)带来了重大挑战。即便使用有限的高保真度(High-Fidelity, HF)数据来构建足够精确的代理模型(Surrogate Model)也可能极其困

  
来自数值实验或物理实验的高精度数据集通常获取成本高昂且耗时,这给需要精确评估的应用(可能跨多个场景且实时进行)带来了重大挑战。即便使用有限的高保真度(High-Fidelity, HF)数据来构建足够精确的代理模型(Surrogate Model)也可能极其困难。相反,成本较低的低保真度(Low-Fidelity, LF)数据更容易计算,并涵盖更广泛的场景。通过利用多保真度(Multi-Fidelity, MF)信息,可以提升代理模型的预测能力。然而,在实际情况下,数据可能在类型上不同、源自不同模态(Modality)的来源,并且并非同时可用,这进一步使建模过程复杂化。为应对这些挑战,研究人员引入了一种渐进式多保真度(Progressive Multi-Fidelity)代理模型。该模型可以使用量身定制的编码器(Encoder)顺序整合不同类型的数据。随后,通过神经网络(Neural Network)执行从编码输入到目标感兴趣量(Quantities of Interest)的多保真度回归。输入信息通过两组连接从较低保真度层级流向较高级别:所有编码输入之间的拼接(Concatenation),以及最终输出之间的加法连接(Additive Connection)。这种双连接系统使模型能够利用不同数据集之间的相关性,同时确保每一层级对前一层级进行加法校正而不改变它。该方法防止了在将新输入数据整合到模型时性能下降,并根据可用输入自动调整预测。研究人员在数值基准测试和真实世界空气污染案例研究中展示了该方法的有效性,表明它能够可靠地整合多模态数据、缓解低保真度缺陷并提供准确预测,同时在跨时间和参数变化泛化时保持性能。
**论文解读文章**

**1. 研究背景与问题**

在科学计算领域,高保真度(High-Fidelity, HF)数值模拟或物理实验虽然能提供精确结果,但其高昂的计算成本和时间消耗在多查询场景(如不确定性量化、最优控制、模型校准)中变得难以承受。为应对这一挑战,研究人员通常构建数据驱动的代理模型(Surrogate Model)作为替代,以低成本高效预测物理系统行为。然而,当获取覆盖整个建模域的高保真度数据成本过高、无法充分拟合代理模型时,深度学习的有效性和可信度会下降。与此同时,研究人员常能获得来自粗网格模拟、简化模型或其他异构来源的低保真度(Low-Fidelity, LF)数据,这些数据虽精度较低,但覆盖范围广且易于获取。多保真度(Multi-Fidelity, MF)策略通过整合不同精度的数据,在计算成本与模型精度间取得折衷,近年来受到广泛关注。然而,现有方法大多假设数据集在结构上同质(Homogeneous),即各保真度层级针对同一感兴趣量提供信息,难以处理来自不同模态(Modality)的异构数据。此外,数据集可能并非在代理构建时同时可用,而是分阶段获取,此时用新输入重新训练神经网络可能导致灾难性遗忘(Catastrophic Forgetting)。因此,亟需一种能够顺序整合多模态、异构数据,同时保持先前知识并自动适应输入可用性的多保真度框架。

**2. 研究内容与结论**

为克服上述挑战,研究人员提出了一种渐进式多保真度代理模型(Progressive Multi-Fidelity Surrogate Model)。该模型采用分层架构,每层级通过定制编码器处理不同模态的输入数据,将编码后的潜在变量拼接后由解码器映射至目标输出,并通过加法校正连接前一层的预测结果。这种设计确保知识在整合新数据时得以保留和细化,有效缓解了灾难性遗忘。研究人员在三个案例中验证了方法的有效性:非线性反应扩散系统、纳维-斯托克斯流体流动基准问题,以及真实空气污染监测数据。结果表明,渐进式信息融合使模型能够有效利用低保真度数据,逐级提升预测精度并降低不确定性,即使在仅低层级输入可用时也能保持运行连续性。该研究成果发表于《COMPUTER METHODS IN APPLIED MECHANICS AND ENGINEERING》。

**3. 主要关键技术方法**

研究人员提出的渐进式多保真度代理模型包含以下关键技术:(1)**定制编码器**:针对不同数据类型(如向量、时间序列、全字段图像)采用不同的神经网络架构(前馈网络、长短期记忆网络(LSTM)、卷积神经网络或自编码器)进行特征提取与降维,也可使用本征正交分解(POD)进行坐标变换。(2)**潜在拼接与解码**:将当前层级的潜在变量与所有先前层级的潜在变量拼接,通过解码器映射到目标感兴趣量;解码器常采用POD与LSTM结合的时空解码结构。(3)**加法输出校正**:每层级的输出为前一层级输出与当前解码器输出之和,实现逐步残差修正,并冻结先前层级参数防止遗忘。(4)**不确定性量化**:采用集成方法(Ensemble Method)多次重复训练以计算预测统计矩。所有数据来源:反应扩散和纳维-斯托克斯案例通过求解偏微分方程(PDE)生成数值模拟数据;空气污染案例使用公开的UCI机器学习库中的真实传感器测量数据(来自De Vito等,2008)。

**4. 研究结果**

**4.1 反应扩散系统(Reaction-diffusion PDE problem)**

该案例通过粗网格、带参数偏差和噪声的低保真度模拟数据,重构高保真度螺旋波时空解。结果表明:第0层级仅凭参数(时间t和反应系数μ)预测误差高达81.3%;第1层级引入域边界四个顶点的时间序列后,误差降至29.3%;第2层级整合全空间的低保真度解后,误差进一步降至18.6%。POD系数预测误差从80.9%降至11.8%。模型在训练时间窗内插值表现良好,在超出训练时间范围的预测中,高保真度层级仍能准确追踪系统动力学,而低保真度层级不确定性迅速增大,反映了知识不足。

**4.2 纳维-斯托克斯流体流动(Navier-Stokes fluid flows)**

该案例针对圆柱绕流问题,利用层级化低保真度输入(参数、阻力/升力系数、出口传感器数据、障碍物周围部分域快照)重构速度场。结果显示:第0层级仅基于参数只能预测平均稳态行为,误差为12.3%;第1层级加入阻力和升力系数后误差降至8.73%;第2层级加入出口传感器数据后误差降至6.82%;第3层级加入部分域快照后仅略微改善至6.50%。模型在训练时间窗之外(19s)的预测精度与窗内(9s)相当,证明了时间外推能力。POD系数误差与全场误差相近,表明误差主要来自神经网络预测精度而非截断。

**4.3 空气污染预测(Air pollution forecasting)**

该案例使用低成本多传感器装置提供的温度、湿度、CO和O3浓度数据,估计高精度苯浓度。结果表明:第0层级仅靠温度的预测误差为72%;第1层级加入湿度后降至66%;第2层级加入CO后显著降至29%;第3层级加入O3后降至13%。模型在测试时段(2005/01/16至2005/04/04)内能准确追踪实际苯浓度变化,即使在最困难的时段,真实值始终落在模型不确定性区间内。各个层级逐步细化预测,且当高级别传感器不可用时,低层级仍能提供合理估计,保证运行连续性。

**5. 讨论与结论**

**讨论部分总结:** 不确定性量化结果表明,在信息有限或时间外推时,模型的不确定性相应增大,起到了预警作用。POD截断误差与神经网络预测误差的分离分析显示,在反应扩散案例中,第2层级的截断误差不可忽略,选取适当的模态数需要在表现力和可学习性间平衡;而纳维-斯托克斯案例中截断误差可忽略。在泛化能力方面,空气污染案例展示了纯时间序列预测的强能力,PDE基准则检验了参数内插和时间外推。当保真度层级间相关性一致时,框架能提升跨时间和参数泛化;而对于动力学根本不同的参数区域,泛化收益可能有限。未来工作方向包括:开发不依赖严格层级顺序的融合机制(如注意力机制),同时保持抗遗忘特性;用贝叶斯神经网络或条件神经过程替代集成方法以提高效率;以及将框架推广至逆问题。

**研究结论部分翻译:** 在本工作中,研究人员引入了一种渐进式多保真度学习框架,旨在通过顺序整合异构、多模态数据集来构建物理系统的代理模型。该方法的核心是一种分层架构,通过定制编码器处理每个保真度层级的数据,融合所得潜在表示,并对先前层级的预测应用加法校正。这种设计确保在获取新数据时知识得以保留和细化,有效缓解了灾难性遗忘。研究人员在三个不同的应用中展示了该方法的灵活性和有效性:两个涉及模拟数据(非线性反应扩散系统和纳维-斯托克斯流体流动问题)以及一个真实世界任务(空气污染监测)。结果一致表明,渐进式信息融合使模型能够有效利用低保真度数据中的知识,导致预测精度系统性提高,各层级预测不确定性相应降低。至关重要的是,该框架保持了运行连续性,即使因计算、预算或数据同化约束仅低层级输入可用时也能提供合理估计。集成的不确定性量化进一步增强了模型的可靠性,即使在推演性场景中也是如此。关于泛化能力,空气污染应用展示了在纯时间序列预测上的强大能力,而PDE基准通过时间外推和参数内插评估了时空泛化。对于非线性系统,跨具有定性不同动态的参数区域的外推可能对数据驱动代理模型而言是不适定的。通过利用渐进式结构和具有物理意义的低保真度数据,该框架改进了时间上的泛化以及在保真度层级间相关性保持一致的参数区域内的泛化。相反,对于动力学根本不同的参数区域,泛化增益可能有限,这突出了一个重要的未来研究方向。此外,未来工作将着重于增强框架的灵活性和计算效率。一个主要方向是开发不依赖严格层级输入顺序的多保真度架构。在当前的渐进式公式中,如果中间保真度层级缺失,则无法利用更高级别的输入,这在无法确立明确保真度顺序的多模态应用中可能受限。层级假设也增加了计算成本:保真度层级是顺序添加的,因此每增加一个层级就需要训练一个额外的代理层级。例如,早期融合策略结合注意力机制允许模型动态加权每个可用保真度层级的贡献,从而能够使用任意缺失或可用输入组合进行推理。然而,放松层次结构通常会移除渐进式训练策略所提供的防止灾难性遗忘的结构性保证——该策略中,先前训练的组件被冻结,高保真度信息仅通过加法校正融入。设计保留此类保证的灵活融合机制仍然是一个开放的研究挑战。另一个有前景的方向是提高效率,例如将计算昂贵的集成不确定性量化替换为固有的概率架构,如贝叶斯神经网络或条件神经过程。最后,该范式的通用性和有效性表明其适用于更广泛的科学计算问题,包括逆问题,其中多保真度结构可以自然地嵌入多级推理方案中。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号