使用神经网络替代模型进行物理系统中不确定性量化的直接区间传播方法

《Knowledge-Based Systems》:Direct Interval Propagation Methods using Neural-Network Surrogates for Uncertainty Quantification in Physical Systems Surrogate Model

【字体: 大 中 小 】 时间:2026年03月23日 来源:Knowledge-Based Systems 7.6

编辑推荐:

  区间不确定传播的神经网络代理模型研究:提出直接估计输出区间的方法,对比了基于MLP、IBP/CROWN和区间神经网络的策略,验证了其在高保真模拟中的高效性,并开发数据增强技术解决区间数据稀缺问题。

  
Ghifari Adam Faza | Jolan Wauters | Fabio Cuzzolin | Hans Hallez | David Moens
LMSD,机械工程系,鲁汶大学,Heverlee,3001,比利时

摘要

在工程应用中,不确定性传播是指在不确定输入条件下对系统输出进行系统化的表征。特别是对于区间不确定性,目标是确定给定区间值输入时输出的下限和上限。这种不确定性传播在工程任务中起着关键作用,包括鲁棒设计优化和可靠性分析,其中对不确定性的准确表征对于安全可靠的决策至关重要。然而,标准的区间传播需要解决计算成本较高的优化问题,尤其是在处理复杂的物理系统时。为了解决这一挑战,已经开发了替代模型以实现高效的区间传播。尽管替代模型在计算上更高效,但标准的基于替代模型的方法通常只替换了优化循环中的评估函数,这仍然需要大量的推理调用。因此,我们提出通过将问题重新构建为区间值回归任务来直接估计输出区间。在这项工作中,我们全面研究了使用基于神经网络的替代模型(包括标准的多层感知器(MLPs)和深度算子网络(DeepONet)进行直接区间传播的策略。我们调查并比较了三种不同的方法:(i)通过标准架构进行的简单区间传播,(ii)如区间边界传播(IBP)和CROWN之类的边界传播技术,以及(iii)带有区间权重的区间神经网络(INNs)。我们的结果表明,这些方法比传统的基于优化的区间传播方法更高效,并且能够提供准确的区间估计。我们还讨论了在实践中实施基于区间的传播所面临的限制和开放性挑战。

引言

在工程应用中,不确定性传播是指系统化地描述输入不确定性如何影响系统输出。根据[1]、[2]的研究,我们将通过模型转换已知输入不确定性的不确定性传播与不显式考虑输入不确定性的输出置信度或变异性预测区分开来。传统的传播方法,如蒙特卡洛(MC)和准蒙特卡洛(qMC)模拟[3]、[4],通过重复采样输入空间来提供输出变异性的概率估计。虽然这些方法在概念上很简单,但它们在计算上非常昂贵,尤其是在进行高保真模拟(如有限元或计算流体动力学模型)时,单次运行可能需要高性能计算资源数小时。为了减轻这一负担,越来越多地使用高斯过程[5]、[6]、[7]、多项式混沌展开[8]、[9]和神经网络[10]、[11]等替代模型来近似输入-输出映射,从而实现无需重复昂贵模拟的高效不确定性传播。
本工作专注于区间不确定性传播,其中不确定性由下限和上限表示,而不是完整的分布。当数据稀缺或概率假设不可靠时,区间方法具有优势。例如,在结构设计中,材料属性可能会因制造而变化,但可能只有少数测试可用;将这些属性表示为区间可以提供对不确定性的稳健描述。我们的目标是通过模型传播这些输入区间(例如材料属性)来预测输出区间(例如应力或位移),从而为安全评估、可靠性分析或设计优化提供信息。
第2节中描述的标准区间传播方法需要为每个点解决两个优化问题以确定区间界限。替代模型可以降低评估底层模拟器的成本,但它们仍然作为必须反复查询的仿真器,这可能仍然很昂贵。在需要全场解决方案的复杂问题中,这种低效率会被放大,因为必须将区间传播到每个网格点。直接设计替代模型以输出区间估计可以绕过重复评估并大幅提高效率。
在这项工作中,我们研究了使用基于神经网络的替代模型直接传播输入不确定性到输出空间的策略。具体来说,我们比较了三种不同的方法:(i)通过标准神经网络架构进行的简单区间传播,(ii)使用IBP[13]和CROWN[14]算法的边界传播,以及(iii)带有区间权重的区间神经网络[15]、[16]、[17],并将它们与基于优化的传播基线进行比较。
为了评估它们的性能,我们考虑了两种情况。在第一种情况下,我们假设可以完全访问区间值数据集(即成对的区间输入和输出)。由于此类数据集很少且获取成本高昂,我们还评估了仅在训练时具有点数据的情况下的方法,并在实际区间数据上评估模型。对于每种情况,我们都进行了简单的一维回归测试(作为概念验证),以及一些更具挑战性的全场偏微分方程(PDE)替代建模任务,这特别适合于深度算子网络(DeepONet)[18]等算子学习架构。总结如下:
  • 1.
    我们提供了对神经网络替代模型中直接区间不确定性传播策略的全面评估,并将其与基于优化的传播进行了基准测试。具体来说,我们比较了简单区间传播、边界传播和带有区间权重的区间神经网络,强调了它们各自的优点和局限性。
  • 2.
    我们引入了一种改进的DeepONet架构,能够直接处理区间值变量。这一扩展使基于算子学习的替代模型能够在输入和输出空间之间传播区间不确定性,使其适用于计算力学中常见的全场问题。
  • 3.
    我们提出了一种数据增强策略,允许在只有点数据集可用时训练直接区间传播模型。这种方法缓解了区间值训练数据的稀缺问题,这些数据通常获取成本高昂或不切实际,并扩大了区间不确定性量化(UQ)在现实工程场景中的适用性。
  • 4.
    我们分析了使用增强区间数据集训练算子学习模型时出现的困难,并提出了一种实用的解决方法来缓解这些问题。
  • 本文的其余部分组织如下:第2节介绍了区间传播方法的基础知识并强调了它们的关键挑战。第3节提出了三种直接区间传播方法的公式化。第4节描述了实验设置,其中4.1节关注在理想假设下的实验,4.2节讨论了只有点训练数据可用时的情况。最后,第5节总结了结果和未来的工作。

    节选

    经典区间传播方法

    考虑一个通用的确定性模型M,它接受一个输入参数向量x并产生一个感兴趣的输出量(QoI),表示为y。该模型M可以表示为有限元模型、边界元方法、确定性解析函数或任何其他确定性建模方法。这种映射可以正式表示为:M:x?y. 当输入参数受到区间不确定性影响时,它们由区间表示

    直接区间传播

    直接区间传播(DIP)是指使用机器学习(ML)技术从输入区间直接估计输出区间的术语。与传统的替代方法不同,ML模型作为昂贵的优化程序的仿真器,DIP旨在学习从区间值输入到区间值输出的直接映射:f^:[xL,xU]?[yL,yU]. 这项任务属于带有区间值变量的回归范畴。

    实验

    为了评估和比较所提出的三种方法的性能,我们设计了两种类型的实验设置:一种使用理想的区间值数据,另一种使用点数据(精确数据)。第一个实验假设可以访问真实的区间值输入和输出,这代表了区间学习的理想情况。然而,在实践中,这样的数据集很少见,因为大多数工程计算模拟通常产生点数据。

    讨论

    在这项工作中,我们对基于神经网络的替代模型中的区间不确定性传播进行了全面研究,重点关注多层感知器(MLPs)和深度算子网络(DeepONets)。我们检查了三类方法:(i)简单的区间传播方法,(ii)包括IBP和CROWN在内的边界传播技术,以及(iii)使用区间权重的区间神经网络(INNs)。这些方法在两种训练场景下进行了评估。

    总结和未来工作

    总之,我们证明了直接区间传播提供了一种比标准基于优化的区间传播更有效且计算效率更高的替代方案,特别是对于全场问题(如PDE问题)。通过将区间不确定性传播重新表述为区间值回归任务,所提出的方法消除了在内部优化循环中重复进行替代评估的需要,从而大幅节省了计算成本

    未引用的引用

    缺少引用表11

    CRediT作者贡献声明

    Ghifari Adam Faza:撰写——原始草稿、可视化、软件、方法论、调查、形式分析、概念化。Jolan Wauters:撰写——审阅与编辑、监督。Fabio Cuzzolin:撰写——审阅与编辑、监督、资金获取。Hans Hallez:监督、资金获取。David Moens:撰写——审阅与编辑、监督、资金获取。

    利益冲突声明

    作者声明以下可能被视为潜在利益冲突的财务利益/个人关系:David Moens、Hans Hallez和Fabio Cuzzolin报告称获得了欧盟研究与创新框架计划“未来和新兴技术”提供的财务支持。如果有其他作者,他们声明没有已知的财务利益或个人关系可能影响本文所述的工作。
    相关新闻
    生物通微信公众号
    微信
    新浪微博
    • 搜索
    • 国际
    • 国内
    • 人物
    • 产业
    • 热点
    • 科普

    热点排行

      今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

      版权所有 生物通

      Copyright© eBiotrade.com, All Rights Reserved

      联系信箱:

      粤ICP备09063491号