用于长时间高精度稳定二维大涡模拟(2D LES)的节能型神经网络闭合模型

《Computers & Fluids》:Energy-Conserving Neural Network Closure Model for Long-Time Accurate and Stable 2D LES

【字体: 大 中 小 】 时间:2026年03月09日 来源:Computers & Fluids 3

编辑推荐:

  T. Van Gastelen | W. Edeling | B. Sanderse 数学与信息学中心,科学园123号,阿姆斯特丹,荷兰 **摘要** 基于机器学习的闭合模型在大型涡模拟(LES)中显示出捕捉复杂湍流动力学的潜力,但常常存在不稳定性和物理不一致性问题

  T. Van Gastelen | W. Edeling | B. Sanderse
数学与信息学中心,科学园123号,阿姆斯特丹,荷兰

**摘要**
基于机器学习的闭合模型在大型涡模拟(LES)中显示出捕捉复杂湍流动力学的潜力,但常常存在不稳定性和物理不一致性问题。在这项工作中,我们开发了一种新的斜对称神经架构作为闭合模型,它在保持关键物理守恒定律的同时确保了稳定性。我们的方法利用了一种离散化技术,确保了质量、动量和能量的守恒,并通过面平均滤波器在粗粒度速度场中维持质量守恒。我们将我们的模型与几种传统的数据驱动闭合方法(包括无约束的卷积神经网络)以及基于物理的Smagorinsky模型进行了比较。性能评估在衰减湍流和Kolmogorov流动上进行,考虑了多个粗粒度因子。在这些测试案例中,我们观察到无约束的机器学习模型存在数值不稳定性。相比之下,我们的斜对称模型在所有测试中都保持稳定,尽管代价是增加了耗散。尽管存在这种权衡,我们仍然证明了我们的模型在未见过的场景中优于Smagorinsky模型。这些发现突显了保持结构的机器学习闭合方法在可靠长时间LES中的潜力。

**1. 引言**
不可压缩的Navier-Stokes方程是一组描述流体流动的质量和动量守恒的偏微分方程(PDE)。它们被用于模拟多种流动现象,例如飞机和船舶的设计、天气建模,甚至星系的形成[1],[2]。为了模拟这些现象,我们在计算网格上求解Navier-Stokes方程。这需要离散化PDE中的微分算子。这可以通过有限差分、有限体积和有限元方法等多种技术来实现[3],[4],[5]。在这项工作中,我们采用了在[6]中介绍的保持结构的有限差分方案。该方案的优势在于它不仅满足质量和动量守恒,还保持了全局动能(在没有粘性和边界贡献的情况下)。我们将质量、动量和动能的守恒统称为系统的物理“结构”,并将这种保守的离散化方案称为“保持结构”的或“保持对称性”的[7],[8]。这类方案的优势在于它们无条件稳定,不需要依赖人工扩散,如迎风方案[9]。这使得它们更适合长时间模拟,在这种模拟中正确的物理能量行为至关重要。然而,在考虑高雷诺数流动时会出现问题[10]。对于这样的流动,我们需要非常细的计算网格来解析系统中最小的涡旋。这对计算资源造成了巨大的(通常是无法克服的)负担。

减少计算需求的一种常见方法是大型涡模拟(LES)。在LES中,通过对速度场应用滤波器来对系统进行粗粒化,从而有效地降低了问题的维度。在这项工作中,我们采用了“先离散化,再滤波”的方法[11],[12],[13]。这意味着在离散层面上通过对细网格离散化应用离散滤波器来进行粗粒化。特别是,我们使用了面平均滤波器,其优点是滤波后的速度场仍然满足质量守恒[14]。后者对于保持对流算子的能量守恒特性是必要的。这提供了显著的稳定性优势,见[14]。从粗粒化过程中会产生一个对易子误差。在“先离散化,再滤波”的框架中,这个对易子误差也包括离散化误差。对对易子误差的建模称为闭合建模,相应的模型就是闭合模型。闭合建模是LES研究的主要课题[10]。

最常用的闭合模型是涡粘性(功能)模型[15],[16]。它们的主要任务是从系统中移除(耗散)能量,以解释从已解析尺度到未解析尺度的能量传递。这些模型仅通过假设子网格尺度应力张量与应变率张量之间的比例关系来近似子网格尺度应力[10],[17]。经典的Smagorinsky模型是最著名的例子,但它严格来说是耗散的[10],[16],[17],因此无法表示反向散射,即从未解析尺度到已解析尺度的能量传递。然而,反向散射在许多流动中起着重要作用,包括对天气和气候建模相关的地球物理湍流[18],[19],[20]。为了解决这一限制,结构模型(如尺度相似性闭合)旨在再现子网格尺度应力张量的实际结构,而不是参数化其耗散。虽然这些模型原则上可以捕捉反向散射,但它们缺乏内在的耗散性。因此,它们通常在数值上不稳定,需要稳定化程序,如显式滤波或平均。这种对物理真实性和数值稳健性的需求促使了混合模型的发展,这种模型结合了结构组件和耗散功能组件,以实现前者的准确性和后者的稳定性[21]。动态Smagorinsky模型[22]代表了通过根据已解析尺度信息调整涡粘性系数来增加功能闭合灵活性的相关努力。尽管它可以产生有限的反向散射,但它也可能遭受数值不稳定性[23]。此后提出了几种基于物理的策略来改进反向散射的表示,同时保持稳定性。这些策略包括强制一致的子网格尺度能量预算[24],引入基于滤波器的人工耗散[25],以及施加显式耗散约束[26],[27]。然而,目前用于全球气候模型的最先进的子网格尺度闭合模型仍然排除了反向散射[28],主要是由于对稳健性的担忧。作为回应,我们提出的机器学习闭合模型旨在以类似于混合模型的方式,结合功能和方法的最佳特性:我们保留了子网格应力张量的结构,同时确保模型具有能量耗散性(但不像现有的功能模型那样大)。

将注意力转向这些机器学习算法,神经网络在准确建模闭合项的同时考虑反向散射方面显示出巨大潜力[15],[29],[30],[31],[32],[33],[34],[35],[36]。离线测试通常显示神经网络输出与真实闭合项有很好的一致性。然而,在实际模拟中使用闭合项时,会出现问题和不稳定性[29],[31],[32],[34],[36],[37]。处理这个问题的一种方法是修剪神经网络,使其输出严格耗散,例如通过投影到涡粘性基础上[34],[36],[37]。然而,这会导致闭合模型通常过于耗散[36],我们的结果也将证实这一点。另一种处理不稳定性的方法是在训练中添加人工噪声[38]。然而,在[38]中显示,这只会延迟不稳定性,并不能完全防止它。还提出了随机方法,例如[35]将理想化的LES与神经随机微分方程结合,显示出更高的稳定性。

稳定性问题通常通过引入某种形式的后验学习来应对[11],[12],[30],[31],[39],[40],[41],[42]。通过这种方式,闭合模型是基于再现解轨迹而不是闭合项本身进行训练的。这有助于LES的稳定性。在[31]中显示,通过增加训练期间展开的求解器步骤数量,稳定性和性能得到了提高。[12]表明展开步骤的数量有一个最佳值,这与系统的混沌性质有关。然而,在[36]中显示,有限的训练数据仍然会导致基于神经网络的闭合模型不稳定。在[43]中,提出了一种严格局部的小型神经网络方法来表示子网格尺度应力张量。这里使用了一组精心选择的伽利略不变和无量纲输入,使得得到的闭合模型是对称的、伽利略不变的、旋转和反射不变的、单位不变的。作者表明,即使不进行修剪,仅对单个快照进行训练也足以获得一个能够很好地泛化到他们考虑的测试案例的闭合模型。然而,在[15]中显示,结合傅里叶神经算子的卷积神经网络(CNN)与非不变输入能够胜过这些方法。有关基于机器学习的闭合建模的概述,请参见[42]。

然而,尽管上述参考文献观察到了稳定性的提高,但没有一种讨论的方法在不应用某种形式的后向散射修剪或其他临时措施(例如通过改变输入特征进行试错[34]或数据增强[38])的情况下保证稳定性。这使得带有数据驱动闭合模型的长时间LES不可靠。鉴于我们特别感兴趣的是湍流流动的统计特性,例如在长时间范围内获得的平均能量谱,离散化和闭合模型的组合产生稳定模拟至关重要。因此,本文的主要目的和新颖之处在于推导出一个机器学习的LES闭合模型,其稳定性是设计上保证的,独立于网络权重或训练数据的数量。为此,我们计划在[13]中提出的早期工作的基础上进行扩展。在这项工作中,闭合模型由一个能量守恒的斜对称项和一个耗散的对称负定项表示。这是通过使用一组压缩的子网格尺度变量来实现的,这些变量允许能量从未解析尺度传递到已解析尺度。在这项工作中,我们将这种方法从一维扩展到二维。虽然湍流本质上是一个三维现象,但我们重申本文的主要关注点是稳定性问题,这在二维湍流的背景下已经得到了广泛研究[15],[29],[31],[32],[33],[36],[39]等。

作为第一步,我们排除了压缩的子网格变量,因为它们在多个维度中的确切含义和定义仍然是一个未解决的问题。相反,我们展示了没有子网格变量的斜对称框架已经比现有方法提供了显著的稳定性优势。尽管这意味着我们没有明确考虑反向散射,斜对称项仍然能够在整个域中重新分配能量。这将闭合模型的预测能力扩展到了涡粘性基础之外。在[44]中讨论了关于保持结构神经网络的类似想法,尽管超出了LES的范围。

本文的框架如下:在第2节中,我们首先介绍不可压缩的Navier-Stokes方程、系统中的物理结构以及保持结构的离散化。在第3节中,我们讨论了通过应用离散空间滤波器对离散方程组进行粗粒化,推导出精确的闭合项,并讨论了闭合建模方法。在第4节中,我们介绍了基于机器学习的闭合模型:使用CNN来建模闭合项,使用CNN来建模子网格尺度应力张量,最后是我们的斜对称神经网络架构。关于这种架构的扩展动机可以在D中找到。接下来,我们在第5节讨论了测试案例和结果,涉及闭合模型的性能和稳定性。我们在第6节总结了我们的工作。

**2. 基础知识**
**2.1. Navier-Stokes方程**
在保守形式下,不可压缩的Navier-Stokes方程如下:
(1a) ?u/?t + ?·(uu^T) = ??p + ν?2u + f,
(1b) ?·u = 0.
这个PDE描述了d维空间x∈Rd和时间t中的流体速度场u(x,t)的演化。这里我们将自己限制在二维情况下,即u(x,t)=[u(x,t)v(x,t)]^T。作用在速度场上的不同力包括对流、压力p(x, t)的梯度以及摩擦(对于非零粘度ν≥0),它们在方程中从左到右出现。此外,还有f(x,t)∈R2,代表体力,如重力。在本文中,我们不讨论边界条件,因为我们考虑的是一个周期性空间域Ω。

**2.2. 物理结构**
这组方程代表了一组基本的物理定律,即:质量守恒P=∫ΩudΩ,以及(动能)能量E:=1/2∫Ωu·udΩ(对于ν=0)。这些统称为系统的物理结构。以方程形式表示,这些定律为:
(2) ?·u = 0,
(3) dP/dt = ∫Ω?u/?tdΩ = ∫Ωf(x,t)dΩ,
(4) dE/dt = ∫Ωu·?u/?tdΩ = ?∫Ων∥?u∥2/2dΩ + ∫Ωu·f(x,t)dΩ,
这些守恒定律的推导在A中给出。从这些定律中我们可以看出,在没有外力的情况下,动量和能量(对于零耗散)是守恒的。

**2.3. 离散化**
为了模拟实际用例,我们需要在计算网格上离散化方程组(1a)。这里我们采用了在交错网格上使用的保持结构的二阶精确有限差分离散化[3],[6]。选择这种离散化是因为它满足对流项的能量守恒特性。所采用的离散化方法总共包含Nx×Ny=N个单元格Ωij,其中i=1,…Nx和i=1,…Ny,适用于二维流动情况。半离散方程组表示为:
(5a) Ωhduhdt + Ch(uh)uh = ?Ghph + νDuh + Ωhfh,
(5b) Mhuh = 0,
其中uh∈R2N包含单元格面上的u和v的近似值,ph∈R?包含单元格中心的p的近似值。图1展示了所采用的均匀交错网格的示意图。每个方向的网格间距分别用hx和hy表示。此外,Ωh还包含了单元格的体积。公式(1a)中的算子现在用矩阵表示。Ch(uh)∈R2N×2N表示对流算子,Gh∈R2N×N表示梯度算子,Dh∈R2N×2N表示扩散算子,Mh∈R?×2N表示散度算子,fh∈R2N表示单元格面上的驱动力。

2.4. 离散化的结构
这种离散化在离散意义上保留了物理结构。离散化后,总动量和能量可以表示为:
(6) Ph = [1h?h?h1h]T︸=:1hΩhuh,
(7) Eh = 1/2uhTΩhuh,
其中0h和1h∈R?分别是全零向量和全一向量。这些量的变化由下式给出:
(8) dPhdt = 1/2duhdt = 1/2Ωhfh,
(9) dEhdt = uhTduhdt = ?ν∥Qhuh∥2/2 + uhTΩhfh,
这里我们利用了扩散算子Dh可以分解为Cholesky矩阵的事实[45]。由于离散能量仅减少,在没有驱动力的情况下,这种离散化提供了稳定性。由于离散算子的斜对称性,对流贡献消失,但这要求离散解uh满足散度为零,即Mhuh=0h。更详细的讨论见B节。

2.5. 压力投影
散度为零也可以写成偏微分方程离散化(5)右侧(RHS)在无散度基上的投影。我们引入这种离散系统的表述是因为它更适合闭合建模[14],因为它将(5a)和(5b)合并为一个方程。投影表示如下:
(10) Ωhduhdt = Phmh(uh),
其中mh(uh)∈R2N包含(5a)右侧的算子,即
(11) mh(uh) = ?Ch(uh)uh + νDhuh + Ωhfh,
而Ph∈R2N×2N将RHS投影到无散度基上。Ph定义为:
(12) Ph := (I ? Gh(MhΩh?1Gh)?1MhΩh?1)。
该算子的推导见C节。

3. 闭合建模
3.1. 过滤
如前所述,对于实际应用场景,直接进行数值模拟(DNS)通常是不可行的。因此,我们旨在求解一组粗粒化的方程。粗粒化是通过对方程场应用滤波器来实现的。在我们的案例中,我们采用“先离散化,再滤波”的方法[11],[12]。这意味着我们首先在一个足够细的网格上离散化速度场,以便解析流动的相关尺度。接下来,我们应用一个线性滤波器W2N×2N来获得滤波后的速度场:
(13) u?H = Wuh,
其中滤波后的速度u?H∈R2N?位于由N?=N?x×N?y个网格单元格组成的粗网格上。在我们的案例中,我们使用了面平均滤波器,如[14]中所建议的。与体积平均滤波器相比,这种滤波器的优点是滤波后的速度在粗网格上满足散度为零。这确保了粗网格对流算子的斜对称性,有助于粗粒化方程系统的稳定性[14]。

3.2. 方程组
为了模拟滤波后速度场的行为,我们采用以下假设:
(14) ΩHdu?Hdt ≈ PHmH(u?H) + c?(u?H,θ),
其中下标H表示第2.3节讨论的粗网格算子,c?(u?H,θ)是一个基于神经网络的闭合模型,参数为θ。由于使用了面平均滤波器,因此可以在无散度基上进行投影。需要闭合模型是因为粗粒化无法解析流动的所有相关尺度。此外,粗网格会导致离散化误差。这两者都包含在相对于细网格离散化的对易子误差中。u?H的真实演化由下式给出:
(15) ΩHdu?Hdt = PHmH(u?H) + (WPhmh(u?H) ? PHmH(u?H))︸=: c(uh),
其中对易子误差ch(uh)包含了这两种误差来源。由于真实的滤波后速度场在粗网格上满足散度为零,我们根据[14]的建议在投影中包含闭合模型。这改变了假设(14)为:
(16) ΩHdu?Hdt ≈ PH(mH(u?H) + c?(u?H,θ))。
闭合模型的能量贡献计算为:
(17) energy_contribution = u?HTc?(u?H,θ),
其中解析的能量由下式给出:
(18) E?H = 1/2u?HTΩHu?H。
此外,如果闭合模型满足(19) 1Hc?(uH,θ)=[00],则总动量P?H=1HΩHu?H得到保守。

3.3. 闭合项的能量分析
基于训练数据,我们分析了不同粗粒化水平下真实闭合项的能量贡献(17)。在这种情况下,参考模拟是在2048×2048网格上进行的。详细的模拟条件见第5.1节。图3展示了不同粗粒化水平下的能量贡献和解析的能量轨迹。我们观察到,对于32×32的分辨率,闭合项产生了大量的反向散射,因为能量贡献主要是正的。此外,在解析的能量轨迹中,我们观察到衰减不够平滑,与更高分辨率相比。这意味着耗散模型在这种分辨率下可能表现不佳。对于64×64的分辨率,我们发现能量贡献主要是耗散的;而对于128×128的分辨率,这种测试情况下能量贡献完全是耗散的。这激发了我们使用耗散闭合模型的兴趣,例如我们将在第4.3节介绍的斜对称神经网络架构。

3.4. 模型参数的拟合
为了找到最优参数θ,可以采用不同的方法。最直接的方法是尽可能匹配真实的对易子误差。然而,这通常会导致不准确的模拟甚至不稳定性[11],[12],[29],[30],[31],[37],[38]。因此,我们通过优化参数来准确再现滤波后的直接数值模拟(FDNS)解,也称为“循环中的求解器”。相应的损失函数为:
(20) Ln(X;θ) = ∑uh∈X ∑i=1n∥S?θi(Wuh) ? WSi(Δt?/Δt)(uh)∥2/2,
其中X是一个由uh样本组成的快照矩阵,代表训练数据集。符号S?θi(Wuh)表示应用显式时间积分方案i步后预测的粗化速度场,每步的步长为Δt?,从初始条件Wuh开始,并包含闭合模型。相应的DNS解表示为Si(Δt?/Δt)(uh),使用更小的步长Δt并初始化为uh。比率Δt?/Δt的出现是因为粗网格允许更大的时间步长[46]。注意,S?θ是在粗网格上工作的求解器,并包含闭合模型,而S是在细网格上工作的DNS求解器。将使用Adam优化算法[47]来最小化损失。关于训练过程的更多细节见第5.1节。

4. 方法论
如第3节所述,闭合建模中的一个主要挑战是推导c?(u?H,θ)的表达式。在本节中,我们提出了一个斜对称框架,得到了一个新的c?(u?H,θ)表达式,从而提供了稳定性。在第4.1节和4.2节中,我们分别介绍了Smagorinsky模型和CNN。这些不仅用于比较我们的框架,也是必要的预备知识。在第4.3节中推导了新的框架。

4.1. Smagorinsky模型
我们从Smagorinsky模型开始,这是一个涡粘性模型。如前所述,涡粘性模型的主要假设是这个次网格尺度应力张量与应变率张量S?ij=1/2(?u?i?xj + ?u?j?xi)成正比,其中u?∈R2是解析速度场的连续表示。涡粘性类型的闭合模型具有以下形式:
(21) c?(u?) = ?·(νtS?),
其中νt≥0是涡粘性系数。Smagorinsky模型假设νt具有以下形式:
(22) νt = (CsΔ)2/2tr(S?2),
其中Δ通常选择为网格间距,即Δ=hxhy。该模型只有一个可调参数Cs。实际上,我们使用了Smagorinsky模型的离散化版本。这产生了一个离散闭合模型:
(23) c?SMAG(u?H,Cs) = (CsΔ)2/2tr(S?H2)?H·S?H,
其中下标H表示导数算子的离散化。我们使用中心差分方案来计算这些导数。Smagorinsky模型的全局能量贡献(17)始终是负的,即它是严格耗散的。此外,Smagorinsky模型满足动量守恒约束(19)。

4.2. 神经网络闭合
一种直接的机器学习方法是使用CNN作为闭合模型,即:
(24) c?CNN(u?H,θ) = CNN(u?H,θ)。
这些模型非常适合笛卡尔网格[14],[31],[33],例如我们在这里使用的网格。此外,它们是平移等变的。这里使用CNN将滤波后的解u?H∈R2N?映射到c?∈R2N?,通过一系列卷积和非线性激活函数σn来实现。这样的单层网络表示为:
(25) zn+1 = σn(Anzn+bn),
其中每个向量zn包含一组场,通常在CNN文献中称为“通道”。矩阵A包含sn+1×sn个子矩阵,编码卷积模板,其中sn是zn中表示的通道数。通过选择sn+1>sn,数据有效地提升到了更高维的空间。向量bn包含sn+1个偏置通道,每个通道由一个参数确定。例如,单个通道z的卷积A(由权重αjk参数化)和偏置向量b(由偏置β参数化)表示为:
(26) (Az+b)ij = ∑k,l=?rr(αklzi+k,j+l)+β
双索引表示法用于指示2D网格上的位置(每个空间维度一个索引),见图1。此外,r表示两个空间方向上的卷积半径。在域的边缘,使用填充z来保持通道大小不变。在我们的案例中,我们使用圆形填充来表示周期性边界条件(BCs)。

4.3. 偏斜对称框架
对于我们的新型闭合建模方法,我们在[13]中提出的早期工作基础上进行了改进。在这项工作中,引入了一个斜对称神经网络架构,并将其应用于一维方程。此外,还在粗粒化系统中包含了次网格尺度能量的粗网格表示。然而,如第1节所述,目前尚不清楚如何将这种表示扩展到多个维度。另一方面,将所提出的神经网络架构应用于二维问题时,不需要对架构进行任何修改。在这个斜对称框架中,闭合模型表示为斜对称和负定项的和:
(28) c?SKEW(u?H,θ) = (K?KT)u?H ? QTQu?H,
其中K(u?H,θ),Q(u?H,θ)∈R2N?×R2N?是由CNN输出构建的。这个闭合模型中的不同项通过速度向量的矩阵乘法表示。模型的灵活性在于这些矩阵通过神经网络输出非线性地依赖于解向量。闭合模型总是耗散的:
(29) u?HTc?SKEW(u?H,θ) = u?HT(K?KT)u?H ? u?HTQTQu?H = ?∥Qu?H∥2/2 ≤ 0,
因为斜对称贡献相互抵消。这意味着闭合模型是稳定的,与之前介绍的机器学习方法不同。需要注意的是,稳定性仅保证到时间离散化的误差。分析稳定性时需要知道系统的雅可比矩阵。由于神经网络的非线性[49],这使得正式分析变得相当繁琐。因此,我们认为这超出了本研究的范围。为了确保稳定性,忽略时间离散化,闭合模型不允许后向散射,但通过斜对称项增加了建模的自由度,超越了涡粘性基础。为了理解这一点,我们注意到任何实数方阵A都可以唯一地分解为一个对称矩阵和一个斜对称矩阵的和[50],[51]:@normalCr(30)A=S+R,S=1/2(A+AT),R=1/2(A?AT)。通过将对称部分S限制为负定的,我们将自己限制在稳定线性算子的空间内,因为对于任何非零的x,@normalCr(31)xTSx<0?xTAx=xTSx<0,意味着能量在所有方向上都是严格递减的。对对称算子S进行对角化会产生实数、严格负的特征值和一个正交的特征基。因此,系统的能量沿着这些正交模式独立衰减。因此,这个负定项可以被解释为一个捕获耗散效应的广义涡粘性模型。然而,纯负定公式无法表示保守或旋转行为,因为这些对应于能量守恒的动力学,其中xTAx=0。斜对称分量R解决了这一限制:它代表了保守能量的相互作用,例如旋转、耦合或流体动力学中的平流项[52]。通过结合这两个分量,我们得到了表示@normalCr(32)A=(K?KT)?QTQ,它涵盖了所有稳定线性算子的空间,同时仍然具有足够的表达能力来捕获耗散和保守效应。这是提出神经网络架构分解的动机。这种分解并不是唯一的,因为如果K被任意对称矩阵扰动,A保持不变。在我们的测试中,我们观察到斜对称项的效果远大于负定项的效果,见图8。这进一步证明了其存在的必要性。从真实闭合项的计算能量贡献来看(见图3),我们认为对于合理的粗粒化因子,后向散射是有限的。这意味着这样的受限闭合模型应该能够捕捉真实闭合项的能量行为。在接下来的章节中,我们将解释如何构建这种斜对称架构中的算子。

下载:下载高分辨率图像(999KB)
下载:下载全尺寸图像
图4. (左)随着时间变化的每个粗粒化因子的误差,用于衰减湍流测试案例。(右)每个粗粒化因子的解析能量轨迹。有关方法的概述,请参见表1。黑色垂直线表示t=5。这条线右侧的所有内容都对应于时间外推。
下载:下载高分辨率图像(2MB)
下载:下载全尺寸图像
图5. 在64×64网格上,每个时间点的涡度场。模拟对应于衰减湍流测试案例。空白框表示不稳定的模拟。
下载:下载高分辨率图像(731KB)
下载:下载全尺寸图像
图6. (左)我们看到DIV和CNN发生数值振荡的两个快照。这些振荡最终导致不稳定性。(右)这些快照时的能量谱。数值振荡导致高波数的能量明显增加。
下载:下载高分辨率图像(148KB)
下载:下载全尺寸图像
图7. 在t=10时衰减湍流模拟结束时的能量谱。此时CNN和DIV都变得不稳定,因此从图中省略了它们。
下载:下载高分辨率图像(304KB)
下载:下载全尺寸图像
图8. (左)SKEW架构中每个项的能量贡献以及粗粒化的贡献。(右)每个项的幅度。黑色垂直线表示t=5。这条线右侧的所有内容都对应于时间外推。

4.3.1. 斜对称项
如[13]中所述,K的构造如下:
(33)K(uˉH,θ)=B1Tk(uˉH,θ)B2,
其中k(uˉH,θ)=diag(k1,k2)∈R2Nˉ×2Nˉ是一个对角线上包含神经网络输出k1,k2∈R2Nˉ的矩阵。这里我们选择将分解中的每个矩阵表示为方阵。然而,只要K是方阵,人们可以自由选择矩阵的维度。此外,矩阵的稀疏性也可以变化。在我们的案例中,底层的神经网络架构是CNN,因为我们使用了一个均匀网格。这意味着使用CNN将uˉH映射到输出通道k1和k2。矩阵B是从两个输入通道映射到两个输出通道的线性卷积层,类似于第4.2节中介绍的卷积层。因此,B矩阵包含四个编码卷积的子矩阵。除了稀疏性和计算效率之外,D中还概述了这种特定K分解的明确动机。主要思想是,对于特定的B矩阵选择,所提出的分解类似于一个简单的平流算子,其中矩阵k提供了足够的自由度来自由遍历能量守恒的解空间,通过局部控制每个方向上的平流。另一种选择是使用更多的输出通道,即k1,…,kn,并构建一个更大的矩阵k=diag(k1,…,kn),其中n将是一个超参数。这将要求B矩阵是非方阵的,并包含更多编码不同卷积的子矩阵。这样的扩展架构可能会使训练过程收敛得更快,并具有更强的表达能力。此外,也可以考虑一个较小的k矩阵,即k∈Rc×c,其中c<< /><κmax}cκveiκ·x]),
其中系数cκu,cκv∈c的实部和复部从区间(?1,1)中均匀采样。最后,系数被缩放,以便在t=0时的归一化动能@normalcr1/2|ω|∫ω∥u(x,0)∥22dω等于1。增加这个初始能量放大了流动的特征速度尺度,从而增加了有效雷诺数reeff=ul/ν,其中u是代表性的速度大小,l是最大涡旋的特征长度尺度。更高的reeff导致更广泛的比例尺分离和更强的非线性相互作用,这使得闭合建模更具挑战性。通过初步的数值测试发现,选择值1.2可以在保持数值稳定性的同时产生足够丰富的湍流动力学,并允许闭合模型之间进行有意义的比较。在模拟开始之前,采样的初始条件被投影到一个无散度的基础上。
训练数据集包括从这种初始条件开始的五个模拟。对于dns,我们使用一个分辨率为2048×2048的计算网格和时间步长δt=2×10?4,如[15]中所述。对于dns和基于闭合模型的模拟的时间积分,我们使用四阶runge-kutta积分方案[54],[55]。出于训练目的,我们每10个时间步长保存一个快照,直到t=5。关于粗粒化,我们考虑了三种不同的分辨率,即32×32、64×64和128×128,以及时间步长δt′=10δt,因为较粗的网格允许更大的时间步长[46],[56]。对于每个粗粒化因子,机器学习模型被训练以再现真实解,即最小化(20),对于n=5个时间步长。为了优化闭合模型参数,我们使用adam优化算法[47],学习率为10?3,第一和第二动量估计的衰减率分别为0.9和0.999,小批量大小为20。我们总共优化了500个周期。这些超参数设置导致了平滑的收敛,见e。我们认为进一步的超参数研究超出了本研究的范围,因为这项研究专注于神经网络架构。我们使用julia编程语言[57]和flux.jl包[58],[59]实现了闭合模型。对于每个基于cnn的闭合,我们使用四个输入通道,即uˉh和mh(uˉh),每个包含两个通道。cnn的中间层每个包含32个通道,总共有四个中间层(与[14]中的数量相同)。每层的卷积半径为r=2。参数的数量主要由隐藏层和通道的数量决定,这对于每个基于神经网络的闭合模型都是相同的。这样,比较尽可能公平地进行。在隐藏层之间,我们使用relu激活函数,在最后一层使用线性激活函数[48]。纯基于cnn的闭合简单地有两个输出通道来模拟每个空间方向的闭合项。对于div,我们有三个输出通道,两个用于应力张量的对角元素,一个用于非对角元素,由于真实应力张量的对称性[10],[17]。对于skew,底层的cnn有四个输出通道,对应于k1, k2, q1, q2。b矩阵中的卷积选择卷积半径r=2。在荷兰国家超级计算机snellius的a100 gpu上训练单个神经网络大约需要两个小时[60]。关于smagorinsky常数的优化,我们选择了一个最小化t=2时训练数据的能量谱l2范数的常数值。能量谱是通过计算速度场的快速傅里叶变换(fft)确定的。然后将波数分成二进制区间,并将属于该区间的能量相加以产生谱。这个过程在[14],[61]中有描述。考虑的smagorinsky常数值范围是0.0到0.30,间隔为0.01。在32×32、64×64和128×128的分辨率下,获得的cs的最优值分别为0.23、0.22和0.18。这些值通常用于2d湍流,大约在0.18的范围内[62],[63]。 其中系数cκu,cκv∈c的实部和复部从区间(?1,1)中均匀采样。最后,系数被缩放,以便在t=0时的归一化动能@normalCr1/2|Ω|∫Ω∥u(x,0)∥22dΩ等于1。增加这个初始能量放大了流动的特征速度尺度,从而增加了有效雷诺数Reeff=UL/ν,其中U是代表性的速度大小,L是最大涡旋的特征长度尺度。更高的Reeff导致更广泛的比例尺分离和更强的非线性相互作用,这使得闭合建模更具挑战性。通过初步的数值测试发现,选择值1.2可以在保持数值稳定性的同时产生足够丰富的湍流动力学,并允许闭合模型之间进行有意义的比较。在模拟开始之前,采样的初始条件被投影到一个无散度的基础上。 训练数据集包括从这种初始条件开始的五个模拟。对于dns,我们使用一个分辨率为2048×2048的计算网格和时间步长δt=2×10?4,如[15]中所述。对于DNS和基于闭合模型的模拟的时间积分,我们使用四阶Runge-Kutta积分方案[54],[55]。出于训练目的,我们每10个时间步长保存一个快照,直到t=5。关于粗粒化,我们考虑了三种不同的分辨率,即32×32、64×64和128×128,以及时间步长Δt′=10Δt,因为较粗的网格允许更大的时间步长[46],[56]。对于每个粗粒化因子,机器学习模型被训练以再现真实解,即最小化(20),对于n=5个时间步长。为了优化闭合模型参数,我们使用ADAM优化算法[47],学习率为10?3,第一和第二动量估计的衰减率分别为0.9和0.999,小批量大小为20。我们总共优化了500个周期。这些超参数设置导致了平滑的收敛,见E。我们认为进一步的超参数研究超出了本研究的范围,因为这项研究专注于神经网络架构。我们使用Julia编程语言[57]和Flux.jl包[58],[59]实现了闭合模型。对于每个基于CNN的闭合,我们使用四个输入通道,即uˉH和mH(uˉH),每个包含两个通道。CNN的中间层每个包含32个通道,总共有四个中间层(与[14]中的数量相同)。每层的卷积半径为r=2。参数的数量主要由隐藏层和通道的数量决定,这对于每个基于神经网络的闭合模型都是相同的。这样,比较尽可能公平地进行。在隐藏层之间,我们使用ReLU激活函数,在最后一层使用线性激活函数[48]。纯基于CNN的闭合简单地有两个输出通道来模拟每个空间方向的闭合项。对于DIV,我们有三个输出通道,两个用于应力张量的对角元素,一个用于非对角元素,由于真实应力张量的对称性[10],[17]。对于SKEW,底层的CNN有四个输出通道,对应于k1, k2, q1, q2。b矩阵中的卷积选择卷积半径r=2。在荷兰国家超级计算机Snellius的A100 gpu上训练单个神经网络大约需要两个小时[60]。关于smagorinsky常数的优化,我们选择了一个最小化t=>其中系数cκu,cκv∈c的实部和复部从区间(?1,1)中均匀采样。最后,系数被缩放,以便在t=0时的归一化动能@normalcr1/2|ω|∫ω∥u(x,0)∥22dω等于1。增加这个初始能量放大了流动的特征速度尺度,从而增加了有效雷诺数reeff=ul/ν,其中u是代表性的速度大小,l是最大涡旋的特征长度尺度。更高的reeff导致更广泛的比例尺分离和更强的非线性相互作用,这使得闭合建模更具挑战性。通过初步的数值测试发现,选择值1.2可以在保持数值稳定性的同时产生足够丰富的湍流动力学,并允许闭合模型之间进行有意义的比较。在模拟开始之前,采样的初始条件被投影到一个无散度的基础上。
训练数据集包括从这种初始条件开始的五个模拟。对于dns,我们使用一个分辨率为2048×2048的计算网格和时间步长δt=2×10?4,如[15]中所述。对于dns和基于闭合模型的模拟的时间积分,我们使用四阶runge-kutta积分方案[54],[55]。出于训练目的,我们每10个时间步长保存一个快照,直到t=5。关于粗粒化,我们考虑了三种不同的分辨率,即32×32、64×64和128×128,以及时间步长δt′=10δt,因为较粗的网格允许更大的时间步长[46],[56]。对于每个粗粒化因子,机器学习模型被训练以再现真实解,即最小化(20),对于n=5个时间步长。为了优化闭合模型参数,我们使用adam优化算法[47],学习率为10?3,第一和第二动量估计的衰减率分别为0.9和0.999,小批量大小为20。我们总共优化了500个周期。这些超参数设置导致了平滑的收敛,见e。我们认为进一步的超参数研究超出了本研究的范围,因为这项研究专注于神经网络架构。我们使用julia编程语言[57]和flux.jl包[58],[59]实现了闭合模型。对于每个基于cnn的闭合,我们使用四个输入通道,即uˉh和mh(uˉh),每个包含两个通道。cnn的中间层每个包含32个通道,总共有四个中间层(与[14]中的数量相同)。每层的卷积半径为r=2。参数的数量主要由隐藏层和通道的数量决定,这对于每个基于神经网络的闭合模型都是相同的。这样,比较尽可能公平地进行。在隐藏层之间,我们使用relu激活函数,在最后一层使用线性激活函数[48]。纯基于cnn的闭合简单地有两个输出通道来模拟每个空间方向的闭合项。对于div,我们有三个输出通道,两个用于应力张量的对角元素,一个用于非对角元素,由于真实应力张量的对称性[10],[17]。对于skew,底层的cnn有四个输出通道,对应于k1, k2, q1, q2。b矩阵中的卷积选择卷积半径r=2。在荷兰国家超级计算机snellius的a100 gpu上训练单个神经网络大约需要两个小时[60]。关于smagorinsky常数的优化,我们选择了一个最小化t=2时训练数据的能量谱l2范数的常数值。能量谱是通过计算速度场的快速傅里叶变换(fft)确定的。然后将波数分成二进制区间,并将属于该区间的能量相加以产生谱。这个过程在[14],[61]中有描述。考虑的smagorinsky常数值范围是0.0到0.30,间隔为0.01。在32×32、64×64和128×128的分辨率下,获得的cs的最优值分别为0.23、0.22和0.18。这些值通常用于2d湍流,大约在0.18的范围内[62],[63]。>衰减湍流

我们考虑的第一个测试案例是衰减湍流,即没有外部强迫。这里我们从一个随机生成的初始条件开始进行单次模拟,该初始条件是根据(36)生成的。模拟进行到最终时间t=10。请注意,这比训练数据中的时间长度长一倍。因此,模拟的后半部分对应于时间上的外推。对于每个粗化因子,解析的能量和误差轨迹在图4中展示。误差定义为(37):
error := ∥u?H ? u?Hmodel∥2 / ∥u?H∥2,
其中u?H是FDNS的结果,u?Hmodel是模型预测。我们观察到,最初无约束的机器学习方法(CNN和DIV)在64×64和128×128的分辨率下产生了最佳的能量轨迹,而SKEW的耗散性太大,Smagorinsky模型的耗散性更大。然而,随着模拟的进行,无约束的机器学习方法往往会突然变得不稳定。对于32×32的分辨率,这些方法倾向于很快发散,而更细的分辨率可以在更长的时间内保持稳定。尽管如此,这似乎只是不可避免的结果的推迟,因为无约束的机器学习在更细的分辨率上仍然容易发生突然且不可预测的灾难性失败。我们可以希望有一次稳定的模拟,正如128×128分辨率的CNN所示。这次特定的模拟在整个考虑的时间段内保持稳定,产生了良好的能量轨迹,并且与NC和SMAG相比误差有所改善。然而,在图5中展示的涡度场中,我们已经注意到CNN在模拟结束时出现了数值噪声的累积,这可能会导致未来的不稳定性。实际上,在第5.3节中我们展示了这确实是预期的结果。因此,这里考虑的纯数据驱动的、无视物理规律的机器学习方法不适合作为长期预测的可行闭合建模方法,无法超越现有的基于物理的闭合模型。

另一方面,对于我们的受限方法SKEW,我们发现它在误差轨迹方面始终优于NC,除了32×32的分辨率。然而,如前所述,它的耗散性太大。这可能是因为它被限制不产生能量。这意味着能量仅通过斜对称项重新分配,并通过负定项耗散。特别是在大的粗化因子下,这变得更加成问题,见32×32的分辨率。这可能是由于后向散射更为普遍,见图3,因为更多的信息被丢弃到了子网格尺度。在64×64的分辨率下,SKEW的耗散性也太大,然而,它确实产生了相对于其他闭合方法的改进的误差轨迹,即使在外推区域t∈(5, 10]内也是如此。然而,在模拟接近结束时,误差变得比NC和SMAG更大。在本节的后面部分,我们将通过能量谱来更统计地比较速度场,见图6和图7。

在A100 GPU上进行DNS模拟大约需要45分钟,而基于闭合模型的模拟则需要3到4分钟(训练时间大约为两小时),所有闭合模型均如此,见表2。这相当于相对于DNS的计算速度提高了10倍以上。对于这些粗分辨率,评估时间似乎主要由计算开销决定,因为我们没有观察到不同闭合模型和分辨率之间的计算时间有太大差异。所有基于闭合模型的模拟都需要比NC更多的计算时间,其中SKEW始终花费最多时间。这可能是由于B矩阵中额外的卷积操作所致。

表2. 衰减湍流测试案例中不同闭合模型的计算时间(以秒为单位)。有关方法的概述,请参见表1。

接下来,我们观察由闭合模型在不同时间点产生的标量涡度场ω=(?×u)3。对于64×64的分辨率,这些在图5中展示。其他分辨率在F中展示。在本文的剩余部分,我们将坚持使用64×64的分辨率,因为我们认为这是32×32的较差结果和128×128的几乎完美再现之间的一个良好折中。这与[15]中应用的粗化因子一致。关于涡度场,我们发现最初所有三种机器学习闭合方法都与FDNS结果吻合得很好。然而,随着模拟的进行,我们观察到无约束机器学习闭合方法出现了数值噪声的累积。这最终导致模拟不稳定。对于SKEW来说,这种情况并没有发生。即使在偏离FDNS之后,它仍然产生出在定性上似乎与FDNS匹配的平滑结果。通过增加训练数据或向训练数据中添加噪声[36]、[38],可以可能缓解无约束机器学习方法的不稳定性。然而,我们认为,在相同的训练数据量下,使用SKEW具有明显的稳定性优势。

为了评估产生的轨迹的物理一致性,我们比较了模拟过程中不同点的能量谱。这样做是因为,如图4所示的逐点误差在解偏离FDNS[15]后不再提供相关信息。谱在图6中展示。这里我们观察到SMAG在大尺度上耗散性太大,但很好地再现了从2D湍流预期的κ?3能量谱衰减[64]。关于SKEW,我们发现它与FDNS的整体吻合度更好,无论是高波数还是低波数。关于无约束机器学习方法,我们观察到在大波数处能量明显累积。从展示的涡度场中,我们可以清楚地看到这是由数值噪声引起的。

在图4中,我们观察到SKEW在模拟结束时产生的误差比NC和SMAG更大。为了评估SKEW产生的模拟是否仍然具有物理一致性,我们考虑了这一点的能量谱。这在图7中展示。这里我们观察到,尽管误差(见(37)更大,但SKEW产生的能量谱与FDNS谱更为接近,与SMAG和NC相比。它也产生了预期的κ?3斜率。SMAG也达到了这一点,但在所有波数上都低估了能量,而NC在大波数处出现了能量累积。后者可能是由于网格的粗糙度导致的数值噪声。过了一段时间后,SKEW偏离了FDNS。鉴于二维Navier-Stokes方程在湍流状态下的初始条件敏感性[65],这种行为是预期的。尽管如此,SKEW模型即使在时间上外推时,也能继续产生物理上一致的统计数据和谱。

最后,我们考虑了SKEW架构中斜对称项和负定项的贡献。我们考虑了能量贡献和这些项的幅度。这在图8中展示。首先观察到斜对称项的能量贡献确实为零,这是应该的。此外,我们发现负定项的耗散性略低于粗离散化。轨迹的形状也不同;来自负定项的耗散在t=1左右达到峰值,而来自粗离散化的耗散随时间平滑减少。负定项的耗散轨迹的形状可能是由于流动从一个物理状态过渡到另一个物理状态所致。更具体地说,初始条件仅在低波数处包含能量。这意味着流动在其特征斜率形成之前经历了一个过渡期,见图6。接下来,我们观察不同项的幅度。这里我们发现斜对称项的幅度大于负定项。这意味着它对模拟有更大的影响。这支持在闭合模型中使用斜对称项。

为了总结这一节,我们还检查了从SKEW架构中省略斜对称项或负定项的效果。为此,我们进行了衰减湍流模拟,将这两个项中的一个设置为零。得到的解析能量轨迹和能量谱显示在图9中。

下载:下载高分辨率图像(349KB)
下载:下载全尺寸图像

图9. (左)完整SKEW闭合模型、SKEW-K(仅斜对称项)和SKEW-Q(仅耗散项)的解析能量轨迹。黑色垂直线表示t=5。这条线右侧的所有内容对应于时间上的外推。(右)衰减湍流模拟在t=5时的能量谱。

我们观察到,省略负定项导致耗散行为显著减少,这是预期的。得到的能量轨迹几乎与NC的轨迹相同。相应的能量谱在低波数处与FDNS结果吻合得很好;然而,在高波数处,出现了明显的能量累积,类似于NC谱,表明存在数值噪声。相反,省略斜对称项产生了更多的耗散行为,并在高波数处产生了物理上一致的能量水平,同时准确恢复了特征κ?3斜率。尽管如此,这种变体在低波数处过度耗散了能量。

从这些模拟中,我们得出结论,斜对称项对于准确捕捉低波数的能量至关重要,而负定项在抑制数值噪声和恢复特征κ?3斜率方面起着关键作用。这意味着这两个项对模拟的准确性和物理一致性都有重要且互补的贡献。

5.3. 闭合模型性能的一致性

训练神经网络本质上是随机的,因为涉及到小批量的选择、权重的初始化等。因此,我们实例化了每个网络的多个副本,以全面评估它们作为闭合模型的潜力。为此,我们为每种神经网络架构训练了五个副本的集合。这使我们能够评估训练过程在产生良好闭合模型方面的一致性。在评估网络之前,我们确保训练过程中没有出现收敛问题。在衰减湍流测试案例上评估的每个神经网络的误差和能量轨迹显示在图10中。关于普通的CNN架构,我们观察到五个网络中有两个导致不稳定模拟,而对于DIV,五个中有三个。因此,值得指出的是,简单地重新训练完全相同的机器学习架构可能会导致稳定的模拟和数值失败之间的差异,这突显了这些方法的不可预测性。对于SKEW,没有一个集合成员变得不稳定。

下载:下载高分辨率图像(894KB)
下载:下载全尺寸图像

图10. (左)五个集合中每个闭合模型随时间的误差。(右)五个集合中每个闭合模型的解析能量轨迹。(底部)通过在log10空间计算谱,然后计算与FDNS谱的均方误差(MSE),最后报告该值的log10来计算能量谱的误差随时间的变化。这些轨迹也显示在五个集合中的每个闭合模型中。黑色垂直线表示t=5。这条线右侧的所有内容对应于时间上的外推。

关于误差轨迹,我们观察到所有保持稳定的网络的表现相似,而能量轨迹最好地被一些无约束的机器学习闭合方法再现。然而,为了评估数值噪声的累积和物理一致性,我们计算了模拟过程中的能量谱误差。这也显示在图10中。这里我们发现SKEW架构始终优于其他架构。由此我们得出结论,我们的SKEW神经网络架构不仅保证稳定,而且始终产生物理结果,没有数值噪声的累积。

5.4. Kolmogorov流动

接下来,我们旨在评估闭合模型的长期性能及其外推能力。为此,我们需要一个不同的测试案例,因为之前的衰减湍流最终会衰减到零。因此,我们考虑了具有相同粘度ν=11000和周期性域Ω=[?π,π]×[?π,π]的Kolmogorov流动。Kolmogorov流动的特点是受到以下强迫:(38)f(u,x,t)=[sin(4y)0]?0.1u,并且经常用于评估机器学习闭合模型[14]、[15]、[33]。这些机器学习模型没有为这个测试案例重新训练。这意味着模型必须从衰减的湍流训练数据中外推到包含强迫的测试案例。为了初始化模拟,我们首先在一个2048×2048的网格上进行DNS模拟,直到t=25,从初始条件(36)开始。这作为系统的热身,使其达到统计平衡。然后,最终的速度场作为评估闭合模型的初始条件。接着,我们从这个初始条件开始模拟500个模型时间单位。这是一个显著的外推,因为训练数据是针对t∈[0, 5]区间且没有强迫的测试案例。除了之前提到的闭合模型外,我们还对训练好的CNN应用了后向散射剪切,以通过去除后向散射来获得稳定的闭合模型。这是通过将CNN输出投影到涡粘性模型上完成的。由此,我们得到一个涡粘性值νtclipping(x),使得CNN输出在L2范数上尽可能匹配。然后将νtclipping(x)的负值设置为零以提供稳定性。剪切过程在[37]中有描述。我们将这个闭合模型称为CNN-C。模拟中的涡度快照显示在图11中。CNN和DIV的快照没有显示,因为这些模拟在初始化后很快就会变得不稳定,见图12。对于NC,我们观察到很多数值噪声,而在SMAG(在较小程度上)、SKEW和CNN-C中,这种情况得到了平滑。关于t=5时的快照,我们发现SKEW的过滤DNS结果最为匹配。下载:下载高分辨率图像(1MB)下载:下载全尺寸图像图11. 在64×64网格上,每个闭合模型在每个时间点的涡度场。模拟对应于Kolmogorov流动测试案例。下载:下载高分辨率图像(1013KB)下载:下载全尺寸图像图12. (左上角)Kolmogorov流动测试案例中每个闭合模型的解析能量轨迹。(左上角)整个模拟的解析能量分布。虚线垂直线对应于平均值。(底部)能量谱是通过首先计算每个快照的能量谱,然后计算每个波数的平均值得到的。CNN和DIV闭合模型都导致了不稳定的模拟,因此它们的谱在图中被省略了。为了进行更全面的比较,我们考虑了解析能量轨迹以及模拟的平均能量谱,见图12。从解析能量轨迹中我们首先观察到,无约束的机器学习方法在模拟开始时都变得不稳定。其余的闭合模型保持稳定,因为它们是严格耗散的。为了对结果流场进行统计比较,我们考虑了整个模拟的解析能量分布和平均能量谱。在这里我们发现SMAG和CNN-C过于耗散,因为它们的分布相对于FDNS向左偏移。对于CNN-C,这种现象在[36]中有报道。NC和SKEW似乎都能很好地预测分布的平均值和形状。观察能量谱,我们发现NC确实产生了数值噪声,尤其是在大波数处。此外,我们发现SKEW在低和中等波数处表现最好,而SMAG在高波数处表现最好。总体而言,对于这个外推测试案例,SKEW的表现至少与SMAG相当。由此我们得出结论,SKEW既稳定又准确,并且能够在不重新训练的情况下外推到不同的测试案例。5.5. 与动态Smagorinsky模型的比较为了将我们的SKEW架构与一个更健壮的基于物理的闭合模型进行比较,我们考虑了动态Smagorinsky模型。该模型的公式和基础理论在[22]中有描述。主要思想是(22)中的Smagorinsky常数是动态确定的,取决于空间、时间和解析速度场,即Cs=Cs(x,t,uˉ)。动态过程基于这样的假设:子网格尺度应力在过滤尺度上是自相似的,并且在网格过滤器和更大的测试过滤器上都适用相同的涡粘性假设。通过在这两个级别之间强制一致性,模型从解析流本身计算Cs,而不是预先规定它。这允许模型在层流或解析良好的区域减少耗散,而在子网格活动强烈的区域增加耗散。因此,它的主要优势在于它只在需要的地方提供耗散,使其比标准Smagorinsky模型的耗散显著减少。动态Smagorinsky模型在衰减湍流测试案例中的结果能量轨迹和能量谱显示在图13中,以及我们SKEW架构的结果。下载:下载高分辨率图像(347KB)下载:下载全尺寸图像图13. (左)衰减湍流测试案例的解析能量轨迹,其中DYN-SMAG对应于动态Smagorinsky模型。黑色垂直线表示t=5。这条线右侧的所有内容都对应于时间上的外推。(右)在t=5时衰减湍流模拟中间的能量谱。对于能量轨迹,我们发现动态Smagorinsky模型确实比标准Smagorinsky模型(SMAG)的耗散更小。然而,它仍然比我们的SKEW架构稍微更耗散,而SKEW架构与FDNS结果的匹配度最高。关于能量谱,动态Smagorinsky模型比SMAG和NC有显著改进。尽管如此,它仍然在低波数处低估了能量,在高波数处高估了能量,而我们的SKEW架构没有这些缺陷。5.6. 机器学习闭合模型的局限性请注意,神经网络并不是强制斜对称框架的必要条件。传统的校准或数据同化方法也可以使用,这些方法通常假设一个固定的功能形式,并调整一组有限的系数以适应DNS数据。相比之下,神经网络提供了一种灵活的功能表示,能够捕捉闭合项对局部流动特征的复杂非线性依赖性,这些依赖性使用固定的参数形式难以表达或校准。虽然斜对称结构强制能量守恒,但斜对称矩阵的条目(以及耗散项的条目)是流动状态的函数,允许模型动态适应局部流动条件,而不是依赖于全局校准的系数。最后,应该注意的是,在LES(或任何基于物理的模拟)的背景下使用机器学习存在根本性挑战[66]。神经网络很容易有数百万(或更多)无物理意义的可调参数,它们需要大量数据,并且像黑盒一样工作,使它们比基于物理的对应物更复杂。它们在长时间积分时也容易不稳定,这是我们在本文中明确指出的问题。因此,我们提出的框架代表了将物理约束(在这种情况下是保证能量守恒)直接嵌入到数据驱动模型架构中的一个步骤。这种物理结构和数据驱动灵活性的结合体现了物理信息机器学习的一个关键优势:它确保了物理一致性,同时保留了现代机器学习方法的表现力。尽管如此,上述许多问题仍然存在,需要进一步研究。6. 结论在这项工作中,我们首先探讨了不可压缩Navier-Stokes方程中固有的守恒定律,特别是质量、动量和能量守恒。我们采用了一种离散化方法来保持这些定律的离散意义。为了粗化模拟,我们使用了面平均滤波器,确保得到的粗化速度场继续满足质量守恒。然后,我们研究了由粗化引入的换位子误差的不同建模方法。我们首先考虑了严格耗散的Smagorinsky模型,接着是基于卷积神经网络的更先进的机器学习方法,能够模拟后向散射。然而,这些无约束模型缺乏稳定性保证。为了解决这个限制,我们引入了我们的斜对称神经架构[13]。这种架构通过引入斜对称项来增强稳定性,同时增加了模型对负定涡粘性基础的自由度。与我们之前的工作[13]相比的一个变化是,不再显式建模子网格尺度能量。此外,我们处理了更具挑战性的2D湍流应用,而不仅仅是[13]中考虑的简单1D测试案例。基于对训练数据的离线分析,我们假设像我们引入的斜对称架构这样的耗散闭合模型可能对所考虑的测试案例表现良好。我们在三个粗化因子上评估了我们的闭合模型,从2048×2048网格粗化到128×128、64×64和32×32的分辨率。闭合模型在初始条件不同于训练数据的衰减湍流模拟中进行了测试,并且模拟时间较长。我们发现,在最大的粗化因子(从2048×2048到32×32)下,没有一个模型表现良好。最初,无约束的机器学习模型提供了有希望的结果,甚至在动能预测上超过了我们的斜对称模型。然而,数值误差累积,导致不稳定性。因此,仅通过训练闭合模型以再现过滤后的DNS解来拟合轨迹是不够的,以保证稳定的闭合模型。相比之下,我们的斜对称模型始终保持稳定,尽管代价是更大的耗散率。尽管耗散增加,我们认为稳定性是一个值得的权衡。此外,我们的斜对称架构在这个测试案例中优于Smagorinsky模型,并且再现了2D湍流能量谱中预期的k?3。此外,我们的架构还优于广泛使用且经过充分验证的基于物理的闭合模型——动态Smagorinsky模型。为了考虑训练神经网络中的固有随机性,我们用不同的权重初始化和小批量选择训练了每个模型的五个实例。所有斜对称模型的实例都保持稳定和准确,而传统的机器学习模型表现出显著的不稳定性。这突显了我们方法在训练稳健闭合模型方面的一致性改进。我们还在Kolmogorov流动测试案例上进一步评估了这些模型,该案例在训练数据中没有表示。无约束的机器学习模型再次遭受了不稳定性的困扰,而我们的斜对称闭合模型在时间平均后成功捕获了正确的能量谱。在这方面,它的表现与Smagorinsky模型相当,后者被证明非常适合这个测试。我们还在训练好的CNN上应用了后向散射剪切。这导致了一个稳定的模拟;然而,它的表现并不比斜对称架构或Smagorinsky模型更好。总体而言,我们的结果表明,我们在这里引入的斜对称架构显著增强了基于机器学习的闭合模型的稳定性,尽管代价是增加了耗散。我们认为这项工作代表了朝着使用机器学习闭合进行长时间模拟迈出的一步。对于未来的工作,有几个方向值得探索。边界条件的处理,特别是卷积神经网络使用的填充,需要仔细注意。将我们的方法扩展到非结构化网格是另一个有前景的方向,其中图神经网络可以提供一个有用的框架[67]。最后,引入额外的能量源来抵消斜对称架构中缺乏后向散射的影响可能是有益的,尽管需要谨慎的剪切机制来防止不稳定性。如[13]中所述,显式建模子网格尺度能量是另一个逻辑上的扩展。在准备这项工作时,作者使用了ChatGPT来改进语言和语法。使用该工具/服务后,作者根据需要审查和编辑了内容,并对发表文章的内容负全责。缩写BC边界条件。CNN卷积神经网络。CNN-C带有后向散射剪切的卷积神经网络。DIV由神经网络预测的应力张量散度。DNS直接数值模拟。FDNS过滤后的直接数值模拟。FFT快速傅里叶变换。LES大涡模拟。MSE均方误差。NC无闭合。PDE偏微分方程。RHS右侧。SKEW斜对称神经网络架构。SMAGSmagorinsky模型。C作者贡献声明T. Van Gastelen:写作——原始草稿、软件、方法论、概念化。W. Edeling:写作——审阅和编辑。B.桑德塞:写作——审稿与编辑、方法论、资金筹集、概念构建。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号