用于非谐振动计算的模态回流神经量子态

《Journal of Chemical Theory and Computation》:Modal Backflow Neural Quantum States for Anharmonic Vibrational Calculations

【字体: 大 中 小 】 时间:2026年03月10日 来源:Journal of Chemical Theory and Computation 5.5

编辑推荐:

  高分辨率图像 下载MS PowerPoint幻灯片 神经量子态(NQS)由于其内在的表达能力,成为解决多体量子问题的一个有前景的途径。然而,这种表达能力只有在适当的物理知识被直接嵌入到神经网络中时,才能有效地用于处理相同的粒子。在电子结构领域,基于反向流行列式的NQS已

  高分辨率图像
下载MS PowerPoint幻灯片

神经量子态(NQS)由于其内在的表达能力,成为解决多体量子问题的一个有前景的途径。然而,这种表达能力只有在适当的物理知识被直接嵌入到神经网络中时,才能有效地用于处理相同的粒子。在电子结构领域,基于反向流行列式的NQS已被证明是一种捕捉强关联的强大方法。相比之下,对于玻色子的类似方法——反向流永久量——由于计算矩阵永久量的成本高昂以及在常见的玻色子问题中缺乏粒子守恒性而不切实际。为了克服这些障碍,我们引入了一种模态反向流(MBF)NQS设计,并通过解决非谐振动问题来证明其有效性。为了满足光谱计算中的高精度要求,我们实现了一种选择性配置方案来评估物理可观测量和梯度,取代了基于蒙特卡洛采样的标准随机方法。振动自洽场计算可以在MBF网络内方便地进行,这作为预训练步骤,以加速和稳定优化过程。在对人工和从头算哈密顿量的应用中,我们发现MBF网络能够在所有非谐范围内提供光谱学上精确的零点能量和振动跃迁。

1. 引言
量子化学中的一个核心任务是高效求解多体薛定谔方程。在电子结构理论中,这涉及到在指数级大的希尔伯特空间中求解带有库仑相互作用的电子哈密顿量。由于精确对角化仅适用于大约二十几个半填充的空间轨道,因此开发了(1,2)定制的波函数方法和优化方案来绕过这种指数级增长。例如选择性配置相互作用(参见参考文献(3?8))、张量网络态(TNSs)(9?11)、全配置相互作用量子蒙特卡洛(12,13)和辅助场量子蒙特卡洛(14,15)。尽管在过去几十年中取得了巨大进步,但常见的波函数方法仍然存在至少一个缺点:无法同时包含静态和动态关联、对于强关联系统需要优化的参数数量急剧增加,以及缺乏有效的优化方法。

为了克服这些缺点,Carleo和Troyer提出了一种使用人工神经网络(ANN)的新型量子态方法(16)。他们的想法是利用ANN的表达能力和灵活的设计(17?19),以及对其优化的了解(20?23)。毕竟,量子态只不过是一个将配置空间中的元素(例如粒子位置或占据数)映射到复数的函数,根据通用逼近定理,这种函数可以通过前馈神经网络以任意精度学习得到(24,25)。我们注意到,深度前馈神经网络比张量网络更具表达能力(26),并且神经网络甚至可以用多项式级别的自由度来模拟体积定律纠缠(27,28)。这些开创性的结果迅速引发了一种新的近似方法,现在被称为神经量子态(NQSs)(29?36)。对于小分子的电子基态问题,NQSs甚至可以达到全配置相互作用所获得的精度(32,37,38)。

与大量关于电子NQS的工作相比,将其应用于玻色子振动问题的研究较少。最接近的相关工作是参考文献(39),其中使用神经网络来近似一个幺正变换(而不是直接近似量子态),并且采用了第一量子化形式。其他机器学习方法主要用于振动问题,因此可能缺乏可解释性和可转移性(参见参考文献(40)的最新综述)。我们在本工作中采用的NQS形式是一种无数据的变分方法,可以直接访问目标量子态。与晶格哈密顿量不同,振动问题的结构要简单得多,因为每对振动模式都由哈密顿量连接。类似于电子结构理论中的相关波函数方法,也存在振动对应方法,包括振动配置相互作用方法(41?44)和振动耦合簇理论(45?48)。最近,振动密度矩阵重整化群(vDMRG)优化TNS近似已成为计算精确分子光谱的另一种方法(49?53)。然而,矩阵乘积态(MPSs)和树张量网络态(TTNSs)假设振动模式具有某种特定的拓扑结构,这在概念上与振动哈密顿量的无结构特性相冲突。相比之下,全连接神经网络不假设任何这样的拓扑结构。

在玻恩-奥本海默近似下,振动哈密顿量由动能项和势能面(PES,由不同核位置的电子能量给出)的表示组成,后者决定了可实现的精度。乍一看,由于没有长程库仑相互作用,振动问题似乎比电子问题更容易解决。然而,为了使解对振动光谱学具有预测性,必须能够在处理高度多体耦合项(实际上通常达到六体)的同时分辨出紧密相邻的激发态。尽管对于适量的正常模式(大约二十几个),使用多层多配置时变哈特里(55?57)和TNSs方法(49?51,53,58)可以常规地达到1 cm–1的光谱精度(54),但对于具有有限相互作用连通性的晶格哈密顿量,只能处理更多的模式(57)。因此,鉴于NQSs的特性,探索和评估它们在振动结构问题上的能力是自然的。我们注意到,振动哈密顿量的解决是量子化学中更复杂问题(如振动效应(59,60)或腔体内的振动动力学(61,62)的基本构建块。

尽管如此,通用逼近定理(24,25)本身并不能保证任何神经网络都能被有效地训练来解决给定问题。对于电子哈密顿量的NQSs的成功实现表明,将物理知识(如电子波函数的反对称化和尖点条件)纳入网络至关重要(32)。早期工作的另一个重要见解是,使用ANN学习间接特征(如Jastrow因子和反向流行列式)比直接学习波函数更有效(28,29,31,63)。特别是,反向流行列式(从反向流变换轨道计算得到的Slater行列式)在压缩高度纠缠的费米子系统中的指数级自由度方面起着关键作用(28,64)。因此,本工作的出发点是确定可以纳入网络设计的玻色子振动问题中的物理知识。具体来说,我们着手开发反向流变换轨道的玻色子类比物,结果发现这些不是振动模式,而是单模Fock空间的基函数,即模态。基于这一见解,我们提出了模态反向流(MBF)NQSs,并展示了它们在不同非谐性水平上解决振动问题的能力。

本文的结构如下。第2节我们简要回顾了第二量子化形式的Watson哈密顿量,它将作为我们的振动模型哈密顿量。第3节,我们介绍了MBF NQSs作为解决振动问题的方法,并以Watson哈密顿量为例。第4节,我们在不同非谐性水平上研究了随机生成的Watson哈密顿量上的MBF NQSs。最后在第5节,我们将MBF NQS波函数应用于分子的从头算振动哈密顿量,并求解零点能量和低能跃迁能量。

2. 非谐振动哈密顿量
一般的PES可以通过围绕分子平衡结构的有限阶泰勒展开来近似。在正常坐标q?i中,如果PES的Hessian是对角的,具有L个自由度的Watson哈密顿量具有以下形式(65):
$$
\mathcal{H}^{\text{vib}} = \frac{1}{2}\sum_{i=1}^{L}\mathbf{w}_{i}(\mathbf{p}^{\hat{2}}_{i} + \mathbf{q}^{\hat{2}}_{i}) + \frac{1}{6}\sum_{i,j,k=1}^{L}\Phi_{ijk}\mathbf{Q}^{\hat{ijk}} + \frac{1}{24}\sum_{i,j,k,l=1}^{L}\Phi_{ijkl}\mathbf{Q}^{\hat{ijkl}} + \cdots + \sum_{i,j,k,l=1}^{L}\sum_{\tau=x,y,z}\mathbf{B}_{\tau}\mathbf{\xi}_{ij}\mathbf{\xi}_{kl}\mathbf{w}_{lj}\mathbf{w}_{wk}\mathbf{q}^{ip}\mathbf{q}^{k}\mathbf{p}^{l}
$$
这里,$\mathbf{w}_{i}$是正常模式的谐振频率,我们使用简写符号$\mathbf{Q}^{\hat{ijk}} = \mathbf{q}^{\hat{i}}\mathbf{q}^{\hat{j}}\mathbf{q}^{\hat{k}}$和$\mathbf{Q}^{\hat{ijkl}} = \mathbf{q}^{\hat{i}}\mathbf{q}^{\hat{j}}\mathbf{q}^{\hat{k}}\mathbf{q}^{\hat{l}}$。$\Phi(3)$和$\Phi(4)$是第三和第四阶简化力常数,定义为:
$$
\Phi(3)\mathbf{w}_{i} = \langle\mathbf{w}_{i}\mathbf{w}_{j}\mathbf{w}_{k}\rangle = \langle\mathbf{w}_{i}\mathbf{w}_{j}\mathbf{w}_{k}\rangle, \quad \Phi(4)\mathbf{w}_{i} = \langle\mathbf{w}_{i}\mathbf{w}_{j}\mathbf{w}_{k}\rangle
$$
它们为振动哈密顿量的谐振近似提供了非谐修正。此外,Watson哈密顿量还包括通过旋转常数$\mathbf{B}_{\tau}$和科里奥利耦合常数$\xi_{ij}\tau$耦合位置$\mathbf{q}^{\hat{i}}$和动量$\mathbf{p}^{\hat{i}}$的科里奥利项(66)。

为了得到非谐哈密顿量的第二量子化形式,我们用以下方式替换位置和动量算符:
$$
\mathbf{p}^{\hat{i}} = \frac{1}{2}\sqrt{\sum_{i=1}^{L}\mathbf{b}_{i}^{\hat{i}}(-\mathbf{b}_{i}), \quad \mathbf{q}^{\hat{i}} = \frac{1}{2}\sqrt{\sum_{i=1}^{L}\mathbf{b}_{i}^{\hat{i}}(\mathbf{b}_{i}^{\hat{+}}-\mathbf{b}_{i})
$$
其中$\mathbf{b}_{i}$($\mathbf{b}_{i}^{\hat{+}}$)是模式i的玻色子湮灭(产生)算符,作用在占据数向量$\mathbf{ONV}$上:
$$
\mathbf{b}_{i}|\mathbf{n}_{1}\cdots\mathbf{n}_{i}\cdots\mathbf{n}_{L}\rangle = \begin{cases}
0, & \mathbf{n}_{i} > 0 \\
\mathbf{b}_{i}|\mathbf{n}_{1}\cdots\mathbf{n}_{i-1}\cdots\mathbf{n}_{L}\rangle, & \mathbf{n}_{i} = 0 \\
\mathbf{b}_{i}|\mathbf{n}_{1}\cdots\mathbf{n}_{i+1}\cdots\mathbf{n}_{L}\rangle, & \mathbf{n}_{i} = 0 \\
\end{cases}
$$
上述替换使我们能够将哈密顿量重写为第二量子化形式:
$$
\mathcal{H}^{\text{vib}} = \frac{1}{2}\sum_{i=1}^{L}\mathbf{w}_{i}(\mathbf{b}_{i}\mathbf{b}_{i} + \frac{1}{2}\sum_{i,j,k=1}^{L}\Phi_{ijk}\mathbf{Q}^{\hat{ijk}} + \frac{1}{6}\sum_{i,j,k,l=1}^{L}\Phi_{ijkl}\mathbf{Q}^{\hat{ijkl}} + \cdots + \frac{1}{4}\sum_{i,j,k,l=1}^{L}\sum_{\tau=x,y,z}\mathbf{B}_{\tau}\mathbf{\xi}_{ij}\mathbf{\xi}_{kl}\mathbf{w}_{lj}\mathbf{w}_{wk}\mathbf{q}^{ip}\mathbf{q}^{k}\mathbf{p}^{l}
$$

希尔伯特空间$\mathcal{H}$在原理上是无限的。然而,在实践中,我们施加了一个截断$N_{\text{max}}$作为每个模式中的最大粒子数,或者更一般地,$N_{\text{modal}} = N_{\text{max}} + 1$作为基态的数量,也称为模态函数的数量。通常,$N_{\text{modal}}$高于非相对论性电子轨道中的基态数量,即4个(即$|0\rangle$、$| \uparrow \rangle$、$| \downarrow \rangle$、$| \uparrow \downarrow \rangle$)。这导致希尔伯特空间维度中的指数增长($N_{\text{modal}}L$)相对于电子情况中的4L更为陡峭,其中$L$现在指的是电子轨道的数量。

3. 模态反向流神经量子态
3.1. 网络方法
反向流变换的概念可以追溯到20世纪50年代的费曼和Cohen(67)。它向单粒子坐标添加了一个多粒子分量(67,68),以引入粒子电流的逆流,因此得名“反向流”。随着反向流概念的泛化,多粒子依赖性也可以通过占据数来介导(69),而反向流变换量也可以是单粒子函数(轨道)而不是位置(29,63)。特别是,对于费米子,神经反向流(NBF)方法已被证明在捕捉不可区分费米子的关联方面比标准前馈神经网络(FNN)更有效(28,29,63,64)。因此,我们简要回顾了NBF方法对于无自旋费米子的表述。设$M$是一个$L \times N$矩阵,
$$
\mathbf{M} = \begin{pmatrix}
\phi_{1,1} & \phi_{1,2} & \cdots & \phi_{N,1} \\
\phi_{1,2} & \phi_{2,2} & \cdots & \phi_{N,2} \\
\vdots & \vdots & \vdots & \phi_{N,1} \\
\vdots & \vdots & \vdots & \phi_{N,2}
\end{pmatrix}
$$
它由N个占据分子轨道$\phi_{i} = \sum_{j=1}^{L}\phi_{i,j}\chi_{j}$在L个单电子轨道基$\{\chi_{j}\}$中的系数组成。一个N电子Slater行列式(SD)态可以写为:
$$
|\psi_{\text{SD}}\rangle = \sum_{i=1}^{N}\mathbf{f}_{\phi}_{i}^{\hat{0}}\langle\mathbf{φ}_{j}\rangle = \sum_{i=1}^{N}\sum_{j=1}^{N}\mathbf{sgn}(\mathbf{σ}_{n})\sum_{n=1}^{N}\mathbf{f}_{\phi}_{n,j}\mathbf{f}_{\phi}_{j}
$$
其中$\mathbf{f}_{\phi}_{i/j}$是从真空态$|0\rangle$创建电子$\phi_{i/j}$的费米子产生算符,$\sigma$是置换群$S_{N}$的元素。方程(7)的最后一行表明,基$\{\chi_{j}\}$中的ONV态$|\mathbf{n}\rangle$的相应系数$\psi_{\text{SD}}(n)$由下式给出:
$$
\psi_{\text{SD}}(n) = \langle\mathbf{E}|\psi_{\text{SD}}(n)\rangle = \det(\mathbf{M}(n)
$$
其中$\mathbf{M}(n)$是一个仅包含索引为$i$的N行的$N \times N$矩阵。系数$\psi_{\text{SD}}(n)$由相同的轨道系数矩阵$\mathbf{M}$关联,使得$|\psi_{\text{SD}}(n)$确实是一个Slater行列式态。NBF态$|\psi_{\text{NBF}}\rangle$的关键思想是,$|\mathbf{n}\rangle$的系数是从依赖于ONV的占据轨道集($\mathbf{M}(n)$)$\mathbf{ij} = \phi_{i,j}(n)$计算得出的,即$\psi_{\text{NBF}}(n) = \langle\mathbf{E}|\psi_{\text{NBF}}(n)\rangle = \det(\mathbf{M}(n)$(10)。因此,系数$\psi_{\text{NBF}}(n)$可以独立变化以引入关联,从而提高表达能力。此外,通过使用反向流行列式计算系数,NBF能够对标量输出施加特定结构,从而实现对目标波函数的紧凑编码。假设目标量子态是方程(7)最后一行中的单个Slater行列式。与FNN使用单个标量输出将每个ONV映射到不同的波函数幅度不同,NBF模型最简单的解决方案是将所有ONV映射到同一组占据轨道,从而使机器学习问题的难度与电子关联问题的难度相匹配。这可能部分解释了NBF模型在近似具有单一参考特征的电子波函数方面的成功,尽管NBF模型的有效性也扩展到了多参考波函数。

然而,将NBF推广到玻色子模式的情况并不简单。玻色子的反向流行列式的直接类比是反向流永久量(backflow permanent),因为玻色子波函数必须具有完全对称性。尽管矩阵行列式可以用多项式时间复杂度计算出来,但目前还没有高效的算法能够精确计算出玻色子对称性所需的矩阵永久量。(70)这可以归因于矩阵永久量缺乏交替符号结构,而在行列式的情况下,这种结构有助于在行简化过程中实现抵消效应。此外,在许多感兴趣的玻色子问题中,玻色子的数量并不是一个好的量子数。这意味着每个配置中涉及的玻色子数量,因此需要计算永久量的矩阵的大小并不是固定的。为了避免上述问题,我们提出了一种使用模态(modals)的神经反向流假设的替代公式。(71)模态是单模i的Fock空间的元素,最简单的例子是粒子数算符N?i = bi?bi的本征态|ni? = (bi?)ni|0?,它们构成了截断的局部Fock空间。以|ni?作为计算基础,一般的模态波函数|?i?是一个任意叠加态|?????=∑????=0??max????,????+1|?????|?i?=∑ni=0Nmax?i,ni+1|ni?(11),其中?i = (?i,j)j=1Nmodal(回想一下Nmodal = Nmax + 1)是一个模态系数向量。一个没有模态间相关性的L模态态,例如振动自洽场(VSCF)(72,73)解,是一个模态积(MP)态,也称为Hartree积|ΨMP?=???=1??|?????=???=1??(∑????=0??max????,????+1|?????)=∑??(∏??=1??????,????+1)|???|ΨMP?=?i=1L|?i?=?i=1L(∑ni=0Nmax?i,ni+1|ni?)=∑n(∏i=1L?i,ni+1)|n?(12),其中|???=|??1,??2,...,?????≡(???1)??1(???2)??2···(?????)????|0?|n?=|n1,n2,...,nL?≡(b1?)n1(b2?)n2···(bL?)nL|0?(13)。然后,玻色子ONV态|n?的系数ΨMP(n)由ΨMP(??)=???|ΨMP?=∏??=1??????,????+1给出(14),无需计算矩阵的永久量。类似地,为了将相关性纳入波函数,我们引入了模态反向流(MBF)态|ΨMBF?,使得模态函数?i依赖于ONV。因此,ONV态的系数变为ΨMBF(??)=???|ΨMBF?=∏??=1????(??)??,????+1(15)。L个依赖于ONV的模态函数?i(n)形成一个L × Nmodal矩阵,我们将通过全连接神经网络来学习这个矩阵。MBF态自然覆盖了所有玻色子粒子数部分,并且可以在不同部分之间自由地相关联,而不会产生评估玻色子永久量的指数级计算成本。此外,模态表示允许我们使用由L个模态函数组成的固定维度矩阵。从概念上讲,MBF与其费米子对应物具有相同的理论基础。如果目标量子态是方程12中的MP态,那么网络只需要将所有ONV映射到相同的模态函数,而不是像在FNN中那样映射到不同的波函数振幅。因此,我们预计在存在模态间相关性的情况下,MBF的表现会优于FNN,正如我们在第4节中将展示的那样。(63)我们在图1a中总结了MBF网络架构。对于一个输入的ONV,根据该模式的占据数(在图1a中用红色方块标记),选择每个模式上依赖于ONV的模态函数的一个系数。然后这些选定的系数被相乘以形成该ONV的最终振幅。

图1
(a) MBF网络的架构:一组玻色子模式的ONV通过一个浅层FNN输入,并输出到一组模态函数,根据每个模式的占据数计算波函数值。
(b) 选配置方案:对于给定的选空间W,可以通过从由哈密顿量连接的扩展空间W′中选择配置来提出新的配置,这是基于当前MBF波函数给出的波函数振幅进行比较的。
(c) 多步骤初始化方案用于逐步优化MBF网络:使用Watson哈密顿量的谐波部分的本征态来初始化VSCF计算。得到的VSCF解作为依赖于ONV的模态函数的固定部分,而实际的依赖于ONV的偏差则由MBF网络学习。

MBF波函数的参数θ = (W, b)是权重W和偏置b,它们根据以下公式在网络中传播信息:
????=tanh(??(0)??+??(0))=tanh(??(1)??+??(1))h=tanh(W(0)n+b(0))o=tanh(W(1)h+b(1)
(16)
其中h和o分别是隐藏层和输出层。向量o是从图1a中所示的长度为Nmodal的L个模态函数组成的输出矩阵中扁平化的。隐藏神经元数量Nhidden可以使用隐藏神经元密度α = Nhidden/L来调节,这也充当了网络复杂度的调整参数。实际上,我们将依赖于ONV的模态函数分解为一个固定部分(对应于模态积态)和一个变量部分,后者实际上是依赖于ONV的:
??(??)??=??(0)??+??(??)???i(n)=?i(0)+δi(n)
(17)
在训练过程中,δi(n)是从网络的输出向量o中重新塑造的。在后面的部分,我们将描述如何选择固定的模态函数?i(0)。

我们注意到,尽管在这项工作中采用了带有泰勒展开的PES和谐振子基函数的Watson哈密顿量,但MBF网络可以直接扩展到n模态二次量子化设置。因此,它适用于处理n模态PES展开,此时输入向量将是具有占据数为0或1的通用模态基函数的ONV。然后,占据模态的索引将类似地指示哪些依赖于ONV的模态系数(来自MBF网络的输出)被乘以产生该ONV的最终振幅。此外,MBF网络可以适应非均匀的Nmax。网络将输出一个长度为∑i=1LNmax(i)的向量。

3.2. 优化
在本节中,我们讨论了实现目标精度至关重要的MBF网络优化的几个方面。MBF的实现使用了NQS包Netket。(74,75)

3.2.1. 马尔可夫链蒙特卡洛
从神经量子态Ψ中提取可观测量的最常用方法是蒙特卡洛采样。(76,77)可观测量的期望值在数学上等同于所谓的局部能量Oloc的加权和:
?????Ψ=?Ψ|???|Ψ??Ψ|Ψ?=∑????Ψ(??)??loc(??)?O^?Ψ=?Ψ|O^|Ψ??Ψ|Ψ?=∑nPΨ(n)Oloc(n)
(18)
其中??Ψ(??)≡|Ψ(??)||2∑??′||Ψ(??′)||2
PΨ(n)≡|Ψ(n)|2∑n′|Ψ(n′)|2
(19)
并且??loc(??)≡∑??′???|????|??′?Ψ(??′)Ψ(??)Oloc(n)≡∑n′?n|O^|n′?Ψ(n′)Ψ(n)
(20)
其中PΨ(n)是由量子态Ψ给出的概率分布。在蒙特卡洛采样中,通过对所有配置n的精确加权和进行近似,通过一个模拟概率分布PΨ(n)的马尔可夫链??C来实现。换句话说,
∑????Ψ(??)??loc(??)≈1|??|∑??∈????loc(??)∑nPΨ(n)Oloc(n)≈1|C|∑n∈COloc(n)
(21)
尽管这是一种简单而强大的方法,但其随机性质并不适合光谱计算中对高精度的要求。此外,在大多数情况下,非谐振子本征态由单一配置主导,导致概率分布中出现尖锐峰值,从而严重偏斜采样。需要大量的样本来获得除了主导配置之外的足够多的配置。

3.2.2. 随机选择的配置
为了避免上述问题,我们使用了参考文献(78)中介绍的选配置方案,如图1b所示。我们不是用蒙特卡洛采样替换所有配置的精确加权和,而是将加权和限制在根据完整波函数具有最高权重的少数几个不同配置上,这些配置收集在集合W中。数学上,这相当于使用截断态|ΨW? = ∑n∈WΨ(n)|n?和非精确态∑????Ψ(??)??loc(??)≈∑??∈????Ψ??(??)??loc(??)=?Ψ??|???|Ψ??Ψ??|Ψ???≡???????∑nPΨ(n)Oloc(n)≈∑n∈WPΨW(n)Oloc(n)=?ΨW|O^|Ψ??ΨW|ΨW?≡?O^?W
(22)
注意,评估?·?W不再严格是变分的。然而,只要W中选择了所有具有显著权重的配置,我们就会发现变分条件得到很好的保持。

使用选配置方案优化NQS Ψθ和网络参数θ包括以下步骤:
1. 将Ψθ(0)和W(0)初始化为{n0},其中n0 = (0, 0, ···, 0),或者根据激发水平选择另一个种子状态。
2. 在步骤t中,计算由?连接到W(t)的配置集W′。
3. 从W(t) ∪ W′中选择Ns个具有最高振幅|Ψθ(n)|的配置,形成新的选态集W(t+1)。
4. 评估能量梯度?E/?θm并更新网络参数θ(t) ← θ(t+1)。
5. 重复步骤2,直到达到最大迭代次数。

上述方案最初是为了解电子哈密顿量而实现的。(78)在我们的案例中,振动哈密顿量包含超出两体项的长创建和湮灭算符字符串。这意味着在振动情况下,连接的子空间W′可能会非常大,使得识别具有最高贡献权重的Ns个状态变得非常昂贵。为了避免这种情况,我们将完整的扩展空间W′限制为一个较小的子集,其中只包含K × Ns个随机采样的连接状态,K可以作为探索程度的参数进行调整。这种随机限制不仅减轻了计算负担,还引入了一定程度的随机性。

在选配置方案中,期望值???W相对于网络参数θm的梯度定义为:
????=?????????????=2∑??∈????Ψ(??)Re[????(??)?(??loc(??)????????)]
Fm=??O^?W?θm=2∑n∈WPΨ(n)Re?[Dm(n)*(Oloc(n)??O^?W)]
(23)
其中????(??)=1ΨMBF??(??)??ΨMBF??(??)??????
Dm(n)=1ΨθMBF(n)?ΨθMBF(n)?θm
(24)
是波函数对数的导数。能量梯度的计算是选配置方案中最昂贵的部分,其计算成本大致与选配置数量Ns成线性关系,如方程23所示。在每次迭代中,我们使用连续弹性(CoRe)优化器(79,80)更新网络参数θ:
??(??+1)=??(??)?????(??)θ(t+1)=θ(t)?ηG(t)
(25)
其中η是学习率,G(t)是缩放后的梯度
??(??)????(??)???(??)????(??)1=??(??)??1?(??(??)1)??(?(??)??1???(??)2???????????√+??)?1=??(??)1??(???1)??+(1???(??)1)??(???1)??=??2?(???1)??+(1???2)(??(???1)??)2=????1+(????1?????1)exp[?(???1????1)2]
Gm(t)=gm(t)1?(β1(t))t(hm(t)1?β2t+?)?1
gm(t)=β1(t)gm(t?1)+(1?β1(t))Fm(t?1)hm(t)=β2hm(t?1)+(1?β2)(Fm(t?1))2β1(t)=β1b+(β1a?β1b)exp[?(t?1β1c)2]
(26)
本工作中使用的默认超参数是η = 0.05, β1a = 0.9, β1b = 0.5, β1c = 100, β2 = 0.99。

3.2.3. VSCF预训练
预训练网络参数是一种被证明可以加速和稳定网络优化的技术。(32,63)在这里,我们可以预训练方程17中依赖于ONV的模态函数?i(n)的无反向流部分?i(0),以匹配振动自洽场(VSCF)理论的解。(72,73)VSCF理论假设一个模态积(MP)态,其中每个模式i由单个模态函数?i描述:
|ΨMP?=?????=1|???????|ΨMP?=?i=1L|?i?
(27)
然后通过最小化获得Watson哈密顿量的平均场解:
??VSCF=min|ΨMP??ΨMP|???vib|ΨMP??ΨMP|ΨMP?=?ΨVSCF|???vib|ΨVSCF??ΨVSCF|ΨVSCF?
(28)
这种最小化等同于求解最优的?i(0)集合,这又等同于将所有权重和偏置设置为零的MBF网络优化(即δi(n) = 0)。VSCF模态函数已经捕获了大量的非谐校正,使我们能够专注于通过优化仅依赖于ONV的模态校正δi(n)来最小化剩余的能量。?i(0)的优化本身是用振动哈密顿量的谐波部分的本征态初始化的,这些本征态是ONV态(例如,基态的真空态)。这种初始化方案背后的假设是谐波解位于VSCF解附近,而VSCF解本身又位于非谐解附近。我们在图1c中展示了这种嵌套的预训练过程。VSCF模态函数使用相同的选配置程序进行优化,并将VSCF模态函数输入到MBF网络中。我们将看到VSCF预训练显著加快了MBF波函数的优化速度,并且在针对激发态时避免陷入更高能级状态至关重要。

3.2.4. 靶向激发态
计算激发态有两种主要方法:状态平均/集合方法(81,82)和使用正交性惩罚的状态特定计算(83?85)。在这项工作中,我们选择了第二种方法,因为它实现简单。具体来说,我们使用NQS包NetKet(74,75)中给出的偏移哈密顿量和相应的激发态求解器实现(85)。第n个激发态的惩罚修改后的哈密顿量表示为:
???(??)vib(??)=???vib+??∑??=1???1|Ψ????Ψ??|?Ψ??|Ψ????ZPE,??≥1
H^vib(n)(z)=H^vib+z∑j=1n?1|Ψj??Ψj|?Ψj|Ψj??ZPE,?n≥1
(29)
其中为了方便起见,减去了零点能量(ZPE)。数学上,偏移常数z可以选择任何高于目标振动跃迁的值。例如,设置z = 1000 cm–1可以让我们针对所有低于1000 cm–1的振动跃迁。然而,在实践中,过高的z值可能会使优化偏向于保持正交性而不是最小化激发态能量。因此,z理想情况下应该是依赖于能级的,并且略高于激发态能量,这自然需要对目标能级有一些先验知识。由于?vib的第n个精确本征态也是?vib(n)的变分基态,无论z的值如何,我们可以估计z为?vib(n)的VSCF解的能量:????=?ΨVSCF??|???vib|ΨVSCF????ΨVSCF??|ΨVSCF???+??′∑??=1???1|?Ψ??|ΨVSCF???|2?Ψ??|Ψ????ΨVSCF??|ΨVSCF????ZPE≥?Ψexact??|???vib|Ψexact????Ψexact??|Ψexact????ZPE=?????ZPEzn=?ΨnVSCF|H^vib|ΨnVSCF??ΨnVSCF|ΨnVSCF?+z′∑j=1n?1|?Ψj|ΨnVSCF?|2?Ψj|Ψj??ΨnVSCF|ΨnVSCF??ZPE≥?Ψnexact|H^vib|Ψnexact??Ψnexact|Ψnexact??ZPE=En?ZPE(30)其中z′是位移常数的初始估计值。我们强调|ΨnVSCF?不是原始Watson哈密顿量的第n个激发VSCF态,而是经过位移后的哈密顿量的VSCF基态(方程29)。通常,由于它们由不同的谐振配置主导,重叠|?Ψj|ΨnVSCF?|已经很小,因此zn相比z′有显著改善。

4. 数值实验
在本节中,我们研究了由MBF网络描述的不同程度的非谐性。为了进行系统研究,我们决定为一个4模式系统创建一个人工哈密顿量,该哈密顿量具有随机采样的PES的三阶和四阶偏导数κi1,i2,...,iν(ν = 3, 4),以模拟弱、中等和强的非谐性。谐振频率是从区间[1500, 3000] cm–1中均匀采样的随机数,PES的偏导数根据正态分布进行采样:|||??(??)??1,??2,...,????|||=??(????,????/5),??=3,4|κi1,i2,...,iν(ν)|=N(λν,λν/5),ν=3,4(31),其中正态分布??N的平均值λν和标准差λν/5由参数(以哈特里原子单位a.u.表示)控制:????=(50cm?1)a.u.×???????/2,(150cm?1)a.u.×???????/2,(500cm?1)a.u.×???????/2,分别对应弱、中等和强的非谐性。这里,w?被取为采样区间的中点(2250 cm–1)a.u.。此外,为了模拟典型的PES,我们取了四阶常数的绝对值,并为完全(所有指标相同)、半(仅某些指标相同)和非对角(没有指标相同)的张量元素分别设置了1、0.1、0.01的衰减因子。在整个数值实验中,仅对Watson哈密顿量使用了立方和四次力常数,并且没有包括科里奥利项。

我们通过它们的ZPE中的非谐修正来量化采样哈密顿量的非谐性,ZPE定义为基态能量???harm=∑????=1????(?????+12)H^harm=∑i=1Lwi(n^i+12)与?vib的基态能量之差。在图2中,我们绘制了103个采样哈密顿量的非谐修正分布,其中κijk(3)和κijkl(4)分别设置为代表弱、中等和强的非谐性。对于每个哈密顿量,基态都是通过精确对角化计算的,Nmax设置为9。我们发现这三种设置确实覆盖了不同的非谐修正范围,并且几乎没有重叠。强非谐性的设置达到了100 cm–1的非谐修正量级,这已经超过了被认为是强非谐性的分子。

图2
图2. 采样非谐性4模式哈密顿量的非谐修正分布,Nmax = 9。在每个分布中,采样了103个哈密顿量,κijk(3)和κijkl(4)分别设置为弱、中等和强的非谐性范围。

高分辨率图像
下载MS PowerPoint幻灯片

首先,我们研究了学习ONV依赖的模态函数的效果,而不是直接通过浅层FNN学习波函数值。为此,我们选择了三阶和四阶简化力常数的中等设置,并将Nmax设置为6。为了隔离网络架构的效果进行比较,我们将Ns固定为128,并且没有应用任何预训练。扩展子空间W′的大小K × Ns设置为K = 1。此外,我们在学习率η = r?t/Tη0中施加了指数衰减,其中t和T分别是当前和总步数,衰减率r设置为0.1。

在图3的顶部面板中,我们展示了FNN和MBF网络在2000次迭代步骤后达到的准确性比较,两者都使用了隐藏神经元密度α = 1。MBF波函数的能量改进速度明显快于FNN。在优化结束时,MBF能量的误差达到了约0.1 cm–1,比FNN能量的误差小两个数量级。在图3的底部面板中,我们比较了不同隐藏神经元密度α下两种网络最终达到的能量误差。随着α的增加,MBF能量的误差大致按照幂律减少,对数尺度上的曲线大致呈线性。我们首先在FNN中也发现了类似的改进。当α = 4时,FNN能够达到1 cm–1及以下的光谱精度。然而,进一步增加α使得优化变得不稳定,并没有改善误差。图3中的两个图表共同展示了MBF网络在表达能力和系统性改进方面的明显优势。

图3
图3. (顶部)针对具有中等非谐性设置的随机生成的4模式Watson哈密顿量的基态,FNN和MBF之间的优化比较。对于两种网络,我们都设置了α = 1。(底部)在2000次迭代后,FNN和MBF的最终误差比较,α分别为1、2、4和8。Ns = 128且Nmax = 6,适用于所有计算。

高分辨率图像
下载MS PowerPoint幻灯片

接下来,我们分析了MBF在不同非谐强度组合(三阶偏导数κ(3)和四阶偏导数κ(4))以及不同Nmax下的可靠性。对于每种组合,我们使用了隐藏神经元密度α = 1的MBF网络,选定的子空间大小分别为Ns = 16、32、64和128。在图4中,我们展示了不同非谐强度下MBF基态能量的误差,按Nmax和Ns分组。误差是根据精确对角化结果测量的,并在对数尺度上用红色、白色和蓝色分别表示高于、等于和低于1 cm–1的光谱精度。对于每种(κ(3), κ(4), Nmax, Ns)的组合,采样并解决了100个哈密顿量,并对最终误差进行了平均。所有计算都使用了VSCF预训练。几乎所有误差都低于1 cm–1(蓝色),除了Nmax = 9和Ns = 16的两个角落,这些情况对应于解决最大和最具非谐性的系统,且选定的配置数量最少。此外,我们观察到以下趋势:(1)增加Ns可以系统地减少最终误差;(2)非谐性越强,应该将更多的配置纳入选定空间以提高精度;(3)较大的Nmax通常也需要更大的选定子空间才能达到1 cm–1的光谱精度。

图4
图4. 使用MBF波函数进行基态优化的误差(cm–1)。每个3 × 3块对应于Nmax和选定空间维度Ns的组合。在每个块内,使用了不同非谐强度(w:弱,m:中等,s:强)的三阶(κ(3)和四阶偏导数(κ(4))的组合来生成100个4模式Watson哈密顿量,然后对MBF能量的最终误差进行了平均,并在对数尺度上用红色、白色和蓝色分别表示高于、等于和低于1 cm–1的光谱精度。所有计算都使用了相同的超参数,并进行了1000次迭代。每次优化之前都使用了VSCF预训练。

高分辨率图像
下载MS PowerPoint幻灯片

在本节中,我们使用随机生成的Watson哈密顿量,系统地测试了MBF网络在性能上的优势,包括其相对于FNN的优势、适用范围以及参数选择(如隐藏神经元密度α和选定空间大小Ns)的影响。这些见解为我们现在将MBF网络应用于从头算非谐振动哈密顿量的基态和激发态的求解提供了宝贵的指导。

5. 从头算非谐振动哈密顿量
我们应用MBF网络来针对三个分子ClO2、H2CO和CH3CN的ZPE和低振动跃迁,同时增加了模式数量和非谐性程度。对于ClO2和H2CO,我们使用了PyPES库中的六次力场和科里奥利常数。(86)对于CH3CN分子,尽管只有四次力场可用(例如,参见参考文献(87,88)),但其强烈的非谐特性使其成为测试张量网络方法的合适对象。(49,53)在这里,我们使用了参考文献(88)中报告的PES,该PES直接来自参考文献(53)的支持信息。参考能量是使用程序QCMaquis(89)和振动密度矩阵重整化群(vDMRG)计算得出的。我们选择了最大键尺寸为100的MPSs,这对于最大的系统CH3CN来说是足够的。对于MBF计算,扩展子空间W′的大小K × Ns设置为K = 1,学习率η的指数衰减率r对于ClO2设置为0.1,对于H2CO和CH3CN设置为0.5。

三原子分子ClO2的三个正常模式具有弱非谐性。首先,我们展示了VSCF预训练步骤在加速和稳定激发态优化方面的能力。在图5的顶部面板中,我们展示了使用MBF(α = 2和Ns = 64)针对最低八个本征态的优化,无论是否使用VSCF预训练。当优化从没有VSCF预训练的随机初始猜测开始时,基态和前两个激发态的优化仍然收敛,尽管速度较慢。然而,从第三个激发态开始,优化倾向于陷入其他局部最小值,最终得到错误的本征态。例如,第三个激发态仅在第五次计算中获得。一些优化甚至变得不稳定,未能达到任何八个低激发态。

图5
图5. (顶部)使用MBF(α = 2和Ns = 64)优化ClO2的最低八个振动能级(通过ZPE位移)。通过精确对角化获得的能级作为参考。Nmax = 9。(底部)比较了有无VSCF预训练的优化之间三个最低本征态的平均误差。阴影区域标记了三个状态的标准偏差范围。

高分辨率图像
下载MS PowerPoint幻灯片

当使用VSCF预训练时,优化已经从精确本征能量附近开始,其改进在所选的尺度上几乎不可见。VSCF预训练提供的一组更优的初始模态函数也确保我们按正确的顺序获得每个本征态,这对于识别所有低于目标阈值的跃迁能量至关重要。对于具有和没有VSCF预训练的优化都收敛的最低三个本征态,我们在图5的底部面板中比较了三个状态上误差的衰减行为。我们发现,使用VSCF预训练可以使误差更快地达到1 cm–1的精度,最终将误差减少了大约两个数量级。当VSCF预训练存在时,从基态到激发态的精度得到了很好的保持,这由小标准偏差(粉红色阴影区域)与没有预训练的情况(灰色阴影区域)相比可以看出。

对于更大的分子H2CO(6个模式)和CH3CN(12个模式),随着Nmax的增加和非谐性的增加(H2CO的非谐修正约为77 cm–1,CH3CN约为68 cm–1),我们将H2CO的隐藏神经元密度α增加到4,CH3CN增加到8。我们使用了一种逐步增加Ns的顺序优化方案。总共有四个阶段,步数分别为500、200、100和100。每个阶段之后,选定的配置数量Ns翻倍。H2CO的初始Ns设置为256,CH3CN的Ns设置为512。两种分子的学习率η都设置为0.005。所有计算都使用了VSCF预训练。

在图6中,我们展示了五个优化能级的绝对误差与H2CO的vDMRG结果的比较,作为Ns的函数。我们发现,适度的Ns = 512能够将所有目标状态的误差减少到1 cm–1以下。对于Ns > 512的情况,前三个状态的误差改善很小,而对于状态3和4,在Ns = 2048时能量误差明显下降。在表1中,我们列出了两种分子的零点能(ZPE,n = 0)以及从基态(n = 1, 2, 3, 4)开始的四个最低振动跃迁。由于所有状态的误差相对均匀以及误差抵消效应,我们发现两种分子的跃迁能量与vDMRG参考结果非常吻合(≤0.56 cm–1)。MBF的能量误差与最近提出的神经正则变换得到的结果接近(对于CH3CN的最低四个激发态,绝对误差范围为0.25至0.28 cm–1),其中神经网络近似于一个幺正变换而不是量子态。值得注意的是,尽管从H2CO到CH3CN的希尔伯特空间维度呈二次方增长,但将Ns加倍就足以实现类似精度。

图6:随着Ns的增加(Nmax = 6),使用MBF计算的H2CO本征态能量的误差(cm–1)与vDMRG结果的比较。

表1:使用MBF计算的H2CO(6个模式)和CH3CN(12个模式)的ZPE(n = 0)以及四个最低振动跃迁(n = 1, 2, 3, 4)与vDMRG参考结果的比较

a n MBF DMRG 误差
H2CO 0 577 3.69 577 3.17 +0.52
1 116 4.45 116 4.26 +0.20
2 124 5.59 124 5.22 +0.36
3 149 7.87 149 8.31 -0.44
4 174 3.46 174 3.83 -0.37
CH3CN 0 983 8.21 983 7.41 +0.81
1 136 1.19 360.99 +0.20
2 136 1.18 360.99 +0.19
3 172 3.32 723.18 +0.14
4 172 3.74 723.18 +0.56

H2CO和CH3CN的最大Ns分别为2048和4096。所有能量单位为cm–1。Nmax = 6。H2CO的隐藏神经元密度为α = 4,CH3CN的隐藏神经元密度为α = 8。

在本节中,我们了解到,尽管MBF网络在光谱精度方面的表现令人满意,但它并未超过TNSs所达到的精度或计算效率。最近的一项基准研究表明,TTNSs为CH3CN提供的ZPE和振动跃迁的误差估计低于10–3 cm–1。在效率方面,MBF和TNSs之间的差异可以归因于两个问题。首先,评估MBF的能量是一个全局操作。尽管选配置方案在采样状态的数量上比常用的蒙特卡洛方法更高效,但它仍然需要收集整个Fock空间中的配置并评估它们的波函数幅度和局部能量。相比之下,vDMRG通过每一步只优化一个或两个位置的参数来降低计算成本。其次,基于梯度的能量最小化可能会出现问题。尽管MBF在学习振动能量方面比FNN要好得多,但我们仍然需要采用各种技术(如在CoRe优化器之上进行预训练和额外的学习率调度)来确保优化的稳定性。然而,当前优化方案尚未能够充分利用MBF网络的表达能力来处理较大的分子H2CO和CH3CN。然而,应该强调的是,这些优化问题在NQS方法中是普遍存在的,并不会降低模态回流假设的价值。相反,基于物理的MBF假设为基于NQS的振动结构计算奠定了坚实的基础,使其能够从优化技术的持续进步中受益。

另一个比较方面是自由参数的数量:具有键维数m的振动MPS包含??(????max??2)O(LNmaxm2)个参数,而对于具有单隐藏层的MBF假设,自由参数的数量按??(????2??max)O(αL2Nmax)的比例增长。尽管MBF的参数数量随模式数量L的增长不如前者有利,但尚不清楚对于给定的目标精度,α或m将如何随L变化。例如,对于12模式的CH3CN,完全收敛的vDMRG计算需要大约100的键维数,而我们在本工作中使用的最大隐藏层密度α为8,这使得两种方法的参数数量比(忽略前因子的影响)m2/(αL)相当大。尽管如此,对于我们研究的系统,将α增加到8以上只带来了微小的能量改进,这表明未来的优化方法进步对于充分利用MBF假设的表达能力至关重要。

6. 结论与展望

神经量子态(NQSs)已成为解决量子多体哈密顿量的多功能假设。虽然NQS在电子结构理论中已有应用,但迄今为止,其在分子问题的振动部分的实现仍然不足。在这项工作中,我们探讨了定制NQS来解决非谐振动问题的低能本征态的可行性。我们理论的核心是模态回流(MBF)NQS设计,该设计使用依赖于输入占据数向量的模态函数来捕捉非谐性。与传统的前馈神经网络(FNN)相比,这种定制的网络在表达能力和可训练性方面都有显著改进,特别是在应用于Watson哈密顿量时。我们实现了一种选配置方法来计算期望值和梯度,而不是更常用的蒙特卡洛方法,以适应典型非谐本征态的高度峰值幅度分布。我们结合了使用振动自洽场计算的预训练步骤,这可以在MBF框架内方便地进行。这种预训练步骤对于提高优化的鲁棒性特别重要,尤其是在针对激发态时。首先,我们研究了使用随机采样的力常数的MBF假设来模拟不同级别的非谐性,并获得了所有非谐性范围内的准确零点能(ZPE)。其次,我们将MBF假设应用于三种分子的Watson哈密顿量计算中,包括强非谐的CH3CN。我们能够以光谱精度解析出ZPE和低能振动跃迁。

我们的工作将NQSs的应用范围扩展到了振动计算,展示了它们在量子化学中的潜力,超出了电子问题的范畴。通过与FNNs的比较,我们展示了模态回流形式的明显优势,并强调了将不可区分粒子的特征直接嵌入网络架构中的价值。尽管存在通用逼近定理,但只有通过包含必要的MBF输出层,FNNs对非谐振动问题的逼近能力才能得到充分利用。此外,使用占据数向量依赖的模态揭示了非谐振动本征态中相关性的独特结构,为其他玻色子系统提供了潜在的可转移见解。

我们注意到网络优化中存在几个实际挑战,例如评估物理可观测量时的全局性质以及当前基于梯度的优化方案的局限性。然而,这些问题并非MBF假设所特有,而是NQSs优化的一般问题,这是一个快速发展的领域。重要的是,基于物理的MBF假设提供了必要的理论基础,可以很容易地与未来的优化技术进步相结合,从而为准确描述大分子系统的振动结构铺平道路。

我们设想了未来工作的几个方向。首先,我们可以将模态基础从谐振本征态扩展到一般的模态基函数。这样做的好处是可能减少波函数的纠缠,从而减少需要选择的重要配置数量。其次,当前的基于梯度的优化方案难以处理高复杂度网络的能量景观。为了充分利用NQS的表达能力,应该探索更稳健的优化方案,如二阶方法(90)和超越VSCF的多参考预训练技术。第三,为了针对高能激发态,我们应该采用直接针对光谱高能段的技术,而无需计算所有低于该段的本征态,例如光谱折叠(50)和FEAST(91)。最后,可以将当前的范围扩展到包括预玻恩-奥本海默哈密顿量,其中分子的费米子和玻色子自由度得到平等对待(参见参考文献(92)),通过将MBF网络与现有的电子NQS假设相结合。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号