SRS4:一种用于打捞驳船纵摇运动连续预测的堆叠残差深度神经网络

《Applied Ocean Research》:SRS4: A stacked residual deep neural network for heave motion continuous prediction of salvage barge

【字体: 大 中 小 】 时间:2026年03月11日 来源:Applied Ocean Research 4.4

编辑推荐:

  张凤瑞|侯桥毅|周成|梁刚达|刘志雷|宁大勇 中国大连海事大学国际海洋工程技术及装备研究中心,大连116026 **摘要** 在沉船打捞作业中,由于复杂的風力和波浪相互作用,船舶经常会产生感应运动,这会影响打捞作业的有效性。起伏补偿技术通过将载荷运动与船舶运动解耦来

  张凤瑞|侯桥毅|周成|梁刚达|刘志雷|宁大勇
中国大连海事大学国际海洋工程技术及装备研究中心,大连116026

**摘要**
在沉船打捞作业中,由于复杂的風力和波浪相互作用,船舶经常会产生感应运动,这会影响打捞作业的有效性。起伏补偿技术通过将载荷运动与船舶运动解耦来缓解这些影响,这对确保工程安全至关重要。然而,由于主动液压控制和惯性测量单元(IMU)信号滤波过程导致的系统延迟阻碍了补偿效果。为了减少系统延迟并实现领先补偿,预测驳船的运动是必要的。基于LSTM模型的许多神经网络预测方法显示出了显著的准确性;然而,LSTM模型存在长期记忆丢失和训练效率低等问题。本文提出了一种基于结构化状态空间序列模型的深层神经网络,用于打捞驳船的起伏预测,称为堆叠残差结构化状态空间序列预测神经网络。通过敏感性分析确定了所提出网络的最优架构和超参数。与基于LSTM的模型的比较分析表明,该方法在多次运行的稳定性、预测准确性和在不同海况下的平滑预测方面具有有效性。

**1. 引言**
在沉船打捞作业中,工作船舶(通常是驳船)使用多个吊索并行起吊目标沉船。由于风力和波浪的复杂激励,船舶不可避免地会产生感应运动。即使有系泊系统,也会发生显著的起伏、横摇和纵摇运动,起伏运动会拉扯吊索并产生巨大的张力波动。因此,实施起伏补偿技术是必要的,以吸收和缓冲这些张力波动,确保工程安全。起伏补偿是一种关键的海上运输技术,用于将载荷运动与船舶运动解耦(Xu等人,2023年)。它通常可以分为被动式或主动式类型(Woodacre等人,2015年)。被动式起伏补偿(PHC)以其低成本和简单结构而闻名,已成为广泛应用于海上钻井、结构处理和打捞作业的成熟技术(Sánchez等人,2020年;Xu等人,2023年)。由于吊索和载荷形成了具有二阶特性的弹簧悬挂系统,在共振过程中载荷运动和吊索张力可能会显著放大(Zhang等人,2023年)。2017年,中国的上海打捞局成功使用PHC技术将完好的韩国M.V. Sewol从44米深处打捞上来,最大起吊能力达到11,000吨(Yao等人,2018年)。然而,由于深水作业中的吊索本身刚度较低,PHC效果不佳(Hou和Zhang,2023年)。Zhang等人发现,在600米深度沉船的多吊索打捞系统中,PHC可以改善沉船的纵摇运动,但对起伏运动无效(Zhang等人,2023年)。提高深水打捞效果的一种方法是部署主动控制系统,即主动(或半主动)起伏补偿(AHC或SAHC)(Quan等人,2016b;Quan等人,2016a;Leng等人,2021年)。重型载荷AHC系统通常包括液压缸和比例控制阀,根据船舶的起伏运动调整起吊点的位置,通过闭环控制器实现精确的位置或力控制,其补偿性能优于PHC(Do和Pan,2008年;Woodacre等人,2018年;Zhang等人,2010年)。Niu等人开发了一种适用于3000米、200吨起吊绞车的SAHC系统,在全尺寸实验中实现了92.9%的位移补偿效率(Niu等人,2019年)。Yan等人开发了一种自适应鲁棒积分滑模控制器,在3到6级海况下至少实现了95%的张力补偿效率(Yan等人,2020年)。Xie等人提出了一种用于电动驱动海上绞车的滑模控制器,在不规则波浪激励下实现了96.03%的位移补偿效率(Xie等人,2023年)。尽管先进的控制算法使AHC具有良好的起伏运动信号跟踪能力,但由于系统固有的延迟,进一步提高补偿效率仍然具有挑战性。系统延迟可能归因于从惯性测量单元(IMU)收集起伏信号时的传输和滤波延迟、重型液压系统的响应时间(由于油或软管的弹性模量)以及控制器误差等因素。仅仅增强控制器无法完全解决这些问题,还可能增加设计成本和周期。一个直接有效的解决方案是提前预测起伏运动并将这种预测输入系统。

传统的船舶实时运动预测方法主要是基于观测器和统计方法的。基于观测器的方法需要相对准确的流体动力学模型来描述船舶的行为,这限制了它们的实际应用(Triantafyllou和Athans,1981年)。因此,Küchler等人设计了一种用于海上起重机主动控制的船舶运动预测算法,使用快速傅里叶变换(FFT)和卡尔曼滤波器(Küchler等人,2010年;Küchler等人,2011年)。通过FFT将起伏序列分解为几个主要频率,并假设这些频率分量的线性叠加可以描述实际运动。这种方法绕过了对流体动力学模型的需求,允许通过卡尔曼滤波器进行估计和预测。基于统计的方法主要包括一系列自回归模型及其变体,如自回归(AR)、自回归移动平均(ARMA)和自回归积分移动平均(ARIMA)(Fusco和Ringwood,2010年;Yumori,1981年;Suhermi等人,2018年)。这些方法依赖于数据线性相关的假设,从而能够基于历史时间序列进行递归预测。然而,由不规则海浪引起的船舶运动表现出非平稳和强非线性特征(Simanesew等人,2017年)。打捞驳船还受到系泊系统的低频运动影响,这引入了更多的非线性相互作用(Auburtin等人,2019年)。因此,这些传统方法的预测准确性通常无法满足实际要求。

基于神经网络(NN)的机器学习方法具有众所周知的非线性逼近潜力,已成为船舶运动预测的重要且日益增长的方法。基于NN的方法本质上是数据驱动的方法,利用替代模型。它们在预测相位分辨的波浪和系泊线张力方面得到了验证(Liu等人,2024年;Yang等人,2023年)。NN模型可以分为几种典型的架构,如多层感知器(MLPs)、卷积神经网络(CNNs)和循环神经网络(RNNs)。此外,这些模块可以组合成更复杂的复合结构以执行更复杂的任务(Zhang等人,2023年;Liu等人,2024年)。MLP,也称为前馈神经网络,由多层神经元和激活函数组成(Liong等人,2024年)。它缺乏从数据中提取时间或空间特征的能力,因此通常作为其他模块后的数据解码器使用。相比之下,长短期记忆(LSTM)作为一种RNN,由于其出色的时间特征提取能力,已被广泛用于船舶运动预测任务(Duan等人,2019年;Zhang等人,2019年)。例如,Guo等人提出了一个基于多变量LSTM的NN模型,用于预测半潜式船舶的起伏和纵摇运动,该模型可以预测未来46.5秒内的运动,平均准确率约为90%(Guo等人,2022年)。Hu等人比较了MLP和LSTM模型在预测起伏补偿系统控制方面的性能(Hu等人,2023年)。在非规则运动场景中,LSTM预测器的性能优于MLP,实现了高达97.1%的载荷补偿效率。在(Zhang等人,2023年)的研究中,Zhang等人提出了一种用于600米沉船打捞SAHC的多变量LSTM基NN,为5秒内的未来期间提供了连续的起伏和纵摇预测。该模型在测量噪声存在的情况下表现出比PHC和非预测性SAHC更好的性能。此外,LSTM模型在预测海上结构的运动响应方面也表现出色,包括浮动风力涡轮机、浮筒桥模块的海上连接和海上平台(Shi等人,2023年;Shen等人,2023年;Diao等人,2024年)。Pan等人提供了关于海上结构和船舶运动预测的最新研究和应用的综述(Pan等人,2024年)。因此,基于LSTM的模型在该领域得到了广泛应用。

然而,LSTM模型仍然面临长期记忆丢失和训练效率低等问题。为了实现更长的预测范围,需要改进的循环类型模型。一种潜在的解决方案是结构化状态空间序列(S4)模型,该模型已经在许多深度学习任务(如自然语言处理)中显示出取代RNN和主流注意力基神经网络(ATNNs)的潜力(Patro和Agneeswaran,2024年)。S4的优势在于它可以在循环和卷积模式下进行计算,同时允许更长的依赖关系,并避免了RNN训练的低效率和长期记忆问题。其衍生架构Mamba在视觉表示和图像分割方面表现出比CNNS、RNNs和ATNNs更好的序列建模能力(Zhu等人,2024年;Wang等人,2024年)。然而,其在船舶运动预测方面的性能仍需研究,特别是与主流LSTM模型相比。

本文提出了一种以S4为中心的堆叠深度神经网络架构,用于驳船起伏运动的多步预测。S4的详细信息在第2节中介绍。在第3节中,通过一系列流体动力学模拟获得了不同不规则海况下重型沉船打捞驳船的顺序数据,并将其分为训练、验证和测试数据集。在第4节中,将S4和LSTM封装成层和浅层神经网络进行预测性能测试。最后,基于S4层的深度残差神经网络,称为堆叠残差S4(SRS4)预测神经网络,用于预测打捞驳船15秒范围内的起伏运动。网络架构及相关超参数的敏感性和泛化分析在第5节中提供。测试结果表明,所提出的SRS4神经网络在预测驳船起伏运动方面表现出显著的性能,为实际沉船打捞工程提供了指导。

**2. 结构化状态空间序列模型**
结构化状态空间序列模型旨在将长距离依赖能力与可并行计算相结合(Gu等人,2021年)。通常,RNN使用固定大小但可更新的隐藏状态向量逐元素处理输入序列,在每次迭代中产生输出。它们可以处理无限数量的输入迭代,同时保持恒定的存储量。然而,由于RNN中的非线性单元(如激活函数),迭代过程必须严格按顺序进行,显著降低了训练效率。相比之下,S4模型基于线性时不变系统,可以以循环和卷积形式表示。S4模型主要包括线性状态空间模型(SSM)、时间离散化、卷积表示和长距离依赖矩阵初始化,这些内容将在本节中详细说明。

**2.1. 状态空间模型**
作为S4的关键组成部分,状态空间模型(SSM)是一个线性时不变微分方程,常用于自动控制和数学建模领域的多输入多输出连续时间动态系统的描述。给定一个输入函数U(t)∈R^I,一个潜在状态X(t)∈R^N,和一个输出函数Y(t)∈R^O,一个N阶SSM可以定义为状态方程:
X˙(t) = AX(t) + BU(t)
以及输出(或观测)方程:
Y(t) = CX(t) + DU(t)
其中X˙是X关于时间t的导数,A∈R^N×N是状态矩阵,B∈R^N×I是输入矩阵,C∈R^O×N是输出矩阵,D∈R^O×I是贯穿矩阵。SSM通过潜在状态X(t)及其趋势(随时间t的导数)将多维函数U(t)转换为另一个多维函数Y(t)。在方程中,状态矩阵A决定了系统的更新过程,输入矩阵B决定了输入对系统的影响,输出矩阵C决定了从潜在状态产生的输出。对于神经网络中的SSM,这些矩阵A、B和C是应使用真实数据集进行优化的可训练参数。馈通矩阵D表示从输入到输出的直接前馈关系,这可以通过神经网络中的残差连接来轻松表示,因此在这些方程中通常被忽略。2.2. 离散时间循环SSM在真实的工程实现中,船舶运动通过IMU传感器收集,并以固定的采样时间作为序列数据采样。因此,作为连续时间系统的SSM应该被离散化以处理序列数据。典型的SSM离散化方法包括欧拉法、双线法和零阶保持(ZOH)法,其中ZOH法在准确性和稳定性方面表现更好(Wang等人,2024年)。对于一个恒定的离散间隔时间Δ,使用ZOH法进行SSM离散化如下:Aˉ=eΔ,Bˉ=A?1(Aˉ?I)B,Cˉ=C,其中矩阵Aˉ、Bˉ和Cˉ是矩阵A、B和C的离散形式。然后,对于序列u = [u1, u2, ..., up]中的输入值uk和序列y = [y1, y2, ..., yp]中的相应输出值yk,离散时间SSM可以表示为:xk=Aˉxk?1+Bˉuk,yk=Cˉxk,其中x∈RN×1是一个可迭代的潜在状态向量,k是迭代步长。状态矩阵Aˉ∈RN×N,向量Bˉ∈RN×1和Cˉ∈R1×N用于一维输入输出条件。如图1所示,离散时间SSM可以递归计算。它是一个循环模型,状态向量x作为可更新的隐藏状态来记忆历史输入。这种循环模式对于某些生成任务是有效的,且不限制输入长度。然而,与其他循环模型类似,它也面临诸如无法并行计算和在长时间推理过程中梯度累积的问题,这可能导致梯度消失或爆炸。为了有效训练,离散时间SSM还允许在卷积模式下进行计算。下载:下载高分辨率图片(265KB)下载:下载全尺寸图片图1. 循环模式和卷积模式下SSM的示意图。2.3. SSM的卷积表示通过扩展离散时间SSM的迭代步骤,可以从第1步到第k步获得状态方程:x1=Bˉu1,x2=AˉBˉu1+Bˉu2,x3=Aˉ2Bˉu1+AˉBˉu2+Bˉu3...,xk=∑i=0k?1AˉiBˉuk?i。然后,可以得到第k步的相应输出方程yk=Cˉ∑i=0k?1AˉiBˉuk?i=CˉAˉk?1Bˉu1+...+CˉAˉBˉuk?1+CˉBˉuk。这意味着从输入序列到输出序列的1D卷积关系,可以表示为y=u*K,其中K∈R1×p是序列长度为p的卷积核,表示为K=[CˉBˉCˉAˉBˉ...CˉAˉp?1Bˉ]。在编码中实现卷积时,需要对u的两侧进行p-1长度的零填充。如图1所示,离散时间SSM的卷积模式通过在一次计算中提供输入和输出序列之间的直接映射关系,而无需计算潜在状态向量。当输入和输出序列已知时,这种方法特别有效,例如在网络训练过程中。此外,卷积定理允许使用FFT以更高效的方式计算卷积(Gu等人,2021年),表示为y=iFFT(FFT(u)°FFT(K)),其中FFT(·)表示带p-1长度零填充的FFT,iFFT(·)表示逆FFT并截取前p-1长度。2.4. 使用HiPPO矩阵进行长距离依赖性初始化卷积模式增强了离散时间SSM的并行计算能力;然而,由于状态向量的固定大小,仍然存在长期记忆限制。此外,由于SSM本质上是一个线性一阶常微分方程,状态矩阵的特征值必须为负以确保迭代稳定。Gu等人创新性地提出了一种状态矩阵的初始化方法,以赋予SSM长距离依赖性:高阶多项式投影算子(HiPPO)(Gu等人,2020年)。该方法为初始状态矩阵指定了一个结构化格式,可以将大的函数空间在线投影到正交多项式的子空间中,该子空间的维度是有限的。作者在(Gu等人,2020年)中提供了完整的推导和详细证明。总之,主要思想是通过定义的测量μ(t)找到一组合适的正交多项式{gn}n∈[N]。存在相应的高项系数满足加权内积cn(t)=〈f≤t,gn〉μ(t),其中f是待近似函数。对于某些特定的矩阵A(t)和B(t),系数向量c(t)=[c1(t),c2(t),...,cn(t)]满足一个常微分方程isc˙(t)=A(t)c(t)+B(t)f(t)。在[46, 定理2]中,给出了一种新颖的缩放Legendre度量来为所有历史数据分配均匀权重:μ(t)=1/tI[0,t]。将其代入微分方程得到结构化矩阵:Ai,j={2i+1/2j+1 if i>ji+1, if i=j 0 if i单变量LSTM模型的示意图。一个标准的LSTM层包含一个LSTM模型,可以表示为y^lstm = LSTM(u)。然而,为了考虑残差连接的影响,还需要一个类似于S4层的残差LSTM(rLSTM)层。这可以表示为y^rlstm = LSTM(u) + Dru4。2. 测试结构和超参数当神经网络层结合到更高的结构中时,其性能会更好,而不是单独工作。为了验证S4模型的有效性,本节考虑了两种常见的层数测试结构,分别称为缩放结构和编码结构,如表3所示。表3. 缩放结构和编码测试结构的层参数。层索引缩放结构编码结构层名张量大小层名张量大小1顺序输入B×I×1顺序输入B×I×12全连接层1B×H×1被测试层B×I×13被测试层B×H×1全连接层1B×H×14全连接层2B×P×1全连接层2B×P×15顺序输出-顺序输出-缩放结构使用全连接(FC)层首先将输入维度I投影到更高维度H。然后,将缩放后的张量输入到被测试层进行时间特征提取。最后,另一个FC层将中间张量的维度降维到输出维度P以进行预测。B是每个训练周期的小批量大小。编码结构首先对输入信息进行编码,同时保持原始输入维度I。然后,通过两个FC层对编码后的张量进行解码,中间维度为H,并将其投影到输出维度P。通常,一个合格的神经网络模型应该经历以下步骤:1. 前向传播:模型输入训练数据集中的小批量并计算相应的预测结果。2. 损失评估:通过损失函数将预测结果与相应的真实值数据进行比较,该函数量化了模型输出误差。3. 后向传播:使用链式法则计算模型中每个可训练参数的损失梯度,优化器根据梯度调整参数。4. 训练和验证过程:步骤1-3表示一个训练周期。模型通常需要多个训练周期才能达到收敛。验证数据集用于评估模型训练的正常进展。5. 测试过程:在所有训练周期之后,使用测试数据集评估模型的最终性能。在训练、验证和测试过程中,选择均方误差(MSE)作为预测误差评估的损失函数,其公式为MSE(y, y^) = 1/p ∑i=1p(yi - y^i)2,其中y^=[y^1, y^2, ..., y^p]是模型的预测向量。对于所有的层测试,训练数据集被划分为大小为B = 256的小批量,总共进行150个周期的训练和验证。选择了广泛使用的优化算法Adam优化器。它基于小批量梯度下降方法,并结合了Momentum和RMSprop的优点。优化器采用了可变学习率策略以确保模型稳定收敛。初始学习率设置为0.003,并每15个周期减半。所有模型都使用PyTorch实现,并在配备64核CPU和八个NVIDIA A800 GPU的硬件上执行。4.3. 海浪预测的层性能在本节中,输入和输出(预测)长度固定为15秒,即I = P = 150。尽管更大的输入输出比率可能会产生更好的预测性能,但在层测试中未考虑这一因素以便于简洁比较。图5a-c和图6a-c分别展示了两种结构中LSTM、rLSTM和S4层的性能。由于神经网络的大部分可训练参数都是随机初始化的,因此每次运行后模型可能会表现出不同的最终性能。因此,每个模型都分别初始化和评估了五次以测试多次运行的稳定性。对于预测MSE,使用95%置信区间(CI)作为5个结果的范围指示器,计算公式为CI95%(y) = mean(y) ± tstd(y)/d,其中mean(·)是均值函数,t是T分布系数(t = 2.776用于95%的双侧),std(·)是标准差函数,d是自由度(d = 5-1 = 4对于5个样本)。下载:下载高分辨率图像(1MB)下载:下载全尺寸图像图5. 不同测试层的缩放结构的训练、验证和预测MSE。下载:下载高分辨率图像(1MB)下载:下载全尺寸图像图6. 不同测试层的编码结构的训练、验证和预测MSE。在图5a-c中,分别展示了具有三层结构的缩放结构的MSE评估。所有层情况都显示了稳定的训练过程,没有梯度爆炸。图5c中的S4情况在训练稳定性、多次运行一致性和预测性能方面优于LSTM和rLSTM情况。所有层情况显示出相似的预测趋势,即随着预测范围的延长,预测MSE逐渐增加。这是预期的,因为预测更远未来的预测更加具有挑战性。然而,S4情况的预测准确性显著更高,平均MSE最大为0.063,相比之下LSTM和rLSTM情况分别为。图5a中的LSTM情况也在多次运行中表现出一定程度的一致性,但其平均预测MSE最大约为0.25,大约是S4情况的四倍。图5b中的rLSTM情况在三种情况中显示出最差的一致性,特别是其验证MSE。虽然两次运行的预测MSE与S4情况相似,但其他三次运行的MSE明显更高。这些结果表明,rLSTM层中的残差连接并未提升性能,甚至可能引入更多的参数不确定性。得益于HiPPO初始化,S4情况在多次运行中实现了最佳的一致性性能。图6a-c展示了嵌入三个测试层的编码结构的性能。与缩放结构的结果相比,所有情况的预测MSE都较低,LSTM情况降低了71.74%。这些结果表明,编码结构比缩放结构更适合序列预测。此外,从这些层测试中可以得出结论,基于S4的模型在训练一致性和预测准确性方面明显优于基于LSTM的模型。此外,图7a-c还提供了三种层情况的海浪预测结果的时间域视角。每个图表包含5次运行中5秒、10秒和15秒的平均波浪预测(实线)以及真实值(虚线)。实线周围的阴影表示5次运行的95% CI,而实线表示这些运行的平均值。可以看出,基于S4层的编码结构的预测更加平滑和稳定,表明其工程部署的可靠性。下载:下载高分辨率图像(999KB)下载:下载全尺寸图像图7. 不同测试层的编码结构的时间域波浪预测结果。此外,为了消除PyTorch环境中随机初始化可能引入的不公平性,使用固定随机种子123重新评估了编码结构。图8a-c中的结果与图6a-c中的结果一致,证明固定随机种子不会影响训练过程的公平性。下载:下载高分辨率图像(1MB)下载:下载全尺寸图像图8. 使用相同固定随机种子不同测试层的编码结构的训练、验证和预测MSE。5. 堆叠残差S4预测神经网络层测试展示了S4层的强大性能。在本节中,提出了一个基于S4层的深度学习神经网络来预测打捞驳船的波浪运动。进行了一系列不同模型超参数和结构的预测性能分析。5.1. 堆叠残差架构得益于计算能力的提高,深层神经网络通常比浅层网络具有更强大的学习能力。引入残差连接可以进一步提高深度架构的可训练性。因此,提出了结合S4层和深度残差神经网络特性的堆叠残差S4(SRS4)预测神经网络,用于预测打捞驳船的波浪运动。如图9中的架构所示,该网络的关键设计概念是应用多个S4层来分层提取输入序列的时间特征。然而,第4节中的层性能测试表明,结合S4编码器与全连接解码器的结构可以实现更高的准确性。因此,将一个S4层和两个分支FC封装为一个S4堆栈以进行更好的分层提取。一个FC路径作为残差连接,从堆栈输入中减去,以过滤未提取的信息到下一个堆栈。另一个FC路径解码并从S4层重构张量到堆栈预测。然后将所有堆栈的预测结果相加形成网络预测。下载:下载高分辨率图像(223KB)下载:下载全尺寸图像图9. 提出的SRS4预测神经网络的示意图。SRS4神经网络的预测输出可以表示为y^ = ∑i=1N y^psi,其中Ns是堆栈的数量,y^psi是第i个堆栈的预测结果。单个S4堆栈的预测输出可以表示为y^psi = FC2(y^s4si),其中y^s4si是输入为y^psi?1的第i个堆栈中的S4层的输出。对于第一个堆栈,y^ps0 = u。此外,单个S4堆栈的残差分支的输出可以表示为y^rsi = y^psi?1 ? FC1(y^s4si)。5.2. 超参数敏感性分析为了探索所提出的SRS4神经网络的最佳预测性能,本节分析了超参数变化对模型性能的影响。考虑的超参数包括输入序列长度I、S4模型的N阶状态和S4堆栈的数量Ns。由于连续15秒的未来预测对于大多数实际打捞操作来说已经足够,因此输出序列长度保持为P = 150。其他设置,如优化和训练参数,保持与层测试中的相同。首先,保持4阶状态和堆栈数量Ns = 3,图10显示了不同输入长度的SRS4神经网络的预测MSE。每种颜色代表不同的输入长度条件,带宽表示5次运行的95% CI,实线表示它们的平均值。右侧的小提琴图从更直观的角度展示了预测MSE的值分布。可以观察到,输入长度I = 300(30秒历史)具有最佳预测性能,最大MSE为0.055,平均MSE为0.021。输入长度I = 150(15秒历史)的性能其次,仅相差1.8%,但根据实际训练过程,它至少可以节省一半的运行时间。因此,建议使用输入长度I = 150,并将其作为后续测试中的固定超参数。此外,尽管理论上更长的输入长度可以提供更多的历史知识,但并不总是产生更好的结果。输入长度I = 450的预测MSE显示出与其他情况相比再次增加的趋势。下载:下载高分辨率图像(222KB)下载:下载全尺寸图像图10. 不同输入长度的SRS4预测神经网络的预测MSE。正如离散SSM的公式所述,矩阵Aˉ、Bˉ和Cˉ的大小受到N阶状态的限制。理论上,更大的阶数可以提供更多的多项式逼近和内存空间。为了验证这一点,基于150和450输入长度条件进行了两次预测性能测试,每种情况考虑了四个阶数:N = 2、4、6和8。图11a显示了基于150输入长度的结果。可以观察到,不同状态阶数的结果基本相似。4阶状态表现最佳,与其他状态相比有相对较小的优势,实现了最大预测MSE为0.056,平均预测MSE为0.021。然而,如图11b所示,在450输入长度情况下,较大的6阶状态确实带来了更好的性能提升。尽管450的输入长度不被推荐使用,但研究发现使用6阶状态时,预测均方误差(MSE)可以达到最大值0.059,平均值0.02。然而,随着8阶状态的使用,性能会下降。下载:下载高分辨率图像(397KB)下载:下载全尺寸图像图11. 不同状态阶数的SRS4预测神经网络的预测MSE。保持4阶状态时,图12a和b显示了SRS4的预测性能受S4堆栈数量的影响,输入长度分别为I = 150和I = 450。可以看出,如图10和图11所示,三堆栈架构在I = 150的输入长度下可以实现最佳预测。对于更长的输入长度I = 450,四堆栈架构可以实现更好的预测,但其MSE仍然较大。下载:下载高分辨率图像(443KB)下载:下载全尺寸图像图12. 不同S4堆栈数量的SRS4预测神经网络的预测MSE。总之,对于预测打捞驳船15秒后的未来起伏运动,使用15秒到30秒的历史起伏运动数据,配备三个S4堆栈和4阶状态被证明是最有效的配置。基于推荐的输入长度和堆栈数量超参数,还测试了一种带有LSTM层的堆叠残差神经网络(称为SRLSTM)。SRS4中的S4层被LSTM层取代。如图13所示,SRLSTM的性能取决于隐藏层的大小。隐藏层大小是LSTM模型的关键超参数,等于单元状态和隐藏状态的向量大小。隐藏层大小为1024时,预测MSE最小,但仍高于SRS4的最小预测MSE。图14a和b分别展示了使用首选超参数的SRS4和SRLSTM的时间域起伏预测结果。这一结果进一步说明了S4模型的优越预测性能,具有平滑预测和多运行一致性的优点。下载:下载高分辨率图像(212KB)下载:下载全尺寸图像图13. 不同隐藏层大小的SRLSTM预测神经网络的预测MSE。下载:下载高分辨率图像(762KB)下载:下载全尺寸图像图14. 使用4阶S4层的SRS4和隐藏层大小为1024的SRLSTM的时间域起伏预测结果(两者都使用三个堆栈)。5.3. 采样频率敏感性分析RNN模型的性能会随着迭代次数的增加而下降,这被称为长期依赖问题。尽管LSTM模型引入了门控机制来缓解这一问题,但它仅部分解决了该问题。减少序列长度可能会提高LSTM模型的预测能力,因此在预测区间固定时建议使用较低的采样频率。考虑到这一点,本节评估了SRS4和SRLSTM在不同采样频率下的预测性能。输入和输出长度保持为15秒,序列分别以1 Hz、2 Hz、5 Hz和10 Hz的频率采样,对应150、75、30和15个数据点。堆栈数量保持为三个,S4层采用4阶状态,LSTM层隐藏层大小为1024。结果显示在图15a和b中。下载:下载高分辨率图像(494KB)下载:下载全尺寸图像图15. 不同序列采样频率的SRS4和SRLSTM预测神经网络的预测MSE。如图15a所示,SRS4在采样频率增加时表现出更低的预测MSE,表明更高的频率提供了更多信息以改善性能。相反,如图15b所示,SRLSTM在较低的采样频率1 Hz下表现最好,表明它更依赖于较少的迭代次数。然而,其在10 Hz采样频率下的最大预测MSE为0.079,仍高于SRS4的0.056。虽然将采样频率降低到1 Hz以下可能会进一步提高SRLSTM的性能,但不符合AHC位移闭环控制器的实时要求。此外,在训练一致性方面,SRS4的表现优于SRLSTM。5.4. 海况泛化分析最后,基于不同的训练和测试数据集进行了泛化分析。在上述测试中,使用中间海况S3P12的数据集作为测试集,而其他数据集作为训练集。然而,在实际应用中,训练集可能无法完全覆盖测试集的海况。例如,训练数据的显著波高可能小于3米,而预测目标海况可能达到5米。为了评估网络的泛化能力,交替使用所有五种海况的数据集作为测试集,其余数据集用于训练。所有测试都使用第4.2节描述相同的标准化标准。需要注意的是,由于预测幅度在测试集之间有所不同,MSE不再适合评估准确性。相反,使用归一化MSE(NMSE),计算公式为NMSE(y,y^)=MSE(y,y^)/var(y),其中var(·)是方差函数。如图16所示,预测NMSE表明,在预测S1P12海况时性能最佳,而在S3P8海况下的性能最差。S1P12、S3P12和S5P12海况的NMSE相对相似,因为它们具有相同的波频率。相比之下,S3P8、S3P12和S3P16海况的NMSE差异显著。这表明SRS4在预测训练集中的波频率下的起伏运动时表现更好。因此,建议在训练集中优先覆盖更广泛的波频率范围,而显著波高可以视为次要因素。此外,预测S3P8海况时NMSE值超过1表示预测无效,突显了SRS4在准确预测高频海况方面的难度。下载:下载高分辨率图像(212KB)下载:下载全尺寸图像图16. 海况泛化分析中SRS4预测神经网络的预测MSE。6. 结论本文提出了一种基于结构化状态空间序列(S4)模型和堆叠残差架构的起伏运动预测神经网络,用于深水打捞驳船。通过流体动力分析获得了26,159吨打捞驳船在五种海况下的起伏运动数据集,这些数据集具有不同的显著波高和谱峰周期,用于网络训练、验证和测试。首先,对S4模型和基于两种典型结构的LSTM模型进行了层预测性能测试,以验证S4模型的优越性。随后,提出了一种带有双残差连接和深度网络堆栈的堆叠残差S4(SRS4)预测神经网络,用于预测15秒后的未来起伏运动。基于起伏运动数据集,对所提出的神经网络进行了一系列超参数敏感性测试,以分析不同超参数对性能的影响。从分析结果中可以得出以下结论:•S4层在多运行一致性、预测平滑度和准确性方面明显优于LSTM层。•层测试基于两种3层浅层神经网络结构:缩放结构和编码结构。编码结构在所有测试层中都表现出更好的预测性能。•对于固定的15秒未来连续预测,所提出的SRS4神经网络在15到30秒的历史输入、4阶状态S4模型和3堆栈网络结构下实现了最佳性能。•使用首选超参数的SRS4神经网络在最远预测(15秒)时可以达到最大的预测MSE 0.056。相比之下,最佳的SRLSTM神经网络的最大预测MSE为0.08,表明准确度相差约30%。•SRS4神经网络在较高采样频率数据下表现出更好的准确性,这与SRLSTM相反,更适用于实时主动控制系统。•SRS4神经网络在预测训练集覆盖的波周期范围内的海况起伏运动时更有效,或者在其波周期较长时也更为有效。总之,S4模型在多运行一致性、输出平滑度、支持高频率采样和起伏运动预测准确性方面明显优于广泛使用的LSTM。通过结合SRS4神经网络,进一步提高了S4模型的预测性能。这项研究强调了S4模型作为传统LSTM在船舶运动预测任务中的替代方案的潜力。然而,仍存在一些限制,例如其在处理多变量场景方面的有限有效性以及在预测高频海况时的较低准确性。未来的工作将集中在这些限制上,并与其他神经网络架构进行比较,以进一步评估SRS4的性能并扩大其适用性。CRediT作者贡献声明张风云:撰写——原始草案,软件,数据整理。侯 joyi:监督,撰写——审查与编辑,资金获取。周成:调查。梁刚达:可视化。刘志雷:验证。宁大勇:方法论,项目管理。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号