摘要
为研究机器学习在海上结构物运动预报的发展现状及其亟需解决的关键问题，文中对近10年来海洋工程领域针对海上结构物运动预报的研究进行了全面的论述。随着海上结构物运动预报的需求不断扩大，基于流体力学理论的传统预测方法在预报精度与预报实时性上不能同时满足实际应用需求，而机器学习方法的出现，使精确预测未来时刻的运动响应并依据该响应实现结构物的超前控制成为现实。文中基于预报方法的建模原理将其分为统计回归方法、一般神经网络方法、智能神经网络方法与混合预测方法4类，并对4类方法进行了全面的回顾、分析和综合。最后，分析了当前存在的不足与问题，并从预报方法、框架以及数据集等方面给出了未来发展方向，可为船舶、海上平台等海上结构物运动预测领域的发展提供参考。研究表明：机器学习在海上结构物运动预报领域的研究尚处于相对初始阶段，仍有许多技术难题亟需解决，但随着AI大模型的大力发展与本领域研究学者对机器学习研究的不断深入，可为本领域特色预报方法的开发提供坚实基础。
Abstract
To study the development status and the key problems that need to be solved urgently of machine learning in motion prediction of marine structures, this paper comprehensively discusses the research on motion prediction of marine structures in the field of marine engineering in the past ten years. With the increasing demand for motion prediction of marine structures, the traditional prediction methods based on fluid mechanics theory cannot meet the practical application requirements in terms of both prediction accuracy and real-time performance. The emergence of machine learning methods makes it possible to accurately predict the future motion response and realize advanced control of structures according to the response. Based on the modeling principles of forecasting methods, they are classified into four categories: statistical regression methods, general neural network methods, intelligent neural network methods and hybrid forecasting methods, and the four categories of methods are comprehensively reviewed, analyzed and synthesized. Finally, the existing shortcomings and problems are analyzed, and the future development directions are given from the aspects of prediction method, framework and data set, which can provide reference for the development of motion prediction of marine structures such as ships and offshore platforms. The research shows that the research of machine learning in the field of marine structure motion prediction is still in the initial stage, and there are still many technical problems to be solved. However, with the vigorous development of AI large model and the deepening of machine learning research by researchers in this field, it can provide a solid foundation for the development of characteristic prediction methods in this field.
作为海洋工程领域的研究热点，海上结构物的安全问题得到广泛关注。除了保证结构物的强度性能，海上结构物在作业过程中的智能控制也是亟待解决的问题。如果采用一种实时预报方法，使决策人员可以在遇到恶劣海况之前采取恰当的控制策略[1-2]，对船舶等结构物进行智能操纵，这将大大降低海上作业或航行过程中的事故发生率，提高海上作业安全性与效率。
在海上结构物的运动预报方面，由于真实运动数据的强非线性以及实时采集数据的非平稳性[3]特征，传统的卷积预报方法与卡尔曼滤波方法不再适用，这使得海上结构物的运动预报面临着严峻的挑战。海洋工程领域对于传统的计算流体力学（computational fluid dynamics，CFD）方法有着较高的依赖性，但CFD方法对多工况和复杂工况下的计算量较大，无法实现实时预报的功能。近年来基于机器学习的预报方法开始在各个交叉学科中崭露头角，该类方法在保证计算精度的同时大大提高了计算效率。机器学习模型的预测机理见图1。
图1机器学习方法预测机理
Fig.1Prediction mechanism of the machine learning method
在过去的20年中，机器学习预测模型得到了极大的拓展，从最初的基于线性理论的回归模型如自回归（auto-regressive，AR）[4]、自回归平移平均（auto-regressive moving average，ARMA）、差分整合移动平均自回归（auto-regressive integrated moving average，ARIMA）[5]到非线性回归模型，如灰色预测（grey prediction，GP）[6]、支持向量回归（support vector regression，SVR）[7]等，实现了线性到非线性的进步，加强了模型对非线性关系的表达能力；之后发展到神经网络类方法，如反向传播神经网络（back propagation neural network，BPNN）[8]、径向基函数（radial basis function，RBF）网络[9]、小波神经网络（wavelet neural network，WNN）[10]等，通过引入非线性激活函数或核函数，实现了利用计算机训练的黑盒模型来进行运动预测；最后到现阶段的各种深度学习方法，如循环神经网络（recurrent neural network，RNN）[11]、卷积神经网络（convolutional neural network，CNN）[12]等，通过引入记忆单元或卷积操作，使预测模型更加智能化。预测方法的发展在丰富模型种类的同时提高了预测精度，使本文能够更深刻地认识到数据之间隐藏的时空关系。
基于机器学习模型在海洋工程领域当前的发展现状，本文旨在通过对相关研究方法的梳理和论述，总结了基于机器学习的运动预报方法的发展现状以及面临的挑战和机遇，推进人工智能与海洋工程领域的交叉应用，并促进海洋工程领域在智能化、自动化背景下的进一步发展。
1 目前已应用的预报方法
1.1 预报方法分类简述
Huang等[13]的综述中，把船舶运动短期预测方法按照理论范围、数学工具、建模原则和运动数据特征4个方面进行分类，并从基于水动力的预测方法、经典时间序列预测模型、非线性智能预测模型3方面介绍了预报方法的发展。近10年来，人工智能飞速发展，本文将对“机器学习在海上结构物运动预报中的应用”进行综述与展望。
本文将船舶与海洋平台等海洋结构物的短期运动预测方法分为统计回归方法、一般神经网络方法、智能神经网络方法以及混合预测方法4类。对于基于水动力学的方法[14-31]，由于其依靠水动力学方程获得运动响应，不属于数据驱动的机器学习预报方法，因此不属于本文综述范围。
1.2 统计回归方法
本文将统计回归方法分为自回归（auto-regressive，AR）、自回归平移平均（auto-regressive moving average，ARMA）、差分整合移动平均自回归（auto-regressive integrated moving average，ARIMA）、支持向量回归（support vector regression，SVR）、高斯过程回归（Gaussian process regression，GPR）、灰色预测（grey prediction，GP）以及混沌预测（chaotic prediction，CP）7类，其中前3种基于线性理论，后4种基于非线性理论。
1965年Kaplan等[32]提出的卷积预报方法与1981年Triantafyllou等[33]提出的卡尔曼滤波方法在船舶横摇运动预测领域得到了较多的应用。但是这两种方法的预测精度会受到海况以及随机噪声的影响。根据Triantafyllou等[34]的测试结果可知，这两类方法的稳定性以及预测精度都不能满足现有实际问题的需求。
为了解决预测精度低以及预测方法不稳定的问题，无需建立水动力学模型的统计回归方法被应用到运动预测中。
1.2.1 基于线性理论
有关研究[35-36]将AR模型应用到船舶横摇与纵摇运动预测中，通过全面的对比，发现AR模型在预测精度、预测效率和算法适应性等方面均优于卡尔曼滤波等基于水动力方程的模型。这是因为AR方法可以通过构建出一个线性自回归模型来表达不同时间点处数据之间的因果关系，相比于卡尔曼滤波方法，其稳定性会更优，但AR方法没有考虑对预测残差的建模。Tang等[37]和Ono等[38]利用ARMA方法预测船舶运动，ARMA方法是对AR方法在预测精度上的改进，其将AR方法与移动平均（Moving average，MA）方法结合，额外考虑了预测残差项的影响，通过与AR方法进行对比，证明了其预测效果更优。由于海上结构物运动数据存在较明显的非平稳性特征，不进行数据处理完全依靠AR等方法取得的预测效果较难达到实用需求。有关研究[39-40]将差分整合移动平均自回归（auto-regressive integrated moving average，ARIMA）模型应用于运动预测中。该模型是对ARMA模型的进一步改进，整合了非平稳数据差分处理以提高数据的平稳性和模型的预测精度。
图2展示了AR类模型的预测机理，其中a0~ap、θ1~θq为常数，εt-q~εt为白噪声项。从图2中可以看出，不管是AR模型，还是ARMA、ARIMA模型，其预测都属于单步预测，即一次仅可以预测一个时刻点的数据，且都将某一时刻的数据表示为先前时刻数据与部分噪声项的线性加权。由于AR、ARMA和ARIMA 3个方法的建模机理均是基于线性理论，因此在处理强非线性的运动数据时具有明显的局限性，在近3年的海上结构物的运动预测研究中鲜有研究学者采用该类模型。
图2基于线性理论的方法的预测机理
Fig.2Prediction mechanism of the linear-theory-based method
1.2.2 基于非线性理论
在应用基于非线性理论的方法进行运动预测方面，灰色预测（grey prediction，GP）是其中一类，该方法利用一阶微分方程挖掘数据之间的隐含关系，以增加非线性表达能力，但其仅适用于部分指数型数据，对于具有其他特征的数据预测精度较差，近几年研究学者更倾向于使用其他非线性方法。本领域有关学者[41-45]利用SVR进行运动预测，该方法通过一个非线性核函数，将原始非线性数据映射到一个高维空间，从而把低维线性不可分问题转化为高维线性回归问题，以实现对非线性数据中蕴含规律的学习；除此之外，有关学者[46-47]使用GPR进行结构物运动预测，该方法在训练阶段使用高斯过程（Gaussian process，GP）作为数据集的先验概率模型，并利用核函数对历史时刻数据进行学习，获得描述不同时刻数据间相关性的协方差矩阵。在预测阶段，GPR模型利用贝叶斯定理以及得到的协方差矩阵计算给定位置的预测值与相应的置信区间，在实现模型非线性映射学习能力与实时预报能力的同时，也可以直观地观测预测值的可信度。除了上述预测方法，蔡烽等 [48]使用CP进行船舶横摇与纵摇运动预报。该方法与SVR、GPR的基本思想相同，即构造一个非线性映射对原系统近似，此非线性映射关系即为对应的预测模型。上述研究均证明，基于非线性理论的方法在预报精度上较基于线性理论的方法更高。
综合上述方法来看，在单步预测中，使用SVR或GPR均可实现较好预测效果；而对于多步预测，这两种方法的预测精度则大大降低，这是因为其需要进行迭代预测，导致了预测误差的累积。这也是应用上述研究方法时预测过程普遍为极短期预报或单步预报的原因。此外，单独采用GP与CP方法的预测精度并不高，本领域的有关学者[49-51]对其建模机理进行了改进，将其与其他非线性预测方法结合，实现了更好预测效果。
图3展示了SVR类模型的预测机理，其中a0~a5为可训练参数。从图3中可以看出，此类模型具有非线性表达能力的原因在于其核心步骤中引入了核函数，可将低维数据映射到高维，进而将低维线性不可分问题转化成高维线性可分问题，从原理上适应原始数据具有的强非线性特征。
图3SVR类方法预测机理
Fig.3Prediction mechanism of the SVR method
综上所述，从基于线性理论的AR、ARMA等模型到SVR、GPR等基于非线性的模型，在预报精度以及建模机理上都有所改善。但由图1、2可知，该类方法仅能进行单步预测，这对于海洋工程领域来说是远远不够的。在实际的运动预报任务中，需要一次性获得多个未来时刻的数据，若仍采用统计回归类方法，则须采用迭代的预测方式，但这将不可避免地带来迭代误差。表1总结分析了统计回归类方法的优、缺点。
表1统计回归方法对比
Tab.1Comparison of statistical regression methods
1.3 一般神经网络方法
为了突破统计回归类方法在多步预测时产生迭代误差的限制，相关学者开始研究能够进行多步预测的神经网络类方法。图4展示了一般神经网络方法基本结构以及几种常用神经网络的区别。
图4一般神经网络方法结构
Fig.4Structure of general neural network methods
本文将一般神经网络方法分为全局更新与局部更新两类。其中全局更新指的是神经网络在训练过程中，层与层之间的连接权重等参数进行实时同步更新，即保持神经网络结构不变，更新其他影响预测效果的参数；而在局部更新类方法的训练过程中，只有部分参数在实时更新。
1.3.1 全局更新
在全局更新类方法上，有研究学者[64-66]应用非线性自回归（nonlinear auto-regressive，NAR）模型与带外源输入的非线性自回归（nonlinear auto-regressive with exogenous inputs，NARX）模型进行船舶摇荡运动的预测。这两类方法是统计方法中AR模型的变体，旨在突破AR方法应用于非线性问题的限制，在严格意义上均属于反向传播神经网络（back propagation neural network，BPNN）方法。虽然NAR与NARX方法在训练阶段与BPNN无异，但其固定神经网络的输出层节点数为1，所以仍属于单步预测方法。Yang等[67]和Li等[68]利用BPNN来预测船舶的横摇运动，发现其预测能力优于AR类模型。除了采用经典的神经网络外，有关学者[69-72] 将小波神经网络（wavelet neural network，WNN）应用于海上结构物的运动预测中。该方法将BPNN方法中的激活函数替换成小波函数，并引入伸缩因子与平移因子，这使得WNN同时具备时频局部分析的能力和神经网络的学习能力，且与BPNN方法相比有着更高预测精度。
由于全局更新类方法在训练过程中需要实时更新所有权重参数，因此当隐藏层的层数增多时，实时训练的参数会成倍增长，导致模型学习速度降低且容易陷入局部最优解。为了解决该问题并保证预测精度，相关学者开始探究局部更新类神经网络方法。
1.3.2 局部更新
局部更新类神经网络方法中应用最多的是径向基函数（radial basis function，RBF）神经网络。有关学者[73-75]利用RBF进行船舶横摇运动预测，发现其可以较好拟合出未来多个时间步的运动变化趋势，且其训练效率优于BP神经网络方法。Huang等[76]通过对比BP神经网络与RBF神经网络，证明了RBF的预测能力在纵摇运动预测上有更高预测精度。该类方法效率更高的原因在于模型结构上用核函数作为隐藏层神经元的基本构成，将输入直接映射到隐藏层空间，不需要通过权重连接。在训练时，核函数的中心与方差是通过无监督学习确定的，所以在训练过程中只需训练隐藏层与输出层之间的权重，实现了模型的局部学习，从而减少了模型训练的复杂性。同时由于隐藏层与输出层之间为线性映射关系，连接权重可以采用最小二乘法求得，避免了梯度下降方法中可能会陷入局部最优解的问题。除此之外，极限学习机（extreme learning machine，ELM）方法的处理机制与RBF类似。相关学者[77-80]使用ELM进行船舶横摇运动的预测，发现这类方法可以有效避免模型陷入局部最优解。但如何自适应地确定输入层与隐藏层、隐藏层与隐藏层之间的连接权重仍是亟待解决的问题。
Wei等[40]利用深度信念网络（deep belief network，DBN）方法对原始运动数据分解后的每个分量进行建模，最终将每个DBN模型的预测分量相加，从而得到预测结果，该研究证明了DBN方法的鲁棒性。它与ELM方法的区别在于其由多个受限玻尔兹曼机（restricted Boltzmann machine，RBM）组成，在DBN的训练过程中，需要先对每一层的RBM进行无监督学习，通过逐层的无监督训练可以为整个神经网络赋予更易训练的初始权值。
综上所述，从统计回归方法发展到全局更新神经网络方法，其不仅在建模机理上可以保持非线性映射的机制，而且在预报长度上也可以实现直接多步预测，避免了迭代误差的问题。但在网络层数较深时，会出现训练参数较多，容易陷入局部最优解的情况。因此，局部更新类神经网络方法在一定程度上实现了预报精度与模型训练效率之间的折中。表2展示了一般神经网络方法的对比。
表2一般神经网络方法对比
Tab.2Comparison of general neural network methods
1.4 智能神经网络方法
本文分别讲述了目前在海洋工程领域应用的统计回归方法与一般神经网络方法，这两类方法在建模原理上仅利用了基本的数学理论，而本文介绍的智能神经网络方法添加了人类记忆力、注意力等机制的仿生学理念或卷积等特殊结构，是一种智能预测方法，按照仿生学理念的不同分为3类：循环神经网络（recurrent neural network，RNN）、卷积神经网络（convolutional neural network，CNN）以及全注意力（attention）机制，详细信息见图5。
图5RNN与CNN类方法的结构
Fig.5Model structure of RNN and CNN methods
1.4.1 RNN类
最初的RNN方法是针对语音识别、自然语言处理等问题设计的，在此类问题中，为了获得正确的输出，模型必须考虑当前以及之前已经学习到的内容。也就是说，它的输出不仅依赖于当前时刻的输入，还依赖于之前的记忆。在海洋工程领域中，Li等[84]利用Elman神经网络[85]进行船舶横摇运动预测，结果显示其预测精度高于普通的全连接神经网络。Elman神经网络产生更优预测效果的原因在于，与一般的全连接神经网络不同，它在隐含层中增加一个承接层，作为一步延时算子，实现了神经网络的记忆功能。但以Elman神经网络为代表的RNN方法也存在一些问题，如长期依赖问题[86]，这导致在对长序列进行学习时，会出现梯度消失或梯度爆炸现象，使得RNN无法掌握长时间跨度的非线性关系。大量的研究学者[87-95]开始利用其变体，即长短期记忆[96]（long short term memory，LSTM）进行海上结构物的运动预测工作，该方法通过引入输入门、输出门、遗忘门3个门控开关来解决经典RNN中的梯度消失与梯度爆炸问题，研究结果证明相比于普通的RNN方法以及一般神经网络方法其预测精度更高，鲁棒性更强。LSTM因其在解决梯度消失与梯度爆炸问题中的能力得到广泛应用，但随之带来了模型参数众多和训练过程复杂的问题。为了减少可训练参数的数量并保持较高的预测精度，Liu等[97]将门控循环单元（gated recurrent unit，GRU）方法应用于船舶运动预测中，该模型比标准的LSTM模型更加简单，最重要的是在常规的预测任务中预测效果没有显著的差异。He等[98]对比了GRU模型与LSTM模型在海上浮式风机运动预报上的精度，结果显示GRU模型不仅具有更高的计算效率，其预报精度也高于LSTM模型。除此之外，有关学者[99-101]使用双向长短期记忆（Bi-directional long short term memory，Bi-LSTM）方法与双向门控循环单元方法（Bi-directional gated recurrent unit，Bi-GRU）进行海上结构物的运动预测，并证明预测效果优于LSTM与GRU模型。双向方法与单向方法的区别在于单向方法只考虑了上文信息，即“记忆”带来的影响，而双向方法综合考虑了上、下文信息，考虑了当前时间点之前以及之后的影响。除了像LSTM、Bi-LSTM等方法一样采用门控开关来解决梯度消失和梯度爆炸问题，有研究学者[62，102]利用回声状态网络（echo state network，ESN）进行船舶六自由度运动预报，证明了该方法同样可以缓解梯度消失与梯度爆炸的问题。但根据Rodan等[103]进行的实验对比结果来看，虽然ESN在部分情况下有较好预测效果，但由于储备池内部的权重随机初始化且储备池结构复杂，导致ESN方法中储备池的参数需要大量试验来确定，增加了模型的不稳定性。而具有跳跃的循环储层模型[104]（cycle reservoir with regular jumps，CRJ）可以解决此问题。在CRJ模型中，储层保持简单和确定性，Mo等[105]的研究表明，CRJ在预测性能方面优于基本ESN模型。
1.4.2 CNN类
除了应用广泛的RNN类方法，CNN及其变体也可以应用于时序预测任务中，但一般是利用图片数据作为输入，而不是一维的运动实例数据。Rashid等[106]曾使用图片数据作为输入，利用CNN进行船舶横摇与纵摇预测，测试了CNN方法的适用性。Zhang等[107]和Bai等[108]使用时间卷积网络（temporal convolutional network，TCN）进行船舶横摇运动预报，并证明其预测精度优于CNN模型。但在运动预测领域，由于预测模型的输入一般是一维或高维序列数据，而非图片类数据，在TCN等考虑时间因素的模型提出之前，研究人员一般不单独使用CNN类方法进行预测。考虑到CNN强大的特征提取能力，越来越多的研究人员倾向于使用CNN与RNN混合的方式进行预测，这样既能充分提取数据中的特征，又能学习特征在时间维度上的内在关系，从而使模型兼备时间和空间上的学习能力。Fu等[109]和Li等[110]将船舶运动序列高维化处理后作为卷积长短期记忆[111]（convolutional LSTM，ConvLSTM）模型的输入，对船舶纵摇、横摇运动进行预测，模型的预测效果优于LSTM模型。
1.4.3 Attention类
在经典的机器翻译任务中，基本都是采用以RNN作为基本模型的Encoder-Decoder框架[112]。该框架中利用Encoder部分将可变长度的输入序列编码成一个固定长度的向量，然后在Decoder部分中将固定长度的向量解码成一个可变长度的输出序列，实现输入和输出的对应关系。其中在Encoder和Decoder部分可以采用RNN、LSTM[113]、GRU等神经网络结构[110]来实现编码和解码过程。但基于RNN 结构的Encoder-Decoder模型存在梯度消失问题，且对于较长的序列输入，该类模型将输入序列转化为定长向量并同时保存所有有效信息的工作效果并不理想。Transformer方法[114]虽然也是采用Encoder-Decoder框架，但其实现方式并不是通过RNN类或CNN类方法，而是结合注意力机制与多头自注意力机制，使模型在处理长序列信息时可以无视距离，实现并行化操作，该方法成功解决了RNN模式中的序列依赖关系以及CNN中通过叠层来获取全局信息的限制。朱鹏程等[115]利用Transformer模型对船舶纵荡运动进行预测，结果表明Transformer模型在训练工况和相近工况下均具有较高的预测精度，证明了Transformer模型的鲁棒性。Zhang等[116]将Transformer模型应用于船舶六自由度运动与操纵运动预测上，证明了该方法可以较好捕捉到运动环境对船舶运动响应的影响。
综上所述，相较于最初的RNN方法与CNN方法，LSTM、TCN等方法已有明显的改进。从研究及应用层面上来讲，当前海工领域仍以LSTM及其变体等方法为主，足以看出其适用性。对于Attention类方法，由于其提出的时间相对较晚，故其目前在海工领域的应用中较为少见，但根据其在机器翻译等领域的优越表现，将其迁移至海工领域也能在很大程度上表现出良好模型预测效果。表3展示了智能神经网络模型的对比。
表3智能神经网络模型对比
Tab.3Comparison of intelligent neural network models
1.5 混合预测方法
本文分别对海洋工程领域应用的机器学习方法进行了全面的总结，图6展示了3类方法的整体对比。除了利用单一方法进行预测，越来越多的研究人员考虑将不同的预测方法相结合，构建混合预测方法，可取得比单一方法更好的预测效果。在混合预测方法中，本文将其分为结构混合方法与预测混合方法两类，其中结构混合方法采用两种或多种不同预测方法串联的形式，即使用具有先后关系的混合方式构建预测模型；而预测混合方法用两种或多种方法并联的方式，先独立进行预测，再对不同模型的预测结果加权求和得到预测值。
图6各类单一方法的对比
Fig.6Comparison of three categories of forecasting methods
1.5.1 结构混合方法
在结构混合方法中，Yin等[51]将灰色预测（grey prediction，GP）与RBF神经网络相结合，首先利用灰色预测方法对数据进行处理，降低不确定性，之后在预测阶段利用RBF神经网络的非线性映射能力，来表示灰色序列中隐含的复杂非线性映射关系，相比于单独使用灰色预测方法或RBF神经网络方法，该混合方法具有更高的预测精度以及更快处理速度。Zhang等[122-123]结合CNN与LSTM用以构建横摇运动预测模型，该模型利用CNN提取运动序列中的特征，利用LSTM在时间维度上的记忆特性捕获CNN提取出来的特征中蕴含的时间关系，通过与LSTM、AMIRA等方法对比，证明该混合方法具有更好的预测能力。Li等[124-125]将CNN与GRU结合，证明在模型训练上比CNN-LSTM混合模型效率更高，且相较于单一方法有更好预测效果。Sun等[47]使用LSTM与GPR结合，采用两步预测的思想：首先对LSTM网络进行完整的训练，然后将训练集和测试集作为输入，用LSTM进行第1次预测，之后利用GPR方法构造第1次预测结果与真实值之间的非线性映射关系，从而开展第2次预测，并将第2次预测值作为最终混合模型的预测值。该模型可以同时得到预测值和预测值成立的置信区间。Wei等[126]建立Bi-LSTM与CNN混合模型，相比于之前的SVR、DBN、AMRA等方法，构建的混合模型更具优越性。除此之外，注意力机制与RNN类模型进行结合的方法也同样被应用于海工领域。Zhang等[127]将注意力机制应用于每个输入特征。Zhang等[107]将注意力机制应用于TCN模型提取出的各个特征。Fu等[109]将注意力机制应用于双向ConvLSTM模型提取出的各个特征，上述3个研究均在衡量各个输入特征或提取出的特征对于预测特征的重要程度。Li等[110]将注意力机制应用于ConvLSTM模型每一个时间步的隐藏层状态。Li等[125]将注意力机制应用于GRU模型每一个时间步的隐藏层状态。Wang等[128]将注意力机制应用于Bi-LSTM模型每一个时间步的隐藏层状态，上述研究均旨在衡量RNN类模型中各个时间步的输出对于最终预测值的影响程度。结果证明，结合注意力机制的方法有助于提升模型的预测精度。
结构混合方法的示意图见图7。图7中的字母“C”为CNN类模型，字母“R”为RNN类模型。在图7（a）~（d）框架中RNN均为单向RNN，具体表现在每一个RNN单元之间为单向连接，但实际任务过程中均可变为图7（e）中的双向RNN类。图7（b）、（c）和图7（e）中的注意力层均对RNN每一时刻输出的隐藏层状态加权，而图7（d）中的注意力层对每一时刻输入的特征进行加权，旨在衡量不同的输入特征对于目标预测序列的重要程度。
图7结构混合方法原理图
Fig.7Schematic diagram of structural hybrid methods
1.5.2 预测混合方法
除了串联的结构混合方法，在结构上并联的预测混合方法也受到越来越多研究人员的关注。有关研究[129-132]建立了一种固定权重的组合预测方法，利用模型中每一种方法各自的特点以实现多角度运动预报，预测结果表明混合预测模型的预测能力均强于单一模型。Peng等[133]和Wei等[134]利用一种变权重组合预测的方法对船舶纵摇、横摇运动进行预测，其中变权重意味着在不同的预测时间步上2种模型有不同的权重，结果显示提出的模型优于单一预测模型与固定权重预测模型。图8展示了2类预测混合方法的结构示意图。从图8中可以看出预测混合方法主要分为两个步骤：1）多模型独立预测，原则上可以选取任意时间序列预测方法进行独立预测；2）加权各个预测模型的预测结果以获得最终预测值，在这一步中可以利用优化算法、强化学习等方式进行权重的设置工作。
图8预测混合方法原理图
Fig.8Principle diagram of prediction hybrid methods
以上便是对目前海洋工程领域中已应用的预测方法的总结，可以看出从统计回归方法到一般神经网络方法，再到智能神经网络方法，各类方法的不断改进推动了模型的发展并大幅提升了预测效果，但每一种方法都有其优、缺点，因此结合不同方法、实现各方法间的优势互补具有重要意义。值得注意的是，每一种方法没有绝对的优劣，只有应用场景的适用程度区别，在实际任务中需要根据任务需求选择合适的模型以及策略进行预测。
1.6 模型输入特征的多样性与有效性分析
本文从模型的整体预测精度上对比了4类预报方法，文中将从模型的输入特征角度进行分析与总结。在海上结构物的安全性校核任务中，海洋环境中的风、浪、流等载荷都会对结构物运动产生影响，所以在CFD数值模拟或模型试验中，塑造完整的工况信息对试验结果的准确性至关重要。类比到数据驱动的机器学习方法，即为模型的输入特征的多样性。当前研究学者在输入特征的多样性研究上主要分为两类：对原始运动数据处理获得多样化模型输入数据以及整合风、浪、流等海况参数作为额外的输入。
对于第1类研究，海上结构物的运动数据来自于数值仿真、模型试验或海试试验，这类运动数据往往会受到噪声污染。除此之外，原始运动数据还具有强非线性与非平稳性。受原始数据这些特征的影响，导致直接利用原始数据进行预测会降低预测效果。由此，部分研究学者在训练模型之前优先考虑对原始运动数据进行处理。
在海洋工程领域，Suhermi等[39]和Wei等[40]利用ARIMA模型进行运动预测，因为该模型加入了非平稳数据差分处理的步骤，以尽可能保证数据的平稳性，从一定程度上提高了预测精度。Jiang等[135]通过AR模型分析运动预测中的尺度效应，其研究结果表明将原始运动数据进行分解后会提高预测精度，并给出了估算最大可预报时间的经验公式。在应用混合预测模型进行数据处理方面，Yin等[74]将小波分解与RBF神经网络结合，首先利用小波分解（wavelet decomposition，WD）对原始数据进行分解，再利用RBF神经网络对每一个分量进行预测，最后再将每个分量的预测结果重构并作为最终预测结果。杨震等[43]将经验模态分解（empirical mode decomposition，EMD）与支持向量机（SVR）结合，为每一个分量建立不同的支持向量机模型，在此基础上进行预测。彭秀艳等[136]将EMD与LSTM相结合，为各个分量建立不同的LSTM模型并进行独立预测，最后再将各个模型的预测数据结果加权作为最终预测值。张彪等[137]将EMD与ELM模型相结合。Tang等[46]将EMD与GPR相结合。Li等[124]将EMD与GRU-CNN相混合开展预测研究。Wei等[100]将经验小波变换与Bi-LSTM模型进行结合。相比于不采取数据预处理的策略，上述各个研究人员对运动数据预处理的策略在船舶六自由度运动预测上均表现出更好的效果。除此之外，Zhang等[127]将WD获得的各个分量进行自适应加权，以使LSTM模型对各个分量均采取注意力机制，结果显示，相比于各个模型等权重输入LSTM的模型，其可以改善预测性能。
对于第2类研究，研究人员根据海上结构物运动的影响因素，额外选取风、浪等额外载荷作为机器学习模型的输入。由于统计回归方法和一般神经网络方法的结构特点以及机器学习方法的建模特点，这几类方法无法准确捕捉多个变量之间的相关信息[109]，因此针对此类研究学者们更倾向于使用单特征输入（运动特征）。该点也解释了杨震等[43]的研究工作，他们在进行原始数据分解并获得复杂度降低的子序列后，将每一个不同的子序列分别输入到SVR模型而不是整合输入到一个SVR模型中。对于智能神经网络方法，由于其可以直接输入多维数据进行训练，这也为学者们提供了新的研究思路。Tian等[93]通过对比有无波高实例训练的LSTM模型，发现考虑波高的预报方案可提高预报精度和有效预报时间。Zhang等[131]通过对比单横摇运动数据、单波浪数据以及运动数据与波浪数据的结合3种输入情况训练的LSTM模型，发现数据结合的输入情况具有最小的预测误差。Shi等[138]证明了在训练LSTM模型时，额外引入波高数据对于提高海上浮式风机的运动预测有利。然而Wang等[101]对比了是否增加额外的特征输入（横摇角速度、相对风速、相对风向等数据）对LSTM、GRU和Conv-LSTM等模型的预测性能的影响，发现简单地增加输入特征并不一定能提高模型的预测性能（尤其是ConvLSTM模型）。由此可见，在考虑额外的输入特征进行训练时，会出现一部分机器学习模型在加入外部影响因素时，预测精度反而降低的现象。潜在的因素在于，机器学习模型与传统数值求解模型的根本区别在于其不根据外部载荷工况求解N-S方程得到运动响应，而是单纯的获取数据在时间维度上的前后关系，而简单地引入大量外部特征可能会导致机器学习模型在学习时间维度上的关系的能力变差或学习到部分对精度提高无益的信息。但由于目前本领域的研究学者在研究外部特征多样性与有效性上相对较少，本文会在后续的工作中对该方向进行深入研究与分析。
2 存在的不足和未来发展方向
2.1 当前存在的不足与问题
通过论述海洋工程领域时序预测问题的研究进展可以发现，目前研究在预测方法选择、权衡预测时长与预测精度的关系等方面还存在一定的挑战。
2.1.1 在预测方法上缺乏本领域的特色，前瞻性较弱
由于基于机器学习的海上结构物运动预测在广义上属于时间序列预测方法，当前绝大多数研究人员都是引入其他领域已提出的各类方法，这一过程很大程度上导致本领域研究滞后3~5年的时间，而在这期间其他领域已经开发了其他效果更优的新预测方法。尽管近几年有越来越多的研究人员开始把研究重点放到人工智能与海洋工程的结合上，但海洋工程领域的研究仍处于起步阶段。主要原因在于：
1）知识获取和学习成本高。对于海工领域的研究人员来说，学习和掌握人工智能方法需要大量的时间和精力。人工智能领域的知识体系庞大、且不断发展，研究人员需要花费大量时间去搜集和学习相关知识，才能够熟练地运用这些方法。
2）预测方法和优化算法的多样性。人工智能领域涉及的预测方法和优化算法种类繁多，同时也在不断涌现出新的方法和算法。在面对不同的问题时，即使是同一种预测方法，其效果也可能存在显著差异，因此研究人员需要对各种方法和算法有所了解，并且在不同的问题场景下选择合适的方法。
因此，本综述的意义和初衷在于帮助研究人员建立对人工智能方法的整体认识，便于研究人员选择合适的预测方法，使研究人员能够更加高效地利用人工智能技术来解决实际问题，推动海洋工程领域的发展和进步。
2.1.2 在权衡预测时长与预测精度方面，还达不到中长期预测的效果
受运动数据强非线性以及非平稳性的影响，实际应用中往往需要在预测精度和预测时长之间折中。因此如何选取一个有效的模型，使其在充分学习运动数据中内在规律的同时且有较强的鲁棒性是一个十分关键的问题。目前可以考虑采用一些可解释的数据处理方法，解决数据的强非线性与非平稳性问题，并利用更有效的超参数选择方法与模型训练算法避免模型陷入局部最优，从而实现更高的预测准确率。
2.1.3 现有的固定参数预测模型实时迁移性问题待解决
现有的一些预测模型基本都是固定参数的形式，即在训练阶段或在训练阶段之前就确定了模型的结构，在训练结束以后，将持续使用该结构与训练所得的参数进行预测任务。但海洋环境是复杂的、动态的，运动数据中蕴含的内在关系是会改变的，采用固定结构与固定的可训练参数会导致预测模型无法依据环境的变化调整和提高预测效果。尽管根据实时数据训练新模型能够使预测模型具有更好的时变特性，但如何平衡模型的训练耗时与预测时长是一个关键的问题，若模型再次训练的耗时大于可预测时长，那便失去了本文构建预测模型的意义，无法起到预测效果。
2.2 未来可发展的方向
根据现有的文献，可以发现：除了在原有预测模型基础上进行改进以实现更优的预测效果外，一种更为可行的方法是将多个预测方法混合进行预测，包括结构混合和预测混合。在以往的研究中，RNN类以及一些统计回归方法经常被单独使用[135，139]，后来一些研究人员开始考虑将两种方法混合，利用各自的预测优势以使模型具备更强的学习能力。在混合方法的选择方面，RNN与CNN方法的混合[124-126]被证实更具鲁棒性，而其他单一预测方法的混合研究较少。基于对相关研究方法的详述和深入了解，本文相信在混合预测方法中，基于Attention机制的预测方法与CNN[140]、RNN[141]方法的结合还有更多的探索空间，该混合预测方法一方面可以借助Attention类模型独特的注意力机制与自注意力机制，帮助模型学习到更重要的信息；另一方面可以结合CNN的特征提取能力与RNN的时序问题处理能力提高模型的预测能力。此外，将各种预测方法与高斯过程回归（GPR）方法结合也为研究人员直观观测模型的预测能力提供了思路，它可以使研究人员了解每个预测点处的置信区间，用以实时调整模型。
此外，针对海洋工程领域，首要任务是把其他领域优越的预测方法进行实验，以观察这些方法在本领域的预测效果。根据目前的文献调研结果来看，在计算机领域已发展了更优秀的算法，如完全采用全连接层与残差连接构造的N-Beats[142]，对Transformer模型进行优化并取得更好结果的Bert[143]、GPT[144]和Informer[145]，解决了N-Beats模型只能单特征输入问题的N-Beatsx[146]，采用递归下采样卷积交互架构并证明效果优于TCN与Transformer等模型的SCINet[147]等。这些模型的预测效果都已在相关领域被证明，未来可引入并应用到海洋工程领域中。
值得注意的是，现阶段大模型的应用如火如荼，其他领域越来越多的开发者倾向于调用训练好的大模型，并针对自己的数据集进行微调以获得特定的任务需求，该应用方法效果显著，因此应用大模型实现实时预报工作具备可行性。
最后，目前船舶与海洋工程行业鲜有公开的数据集，大部分的研究人员都是利用CFD软件计算数据，只有部分研究人员保有试验数据集，且数据具有隐私性。这就导致本领域研究人员在验证自己提出的方法时，没有一个公共的数据集用以对比测试，而机器学习方法对数据具有一定的敏感性，这在一定程度上限制了海洋工程领域研究人员设计出应对本领域的强鲁棒性的预测方法。本文倡议一些国家重点科研机构与学者可以牵头组建独属于海洋工程领域的公开数据集，使相关研究人员的工作重心放在优化模型结构和开发针对性模型上，减少其获取与收集试验数据的工作量。其中的一个建议是相关机构与人员监测一艘经常在跨海域航行的船舶运动数据，根据传输系统将运动数据实时反馈到数据收集系统中，使研究人员可以根据运动数据验证模型的优劣。由于海洋环境具有复杂性和多变性，而最终模型也是应用于实际航行过程中的海上结构物，因此本文的预测模型也应该根据实时数据进行实时调整。
海洋工程相关行业应该鼓励研究人员及时进行学术沟通交流以便动态调整自己的研究目标，保持整个行业持续的快速发展。其次在数据集问题上，希望未来的研究人员可以进行数据集共享，一方面是为了建立一个共同的衡量标准，另一方面是保证设计的方法在应用到本领域时有较强的鲁棒性，可以让海洋工程领域更好地与人工智能行业接轨，促进本行业的智能化、高质量发展。
3 结论
基于机器学习的预报方法在原有的真实数据的基础上，通过数学模型与数字世界之间的数据交互，为海上结构物运动的实时预报提供了新的解决方案。本文将海洋工程领域已应用的结构物的运动预报方法按照提出的分类方式进行了全面的综述，结合已有的研究结论，重点对比分析了不同预测方法的优、缺点。同时也从预报模型的结构优化上进行讨论，研究的主要结论如下：
1）准确可靠的机器学习方法是实现实时运动预报的基础。结合当前的研究进展，可以发现相比于统计回归方法和一般神经网络方法，基于智能神经网络方法进行运动预报在精度与效率上更满足实际的工程需求。但在海洋工程领域的运动预报方面，强针对性方法较少，在未来仍需依靠海洋工程领域的研究人员开发针对本领域问题的适应性方法。除此之外，大模型的开发如火如荼，在数据自适应获取、传输及模型自适应计算的基础上，实现沉浸式人机交互，开展跨平台的数据共享和服务这一类大模型的开发是海洋工程领域未来的重要发展方向。
2）虽然在海洋工程领域，基于机器学习的研究相对还处于发展阶段，但可以肯定的是，随着研究人员对机器学习的重视程度不断加深，这将有助于本领域的研究人员开发针对本领域的特定方法，而不是完全采用其他领域已提出的方法。一个可行的改进策略为本文提出的串联混合方法与并联混合方法，已有相当的研究表明，混合预测方法相比于单一预测方法在海上结构物的运动预报任务上更具有鲁棒性。
3）基于传感器的实测数据往往需要通过降噪、缺失值修正和特征选取等数据预处理步骤后，才可以应用于机器学习模型中。既有的研究多通过经验模态分解、小波分解以及注意力机制等对海上结构物的原始运动数据进行分解、重构和特征选择。这类方法可以尽可能地排除主观因素的影响，以提高预报方法的预报精度。未来研究人员也可根据具体任务选择合适的数据预处理方法来提高预测精度。
4）为了验证各类机器学习方法在海洋工程领域的适用性与鲁棒性，研究人员还应使用公共的实测数据进行各个方法的对比与验证工作。但由于海洋工程领域设置的公开数据集较少且做实验的成本较大，这也使得各个研究人员在实验验证时，使用的数据集有较大差异。一个可行的解决方案为：模仿计算机科学领域，设置部分公开数据集供本领域的研究人员进行各个方法的“公平对比”。
