李自立，蒙素素

（廣西師范大學電子工程學院，廣西 桂林 541004）

1 引言

海洋波浪高度的短期預測對人類海洋活動的開展有著極為重要的意義[1-2]，例如，對于海上航行、海上施工、漁業(yè)捕撈和海上軍事等活動，波高短期預測精度越高，海上活動相關狀況的應對就會越充分。在海洋數(shù)值預測研究中，有效波高的短期預測一直都是熱點和難點問題[3]。海浪有效波高預測方法主要分為經(jīng)驗預測法和數(shù)值模型預測法[4]。經(jīng)驗預測法是通過對歷史觀測得到的海浪數(shù)據(jù)按照時間先后進行外推，進而得到相關海浪狀態(tài)的預期數(shù)值[5]，這種預測方法主要依靠歷史數(shù)據(jù)和傳統(tǒng)分析相結合，在實用性和準確度方面都存在較大局限性。隨著數(shù)學科學的發(fā)展，海浪波高相關研究在數(shù)值建模新領域獲得了一些具有較高研究價值的數(shù)值模型，如SWAN（Simulating WAve Nearshore）、WAVEWATCH-Ⅲ以及WAM（Wave Model）等。數(shù)值模型的結果是基于大量數(shù)據(jù)計算得到的，對計算量和計算速度有著較高的要求，在數(shù)據(jù)不是很充分的情況下，其計算精度存在較大的局限。隨著近幾年神經(jīng)網(wǎng)絡和深度學習技術的興起，人們嘗試搭建各種神經(jīng)網(wǎng)絡或混合模型來預測海浪高度。比如Makarynskyy 等[6-7]以波高數(shù)據(jù)為輸入搭建了神經(jīng)網(wǎng)絡；Tsai等[8]將反向傳播（Back Propagation，BP）神經(jīng)網(wǎng)絡技術應用于短期海浪預測和數(shù)據(jù)補充，取得了較好的效果；Fan 等[9]將長短期記憶網(wǎng)絡（Long Short-Term Memory，LSTM）應用于波高預測，提高了有效波高的預報精度；Mandal 等[10]利用時域單變量建模和遞歸神經(jīng)網(wǎng)絡預測波高；Zhang 等[11]構造了受限波爾茲曼機-深度置信網(wǎng)絡模型，具有較好的波高短期預測能力。本文在前人研究的基礎上，把深度殘差網(wǎng)絡（Residual Network，ResNet）理論引入到長短期記憶網(wǎng)絡技術中，對北部灣特定海域的波浪數(shù)據(jù)進行建模研究，嘗試獲得一個置信度較高的波高數(shù)值模型，并依據(jù)此網(wǎng)絡對有效波高進行短期預測分析，通過多網(wǎng)絡算法對比驗證模型的有效性與預測的準確度。

2 數(shù)據(jù)準備

本實驗研究數(shù)據(jù)由國家海洋局南海信息中心提供，為2016—2018年北部灣海域定點浮標實測數(shù)據(jù)，有效波高的最小采樣間隔為1 h，數(shù)據(jù)的樣本點總數(shù)為26 277 個。為了能夠準確地分析波高的數(shù)學特征和分布狀況，我們對實測有效波高進行了特征分析，結果見表1。

表1 定點浮標有效波高數(shù)據(jù)值分析結果Tab.1 The analysis results of the effective wave height data of the fixed-point buoy

表1中原始數(shù)據(jù)的缺失值為242個，缺失數(shù)據(jù)只占總值的9.21%，對整體數(shù)據(jù)分析的誤差影響極小。為了批量數(shù)據(jù)分析的便捷，將缺失值用前向填充法對其進行插值處理。經(jīng)過數(shù)據(jù)清洗后有效波高的數(shù)值統(tǒng)計特征如下：均值為0.98 m，標準差為0.75 m，最小值為0 m。當有效波高數(shù)值達到6 m及以上時，可定義為災難性海浪[12-13]，此海況出現(xiàn)的幾率小，有很強的偶然性，對長時的模型預測研究意義不大。為了方便研究有效波高的長時規(guī)律，本文將超過6 m的數(shù)值全部限幅為6 m。本文設定模型輸入為當前時刻6 h前的波高數(shù)據(jù)，網(wǎng)絡標簽數(shù)據(jù)設置為預測當前時刻未來6 h 的波高數(shù)據(jù)。實驗時，選取總數(shù)據(jù)的80%為訓練集，用于模型建模訓練；剩余的20%為模型的測試集，用于模型預測效果測試分析。

3 基于LSTM-ResNet的模型原理

隨著層數(shù)的增加，單一堆疊的LSTM 網(wǎng)絡模型會發(fā)生梯度消失和網(wǎng)絡性能的退化問題，因此，本文引入ResNet 模塊接入LSTM 層生成LSTMResNet 模型。該模型由ResNet 模塊和LSTM 模塊組成。模型總體構圖如圖1所示。

圖1 中上方LSTM 層中32 表示隱藏層數(shù)量，整流線性單元（Rectified Linear Unit，ReLU）為激活函數(shù)，第一個箭頭左邊的數(shù)字代表當前輸入6 個時間刻度和1個變量，這里省略了Batch_Size維度。

圖1 LSTM-ResNet模型總體結構圖Fig.1 Overall structure of the LSTM-ResNet model

3.1 長短期記憶網(wǎng)絡

循環(huán)神經(jīng)網(wǎng)絡（Recurrent Neural Network，RNN）是一種節(jié)點定向連接成環(huán)的人工神經(jīng)網(wǎng)絡。與前饋神經(jīng)網(wǎng)絡（Feedfoward Neural Network，F(xiàn)NN）不同的是，RNN 可以利用它內部的記憶來處理任意時序的輸入序列，這讓其可以更容易處理如不分段的手寫識別或語音識別等。然而，當連續(xù)時間數(shù)據(jù)的輸入序列加長時，就會造成網(wǎng)絡訓練時梯度爆炸和梯度消失的問題，從而使RNN網(wǎng)絡喪失長期記憶的功能。Hochreiter 等[14]在1997 年提出LSTM 模型，通過設計門結構來避免梯度消失等問題，門結構使得LSTM單元可以保存和獲取長時間周期的上下文信息。LSTM單元結構圖如圖2所示[9]。

圖2 LSTM單元的原理圖Fig.2 Schematic diagram of the LSTM unit

圖2中各參數(shù)的計算公式如下：

式中，it、ft和ot分別為輸入門、遺忘門和輸出門；xt為當前時刻的輸入特征；Wi、Wf、Wo和Wc為待訓練參數(shù)矩陣；bi、bf、bo和bc為訓練偏置項；σ表示激活函數(shù)；ht-1為隱藏層前一時刻的輸出。

式（1）—（3）經(jīng)過Sigmoid 激活函數(shù)使得3 個門的大小在0～1 之間；式（4）是當前信息和前一步信息歸納形成的新記憶C^t，從而實現(xiàn)信息的更新；式（5）通過遺忘門去忘記一些舊信息再同時加入一些新信息；式（6）主要是把過濾好的信息輸出，當有多層循環(huán)網(wǎng)絡時，當前層網(wǎng)絡的輸入xt是前一層網(wǎng)絡提取出來的有用信息ht。

3.2 殘差網(wǎng)絡

殘差網(wǎng)絡作為2015 年ImageNet 競賽（Image Net Large-Scale Visual Recognition Challenge）的冠軍，其top5錯誤率（預測的前5個類別中不包含正確類別的比例）為3.57%。VGGNet（Visual Geometry Group Net）和GoogLeNet（Google Inception Net）的成功，說明網(wǎng)絡越深，模型表現(xiàn)越良好。然而，單純堆疊神經(jīng)網(wǎng)絡層數(shù)會使網(wǎng)絡模型退化，導致后面的特征丟失了前邊特征的原本模樣，產(chǎn)生梯度消失或者梯度爆炸等問題，造成訓練和測試效果變差。為了解決模型“退化”的問題，崔文植[15]提出了殘差結構（見圖3）。

圖3 殘差網(wǎng)絡的核心結構Fig.3 The core structure of the residual network

圖3 是ResNet 的核心結構圖。如圖所示，ResNet 加入了一根跳連線后，其輸入可以直接短連接到非線性層的輸出上，輸出結果為直接連接過來的恒等映射x和非線性輸出F（x）兩路值元素的對應相加。這個步驟能有效緩解神經(jīng)網(wǎng)絡模型堆疊導致的梯度消失問題。

4 仿真和討論

4.1 評估指標

為了評價不同神經(jīng)網(wǎng)絡的預測效果，本文采用均方根誤差（Root Mean Square Error，RMSE）、平均絕對誤差（Mean Absolute Error，MAE）、均方誤差（Mean Squared Error，MSE）和相關系數(shù)R2來反映預測效果。公式如下:

式中，oi為預測值；ui為觀測值；為預測值的平均值；為觀測值的平均值；n為樣本數(shù)量。

根據(jù)MAE、MSE、RMSE 和R2的結果來判斷模型的好壞，結果的取值范圍均為[0，1]。前3 個評價指標的值越接近0，說明模型擬合效果越好；R2越接近1，表示模型擬合效果越好。

4.2 有效波高的短期時刻預測結果

為了驗證模型的預測性能，采用表1 清洗過的有效波高序列為研究對象，將其輸入LSTM-ResNet模型、LSTM 模型和ResNet 模型以及目前應用最廣泛的BP 模型進行對比試驗。4 種模型的隱藏層數(shù)量均設置為32個，且都采用ReLU激活函數(shù)。

4.3 結果分析

表2 列出了4 種算法的有效波高短期預測結果，最優(yōu)結果以粗體顯示。數(shù)值結果表明LSTMResNet 網(wǎng)絡的短期預測效果最優(yōu)，在1 h 的預測中MAE 低 至0.08 m，R2高 至0.96。 ResNet 網(wǎng) 絡、LSTM 網(wǎng)絡和BP 網(wǎng)絡的總體預測效果與實測數(shù)據(jù)基本一致，但是預測精度沒有LSTM-ResNet 網(wǎng)絡高。隨著預測時間的逐漸加長，數(shù)據(jù)的有效性不斷降低，4 種算法的MAE 數(shù)值逐漸增大，R2數(shù)值不斷減小，LSTM-ResNet 網(wǎng)絡的性能衰減程度相對較慢，盡管MAE 最高達到了0.23 m，R2最多下降至0.70，但是預測結果還是處于可以接受的精度范圍內。

表2 短期預測的性能結果比較Tab.2 Comparison of performance results for short-term forecasting

圖4 為浮標實測值和4 種算法的有效波高1 h預測數(shù)值對比圖，圖中的曲線變化對比表明LSTMResNet 網(wǎng)絡在預測波高的變化趨勢和數(shù)值穩(wěn)定性方面都表現(xiàn)出優(yōu)于其他算法的效果?；贚STM網(wǎng)絡的周期性結構和門機制，本文設計的網(wǎng)絡在信息選取上具有優(yōu)勢，相較于其他算法能夠獲得最優(yōu)信息；在加入ResNet網(wǎng)絡并對網(wǎng)絡進行層數(shù)加深設置后，網(wǎng)絡計算的數(shù)值精度得到較大的提高，綜合以上算法優(yōu)點取得了波高預測與浮標數(shù)據(jù)擬合度較好的結果。與之對比的LSTM 網(wǎng)絡、BP 網(wǎng)絡和ResNet 網(wǎng)絡，預測結果與浮標數(shù)值雖然也具有一定的一致性，但是在某些時刻或者時間段上出現(xiàn)了預測值相對滯后的情況。

圖4 1 h時間范圍內觀測結果與算法結果的比較圖Fig.4 Comparison of observation results and algorithm results in the time range of 1 hour

圖5 為2018 年5 月6 日3：00—9 月8 日9：00 基于LSTM-ResNet 網(wǎng)絡的有效波高間隔1 h 和6 h 的數(shù)值預測對比圖。相對于6 h 的預測結果，1 h 的預測結果在數(shù)值上與浮標測量值更貼近。雖然6 h 的預測結果偏差略大，但總體預測的曲線變化趨勢與浮標測量值基本一致，進一步驗證了LSTM-ResNet網(wǎng)絡在短時間隔的有效波高預測方面的有效性。

圖5 預測值與觀測值對比圖Fig.5 Comparison of predicted and observed values

5 結論

本文運用神經(jīng)網(wǎng)絡的相關模型方法，對北部灣海洋有效波高的變化規(guī)律進行了數(shù)值建模，并進行了數(shù)值預測研究與結果對比分析。將4種網(wǎng)絡模型方法的波高數(shù)據(jù)建模預測數(shù)值結果進行對比，結果表明本文采用的LSTM-ResNet 網(wǎng)絡模型在短時有效波高預測中能夠取得比較好的結果。在浮標實測數(shù)值的結果對比分析中，采用4 個統(tǒng)計指標對預測結果進行綜合評價，本文采用的LSTM-ResNet網(wǎng)絡預測結果與實測數(shù)值的一致性最好，預測的時間容許范圍最大，相較于其余對比方法，在短時有效波高預測上具有一定的實用性，因此在海洋數(shù)值預測中具有一定的應用潛力。