基于XGBoost-LSTM的水輪機軸瓦溫度預測

談 群,郜振亞,秦 拯,苗洪雷

(1.湖南大學 信息科學與工程學院,湖南 長沙 410082; 2.華自科技股份有限公司,湖南 長沙 410205)

0 引 言

中國水電行業(yè)發(fā)展迅速,水電機組裝機容量持續(xù)提升,設備的維修和保養(yǎng)也越來越重要。在水力發(fā)電的機組中,穩(wěn)定軸瓦溫度對水輪機在工作狀態(tài)下的安全運行起著重要的作用[1-3]。軸瓦溫度過高會造成燒瓦事故,迫使機組停機甚至發(fā)生重大安全事故。監(jiān)控軸瓦溫度、及時發(fā)現(xiàn)軸瓦溫度異常、避免進一步的損失是水電站工作人員的重要工作。

國內外學者對水輪機軸瓦溫度的研究主要集中于研究水輪機軸瓦溫度升高的機理,識別軸瓦溫度升高的原因,進而提出相應的日常巡檢和維修處理建議;基于理論和數(shù)學模型,進行軸瓦溫度預測和故障預測與健康管理(Prognostic and Health Management)系統(tǒng)開發(fā)。毋生俊等[2]等根據(jù)多年運行水電站的經驗,對水輪機軸瓦溫度升高的原因進行了詳細分析,對不同原因提出了相應的預防和維修措施建議。Gunasekara[4]對軸瓦溫度的動態(tài)變化進行建模和模擬,發(fā)現(xiàn)軸瓦溫度取決于多個變量,如環(huán)境空氣溫度、冷卻水和冷卻水流量、初始軸承溫度、運行持續(xù)時間和電力負荷,很難利用常規(guī)的建模方法對這種傳熱系統(tǒng)進行建模。唐勇等[5]根據(jù)溫度系統(tǒng)非線性、大滯后、多變量、強耦合等特點,提出了改進的人工神經網絡BP算法對水輪機軸瓦溫度進行建模和預測,實現(xiàn)了對模擬瓦溫變化趨勢的準確預測。唐詩等[6]采用支持向量機模型對軸瓦溫度進行了預測,結果顯示根據(jù)仿真分析結果得出的預測值能夠較好地跟蹤實際值。

總結現(xiàn)有文獻,水輪機軸瓦溫度升高機理的研究相對充分,但對軸瓦溫度進行預測和預警的研究相對較少,且存在以下兩點不足:① 在建模時,普遍只選取了影響軸瓦溫度的直接因素,忽略了工況數(shù)據(jù)如有功功率、水頭等因素。水輪機在運行時,組件之間的影響十分密切,不同的水輪機機組的運行環(huán)境、設備的健康狀況不盡相同,軸瓦溫度的影響因素也應包括各自的實際條件。② 在預測方法上,雖然考慮了變量之間的非線性因素,但是普遍將歷史數(shù)據(jù)進行統(tǒng)一輸入,未充分考慮溫度序列隨時間的變化趨勢。水輪機的測點監(jiān)測數(shù)據(jù)是由傳感器收集到的按照時間順序排列的一系列觀測數(shù)值,各個參數(shù)的時間效應明顯,如溫度是隨時間遞增或遞減而并非離散的,水輪機正常工作時,某一時刻的溫度與之前的溫度緊密相關。

對此,本文首先對水輪機軸瓦溫度的影響因素進行分析,識別出軸瓦溫度的直接因素和工況因素,然后采用特征工程算法篩選出對軸瓦溫度真正有影響的特征,再利用時間序列分析的方法進行建模,得出更為精確的軸瓦溫度預測方法,旨在考慮不同水輪機各自的實際情況,搭建出具有普適性的軸瓦溫度預測方法,更準確地預測出軸瓦溫度,為溫度告警等相關系統(tǒng)提供相應的技術支撐。

1 水輪機軸瓦溫度影響因素分析

水輪機工作時,軸瓦表面與軸頸之間由于機械摩擦而產生熱量,潤滑油起到減少摩擦作用,又可以把少部分熱量及時通過潤滑油的循環(huán)帶出,熱的潤滑油經過冷卻水變成冷油供給軸瓦再次使用,如此循環(huán)往復構成冷卻系統(tǒng)。因此,一般來說,在機組正常工作的情況下,軸瓦溫度不會發(fā)生太大的變化?；谝陨瞎ぷ鳈C理以及可量化的條件,本文梳理出以下幾個軸瓦溫度升高的原因。

(1) 機組轉速。水輪機機組的轉子通過旋轉使得軸瓦與軸頸進行摩擦,產生熱能。理論上,機組轉速越快,短時間內產生的熱能也越多。在實際的工作中,工作人員發(fā)現(xiàn)當機組轉速較低時,油膜未能充分形成,軸瓦溫度反而更高甚至造成燒瓦。因此,部分水電站明確禁止水輪機長時間在低轉速環(huán)境下工作。

(2) 油膜厚度。機組運行時,軸瓦與軸頸之間由于機械運動產生摩擦阻力,進而使軸瓦溫度升高。潤滑油作為降溫和潤滑的媒介,與軸瓦、軸頸充分接觸并形成一定厚度的油膜,減少軸瓦與軸頸的摩擦阻力,因此,可以通過油膜厚度來反映軸承之間的潤滑狀況及其瓦面溫度的變化。

(3) 冷卻水壓力。冷卻水壓力過低時會降低冷卻器的過流量,影響冷卻器的正常工作,引起軸瓦溫度升高。

(4) 環(huán)境溫度。在水輪機正常工作時,軸瓦與外界環(huán)境接觸,一方面軸瓦溫度會隨著環(huán)境溫度呈現(xiàn)季節(jié)性和晝夜溫差變化;另一方面,外界環(huán)境會與軸瓦、冷卻水等設備產生熱量交換,對軸瓦溫度起到一定的調節(jié)作用。

(5) 工況因素。水流流過水輪機時,通過主軸帶動發(fā)電機旋轉將機械能轉換成電能。在效率不變的情況下,發(fā)電機產生的功率越大,需要的機械能越多,軸瓦做功也越多。水頭、流量等也會對軸瓦溫度產生相應的影響。

除以上因素外,潤滑油的質量、主軸擺度、機組振動、冷卻水系統(tǒng)故障等因素也會對軸瓦溫度產生影響,查找原因時必須全面考慮,但這些因素難以進行量化,無法在數(shù)學模型中準確表述,因此在建模時暫不考慮。

2 特征工程

2.1 特征工程重要性

由眾多監(jiān)測點對水輪機工作數(shù)據(jù)進行收集,各個信號之間會相互疊加,彼此影響,甚至會存在冗余信息。單個監(jiān)測點無法真實反映出設備的運行狀態(tài)和故障信息,需要結合多個監(jiān)測點的信號數(shù)據(jù)綜合考慮。如何從眾多的監(jiān)測數(shù)據(jù)中找到有效的特征,對于模型的搭建、預測的準確性和科學性十分重要。

特征工程是機器學習中最重要的一部分,是指把原始數(shù)據(jù)轉變?yōu)槟Ｐ陀柧殧?shù)據(jù)的過程,目的是獲取更好的訓練數(shù)據(jù)特征,使機器學習模型能夠逼近數(shù)據(jù)的上限[7]。特征工程一般可以分為特征構建、特征選擇和特征提取。特征構建需要一定的構建經驗,通過不斷訓練累積經驗,學習如何構建。特征提取和特征選擇較為相似,區(qū)別在于特征提取更加強調通過一定的特征轉換的方式獲取模型數(shù)據(jù)輸入集。特征選擇是從特征集合中挑選一組具有明顯物理或統(tǒng)計意義的特征子集,如水輪機軸瓦溫度預測的過程中也使用特征選擇,模型一般挑選環(huán)境溫度、油膜厚度等特征作為模型訓練的數(shù)據(jù)集。

本文將重點放在特征選擇上,目的是通過特征選擇從眾多的監(jiān)測點數(shù)據(jù)中挑選出對水輪機軸瓦溫度有影響的因素?，F(xiàn)有文獻在預測水輪機軸瓦溫度的建模中,普遍只選擇了環(huán)境溫度、油膜厚度、機組轉速等特征,未考慮其他因素。采用統(tǒng)一的特征進行建模不能適應所有水電站的情況。不同水電站的基礎建設不同,尤其是小水電站,部分特征無法收集,如油膜厚度為流體,數(shù)據(jù)難以測量,小型水電站此類數(shù)據(jù)普遍缺失。此外,不同的水輪機、同一水輪機的不同工作環(huán)境會導致水輪機各個信號之間的影響不同,在實際工作中,工況的相關特征對軸瓦溫度的影響程度應當視水輪機的實際情況來判斷。因此,對軸瓦溫度進行建模時,應當充分考慮水輪機的實際情況,從眾多的特征中選擇合適的特征子集。

2.2 基于XGBoost的特征選擇原理介紹

XGBoost是對梯度提升決策樹(GBDT)的改進,能夠多線程實現(xiàn)回歸樹的并行構建,將計算速度和效率發(fā)揮到極致[8]。GBDT只利用了一階導數(shù)的信息,XGboost對損失函數(shù)做了二階泰勒展開,計算精度更高,而且XGboost在目標函數(shù)中加入了正則項,有效地防止了過擬合,相較于GBDT算法更具優(yōu)勢。一些學者在特征選擇的實證分析中,發(fā)現(xiàn)XGBoost在眾多模型中表現(xiàn)出最優(yōu)性能[7,9]。XGBoost算法具體可表示為

(1)

(2)

(3)

(4)

XGBoost算法進行特征選擇的原理如下:在單個決策樹中,利用每個屬性分割點改進性能度量的量來計算屬性重要性,由節(jié)點進行加權和記錄次數(shù)。一個屬性對分割點改進性能度量越大,權值越大,屬性越重要。最后將屬性在所有提升樹中的結果進行加權求和并平均,得到重要性得分Fscore。Fscore可以理解為特征在決策樹里出現(xiàn)的次數(shù),一般來說,如果一個特征在所有樹中作為劃分屬性的次數(shù)越多,那么該特征就越重要。Fscore計算如下所示,式中M是所求特征分類到節(jié)點的集合。

Fscore=|M|

(5)

3 基于LSTM的軸瓦溫度時間序列預測

水輪機的軸瓦溫度、環(huán)境溫度等具有明顯的隨時間變化的趨勢,并且監(jiān)測數(shù)據(jù)通常按照時間順序排列。在進行軸瓦溫度的預測研究中,有必要對其進行時間序列分析,挖掘出特征的未來發(fā)展趨勢,得到更加準確的預測結果。

時間序列分析的模型較多,傳統(tǒng)的模型如自回歸模型、滑動平均模型、自回歸滑動平均模型等,都屬于線性回歸模型。實際的時間序列數(shù)據(jù)較為復雜,非線性成分較多,以上模型在復雜的時間序列分析中具有很大的局限性。隨著深度學習技術的發(fā)展,一些深度學習模型逐漸被應用到時序數(shù)據(jù)的研究中,其中循環(huán)神經網絡(Recurrent Neural Network,RNN)模型應用最為廣泛。RNN將時序的概念引入到網絡結構設計中,使其在時序數(shù)據(jù)分析中表現(xiàn)出更強的適應性。但RNN模型存在以下兩個問題:① 由于梯度消失和梯度爆炸的問題,RNN不能處理延遲過長的時間序列;② 訓練RNN模型需要預先確定延遲窗口長度,然而實際應用中很難自動地獲取這一參數(shù)的最優(yōu)值[10]。長短期記憶(Long Short-Term Memory,LSTM)模型彌補了RNN的梯度消失和梯度爆炸、長期記憶能力不足等問題,使得循環(huán)神經網絡能夠真正有效地利用長距離的時序信息[11]。在不同領域內,LSTM在時間序列的處理上比傳統(tǒng)的時間序列分析方法表現(xiàn)出了更優(yōu)秀的精度[12-13]。LSTM的內部模塊如圖1所示,σ和tanh分別代表sigmoid和雙曲正切激活函數(shù),其前向計算方法可以表示如下。

圖1 LSTM模型的內部模塊Fig.1 Internal module of the LSTM model

it=σ(Wxixt+Whiht-1+Wcict-1+bi)

(6)

ft=σ(Wxfxt+Whfht-1+Wcfct-1+bf)

(7)

ct=ftct-1+ittanh(Wxcxt+Whcht-1+bc)

(8)

ot=σ(Wxoxt+Whoht-1+Wcoct+bo)

(9)

ht=ottanh(ct)

(10)

式中:i,f,c,o分別為輸入門、遺忘門、細胞狀態(tài)、輸出門。W代表對應的權重系數(shù);b為偏置項。通過前向計算每個單元的輸出值和最后的輸出值,將最后的輸出值與標簽計算出誤差,根據(jù)反向梯度計算完成每一層每一個單元的參數(shù)更新,從而完成訓練。

4 實驗驗證

本文提出了一種基于XGBoost特征工程和LSTM時間序列分析(XGBoost-LSTM)來預測水輪機軸瓦溫度的方法,主要流程如圖2所示,本節(jié)結合實際數(shù)據(jù)對此方法展開實驗驗證。

圖2 模型預測流程Fig.2 Model prediction flow chart

4.1 數(shù)據(jù)預處理和參數(shù)確定

本文實驗數(shù)據(jù)來源于海南某水電站2022年11月至2023年1月的歷史數(shù)據(jù),運行數(shù)據(jù)真實可靠,來源具有合法性。該電站裝有3臺2.5 MW混流式機組。雖然影響軸瓦溫度的特征眾多,但不同的水電站信息化、智能化建設水平不同,特別是小水電站不能收集到所有的特征。根據(jù)該電站的實際情況,收集到的變量包括軸瓦溫度、環(huán)境溫度、有功功率、機組轉速、勵磁電壓與冷卻水壓力。

本文對該水電站的運行數(shù)據(jù)按照5 min為一次間隔進行收集,并對停機數(shù)據(jù)、異常數(shù)據(jù)、缺失值采用直接刪除的方法。數(shù)據(jù)清洗后,共有2 834條原始數(shù)據(jù)。為了加快模型的收斂速度,本文采用Min-Max 標準化方法對數(shù)據(jù)進行標準化,見公式(11)。

(11)

式中:x*為標準化后的溫度數(shù)值;x為當前溫度;xmax與xmin分別為模型測練溫度值中的最大值與最小值。

劃分數(shù)據(jù)集時,將預處理后的數(shù)據(jù)按照8∶2的比例劃分訓練集與測試集。根據(jù)現(xiàn)場的實際情況和模型的調優(yōu)結果,本文將LSTM模型的跳躍步長設置為12,并進行單步預測,即用前12條記錄預測下一時刻的軸瓦溫度,依次遞進;學習率設置為0.001,并加入早停法(Early Stopping)來防止模型的過擬合。

4.2 評估指標

為評價模型對軸瓦溫度的預測結果,本文選取了以下3個評估指標:

(1) 均方誤差為

(12)

(2) 平均絕對誤差為

(13)

(3) 最大絕對誤差為

MAXE=max{|y′i-yi|,i∈[1,n]}

(14)

式中:n為選取的樣本數(shù)量,y′i為預測值,yi為實際值。

4.3 結果與分析

特征過多時會增加算法復雜度,增加模型訓練和預測時間,因此在模型訓練之前,有必要進行特征選擇。本文選取XGBoost進行特征選擇,使用Python 3.7環(huán)境下的XGBoost工具包進行特征評分。XGBoost有兩種評分方式:① 在模型訓練完成之后,調用feature_importances_參數(shù)查看每一個特征對模型的重要程度,即哪些特征變量在模型中發(fā)揮的作用更大。數(shù)值越大,重要性也越高;② 調用get_score()方法獲得特征重要性得分,一般使用total_gain參數(shù),表示在所有樹中該特征在每次分裂節(jié)點時帶來的總增益。

圖3～4是使用XGBoost計算得到各個特征的重要性和重要性得分,可以看出,變量中對軸瓦溫度影響程度最大的分別是冷卻水壓力、環(huán)境溫度和有功功率,表明該水輪機的冷卻系統(tǒng)和實際工況對軸瓦溫度起著重要作用。機組轉速的影響程度最小。這是因為,水電站的機組為額定頻率,水輪機工作時,機組通過調速器等設備使得機組轉速維持在恒定值,以保障機組的安全性能。對于數(shù)學模型來說,機組轉速接近為一個常量,對模型的影響較小。因此,雖然理論上機組轉速對軸瓦溫度有著重要影響,但結合水電站正常工作的工況,機組轉速并不能作為預測軸瓦溫度的特征,這也驗證了選取特征時考慮水輪機實際情況的重要性。結合以上分析,進行特征選擇后篩選出的變量為冷卻水壓力、環(huán)境溫度和有功功率,這些特征的重要性累計和為0.87。

圖3 特征重要性Fig.3 Feature importance results

為檢測對軸瓦溫度進行時間序列分析的重要性,本文選擇支持向量回歸(Support Vector Regression,SVR)[14]模型與LSTM進行對比驗證,并將未進行特征選擇的原始特征和進行特征選擇后的特征依次在模型中進行訓練,比較模型在測試集上的效果,結果如表1所示。從表1可以看出,在選用XGBoost模型進行特征提取之后,SVR模型的均方根誤差RMSE減小了6.6%,平均絕對誤差MAE減小了21.7%,最大絕對誤差MAXE沒有減小;LSTM模型的均方根誤差RMSE減小了13.8%,平均絕對誤差MAE減小了16.4%,最大絕對誤差MAXE減少了32.8%,說明利用XGBoost進行特征提取的方法適合SVR和LSTM模型,進行特征選擇后,減少了冗余變量,模型的精度得到了一定程度的提升。同時,LSTM模型的RMSE,MAE,MAXE明顯比SVR模型小,LSTM預測值與真實值的誤差在1 ℃以內,表明LSTM在軸瓦溫度的預測上具有更好的性能。

圖5～8分別為SVR模型和LSTM在測試集上的預測值與真實值的曲線圖像,溫度值按時間順序排列?？梢钥闯?實際的軸瓦溫度隨時間表現(xiàn)出一定的周期性趨勢,這與工作環(huán)境和工作狀態(tài)有關。圖5顯示,在未進行特征選擇時,SVR模型不能跟蹤到軸瓦溫度的時間趨勢。進行特征選擇后,如圖6所示,預測值曲線相對平滑,但擬合效果較差,表明特征選擇具有優(yōu)勢,但SVR模型不能精確地處理時間序列數(shù)據(jù)。圖7展示了未進行特征選擇的LSTM模型回歸結果,表明LSTM模型基本上跟蹤到了軸瓦溫度的時間變化趨勢,且與真實值的誤差較小。進行特征選擇后,如圖8所示,模型的精度進一步提升,預測值的變化趨勢與實際值的趨勢基本一致,誤差在1 ℃以內,展示出XGBoost-LSTM模型的優(yōu)異性能。

圖5 未進行特征選擇的SVR模型的擬合結果Fig.5 Fitting results of SVR model without feature selection

圖6 特征選擇后SVR模型的擬合結果Fig.6 Fitting results of SVR model after feature selection

圖7 未進行特征選擇的LSTM模型的擬合結果Fig.7 Fitting results of LSTM model without feature selection

圖8 特征選擇后LSTM模型的擬合結果Fig.8 Fitting results of LSTM model after feature selection

5 結 論

本文提出了基于XGBoost-LSTM模型來預測水輪機軸瓦溫度的方法,從理論上分析了進行特征選擇和時間序列分析的重要性,并結合實際數(shù)據(jù)進行驗證,結果發(fā)現(xiàn)在預測軸瓦溫度時,使用XGBoost模型選擇合適的特征后進行預測可以減少冗余變量,提高模型的精度。LSTM模型的均方誤差、平均絕對誤差和最大絕對誤差都優(yōu)于SVR模型,LSTM模型能更好地跟蹤數(shù)據(jù)的非線性動態(tài)變化,模型的精度有較大幅度的提升,預測值與實際值的誤差在1 ℃以內,進一步驗了LSTM模型更適合時間序列的軸瓦溫度預測,研究成果可以為水輪機故障預測與健康管理系統(tǒng)的開發(fā)提供參考。