摘 要:針對在不同工作條件和不同故障形式下,滾動軸承剩余壽命預(yù)測泛化能力差和精確度不高的問題,提出一種基于孿生多卷積長短時記憶網(wǎng)絡(luò)(S-MCLSTM)和域?qū)咕W(wǎng)絡(luò)(DANN)的剩余壽命預(yù)測方法。首先針對不同的工作條件對退化過程的影響,提出基于S-MCLSTM的差異化特征提取器以提取一定時間間隔的兩個樣本之間的差異化特征。同時,進(jìn)一步使用工作條件判別器與差異化特征提取器進(jìn)行對抗訓(xùn)練,減少由于工作條件的原因產(chǎn)生的冗余特征。之后針對故障形式對退化過程的影響,設(shè)計了故障診斷器用于和差異化特征提取器對抗訓(xùn)練。最后,考慮到滾動軸承一般退化過程中,不同階段的退化過程與特征之間的映射關(guān)系可能存在的差異,提出了階段判別器,并在不同階段應(yīng)用不同的剩余壽命預(yù)測器進(jìn)行預(yù)測。最終在西安交通大學(xué)XJTU-SY軸承數(shù)據(jù)集上的實驗表明,該方法在多種工作條件和故障形式下都能較準(zhǔn)確地預(yù)測剩余壽命,有較為廣泛的應(yīng)用前景。
關(guān)鍵詞:滾動軸承; 剩余壽命預(yù)測; 孿生多卷積長短時記憶網(wǎng)絡(luò); 域?qū)咕W(wǎng)絡(luò)
中圖分類號:TP183;TH133.33 文獻(xiàn)標(biāo)志碼:A
文章編號:1001-3695(2024)09-031-2787-07
doi:10.19734/j.issn.1001-3695.2023.12.0624
Remain useful life prediction method of rolling bearings based onS-MCLSTM and DANN
Dong Zhimin1,2, Dong Jiechao3
(1.Dept. of Mathematics & Information Engineering, Puyang Vacational Technollogy College, Puyang Henan 457000, China; 2.Puyang Institute of Technology, Henan University, Puyang Henan 457000, China; 3.Software Development Center, Industrial & Commercial Bank of China, Beijing 100080, China)
A74Q4ZWXUG362aeZM6GScuA==bstract:Aiming at the problems of poor generalization ability and low accuracy of remain useful life prediction of rolling bearings under different working conditions and different faults, this paper proposed a remain useful life prediction method based on siamese multi-convolutional long short-term memory(S-MClSTM) and domain adversarial neural network(DANN). Firstly, to reduce the influence of different working conditions on the degradation process, it input two samples with a certain time interval to the S-MCLSTM differentiation feature extractor to extarct the differentiated features. At the same time, it designed and trained the worke condition discriminator adversarially with the feature extractor, which could avoid to extract redundant features due to different working conditions. Then, to reduce the influence of different faults on the degradation process, it designed and trained a fault diagnoser adversarially with the differentiation feature extractor. Finally, considering the differences in the mapping between degradation process and features in different degradation stages,it proposed a stage discriminator and applied different remain useful life predictors in different stages. In the end, experiments on the XJTU-SY bearing dataset show that the method can accurately predict the remain useful life under various working conditions and faults, and has a wide range of application scenarios.
Key words:rolling bearing; remain useful life prediction; siamese multi-convolutional long short-term memory; domain adversarial neural network
0 引言
設(shè)備的故障預(yù)測與健康管理(prognostics health management,PHM)是一個包含故障檢測、故障診斷、故障預(yù)測、壽命追蹤等技術(shù)的綜合技術(shù)體系,是一種從被動維修到主動維護管理的轉(zhuǎn)變[1]。其中,預(yù)測未來退化趨勢和剩余壽命(remain useful lifetime,RUL)是PHM的關(guān)鍵技術(shù)之一[2]。
滾動軸承是機械設(shè)備中必不可少的部件,其整個運行生命周期包含正常工作階段、退化階段和完全失效階段三個階段。然而對于不同工作條件、不同功能作用、不同故障形式的軸承來說,其三個階段的發(fā)生時間、持續(xù)時間、退化速度等都會有所不同。因此建立一個適用范圍廣、精確的退化模型是十分困難的[3]。在現(xiàn)有研究中,通過分析三個階段中元件的形變、力學(xué)變化、信號變化,剩余壽命預(yù)測方法發(fā)展出了基于機理模型、基于概率統(tǒng)計、基于數(shù)據(jù)驅(qū)動和組合模型等方法[4]。
基于機理模型的方法通過對機械性能退化這一物理過程建立數(shù)學(xué)模型,在整個機械設(shè)備的設(shè)計優(yōu)化階段起到了很大的作用,如文獻(xiàn)[5,6]。但建模精度取決于對其失效機理的了解程度,并且建模過程中無法考慮各種影響因素,與實際有較大誤差[7]。
基于概率統(tǒng)計的方法多使用基于L-P理論的L(10)壽命對剩余壽命進(jìn)行評估,提高了預(yù)測可靠性,如文獻(xiàn)[8],但并不適用于更加復(fù)雜的模型。
隨著傳感器技術(shù)和信號處理技術(shù)的發(fā)展,近些年出現(xiàn)了基于數(shù)據(jù)驅(qū)動的剩余壽命預(yù)測方法。它能夠較好地采集和處理滾動軸承在工作中的運行數(shù)據(jù),利用這些數(shù)據(jù)建立數(shù)學(xué)模型。Ma等人[9]提出了基于ConvLSTM的剩余壽命預(yù)測方法。Jang等人[10]構(gòu)造了孿生網(wǎng)絡(luò)計算兩個樣本之間的壽命差異,彌補了樣本數(shù)量不足的問題。
以上三類方法各有不同使用條件的限制,近幾年組合模型已漸成為滾動軸承剩余壽命預(yù)測的主流。Li等人[11]將圖卷積網(wǎng)絡(luò)(graph convolutional network,GCN)與域?qū)咕W(wǎng)絡(luò)結(jié)合,通過GCN提取可遷移特征并實現(xiàn)跨域的剩余壽命預(yù)測。付國忠等人[12]提出一種基于注意力機制的卷積神經(jīng)網(wǎng)絡(luò)和雙向長短期記憶網(wǎng)絡(luò)的混合RUL模型,對滾動軸承的剩余壽命進(jìn)行預(yù)測。
在滾動軸承剩余壽命預(yù)測問題中,由于不同軸承的型號大小、工作條件(如安裝位置、負(fù)載、轉(zhuǎn)速等)、故障形式等原因, 不同軸承整個生命周期的三個階段的發(fā)生時間、持續(xù)時間、退化速度等均有不同?,F(xiàn)有方法往往只針對某種型號特定的工作條件進(jìn)行剩余壽命預(yù)測,不可遷移推廣至更大的應(yīng)用范圍。本文提出了一個通過減少外界因素影響的滾動軸承剩余壽命預(yù)測組合模型[13,14]。
a)針對不同的工作條件和軸承型號對退化過程的影響,本文提出了基于S-MCLSTM的差異化特征提取器,可以通過將前后相差Δt時間的兩個樣本輸入網(wǎng)絡(luò)并提取差異化特征,從而抵消工作條件和軸承型號的影響。同時,借助工作條件判別器,與差異化特征提取器進(jìn)行對抗訓(xùn)練,進(jìn)一步減小了工作條件對剩余壽命預(yù)測的影響。
b)針對故障形式對退化過程的影響,設(shè)計故障診斷器與差異化特征提取器的對抗訓(xùn)練,減低故障類型對剩余壽命預(yù)測的影響。
c)針對不同生命周期的三個階段,軸承的退化速度不同,設(shè)計階段判別器,判斷樣本處于哪個壽命階段并使用對應(yīng)的剩余壽命預(yù)測器進(jìn)行壽命預(yù)測。
1 卷積長短時記憶網(wǎng)絡(luò)
長短時記憶網(wǎng)絡(luò)(long short-term memory,LSTM)是一種特殊形式的循環(huán)神經(jīng)網(wǎng)絡(luò)[15]。它通過“門”的結(jié)構(gòu)來控制以往信息的記憶與遺忘,可以記憶不定時間長度的信息,較好地處理解決滾動軸承退化數(shù)據(jù)的復(fù)雜性及普通神經(jīng)網(wǎng)絡(luò)缺乏時間序列數(shù)據(jù)處理能力的問題。針對時空序列預(yù)測問題,卷積長短時記憶網(wǎng)絡(luò)(convolutional LSTM,ConvLSTM)將一般的LSTM中的全連接操作轉(zhuǎn)換為卷積操作[16],使網(wǎng)絡(luò)在處理時間特征的同時,能夠兼顧樣本的空間特征,從而更適用于多傳感器信號或圖像信號等具有較強空間結(jié)構(gòu)的數(shù)據(jù)[17]。一個ConvLSTM模塊的內(nèi)部結(jié)構(gòu)如圖1所示。
在圖1中:ct表示細(xì)胞狀態(tài),它將記錄每個時刻經(jīng)過選擇性記憶與遺忘后的信息;ht表示隱狀態(tài),是上一時刻的輸出,也是下一時刻的輸入;xt表示該時刻的樣本。
ConvLSTM模塊中狀態(tài)轉(zhuǎn)換與輸入輸出的計算如式(1)~(6)所示。當(dāng)上一時刻的ct-1、ht-1和當(dāng)前時刻的xt輸入該模塊后,首先經(jīng)過遺忘門ft,遺忘門讀取ht-1和xt后,確定應(yīng)遺忘ct-1中哪些信息。之后經(jīng)過記憶門it,確定當(dāng)前信息哪些需要保留。接下來遺忘門作用于ct-1,記憶門作用于輸入門,得到當(dāng)前時刻的細(xì)胞狀態(tài)ct。最后是輸出門,更新后的ct經(jīng)過tanh函數(shù)后與ot相乘得到最后的隱狀態(tài)ht。
4 實驗結(jié)果與分析
4.1 數(shù)據(jù)集介紹
本文選擇XJTU-SY軸承數(shù)據(jù)集[18]對所提算法進(jìn)行驗證。
加速退化實驗臺如圖6所示,圖中兩個型號為PCB352C33的加速度計分別采集水平和豎直方向上的加速度,采樣頻率為25.6 kHz,采樣方式是每分鐘采集一次,每次采集32 768個樣本點,即1.28 s。
在實驗?zāi)M平臺上,可以通過調(diào)整電機轉(zhuǎn)速和液壓加載系統(tǒng)提供的徑向力來模擬工業(yè)系統(tǒng)中不同的工作條件。本文選取的用于訓(xùn)練和測試的軸承編號及對應(yīng)的工作條件和故障類型如表1所示。
4.2 對比方法介紹
本文方法包含多個對抗性網(wǎng)絡(luò)結(jié)構(gòu)。在實驗部分設(shè)計消融實驗,去除部分功能的網(wǎng)絡(luò)與本文方法進(jìn)行對比,從而驗證本文方法的有效性和優(yōu)越性。
a)移除孿生網(wǎng)絡(luò)結(jié)構(gòu)。在特征提取階段,不使用差異化特征,僅使用MCLSTM提取到當(dāng)前時刻的特征,其余部分與本文方法保持一致。
b)移除工作條件判別器,其余部分與本文方法保持一致。
c)移除故障診斷器。該方法不考慮不同的故障情況對退化過程的影響,不使用故障診斷器對整個網(wǎng)絡(luò)進(jìn)行對抗訓(xùn)練,其余部分與本文方法保持一致。
d)移除階段判別器。移除階段判別器,并且在各階段均使用相同的ΔRULP預(yù)測器,其余部分與本文方法保持一致。
e)普通S-MCLSTM。該方法不增加任何對抗訓(xùn)練,使用差異化特征提取后,直接送入全連接層進(jìn)行剩余壽命預(yù)測。
在實驗過程中,為了增強模型的泛化能力,在訓(xùn)練階段,使
時間差Δt在[1,10]隨機產(chǎn)生。在測試階段,使Δt=5。訓(xùn)練優(yōu)化器均采用Adam優(yōu)化器,剩余壽命預(yù)測器和特征提取器的學(xué)習(xí)率設(shè)為0.000 1,工作條件判別器、階段判別器和故障診斷器的學(xué)習(xí)率設(shè)為0.001。網(wǎng)絡(luò)各層參數(shù)設(shè)置如表2所示。
4.3 不同算法實驗結(jié)果與分析
為了驗證本文方法的優(yōu)越性,使用平均絕對誤差(mean absolute error,MAE)、均方誤差(mean square error,MSE)、均方根誤差(root mean square error,RMSE)、平均絕對百分比誤差(mean absolute percentage error,MAPE)對不同算法的性能進(jìn)行評價。
表3~5分別展示了本文所提的基于S-MCLSTM和DANN的剩余壽命預(yù)測方法和其他五種方法之間的對比實驗結(jié)果,其中,為了說明不同方法的遷移能力,本文設(shè)置了兩個任務(wù),即T1和T2。T1表示源域為工作條件1的軸承數(shù)據(jù),目標(biāo)域為工作條件2的軸承數(shù)據(jù)的遷移學(xué)習(xí)任務(wù)。T2表示源域為工作條件2的軸承數(shù)據(jù),目標(biāo)域為工作條件1的軸承數(shù)據(jù)的遷移學(xué)習(xí)任務(wù)。同時,工作條件3均作為測試用例,用于檢驗算法的泛化性能。
從不同工作條件下算法的遷移能力來看,當(dāng)本文使用某一種工作條件下的數(shù)據(jù)樣本進(jìn)行訓(xùn)練時,這些方法均能在訓(xùn)練集上表現(xiàn)出良好的預(yù)測能力。其中,MCLSTM-DANN由于預(yù)測的結(jié)果直接就是當(dāng)前時刻樣本的剩余壽命,最終整體的預(yù)測沒有累計誤差,所以其在訓(xùn)練集上有非常精確的預(yù)測。普通S-MCLSTM由于訓(xùn)練中完全沒有任何對抗訓(xùn)練,所以它在訓(xùn)練集中也有較為精準(zhǔn)的預(yù)測。本文S-MCLSTM-DANN在訓(xùn)練集上的效果表現(xiàn)一般,但也能較精確地實現(xiàn)預(yù)測。而在作為目標(biāo)域和測試集的另兩種工作條件下的數(shù)據(jù)樣本中,本文方法的遷移能力明顯優(yōu)于其他幾種方法,MCLSTM-DANN和普通S-MCLSTM的遷移能力較差,出現(xiàn)了過擬合的現(xiàn)象。
對比本文方法和移除D2的方法,可以看出,移除D2后,該方法在不同故障形式下的預(yù)測能力差別很大,且有很大的隨機性,而本文方法在本數(shù)據(jù)集包含的故障形式內(nèi)均有較好的預(yù)測能力。當(dāng)移除階段判別器D3后,網(wǎng)絡(luò)在各個階段均使用相同的剩余壽命預(yù)測器,得到的結(jié)果與真實的剩余壽命的差異較大,預(yù)測效果相比本文方法較差。
為了更加直觀地看到不同算法在預(yù)測剩余壽命時的準(zhǔn)確性,本文以任務(wù)T1下的軸承1-1、2-1和3-3為例,畫出了三個軸承真實的退化曲線和不同算法預(yù)測出的退化曲線,如圖7所示。可以看出,本文方法在三種工作條件下都能較好地擬合退化曲線,其他方法雖然在訓(xùn)練集上能夠預(yù)測剩余壽命,但在測試集上預(yù)測出的退化曲線與真實曲線相差過大。
根據(jù)文獻(xiàn)[19],將近年來針對滾動軸承剩余壽命的預(yù)測方法與本文方法進(jìn)行對比,如表6所示。可以看出,本文方法預(yù)測誤差更小,準(zhǔn)確率更高。
4.4 特證可視化
為了更清楚地表示與評估本文方法特征提取的結(jié)果,本文取出差異化特征提取層前后的特征,即ti和tj時刻的樣本經(jīng)過MCLSTM后的特征fti和ftj,以及兩者的差異化特征fij,并使用t-SNE算法將三部分的特征進(jìn)行降維可視化[20]。以三種工作條件下的軸承1-1、2-1和3-3為例,圖8展示出了三個軸承的特征分布圖。其中,為了展示退化過程的連續(xù)性,將特征fti和ftj的分布用連續(xù)變化的顏色進(jìn)行表示。
圖8是通過t-SNE算法將訓(xùn)練后的網(wǎng)絡(luò)中提取的高維特征向二維映射后的可視化展示。通過特征散點圖的可視化展示,可以看出特征提取器在經(jīng)過工作條件判別器、階段判別器和故障診斷器的對抗訓(xùn)練、剩余壽命預(yù)測器的預(yù)測訓(xùn)練后的特征提取能力。特征不僅需要符合實際情況,既不能失真,也要符合一定規(guī)律,便于后續(xù)的預(yù)測。
圖8中散點表示不同的樣本特征,顏色條表示剩余壽命百分比(RULP)從1到0的變化。分析圖8可以得到如下結(jié)論:a)從單一軸承來看,本文方法在不同的工作條件下均能提取到隨生命周期變化的特征,且符合實際軸承生命周期規(guī)律;b)從差異化特征來看,差異化特征不僅能反映原始特征的分布規(guī)律,還能反映兩者的差異??梢钥闯鲭A段判別器很好地將測試樣本分為三個部分,從而可以應(yīng)用于三種剩余壽命的預(yù)測網(wǎng)絡(luò),也證明了階段判別器對于剩余壽命預(yù)測的作用。
5 結(jié)束語
針對滾動軸承在不同工作條件和不同故障形式下退化過程不同的問題,本文提出了基于S-MCLSTM和DANN的剩余壽命預(yù)測方法。經(jīng)過不同方法的對比實驗以及特征的可視化分析,可以得到以下結(jié)論:a)基于S-MCLSTM的差異化特征提取器可以提取到一定時間間隔的兩個樣本之間的差異化特征,避免由于工作條件產(chǎn)生冗余特征,從而影響預(yù)測結(jié)果;同時,增加的工作條件判別器進(jìn)一步減小了工作條件對剩余壽命預(yù)測的影響。b)本文設(shè)計的故障診斷器通過與差異化特征提取器的對抗訓(xùn)練,可以使提取到的特征不受故障形式的影響。c)本文提出了階段判別器,并在不同階段設(shè)計不同的剩余壽命預(yù)測器,可以使剩余壽命預(yù)測的結(jié)果更加精確。
通過理論分析與對比實驗可以看出,本文方法在多種工作條件和故障形式下都能較精確地實現(xiàn)RUL的預(yù)測,更符合實際工業(yè)現(xiàn)場的要求。但是由于該方法中存在多個對抗訓(xùn)練,整個網(wǎng)絡(luò)的訓(xùn)練過程所需時間較長,所以要對網(wǎng)絡(luò)訓(xùn)練過程進(jìn)行精簡,以縮短訓(xùn)練時間。
參考文獻(xiàn):
[1]張遠(yuǎn)亮, 李海浪. 基于PVC-CAE的軸承剩余壽命預(yù)測方法[J]. 計算機應(yīng)用研究, 2023, 40(10): 3070-3075. (Zhang Yuanlian, Li Hailang. Remaining life prediction method of bearing based on PVC-CAE[J]. Application Research of Computers, 2023, 40(10): 3070-3075.)
[2]Wang Dong, Tsui K L, Miao Qiang. Prognostics and health management: a review of vibration based bearing and gear health indicators[J]. IEEE Access, 2018, 6(99): 665-676.
[3]李永朋, 劉勤明, 葉春明, 等. 基于Erlang-HSMM的設(shè)備剩余壽命預(yù)測研究[J]. 計算機應(yīng)用研究, 2021, 38(2): 426-429,443. (Li Yongpeng, Liu Qinming, Ye Chunming, et al.Research on resi-dual life prediction of equipment based on Erlang-HSMM[J]. Application Research of Computers, 2021, 38(2): 426-429,443.)
[4]Antoni J. The spectral kurtosis: a useful tool for characterising nonstationary signals[J]. Mechanical Systems and Signal Processing, 2006, 20:282-307.
[5]Cubillo A, Perinpanayagam S, Esperon-Miguez M. A review of physics-based models in prognostics: application to gears and bearings of rotating machinery[J]. Advances in Mechanical Engineering, 2016, 8(8): 1-21.
[6]Lei Yaguo, Li Naipeng, Gontarz S, et al. A model-based method for remaining useful life prediction of machinery[J]. IEEE Trans on Reliability, 2016, 65(3): 1314-1326.
[7]張金豹, 鄒天剛, 王敏, 等. 滾動軸承剩余使用壽命預(yù)測綜述[J]. 機械科學(xué)與技術(shù), 2023, 42(1): 1-23. (Zhang Jinbao, Zhou Tiangang, Wang Min, et al. Review on remaining useful life prediction of rolling bearing[J]. Mechanical Science and Technology for Aerospace Engineering, 2023, 42(1): 1-23.)
[8]林棻, 唐潔, 趙又群, 等. 基于修正L-P模型的輪轂軸承載荷分布與彎曲疲勞壽命分析[J]. 中國機械工程, 2020, 31(8): 898-906. (Lin Fen, Tang Jie, Zhao Youqun, et al. Load distribution and bending fatigue life analysis of hub bearings based on modified L-P model[J]. China Mechanical Engineering, 2020, 31(8): 898-906.)
[9]Ma Meng, Mao Zhu. Deep-convolution-based LSTM network for remaining useful life prediction[J]. IEEE Trans on Industrial Informatics, 2020,17(3): 1658-1667.
[10]Jang J, Kim C O. Siamese network-based health representation lear-ning and robust reference-based remaining useful life prediction[J]. IEEE Trans on Industrial Informatics, 2022, 18: 5264-5274.
[11]Li Tianfu, Zhao Zhibin, Sun Chuang, et al. Domain adversarial graph convolutional network for fault diagnosis under variable working conditions[J]. IEEE Trans on Instrumentation and Measurement, 2021, 70:1-10.
[12]付國忠, 杜華, 張志強,等. 基于注意力機制和CNN-BiLSTM模型的滾動軸承剩余壽命預(yù)測[J]. 核動力工程, 2023, 44(S2): 33-38. (Fu Guozhong, Du Hua, Zhang Zhiqiang, et al. Remaining useful life prediction of rolling bearings based on attention mechanism and CNN-BiLSTM[J]. Nuclear Power Engineering, 2023, 44(S2): 33-38.)
[13]Zhao Bingxi, Yuan Qi. A novel deep learning scheme for multi-condition remaining useful life prediction of rolling element bearings[J]. Journal of Manufacturing Systems, 2021, 61: 450-460.
[14]Li Xiang, Zhang Wei, Ma Hui, et al. Data alignments in machinery remaining useful life prediction using deep adversarial neural networks[J]. Knowledge-Based Systems, 2020, 197: 105843.
[15]Tipping M E. Sparse Bayesian learning and the relevance vector machine[J]. Journal of Machine Learning Research, 2001, 1(3): 211-244.
[16]Zhang Jianjing, Wang Peng, Yan Ruqiang, et al. Long short-term memory for machine remaining life prediction[J]. Journal of Manufacturing Systems, 2018, 48:78-86.
[17]Hoang D, Kang H. A survey on deep learning based bearing fault diagnosis[J]. Neurocomputing, 2018, 335:327-335.
[18]Wang Biao, Lei Yaguo, Li Naipeng, et al. A hybrid prognostics approach for estimating remaining useful life of rolling element bearings[J]. IEEE Trans on Reliability, 2020, 69(1): 401-412.
[19]Zhang Wei, Li Xiang, Ma Hei, et al. Transfer learning using deep representation regularization in remaining useful life prediction across operating conditions[J]. Reliability Engineering & System Safety, 2021, 211(108052): 107556.
[20]劉文溢, 劉勤明, 葉春明, 等. 基于改進(jìn)退化隱馬爾可夫模型的設(shè)備健康診斷與壽命預(yù)測研究[J].計算機應(yīng)用研究, 2021, 38(3): 805-810. (Liu Wenyi, Liu Qinming, Ye Chunming, et al. Equipment health diagnostics and prognostics method based on improved degenerated HMM[J].Application Research of Compu-ters, 2021, 38(3): 805-810.)
收稿日期:2023-12-04;修回日期:2024-03-04 基金項目:河南省高等學(xué)校重點科研項目(18B520030)
作者簡介:董志民(1969—),男,河南濮陽人,副教授,碩士,主要研究方向為人工智能(569969941@qq.com);董潔超(1996—),女,河南濮陽人,工程師,碩士,主要研究方向為機器學(xué)習(xí).