邢礫文,姚文凱,黃 瑩
(1.武警工程大學(xué) 研究生大隊(duì),西安 710086;2.武警工程大學(xué) 信息工程學(xué)院,西安 710086)
裝備故障診斷通過分析裝備狀態(tài)的相關(guān)數(shù)據(jù),對(duì)裝備運(yùn)行狀態(tài)和異常情況作出判斷,為裝備故障恢復(fù)提供依據(jù)。隨著科學(xué)技術(shù)的發(fā)展,現(xiàn)代裝備正朝著集成化方向發(fā)展,系統(tǒng)之間交叉鏈接使系統(tǒng)的復(fù)雜性日益增加,隨著數(shù)據(jù)采集設(shè)備的增多和數(shù)字信息的推廣,裝備故障診斷已經(jīng)變得越來越大數(shù)據(jù)化。傳統(tǒng)的人工分析方法難以適應(yīng)這些變化,需要計(jì)算機(jī)和人工智能的幫助才能進(jìn)行準(zhǔn)確的故障診斷,對(duì)智能化的要求越來越高。
在傳統(tǒng)的故障診斷方法中,特征提取是最關(guān)鍵的步驟,它直接決定了故障診斷的效果。經(jīng)過多年的發(fā)展,故障診斷具有許多特征,如時(shí)域特征、頻域特征、小波能量熵和經(jīng)驗(yàn)?zāi)B(tài)分解等。然而,這些特征大多是經(jīng)過大量的實(shí)驗(yàn)和經(jīng)驗(yàn)得到的,需要很長(zhǎng)時(shí)間才能獲得,而且過分依賴專家經(jīng)驗(yàn)知識(shí)。對(duì)于新的或特定的研究對(duì)象,很難決定應(yīng)該選擇哪些特征,影響故障診斷效果。
近年來,深度學(xué)習(xí)在圖像識(shí)別、語音處理和文本處理方面具有良好的表現(xiàn)。深度學(xué)習(xí)是人工智能的一個(gè)子域,因其多隱層網(wǎng)絡(luò)與自適應(yīng)的特征提取能力而能夠挖掘數(shù)據(jù)更深層次的本質(zhì)特征,利用原始信號(hào)的所有特征,不舍棄原始數(shù)據(jù)信息,能精確地刻畫故障數(shù)據(jù)從觀測(cè)值到故障類別之間復(fù)雜的映射關(guān)系,實(shí)現(xiàn)智能故障診斷。首先,與傳統(tǒng)的故障診斷方法相比,深度學(xué)習(xí)具有較強(qiáng)的學(xué)習(xí)能力,可以從大量數(shù)據(jù)中學(xué)習(xí)特征,減少或消除了故障診斷對(duì)專家知識(shí)的依賴。其次,深度學(xué)習(xí)具有表達(dá)復(fù)雜關(guān)系的能力,可以準(zhǔn)確地描述從傳感器信號(hào)到設(shè)備健康狀態(tài)的復(fù)雜映射。此外,深度學(xué)習(xí)非常適用于大數(shù)據(jù)背景下設(shè)備系統(tǒng)的狀態(tài)監(jiān)測(cè)和故障診斷。最后,深度學(xué)習(xí)具有遷移學(xué)習(xí)的能力,能夠從源域中學(xué)習(xí)知識(shí),并通過這些知識(shí)協(xié)助目標(biāo)域的分類問題。因此,具有這些優(yōu)點(diǎn)的深度學(xué)習(xí)將被深入研究,并在集成化裝備故障診斷領(lǐng)域得到更廣泛的應(yīng)用。
本文按照應(yīng)用領(lǐng)域的不同,分析和總結(jié)了近年來國內(nèi)外的研究現(xiàn)狀,介紹了幾種典型的基于深度學(xué)習(xí)的故障診斷方法:深度置信網(wǎng)絡(luò)(deep belief networks,DBN)、堆棧自編碼機(jī)(stacked auto-encoders,SAE)、卷積神經(jīng)網(wǎng)絡(luò)(convolution neural networks,CNN),并做出總結(jié),討論了深度學(xué)習(xí)在集成化裝備故障診斷領(lǐng)域面臨的挑戰(zhàn)與發(fā)展方向。
正是由于深度學(xué)習(xí)的明顯優(yōu)勢(shì),基于深度學(xué)習(xí)的故障診斷方法在機(jī)械、電子系統(tǒng)等領(lǐng)域得到了廣泛應(yīng)用,并不斷在新的領(lǐng)域嘗試。
在軸承領(lǐng)域,文獻(xiàn)[1]利用DBN完成特征提取,結(jié)合支持向量數(shù)據(jù)描述方法(support vector data description,SVDD)實(shí)現(xiàn)異常數(shù)據(jù)檢測(cè)。無需故障樣本數(shù)據(jù)即可完成故障診斷,但只能檢測(cè)出異常,不能判斷故障類型。文獻(xiàn)[2]通過網(wǎng)格搜索算法進(jìn)行參數(shù)尋優(yōu),改善手動(dòng)調(diào)節(jié)參數(shù)沒有依據(jù)的問題。搭建分布式并行計(jì)算平臺(tái)解決該算法尋優(yōu)時(shí)間過長(zhǎng)的問題。文獻(xiàn)[3]利用DBN提取特征,計(jì)算重構(gòu)誤差,檢測(cè)其趨勢(shì)變化,并將此作為故障判斷準(zhǔn)則。該方法能夠?qū)崿F(xiàn)故障診斷但不能對(duì)故障進(jìn)行分類。文獻(xiàn)[4-6]分別將深度編碼網(wǎng)絡(luò)、堆疊去噪自編碼器與支持向量機(jī)(support vector machine,SVM) 結(jié)合。首先利用神經(jīng)網(wǎng)絡(luò)提取特征,然后利用SVM進(jìn)行分類。文獻(xiàn)[6]將頻譜特征與時(shí)域特征相融合,利用鯨魚優(yōu)化算法進(jìn)行優(yōu)化,實(shí)現(xiàn)了不同工況下多種故障類型的可靠識(shí)別。文獻(xiàn)[7]先利用滑動(dòng)窗口重疊采樣技術(shù)進(jìn)行數(shù)據(jù)增強(qiáng),再通過堆疊去噪自編碼器降噪,然后通過反向傳播算法(back propagation,BP)訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)雙層分類器,識(shí)別出故障模式及故障程度,最后用集成學(xué)習(xí)投票法提高識(shí)別準(zhǔn)確率。文獻(xiàn)[8]先采用經(jīng)驗(yàn)?zāi)B(tài)分解方法分析信號(hào),然后利用堆疊稀疏自編碼器進(jìn)行故障診斷,具有較高準(zhǔn)確率。文獻(xiàn)[9]改進(jìn)了小波自編碼器,能識(shí)別出多種故障類型及故障程度。文獻(xiàn)[10]將聯(lián)合領(lǐng)域自適應(yīng)算法與CNN結(jié)合,解決了訓(xùn)練數(shù)據(jù)與測(cè)試數(shù)據(jù)來自不同概率分布的問題。文獻(xiàn)[11]改進(jìn)了深度全序列卷積神經(jīng)網(wǎng)絡(luò),利用它進(jìn)行精確診斷。然后,提出改進(jìn)后CDCGAN方法,實(shí)現(xiàn)由已知數(shù)據(jù)生成未知數(shù)據(jù)、由單一數(shù)據(jù)生成復(fù)合數(shù)據(jù),擴(kuò)充了故障樣本。文獻(xiàn)[12-15]分別利用小波變換、同步擠壓S變換、離散小波變換、短時(shí)傅里葉變換對(duì)采集到的時(shí)域振動(dòng)信號(hào)進(jìn)行處理,得到時(shí)頻圖像或構(gòu)造時(shí)頻矩陣,然后再將其輸入CNN進(jìn)行故障診斷。
在齒輪箱領(lǐng)域,文獻(xiàn)[16]將故障樣本振動(dòng)信號(hào)輸入DBN,通過對(duì)狀態(tài)變量進(jìn)行編碼和解碼,計(jì)算重構(gòu)誤差并將其作為狀態(tài)檢測(cè)量,但該方法不能實(shí)現(xiàn)對(duì)故障的分類。文獻(xiàn)[17-18]在多噪聲干擾情況下,提出了一種多樣性故障特征提取與集成學(xué)習(xí)信息融合的故障診斷方法,提高了故障識(shí)別能力和分類穩(wěn)定性,對(duì)噪聲的魯棒性強(qiáng)。在少故障樣本信息情況下,將堆疊去噪自編碼器的去噪能力和生成式對(duì)抗網(wǎng)絡(luò)(generative adversarial nets,GAN)的樣本生成能力結(jié)合起來,解決故障樣本少的問題。
在變壓器領(lǐng)域,文獻(xiàn)[19-20]分別利用棧式降噪自編碼器、棧式稀疏自編碼器進(jìn)行故障診斷。采取逐層貪婪編碼的方式進(jìn)行自適應(yīng)的非監(jiān)督式預(yù)訓(xùn)練,實(shí)現(xiàn)高維深層故障特征的自適應(yīng)提取和挖掘,進(jìn)而使用反向傳播算法對(duì)模型進(jìn)行監(jiān)督式微調(diào)。最后利用 Softmax分類器,對(duì)故障進(jìn)行分類輸出。
在通信電臺(tái)領(lǐng)域,鞠建波[21]等人使用去噪自動(dòng)編碼器搭建網(wǎng)絡(luò),通過BP算法進(jìn)行有監(jiān)督微調(diào),提升故障分類的準(zhǔn)確度。利用上述方法,通過實(shí)驗(yàn)完成了某通信電臺(tái)的模塊級(jí)故障診斷。劉程[22]等人利用深度堆棧自編碼網(wǎng)絡(luò)和Softmax分類器完成了短波發(fā)信機(jī)的故障診斷。
在其他領(lǐng)域[23-42],王新穎[23]等人運(yùn)用小波分析法提取特征參數(shù),利用DAE進(jìn)行重構(gòu),具有更高的穩(wěn)定性和辨識(shí)率。其中,文獻(xiàn)[24]將原始數(shù)據(jù)分割,根據(jù)故障類型和故障程度設(shè)計(jì)多個(gè)CNN,實(shí)現(xiàn)分層故障診斷,該方法負(fù)載發(fā)生變化時(shí)仍有較高識(shí)別率,魯棒性、泛化性較好。文獻(xiàn)[25]基于特征學(xué)習(xí)對(duì)LeNet進(jìn)行了改進(jìn),提高了處理海量數(shù)據(jù)的能力以及泛化能力。吳魁[26]等人對(duì)于多傳感器信號(hào),通過構(gòu)建測(cè)量數(shù)據(jù)幀進(jìn)行卷積計(jì)算,實(shí)現(xiàn)多通道數(shù)據(jù)的自然融合。解決了多傳感器數(shù)據(jù)融合、特征提取困難等問題。文獻(xiàn)[27]利用Skip-gram模型進(jìn)行詞向量訓(xùn)練,并將詞向量作為卷積神經(jīng)網(wǎng)絡(luò)輸入。文獻(xiàn)[28]先把原始數(shù)據(jù)制作為語音形式,再將其轉(zhuǎn)化為語譜圖,最后送入VGG16模型中。王應(yīng)晨[29]等人先通過堆疊去噪自編碼器學(xué)習(xí)低層特征,然后通過DBN學(xué)習(xí)深層特征,最后輸入Softmax分類器進(jìn)行分類。李垣江[30]等人將GAN與堆疊稀疏自編碼器相結(jié)合,增加數(shù)據(jù)集的多樣性,提高網(wǎng)絡(luò)泛化能力。黃予春[31]等人將云計(jì)算技術(shù)引入深度學(xué)習(xí),將海量故障數(shù)據(jù)切片,再利用DBN進(jìn)行分布式并行處理,有效實(shí)現(xiàn)了大數(shù)據(jù)條件下的故障診斷。李川[32]等人提出次優(yōu)網(wǎng)絡(luò),在傳統(tǒng)DBN的基礎(chǔ)上,一方面提出預(yù)分類方法,確定更好的網(wǎng)絡(luò)結(jié)構(gòu),另一方面采用精細(xì)分類方法,提高分類的精度。文獻(xiàn)[39]使用自適應(yīng)算法優(yōu)化DBN,實(shí)現(xiàn)學(xué)習(xí)速率的自適應(yīng)變化。
受文獻(xiàn)[43]的啟迪,2006年辛頓教授提出了深度學(xué)習(xí)理論[44]。文獻(xiàn)[45]首次將深度置信網(wǎng)絡(luò)應(yīng)用于飛機(jī)發(fā)動(dòng)機(jī)故障診斷,此后越來越多的學(xué)者將深度學(xué)習(xí)應(yīng)用于故障診斷領(lǐng)域,并取得了許多研究成果。
在軸承領(lǐng)域,文獻(xiàn)[46]通過設(shè)計(jì)多尺度卷積層,減少了網(wǎng)絡(luò)參數(shù)和訓(xùn)練時(shí)間,提高了診斷精度和魯棒性,使運(yùn)行更順暢。文獻(xiàn)[47]將遷移學(xué)習(xí)與CNN相結(jié)合,將離線CNN的淺層遷移到在線CNN,實(shí)現(xiàn)進(jìn)行在線故障診斷,提高診斷的實(shí)時(shí)性及準(zhǔn)確率。文獻(xiàn)[48]也將遷移學(xué)習(xí)與CNN相結(jié)合,解決了故障數(shù)據(jù)少、訓(xùn)練數(shù)據(jù)與實(shí)際數(shù)據(jù)來自不同分布的問題。文獻(xiàn)[49]利用復(fù)Morlet小波的連續(xù)小波變換對(duì)采集到的時(shí)域振動(dòng)信號(hào)進(jìn)行處理,得到時(shí)頻圖像或構(gòu)造時(shí)頻矩陣,然后再將其輸入CNN進(jìn)行故障診斷。文獻(xiàn)[50]提出了一種將信號(hào)轉(zhuǎn)換為圖像的新算法。文獻(xiàn)[51]將遷移學(xué)習(xí)與堆疊稀疏自編碼器相結(jié)合,獲得較高的診斷精度。文獻(xiàn)[52]采用時(shí)變學(xué)習(xí)率的思想,在保證迭代率的基礎(chǔ)上,減少了迭代過程中成本函數(shù)的振蕩,提取的特征更有利于故障分類。
在旋轉(zhuǎn)機(jī)械領(lǐng)域,文獻(xiàn)[53]將振動(dòng)信號(hào)的頻域信息輸入堆疊去噪自編碼器,采用dropout技術(shù)調(diào)整網(wǎng)絡(luò)參數(shù),緩解過擬合的發(fā)生。文獻(xiàn)[54]首先從傳感器信號(hào)中提取時(shí)域、頻域特征,然后利用SAE進(jìn)行特征融合,最后利用DBN進(jìn)一步分類。文獻(xiàn)[55]采用非線性投影實(shí)現(xiàn)壓縮采集,然后通過堆疊稀疏自編碼器進(jìn)行故障診斷,提供了處理海量數(shù)據(jù)的新策略。文獻(xiàn)[56]將SAE與階次跟蹤相結(jié)合,適應(yīng)恒速和變速條件,可以對(duì)故障類型和故障程度進(jìn)行分類。文獻(xiàn)[57]將CNN與多堆棧膠囊相結(jié)合,能夠有效地識(shí)別和解耦復(fù)合故障。
在電機(jī)領(lǐng)域,文獻(xiàn)[58]采用擴(kuò)張卷積神經(jīng)網(wǎng)絡(luò),能夠處理一維數(shù)據(jù),無需手工特征提取,泛化性好。文獻(xiàn)[59]將電機(jī)速度考慮在內(nèi),將振動(dòng)信號(hào)視為圖像輸入CNN,通過降低模型復(fù)雜性減少了過度擬合并提高了精度。
在齒輪箱領(lǐng)域,文獻(xiàn)[60]將故障樣本振動(dòng)信號(hào)輸入DBN,增加了批量標(biāo)準(zhǔn)化,降低過度擬合概率,提高收斂速度。文獻(xiàn)[61]使用多個(gè)噪聲級(jí)別來訓(xùn)練AE,具有更好的魯棒性,更高的準(zhǔn)確率。文獻(xiàn)[62]提出了一種新的多尺度卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),可同時(shí)進(jìn)行多尺度特征提取和分類。
文獻(xiàn)[63-69]分別對(duì)航空發(fā)動(dòng)機(jī)、感應(yīng)電動(dòng)機(jī)、風(fēng)力發(fā)電機(jī)、液壓設(shè)備、懸鏈支撐裝置緊固件、無人機(jī)系統(tǒng)、航空發(fā)動(dòng)機(jī)傳感器進(jìn)行故障診斷。其中,文獻(xiàn)[64]基于粒子群對(duì)網(wǎng)絡(luò)進(jìn)行了優(yōu)化。文獻(xiàn)[67]按從粗到精的方式級(jí)聯(lián)3個(gè)基于深度卷積神經(jīng)網(wǎng)絡(luò)的檢測(cè)階段,在復(fù)雜環(huán)境下具有較高的檢測(cè)率、良好的適應(yīng)性和魯棒性。文獻(xiàn)[68]利用線性二次調(diào)節(jié)控制器產(chǎn)生故障信號(hào),并將其轉(zhuǎn)化為圖像,利用時(shí)頻振幅圖中的彩色圖像進(jìn)行故障分類。文獻(xiàn)[69]利用主成分分析法進(jìn)行降維,提高算法效率。
目前較為熟悉的深度學(xué)習(xí)模型主要包括以下3種:DBN、SAE、CNN。
DBN由多個(gè)限制玻爾茲曼機(jī)(restricted boltzmann machine,RBM)堆疊而成,其核心是用逐層貪婪學(xué)習(xí)算法去優(yōu)化深度神經(jīng)網(wǎng)絡(luò)的連接權(quán)重,即使用無監(jiān)督學(xué)習(xí)方式進(jìn)行逐層訓(xùn)練,較低層的DBN可以提取低級(jí)特征,而較高層用于表示輸入數(shù)據(jù)的更抽象的特征。以圖1為例,本文的DBN由三層RBM堆疊而成,每個(gè)RBM是一個(gè)雙層能量模型,由可見層與隱含層組成,連接僅存在于輸入層的可見單元和隱含層的隱藏單元之間。
圖1 DBN結(jié)構(gòu)
DBN學(xué)習(xí)過程包括兩個(gè)階段:第一階段,逐步預(yù)訓(xùn)練RBM層。將訓(xùn)練數(shù)據(jù)輸入到可見層中,訓(xùn)練第一層RBM,低層RBM的輸出作為高一層RBM的輸入,重復(fù)該訓(xùn)練過程,直到最后一層RBM訓(xùn)練完畢。第二階段,微調(diào)整個(gè)網(wǎng)絡(luò)以調(diào)整參數(shù)實(shí)現(xiàn)理想的性能。在微調(diào)階段,為分類問題添加表示所需輸出的最后一層變量,并使用反向傳播算法(back propagation,BP)優(yōu)化整個(gè)權(quán)重和偏差。
DBN有很多優(yōu)勢(shì)。首先,它能夠自適應(yīng)地提取出故障特征,不需要依賴于大量信號(hào)處理技術(shù)以及專家經(jīng)驗(yàn),能夠?qū)崿F(xiàn)智能化的故障診斷;其次,它不需要時(shí)域信號(hào)具有周期性,因此能廣泛適用于諸多領(lǐng)域;最后,它能夠處理高維、非線性數(shù)據(jù),適合大數(shù)據(jù)時(shí)代的集成化裝備故障診斷。
基于DBN的故障診斷可以達(dá)到較高的精確度。針對(duì)故障數(shù)據(jù)少的問題,可以通過仿真系統(tǒng)進(jìn)行模擬,產(chǎn)生大量故障信號(hào)。針對(duì)超參數(shù)設(shè)置對(duì)網(wǎng)絡(luò)效果有較大影響的問題,可以采用超參數(shù)自動(dòng)優(yōu)化方法,如網(wǎng)格搜索、隨機(jī)搜索算法、遺傳算法、粒子群算法,貝葉斯優(yōu)化算法等。其中網(wǎng)格搜索與隨機(jī)搜索最為簡(jiǎn)單實(shí)用,但網(wǎng)格搜索適用于極少超參數(shù)的優(yōu)化。網(wǎng)格搜索的計(jì)算復(fù)雜度會(huì)隨著超參數(shù)數(shù)量增長(zhǎng)而指數(shù)型增長(zhǎng),隨機(jī)搜索一定程度上避免了這個(gè)問題。針對(duì)網(wǎng)絡(luò)訓(xùn)練時(shí)間長(zhǎng)的問題,可以搭建分布式并行計(jì)算平臺(tái)。針對(duì)網(wǎng)絡(luò)收斂速度慢,可能發(fā)生過度擬合的問題,可以增加批量標(biāo)準(zhǔn)化。為了確定網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)、提高分類精度,可以利用次優(yōu)網(wǎng)絡(luò)。此外,DBN成功地與云計(jì)算相結(jié)合,適合處理大數(shù)據(jù)背景下的故障診斷。
基于DBN的故障診斷還面臨許多挑戰(zhàn)。在搭建網(wǎng)絡(luò)時(shí),還存在網(wǎng)絡(luò)深度不夠的問題。實(shí)驗(yàn)時(shí)需要設(shè)定很多參數(shù),這些參數(shù)對(duì)實(shí)驗(yàn)結(jié)果有非常大的影響,如何設(shè)置參數(shù)也是一個(gè)值得研究的問題。實(shí)驗(yàn)數(shù)據(jù)與實(shí)際數(shù)據(jù)還存在很大差異,如何利用實(shí)驗(yàn)得到的模型對(duì)實(shí)際運(yùn)行中的數(shù)據(jù)進(jìn)行高準(zhǔn)確率的故障診斷也是值得研究的方向。
堆棧自編碼器由多個(gè)自編碼器堆疊而成。自編碼器(autoencoder,AE)是一個(gè)只有一個(gè)隱藏層的對(duì)稱神經(jīng)網(wǎng)絡(luò)。AE包含編碼器網(wǎng)絡(luò)和解碼器網(wǎng)絡(luò)。編碼器網(wǎng)絡(luò)將輸入數(shù)據(jù)從高維空間轉(zhuǎn)換為具有較低維度的特征空間,而解碼器網(wǎng)絡(luò)可以從特征空間重建輸入數(shù)據(jù)。由于AE可以在沒有標(biāo)簽信息的幫助下重建輸入信號(hào),因此它可以以無監(jiān)督方式學(xué)習(xí),可用于提取原始數(shù)據(jù)的典型特征。AE的基本結(jié)構(gòu)如圖2所示。
圖2 AE結(jié)構(gòu)
由于AE的固有特性是提取原始信號(hào)的有意義的特征,并在輸出層恢復(fù)它們,因此應(yīng)避免簡(jiǎn)單地從輸入層復(fù)制到隱含層。AE的許多變種可以彌補(bǔ)這個(gè)缺點(diǎn),例如去噪自動(dòng)編碼器(denoising autoencoder,DAE)和稀疏自動(dòng)編碼器(sparse autoencoder,SAE)。它們堆疊起來就是堆疊去噪自編碼器(stacked denoising autoencoder,SDAE)和堆疊稀疏自動(dòng)編碼器(stacked sparse autoencoder,SSAE)。DAE為了提高AE的魯棒性,給輸入數(shù)據(jù)附加額外噪聲的污染,訓(xùn)練自動(dòng)編碼器模型以重建完整的無噪聲數(shù)據(jù)。SAE是通過懲罰隱含層單元的偏差來學(xué)習(xí)相對(duì)稀疏特征的經(jīng)典變體之一。它提高了傳統(tǒng)AE的性能,展現(xiàn)了更多的實(shí)際應(yīng)用價(jià)值。
在預(yù)訓(xùn)練階段,采用逐層貪婪算法由低到高單獨(dú)訓(xùn)練每個(gè)AE,低層AE的隱含層輸出作為高層AE的輸入,直至完成所有AE的訓(xùn)練。而后利用BP算法、梯度下降算法等進(jìn)行微調(diào),最后輸出結(jié)果。
堆棧自編碼機(jī)有很多優(yōu)點(diǎn)。首先,它具有很強(qiáng)的表達(dá)能力,可以減少冗余數(shù)據(jù),降低維數(shù),適合處理高維稀疏數(shù)據(jù)。同時(shí),它可以降低噪聲的影響,無需對(duì)信號(hào)進(jìn)行降噪處理。最后,它使用少量數(shù)據(jù)進(jìn)行訓(xùn)練,再加上適當(dāng)?shù)姆诸惣夹g(shù)就可以實(shí)現(xiàn)高效的故障診斷,體現(xiàn)了強(qiáng)大的特征提取能力和魯棒性。
基于SAE的故障診斷不僅可以判斷故障類型,還可以有效識(shí)別故障程度。堆棧自編碼機(jī)與DBN相結(jié)合,可以進(jìn)行進(jìn)一步故障分類;與滑動(dòng)窗口重疊采樣技術(shù)相結(jié)合,可以對(duì)數(shù)據(jù)進(jìn)行增強(qiáng);與遷移學(xué)習(xí)相結(jié)合,可以解決訓(xùn)練集與測(cè)試集來自不同分布的問題;與階次跟蹤相結(jié)合,可以在恒速和變速條件下自動(dòng)進(jìn)行旋轉(zhuǎn)機(jī)械故障診斷;與集成學(xué)習(xí)信息融合,可以進(jìn)一步提高故障識(shí)別能力和分類穩(wěn)定性;與GAN相結(jié)合,可以生成故障數(shù)據(jù),解決故障數(shù)據(jù)不足的問題;與非線性投影相結(jié)合,進(jìn)行壓縮采集,可以有效處理海量數(shù)據(jù)。
雖然SAE已經(jīng)成功應(yīng)用于很多領(lǐng)域,但還有很多問題需要研究:如何合理設(shè)置網(wǎng)絡(luò)的隱藏層層數(shù)、節(jié)點(diǎn)數(shù);如何對(duì)梯度下降法進(jìn)行改進(jìn),從而獲得更好的局部極值點(diǎn),甚至是全局最優(yōu)點(diǎn);如何判斷所學(xué)特征的優(yōu)劣,并且如何做以解釋;如何在大數(shù)據(jù)、高維、多樣化的數(shù)據(jù)背景下進(jìn)行故障診斷等等。
卷積神經(jīng)網(wǎng)絡(luò)由Yann LeCun提出,是第一個(gè)成功訓(xùn)練多層網(wǎng)絡(luò)的算法,也是最廣泛使用的深度學(xué)習(xí)模型之一,具有強(qiáng)大的特征提取能力。典型的卷積神經(jīng)網(wǎng)絡(luò)LeNet-5的結(jié)構(gòu)如圖3所示。網(wǎng)絡(luò)分為輸入層、卷積層、子采樣層、全連接層和輸出層。
圖3 LeNet-5結(jié)構(gòu)
卷積層也稱為特征提取層,卷積層通過不同的卷積核卷積前一層,每個(gè)卷積核對(duì)應(yīng)于一個(gè)提取的特征,與前一層的感受野連接。卷積核共享網(wǎng)絡(luò)權(quán)重,每個(gè)卷積核提取有限的信息,因此通常使用多個(gè)卷積內(nèi)核來獲取更多特征。子采樣層也稱為特征映射層,對(duì)從卷積層提取的特征進(jìn)行子采樣。通過子采樣,大大減少節(jié)點(diǎn)數(shù)量,有效減少了網(wǎng)絡(luò)連接數(shù)量和網(wǎng)絡(luò)計(jì)算的復(fù)雜性。全連接層中的所有神經(jīng)元節(jié)點(diǎn)都與前一層節(jié)點(diǎn)互連。
用于解決分類問題的卷積神經(jīng)網(wǎng)絡(luò)包括兩個(gè)過程:訓(xùn)練和測(cè)試。訓(xùn)練集用于訓(xùn)練網(wǎng)絡(luò),然后將測(cè)試集中的樣本輸入到訓(xùn)練的網(wǎng)絡(luò)以測(cè)試網(wǎng)絡(luò)的分類效果。訓(xùn)練過程需要前向和反向傳播,而測(cè)試過程只需要前向傳播。模型訓(xùn)練結(jié)束后,即可用于分類。
CNN有很多優(yōu)點(diǎn)。它具有良好的容錯(cuò)能力、并行處理能力和自學(xué)習(xí)能力,可以處理環(huán)境信息復(fù)雜、背景知識(shí)不清楚、推理規(guī)則不明確情況下的問題,允許樣品有較大的破損、畸變,運(yùn)行速度快,自適應(yīng)性好。與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)相比,CNN引入了權(quán)值共享和感受野的概念,減少了需要學(xué)習(xí)的參數(shù)量,擁有更強(qiáng)的學(xué)習(xí)能力,適合處理高維數(shù)據(jù),能夠?qū)W習(xí)海量數(shù)據(jù)中的特征。CNN不僅可以處理一維數(shù)據(jù),還擅長(zhǎng)處理二維數(shù)據(jù)。
基于CNN的故障診斷有很多成功的經(jīng)驗(yàn):將聯(lián)合領(lǐng)域自適應(yīng)算法與CNN結(jié)合,可以解決訓(xùn)練數(shù)據(jù)與測(cè)試數(shù)據(jù)來自不同概率分布的情況下診斷準(zhǔn)確率低的問題;將CGAN與DCGAN結(jié)合,提出CDCGAN,可以實(shí)現(xiàn)從單一故障和部分復(fù)合故障樣本,生成指定類別復(fù)合故障樣本,解決了故障數(shù)據(jù)少的問題;把原始數(shù)據(jù)分段,設(shè)計(jì)多個(gè)CNN,可以實(shí)現(xiàn)分層故障診斷,診斷出故障類別和程度;利用深度解耦卷積神經(jīng)網(wǎng)絡(luò)可以有效識(shí)別、解耦復(fù)合故障;通過構(gòu)建測(cè)量數(shù)據(jù)幀進(jìn)行卷積計(jì)算可以將多傳感器數(shù)據(jù)進(jìn)行融合;CNN與主成分分析法相結(jié)合可以進(jìn)行降維,提高效率。
基于CNN的故障診斷還面臨著很多挑戰(zhàn):如何對(duì)數(shù)據(jù)進(jìn)行預(yù)處理,以避免神經(jīng)元被過度激活,出現(xiàn)收斂失敗的現(xiàn)象;如何合理設(shè)置網(wǎng)絡(luò)參數(shù),達(dá)到最佳診斷效果;如何尋找合適的策略對(duì)參數(shù)進(jìn)行優(yōu)化;如何提高模型的可擴(kuò)展性,實(shí)現(xiàn)對(duì)新故障的識(shí)別;如何提高CNN提取泛化特征的能力;如何使實(shí)驗(yàn)結(jié)果更貼近于實(shí)際條件,提高模型的穩(wěn)健性;CNN適合對(duì)哪些領(lǐng)域進(jìn)行故障診斷等等。
1)典型深度學(xué)習(xí)算法直接應(yīng)用。深度學(xué)習(xí)應(yīng)用于一些新的領(lǐng)域,還未進(jìn)一步發(fā)展,或典型深度學(xué)習(xí)算法已能達(dá)到較好診斷效果時(shí),一般可以直接應(yīng)用。
2)深度學(xué)習(xí)算法之間的結(jié)合。DBN、SAE、CNN之間相互結(jié)合或同種算法的結(jié)合,可以應(yīng)用于不同診斷階段,按照從粗到精的順序?qū)崿F(xiàn)分層故障診斷,診斷出故障類別及程度,或者一個(gè)用作特征提取,另一個(gè)用作分類器。同時(shí),典型神經(jīng)網(wǎng)絡(luò)還可以與GAN相結(jié)合,利用GAN的樣本生成能力解決故障數(shù)據(jù)不足的問題。
3)深度學(xué)習(xí)算法與淺層學(xué)習(xí)算法的結(jié)合。淺層學(xué)習(xí)算法主要有BP算法、SVM、Boosting、最大熵方法等。淺層學(xué)習(xí)算法網(wǎng)絡(luò)層數(shù)少,特征提取能力有限,難以解決復(fù)雜分類問題。其中,BP算法被廣泛應(yīng)用于微調(diào)網(wǎng)絡(luò)參數(shù),SVM也與深度學(xué)習(xí)成功結(jié)合,可以利用深度神經(jīng)網(wǎng)絡(luò)進(jìn)行特征提取,利用SVM進(jìn)行分類。傳統(tǒng)SVM只能進(jìn)行二分類,改進(jìn)后可以實(shí)現(xiàn)多分類。
4)深度學(xué)習(xí)算法與信號(hào)處理方法的結(jié)合??梢岳眯〔ㄗ儞Q、傅里葉變換、S變換、經(jīng)驗(yàn)?zāi)B(tài)分解等方式對(duì)信號(hào)進(jìn)行處理,或利用Skip-gram模型進(jìn)行詞向量訓(xùn)練,也可以把原始數(shù)據(jù)制作為語譜圖,再輸入神經(jīng)網(wǎng)絡(luò)。通過信號(hào)處理,可以充分展現(xiàn)故障特征,提高故障診斷效果。
5)深度學(xué)習(xí)算法與其他機(jī)器學(xué)習(xí)算法的結(jié)合。
(1)與模糊聚類方法相結(jié)合。模糊聚類方法屬于無監(jiān)督學(xué)習(xí),常用算法有模糊C均值聚類、可能性C-均值聚類等,能夠根據(jù)數(shù)據(jù)的相似性進(jìn)行故障分類,可以提高分類效果或用于未知故障的學(xué)習(xí)。
(2)與遷移學(xué)習(xí)相結(jié)合能夠解決實(shí)驗(yàn)數(shù)據(jù)與實(shí)際數(shù)據(jù)來自不同概率分布條件下故障診斷準(zhǔn)確率低的問題。
(3)與主成分分析法相結(jié)合,可以對(duì)數(shù)據(jù)進(jìn)行降維,提高診斷效率,適用于海量數(shù)據(jù)的故障診斷。
6)深度學(xué)習(xí)算法與其他技術(shù)的融合
(1)與云計(jì)算相結(jié)合適用于大數(shù)據(jù)背景下的故障診斷。
(2)與數(shù)據(jù)融合技術(shù)相結(jié)合。故障診斷的數(shù)據(jù)可能來自不同傳感器,具有不同的數(shù)據(jù)類型,需要進(jìn)行數(shù)據(jù)融合后再利用深度學(xué)習(xí)進(jìn)行故障診斷。
根據(jù)以上分析,可以將面臨的挑戰(zhàn)劃分為以下6種類型,提出了幾種可行的研究思路:
深度學(xué)習(xí)的方法是建立在大數(shù)據(jù)基礎(chǔ)上的,然而,集成化裝備通常具有大量正常運(yùn)行數(shù)據(jù)和少量有效的故障數(shù)據(jù),如何從大量正常數(shù)據(jù)中識(shí)別出小樣本的故障數(shù)據(jù)是一個(gè)值得研究的問題。同時(shí),故障樣本的種類有限,難以涵蓋所有類型,對(duì)于裝備運(yùn)行中出現(xiàn)的新故障類型難以進(jìn)行有效診斷。
首先,對(duì)于小樣本故障數(shù)據(jù)識(shí)別的問題,可以利用深度學(xué)習(xí)網(wǎng)絡(luò)提取特征,正常數(shù)據(jù)與異常數(shù)據(jù)的特征會(huì)有較大偏差,利用基于SVDD的異常檢測(cè)器就可以檢測(cè)出異常。同時(shí),對(duì)于故障數(shù)據(jù)數(shù)量、種類少的問題,可以利用仿真軟件進(jìn)行模擬,獲取故障數(shù)據(jù)樣本,或者將深度學(xué)習(xí)網(wǎng)絡(luò)與GAN相結(jié)合,擴(kuò)張故障數(shù)據(jù)集,利用已知單一故障樣本和復(fù)合故障樣本生成未知復(fù)合故障樣本。
為了全面地監(jiān)測(cè)集成化裝備的運(yùn)行狀態(tài),可能使用多種類型的傳感器采集不同信號(hào),如:聲音、振動(dòng)、電壓、溫度等。各傳感器數(shù)據(jù)類型不統(tǒng)一,給集成化裝備的故障診斷帶來了困擾。
可以通過數(shù)據(jù)融合,將所有傳感器信號(hào)轉(zhuǎn)化為同一類型的數(shù)據(jù),有利于信號(hào)的存儲(chǔ)和處理,從而實(shí)現(xiàn)基于深度學(xué)習(xí)的集成化裝備故障診斷。
隨著集成化裝備信號(hào)采集設(shè)備的增多和運(yùn)行時(shí)間的積累,最終會(huì)獲得海量數(shù)據(jù),故障診斷已經(jīng)變得越來越大數(shù)據(jù)化。
CNN具有強(qiáng)大的特征提取能力,可以輸入一維或二維數(shù)據(jù),非常適合處理海量數(shù)據(jù)??梢詫⑼瑫r(shí)段的各設(shè)備采集到的信號(hào)設(shè)計(jì)為二維矩陣,構(gòu)建成測(cè)量數(shù)據(jù)幀,再輸入CNN,從而有效實(shí)現(xiàn)故障診斷。同時(shí),還可以利用非線性投影實(shí)現(xiàn)壓縮采集,處理海量數(shù)據(jù)?;蛘撸瑢⒃朴?jì)算與深度學(xué)習(xí)相結(jié)合,利用MapReduce框架,將海量故障數(shù)據(jù)進(jìn)行切片處理,再輸入深度學(xué)習(xí)網(wǎng)絡(luò),進(jìn)行大數(shù)據(jù)背景下的集成化裝備故障診斷。
集成化裝備由多個(gè)系統(tǒng)組成,每個(gè)系統(tǒng)又由不同的部件、元件組成,每一部分都可能發(fā)生故障,由于系統(tǒng)之間的密切聯(lián)系,故障也可能發(fā)生傳播,因此可能短時(shí)間內(nèi)同時(shí)發(fā)生多種故障,提高了診斷難度。
對(duì)于這個(gè)問題,可以將多堆棧膠囊設(shè)計(jì)為解耦分類器,實(shí)現(xiàn)復(fù)合故障的解耦。解耦分類器和Softmax分類器的主要區(qū)別在于分類器可以輸出的標(biāo)簽數(shù)量。Softmax分類器只能輸出單個(gè)標(biāo)簽,而解耦分類器可以輸出單個(gè)或多個(gè)標(biāo)簽,從而能夠準(zhǔn)確識(shí)別和分離復(fù)合故障。同時(shí),增加故障樣本的種類也可以增多可以診斷出的故障類型。
深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的層數(shù)、每層節(jié)點(diǎn)數(shù)等參數(shù)的設(shè)置,對(duì)于神經(jīng)網(wǎng)絡(luò)來說至關(guān)重要,而在這方面的研究很少,沒有一套系統(tǒng)的方法。
對(duì)于參數(shù)的初始化,大多數(shù)情況下都是通過前人的經(jīng)驗(yàn)進(jìn)行參數(shù)設(shè)置,或者通過初始化算法進(jìn)行參數(shù)的隨機(jī)初始化,或者在實(shí)驗(yàn)中調(diào)整參數(shù)、不斷嘗試。對(duì)于參數(shù)的優(yōu)化,可以采用網(wǎng)格搜索、隨機(jī)搜索算法、遺傳算法、粒子群算法、貝葉斯優(yōu)化算法、鯨魚算法等,隨著算法的發(fā)展,會(huì)出現(xiàn)更多新的算法,但使用時(shí)要注意平衡和訓(xùn)練時(shí)間之間的關(guān)系。
由于訓(xùn)練數(shù)據(jù)是在實(shí)驗(yàn)環(huán)境下采集的,而裝備實(shí)際使用過程中可能受到多種噪聲干擾或硬件干擾,與實(shí)驗(yàn)數(shù)據(jù)會(huì)有較大偏差,或者發(fā)生未知故障,在這種情況下,利用實(shí)驗(yàn)數(shù)據(jù)訓(xùn)練的網(wǎng)絡(luò),對(duì)實(shí)際裝備進(jìn)行故障診斷時(shí)很難獲得較好的效果。
為了解決噪聲干擾問題,可以使用基于去噪自編碼器的神經(jīng)網(wǎng)絡(luò),通過重構(gòu)含有噪聲的樣本,使模型具有更高的抗干擾性、魯棒性。為了解決實(shí)際數(shù)據(jù)與實(shí)驗(yàn)數(shù)據(jù)來自不同分布的問題,可以將遷移學(xué)習(xí)與深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)相結(jié)合。遷移學(xué)習(xí)從源域中學(xué)習(xí),利用學(xué)到的知識(shí)解決目標(biāo)域的問題,可以有效解決源數(shù)據(jù)與目標(biāo)數(shù)據(jù)來自不同分布的情況下的故障診斷問題。
在實(shí)際應(yīng)用中,還有以下4種發(fā)展方向。
基于深度學(xué)習(xí)的故障診斷在機(jī)械等領(lǐng)域得到了廣泛應(yīng)用,如軸承、齒輪箱、電機(jī)等等,在這些機(jī)械中能夠通過傳感器等設(shè)備快速采集到信號(hào),實(shí)現(xiàn)實(shí)時(shí)狀態(tài)監(jiān)測(cè)。但是裝備上其他單元可能需要使用示波器、頻譜儀等儀器,從電路板上的一些測(cè)量點(diǎn)獲取信號(hào),而一些測(cè)量點(diǎn)的信號(hào)可能沒有被引出機(jī)箱,目前獲取信號(hào)還需要開箱檢測(cè),難以實(shí)現(xiàn)實(shí)時(shí)的狀態(tài)監(jiān)測(cè),為故障診斷帶來了不便,為了將基于深度學(xué)習(xí)的故障診斷應(yīng)用于更多領(lǐng)域,需要裝備在硬件上做出改變,將相應(yīng)測(cè)量點(diǎn)信號(hào)引出機(jī)箱。
目前集成化裝備已有狀態(tài)監(jiān)測(cè)系統(tǒng),能夠時(shí)刻監(jiān)測(cè)各部分狀態(tài),粗略判斷是否發(fā)生故障,但大部分系統(tǒng)卻不能判斷故障種類。而基于深度學(xué)習(xí)的故障診斷系統(tǒng)則能夠判斷出故障類型。因此,將基于深度學(xué)習(xí)的故障診斷系統(tǒng)與原有系統(tǒng)進(jìn)行硬件或軟件上的結(jié)合,提高其兼容性,充分保留兩者的優(yōu)勢(shì)是一種發(fā)展方向。
基于深度學(xué)習(xí)的故障診斷能夠?qū)崿F(xiàn)精確的故障定位,將故障定位到板級(jí)、模塊級(jí)等等,但裝備系統(tǒng)龐大,需要分層進(jìn)行故障診斷,先通過狀態(tài)監(jiān)測(cè)系統(tǒng)、專家經(jīng)驗(yàn)等方式將故障定位到具體的單元,而后再利用深度學(xué)習(xí)進(jìn)一步診斷故障。目前,狀態(tài)監(jiān)測(cè)系統(tǒng)已能實(shí)現(xiàn)粗略的故障定位,但還需維修人員再次明確,將故障定位到具體單元。對(duì)于這個(gè)步驟,廠家和維修人員根據(jù)診斷經(jīng)驗(yàn),從故障現(xiàn)象出發(fā),將診斷過程整理成詳細(xì)的診斷樹,維修人員按照診斷樹一步步排查即可將故障定位到具體的單元,既充分利用了專家經(jīng)驗(yàn),又減輕了診斷難度,維修人員只需掌握簡(jiǎn)單的知識(shí)即可實(shí)現(xiàn)單元級(jí)的故障診斷。
現(xiàn)有的大部分研究?jī)H停留在算法層面,而算法研究的最終目的是為了解決實(shí)際問題,因此,構(gòu)建嵌入式集成化裝備故障診斷系統(tǒng)是非常重要的。同時(shí),嵌入式系統(tǒng)還可以增加系統(tǒng)的可移動(dòng)性,系統(tǒng)出現(xiàn)問題可以快速更換。由于集成化裝備的結(jié)構(gòu)具有層次性,因此,需要針對(duì)不同系統(tǒng)、不同層次的特性,構(gòu)建嵌入式故障診斷系統(tǒng),通過采集到的信號(hào)直接判斷故障類型,高效完成故障診斷。
基于深度學(xué)習(xí)的集成化裝備故障診斷的最終目的是準(zhǔn)確判斷裝備的狀態(tài),以確定裝備是否需要維修。與傳統(tǒng)方法相比,深度學(xué)習(xí)方法在故障診斷中有更高的準(zhǔn)確率、更快的速度,因此,利用深度學(xué)習(xí)進(jìn)行集成化裝備故障診斷是非常有意義的。本文首先總結(jié)了國內(nèi)外研究現(xiàn)狀,然后介紹了深度學(xué)習(xí)3種主要模型的基本理論,包括有效的方法和面對(duì)的問題,總結(jié)出故障診斷方法,最后指出了在集成化裝備故障診斷方面的挑戰(zhàn)與研究思路,并提出了在應(yīng)用中的發(fā)展方向。