改進(jìn)深層小波自編碼器的軸承故障診斷方法

杜小磊，陳志剛，許 旭，張 楠

1.北京建筑大學(xué) 機(jī)電與車輛工程學(xué)院，北京100044

2.北京建筑大學(xué) 北京市建筑安全監(jiān)測(cè)工程技術(shù)研究中心，北京100044

1 引言

滾動(dòng)軸承是旋轉(zhuǎn)機(jī)械的重要部件，其健康狀態(tài)對(duì)整機(jī)的性能、穩(wěn)定性和壽命有著很大的影響，一旦出現(xiàn)故障，輕則降低生產(chǎn)質(zhì)量，重則造成生產(chǎn)事故。因此，自動(dòng)準(zhǔn)確地識(shí)別滾動(dòng)軸承的故障具有重要意義[1]。

實(shí)際采集到的軸承振動(dòng)信號(hào)經(jīng)常受到諸如多振源激勵(lì)和響應(yīng)相互耦合以及噪聲干擾等因素的影響，常表現(xiàn)出強(qiáng)烈的非線性和非平穩(wěn)性。在當(dāng)今大數(shù)據(jù)時(shí)代，傳統(tǒng)基于“特征提取+模式識(shí)別”的軸承故障診斷方法[2-4]已越來(lái)越不能滿足自動(dòng)化診斷要求[5]。

深度學(xué)習(xí)[6]克服了傳統(tǒng)故障診斷方法的缺陷，能自動(dòng)從原始數(shù)據(jù)中學(xué)習(xí)具有代表性的特征，很大程度上擺脫了對(duì)診斷專家信號(hào)處理經(jīng)驗(yàn)的依賴，在軸承診斷領(lǐng)域得到了應(yīng)用。文獻(xiàn)[7]提出了一種基于深度自編碼器（Deep Auto-Encoder，DAE）的軸承診斷方法，將軸承原始振動(dòng)信號(hào)直接輸入DAE 進(jìn)行自動(dòng)提取特征和分類。文獻(xiàn)[8]將壓縮感知技術(shù)與DAE結(jié)合對(duì)滾動(dòng)軸承進(jìn)行自動(dòng)故障診斷，有效提高了網(wǎng)絡(luò)的計(jì)算效率。文獻(xiàn)[9]利用雙樹(shù)復(fù)小波對(duì)軸承振動(dòng)信號(hào)進(jìn)行特征提取，然后利用深度信念網(wǎng)絡(luò)（Deep Belief Network，DBN）進(jìn)行軸承診斷。上述研究均利用深度模型較好地實(shí)現(xiàn)了滾動(dòng)軸承的智能診斷，但同時(shí)也存在一些問(wèn)題：（1）DBN訓(xùn)練困難，初始權(quán)值具有指向性，易陷入局部最優(yōu)[10]。（2）DAE 的隱層激活函數(shù)大多為Sigmoid 或Relu 函數(shù)，難以建立軸承故障與振動(dòng)信號(hào)之間的精確映射關(guān)系[11]。（3）在對(duì)上述深度模型參數(shù)進(jìn)行微調(diào)時(shí)，易產(chǎn)生梯度消失現(xiàn)象，使網(wǎng)絡(luò)不能進(jìn)行高效的學(xué)習(xí)，且上述模型所使用的損失函數(shù)均為均方誤差損失函數(shù)，對(duì)軸承復(fù)雜振動(dòng)信號(hào)的特征學(xué)習(xí)魯棒性低[12]。小波函數(shù)包含尺度因子和位移因子，位移因子使小波沿信號(hào)的時(shí)間軸進(jìn)行遍歷性分析，尺度因子用于分析信號(hào)不同的頻率，因此，利用小波函數(shù)作為自編碼器（Auto-Encoder，AE）的激活函數(shù)，設(shè)計(jì)小波自編碼器（Wavelet Auto-Encoder，WAE）進(jìn)而構(gòu)造深層小波自編碼器（Deep Wavelet Auto-Encoder，DWAE），能更好地實(shí)現(xiàn)對(duì)軸承原始振動(dòng)數(shù)據(jù)的無(wú)監(jiān)督特征學(xué)習(xí)。針對(duì)深層網(wǎng)絡(luò)的梯度消失現(xiàn)象，文獻(xiàn)[13]引入“跨層”連接，建立ResNet網(wǎng)絡(luò)提高了遙感圖像的識(shí)別率。

針對(duì)上述問(wèn)題，本文利用小波函數(shù)多尺度和多分辨的特性構(gòu)造WAE，改進(jìn)WAE的誤差函數(shù)并引入收縮自編碼機(jī)制以增強(qiáng)網(wǎng)絡(luò)的魯棒性，且引入“跨層”連接緩解DWAE的梯度消失現(xiàn)象，較好地實(shí)現(xiàn)了滾動(dòng)軸承的智能故障診斷。

2 改進(jìn)深層小波自編碼器

2.1 小波自編碼器

WAE 結(jié)合了小波函數(shù)的時(shí)頻局部特性和AE 的自動(dòng)特征提取的優(yōu)點(diǎn)，使用小波函數(shù)代替AE 的Sigmoid函數(shù)，增強(qiáng)了網(wǎng)絡(luò)的特征提取性能。DWAE 由多個(gè)WAE構(gòu)成，標(biāo)準(zhǔn)WAE和2隱層DWAE的結(jié)構(gòu)如圖1。

設(shè)WAE 輸入層有m 個(gè)節(jié)點(diǎn)，隱層有L 個(gè)節(jié)點(diǎn)，輸出層有m 個(gè)節(jié)點(diǎn)，給定m 維輸入向量x=[x1,x2,…,xm]T，隱層小波節(jié)點(diǎn)j 的輸出hj如下：

式中，Wjk為隱層小波節(jié)點(diǎn)j 和輸入層節(jié)點(diǎn)k 之間的連接權(quán)值，aj為隱層小波節(jié)點(diǎn)j 的尺度因子，cj為隱層小波節(jié)點(diǎn)j 的平移因子，ψ 為Morlet 小波的實(shí)部，表達(dá)式如下：

則隱層小波節(jié)點(diǎn)j 的輸出改寫(xiě)為：

式中，Wij為隱層小波節(jié)點(diǎn)j 與輸出層節(jié)點(diǎn)i 之間的連接權(quán)值。

則輸出層節(jié)點(diǎn)i 的輸出如下：

訓(xùn)練WAE 就是不斷地調(diào)整參數(shù)，最后找到一組最優(yōu)參數(shù){Wij,Wjk,aj,cj}，使輸入和輸出之間的損失函數(shù)最小化。DWAE堆疊多個(gè)WAE，采取逐層訓(xùn)練方法，將上一級(jí)WAE的隱層輸出作為下一級(jí)WAE的輸入，同時(shí)保證損失函數(shù)最小化，從而構(gòu)成多層次的網(wǎng)絡(luò)結(jié)構(gòu)，直到整個(gè)DWAE完成訓(xùn)練。為進(jìn)一步優(yōu)化所提取的特征，在DWAE 最后一層加上有監(jiān)督Softmax 分類器[14]，將帶有標(biāo)簽的少量樣本結(jié)合BP 算法進(jìn)行微調(diào)。標(biāo)準(zhǔn)WAE抗噪能力弱，泛化能力弱，易陷入過(guò)擬合，因此，改進(jìn)WAE的誤差函數(shù)并引入收縮自編碼機(jī)制，詳細(xì)如下：

圖1（a） WAE

圖1（b） 2層WAE堆疊的DWAE

（1）標(biāo)準(zhǔn)WAE的損失函數(shù)為均方誤差函數(shù)，對(duì)復(fù)雜振動(dòng)信號(hào)的特征學(xué)習(xí)魯棒性低。而最大相關(guān)熵?fù)p失函數(shù)[12]對(duì)復(fù)雜非平穩(wěn)背景噪聲不敏感，具有與復(fù)雜信號(hào)特征相匹配的潛力。設(shè)兩個(gè)隨機(jī)變量A=[a1,a2,…,am]T，B=[b1,b2,…,bm]T，相關(guān)熵的近似計(jì)算如下：

式中，σ 為高斯核函數(shù)尺寸。

則WAE損失函數(shù)最小化可以通過(guò)最大化以下函數(shù)實(shí)現(xiàn)：

式中，m 為樣本個(gè)數(shù)，xi為輸入樣本向量，yi為輸出向量。

（2）收縮自編碼機(jī)制。收縮自編碼[15]（Contractive Auto-Encoder，CAE）通過(guò)增加收縮懲罰項(xiàng)學(xué)習(xí)信號(hào)的魯棒性特征。收縮懲罰項(xiàng)如下：

通過(guò)最小化式（9），使網(wǎng)絡(luò)學(xué)到的隱層表示對(duì)輸入的狹小變動(dòng)具有較強(qiáng)的魯棒性。則改進(jìn)后的WAE的損失函數(shù)如下：

式中，λ1為收縮懲罰項(xiàng)系數(shù)，λ2為權(quán)重衰減項(xiàng)系數(shù)，Dm為m 個(gè)輸入樣本集合，sl為第l 層的節(jié)點(diǎn)個(gè)數(shù)(s1=s3=m,s2=L)，W(l)IJ為第l 層權(quán)重，。

WAE的參數(shù)更新公式一般如下：

式中，η 為學(xué)習(xí)率，b 為動(dòng)量項(xiàng)系數(shù)，LWAE(k)為WAE的第k 次迭代的誤差。

在式（11）中，η 是一個(gè)全局性的常數(shù)，當(dāng)η 過(guò)大不利于收斂，η 過(guò)小需要太多的訓(xùn)練時(shí)間。為了解決上述問(wèn)題，引入自適應(yīng)學(xué)習(xí)率，以cj的更新為例，計(jì)算公式如下：

式中，1 ＜α ＜2。

2.2 “跨層”機(jī)制

ResNet 使用“跨層”連接有效緩解了深層網(wǎng)絡(luò)因梯度消失帶來(lái)的性能退化問(wèn)題。因此，為了提高DWAE的性能，將“跨層”連接引入DWAE，“跨層”DWAE 結(jié)構(gòu)如圖2（a）所示。圖2（a）為單“跨層“DWAE 網(wǎng)絡(luò)，可看作一個(gè)深DWAE 網(wǎng)絡(luò)與一個(gè)淺DWAE 網(wǎng)絡(luò)耦合形成，如圖2（b）。

圖2（a）“跨層”DWAE結(jié)構(gòu)

圖2（b）“跨層”DWAE所拆分的兩個(gè)網(wǎng)絡(luò)結(jié)構(gòu)

考慮DWAE 網(wǎng)絡(luò)不同層次的特征在軸承故障識(shí)別中的貢獻(xiàn)，定義“⊕”處的傳播方式如下：

（1）前向傳播

軸承訓(xùn)練數(shù)據(jù)進(jìn)入輸入層后，在第1隱層上產(chǎn)生一條輔線，將其提取的特征與第n-1 個(gè)隱層提取的特征聯(lián)立，作為第n 個(gè)隱層的輸入，如下：

式中，Hn為第n 隱層的特征矩陣，H1為第1 隱層的特征矩陣，Hn-1為第n-1 隱層的特征矩陣。

（2）反向傳播

式中，G1為第1隱層的梯度矩陣，G2為第2隱層的梯度矩陣，Gn為第n 隱層的梯度矩陣，c 和d 為主線和輔線的梯度矩陣耦合比例，用(c:d)表示，c+d=1。

綜上，本文方法主要步驟如下：

（1）利用傳感器采集軸承各工況振動(dòng)數(shù)據(jù)。

（2）將振動(dòng)數(shù)據(jù)隨機(jī)選取70%作為訓(xùn)練數(shù)據(jù)，剩余的作為測(cè)試數(shù)據(jù)，對(duì)訓(xùn)練數(shù)據(jù)、測(cè)試數(shù)據(jù)分別歸一化到[0，1]。

（3）利用Morlet 小波作為激活函數(shù)設(shè)計(jì)改進(jìn)的WAE，并進(jìn)一步構(gòu)造”跨層”連接的DWAE。

（4）將歸一化后的訓(xùn)練數(shù)據(jù)以無(wú)監(jiān)督方式逐層訓(xùn)練WAE，將上一級(jí)WAE 隱層輸出作為下一級(jí)WAE 的輸入，逐層提取特征信息，將最后一級(jí)WAE的隱層輸出作為Softmax的輸入，通過(guò)有監(jiān)督BP算法結(jié)合少量帶標(biāo)簽樣本微調(diào)整個(gè)DWAE。

（5）根據(jù)測(cè)試結(jié)果判斷是否滿足實(shí)際期望的診斷效果，如果診斷正確率過(guò)低則修正網(wǎng)絡(luò)，再重復(fù)步驟（3）和步驟（4），直到達(dá)到預(yù)期精度。

3 實(shí)驗(yàn)驗(yàn)證

3.1 實(shí)驗(yàn)數(shù)據(jù)初步分析

為驗(yàn)證本文方法的有效性，以軸承實(shí)驗(yàn)臺(tái)為對(duì)象，采集不同故障類型和不同故障程度的軸承振動(dòng)信號(hào)。實(shí)驗(yàn)臺(tái)如圖3，由驅(qū)動(dòng)器、齒輪箱、測(cè)試軸承和負(fù)載等組成，傳感器置于軸承座上，使用電火花技術(shù)在軸承的內(nèi)圈、外圈和滾動(dòng)體上加工故障直徑分別為0.16 mm 和0.32 mm 的切槽，采樣頻率為12 kHz。在2 000 r/min 和1 400 r/min、負(fù)載1 hp 工況下采集軸承振動(dòng)數(shù)據(jù)，最后得到每種工況下1 000個(gè)樣本，每個(gè)樣本由1 024個(gè)采樣數(shù)據(jù)點(diǎn)組成。表1 為7 種軸承工況，包括4 種單一故障和2種復(fù)合故障。為減小噪聲干擾，將軸承原始振動(dòng)數(shù)據(jù)歸一化到[0，1]。圖4 為軸承7 種工況的時(shí)域圖和頻域圖，由時(shí)域圖可知，軸承內(nèi)圈和外圈故障振動(dòng)信號(hào)有周期性沖擊成分出現(xiàn)，且比復(fù)合故障下的沖擊明顯，但早期故障信號(hào)受噪聲干擾嚴(yán)重，部分沖擊淹沒(méi)在噪聲中，振動(dòng)情況較為復(fù)雜，難以區(qū)分軸承故障類型及故障程度。從頻域圖可以看出同種故障類型的頻譜有一定的差異，但是對(duì)于同種故障類型但不同程度的故障，從頻譜上很難區(qū)分。且由于傳統(tǒng)特征提取方法的不確定性和復(fù)雜性，使得軸承早期輕微故障特征和復(fù)合故障特征難以提取，致使故障診斷的難度很大。因此有必要引入深度學(xué)習(xí)進(jìn)行逐層特征提取以建立各種故障狀態(tài)與輸入信號(hào)之間的精確映射關(guān)系。

圖3 軸承故障診斷實(shí)驗(yàn)臺(tái)

表1 7種軸承工況

圖4 軸承7種工況時(shí)域圖和頻域圖

3.2 診斷結(jié)果與分析

為證明本文方法的優(yōu)越性，采用人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Network，ANN）、支持向量機(jī)（Support Vector Machine，SVM）2 種傳統(tǒng)智能診斷方法和標(biāo)準(zhǔn)DAE（Sigmoid 激活函數(shù)）、DBN 和不加“跨層”連接的DWAE 3 種深度學(xué)習(xí)方法進(jìn)行分析比較。與傳統(tǒng)智能診斷方法不同，本文方法無(wú)需對(duì)信號(hào)進(jìn)行特征提取，輸入始終是1 024 維振動(dòng)數(shù)據(jù)。ANN 和SVM 的輸入分為2 類，第一類是1 024 維振動(dòng)數(shù)據(jù)，第二類是均方值、均值、方差等24個(gè)特征參數(shù)，這24個(gè)特性參數(shù)的詳細(xì)計(jì)算見(jiàn)文獻(xiàn)[16]。本文方法的參數(shù)列于表2，網(wǎng)絡(luò)結(jié)構(gòu)為1 024-512-256-128-64-32-7，由文獻(xiàn)[17]所提方法確定，λ1、λ2、c 和d 等超參數(shù)的設(shè)置由文獻(xiàn)[18]所提的粒子群算法確定。其他方法的主要參數(shù)見(jiàn)表3，其中ANN結(jié)構(gòu)參數(shù)由反復(fù)實(shí)驗(yàn)確定；SVM 結(jié)構(gòu)參數(shù)由10 折交叉驗(yàn)證法確定；DAE、DBN和無(wú)“跨層”連接DWAE網(wǎng)絡(luò)結(jié)構(gòu)由文獻(xiàn)[17]確定，超參數(shù)由文獻(xiàn)[18]所提方法確定。

表2 本文方法的參數(shù)

表3 其他方法的參數(shù)

為證明本文方法的穩(wěn)定性，共進(jìn)行5 次實(shí)驗(yàn)。圖5顯示每次實(shí)驗(yàn)的診斷結(jié)果，平均測(cè)試準(zhǔn)確率見(jiàn)表4。由圖5，本文方法每次測(cè)試的準(zhǔn)確率分別為98.72%、99.16%、98.93%、98.85%和99.23%，均高于其他方法，由表4 可知，本文方法的平均診斷準(zhǔn)確率為98.86%，高于標(biāo)準(zhǔn)DAE（91.25%）、DBN（90.13%）和無(wú)“跨層”連接的DWAE（94.32%），遠(yuǎn)高于方法2 的ANN（51.15%）和方法4 的SVM（53.19%）。提取24 個(gè)特征后，ANN 和SVM 的平均診斷準(zhǔn)確率提高到76.57%和83.49%，但平均測(cè)試正確率仍低于本文方法。此外，本文方法的標(biāo)準(zhǔn)偏差為0.09，均小于其他幾種方法。表5給出了所有方法（Corei7，16 GB 內(nèi)存）的平均訓(xùn)練時(shí)間和平均識(shí)別時(shí)間，本文方法的平均訓(xùn)練時(shí)間為129.23 s，平均識(shí)別時(shí)間僅0.049 s。圖6 給出了本文方法第一次測(cè)試的多分類混淆矩陣，可知復(fù)合故障狀態(tài)b 和c 的分類正確率較低。

圖5 不同方法的5次測(cè)試結(jié)果

表4 不同方法的診斷結(jié)果

表5 不同方法的平均計(jì)算時(shí)間s

收縮懲罰項(xiàng)系數(shù)λ1和權(quán)重衰減項(xiàng)系數(shù)λ2的適當(dāng)選取既可以增強(qiáng)網(wǎng)絡(luò)的特征提取性能，防止過(guò)擬合，又能加快計(jì)算。本文根據(jù)經(jīng)驗(yàn)取λ1在0.01～0.09 和λ2在0.001～0.009 范圍內(nèi)進(jìn)行研究，如圖7 和圖8，結(jié)果表明λ1=0.04 和λ2=0.003 有助于DWAE取得更好的性能。

研究發(fā)現(xiàn)主、輔線的耦合比例c∶d 對(duì)DWAE 的性能有一定影響，本文以c+d=1 為約束條件，以0.1 為間隔，分析不同耦合比例對(duì)DWAE 識(shí)別性能的影響，實(shí)驗(yàn)結(jié)果如圖9，可知c∶d=0.2∶0.8時(shí)網(wǎng)絡(luò)具有更優(yōu)的性能。

圖6 多分類混淆矩陣

圖7 λ1 對(duì)DWAE平均測(cè)試準(zhǔn)確率的影響

圖8 λ2 對(duì)DWAE平均測(cè)試準(zhǔn)確率的影響

圖9 主、輔線耦合比例對(duì)DWAE性能的影響

為直觀顯示DWAE所提取的特征，以軸承正常狀態(tài)和外圈故障振動(dòng)信號(hào)為例，由于網(wǎng)絡(luò)所提取的深層特征較抽象，因此本文只給出DWAE提取的第1隱層的特征（以序列方式），如圖10 和圖11，可以看出，DWAE 所提取的第1隱層的特征從不同角度表現(xiàn)原始信號(hào)，這些特征比較好地滿足了Fisher 判別準(zhǔn)則[19]，更有利于最后的分類。

圖10 DWAE提取的軸承正常狀態(tài)信號(hào)第1隱層特征圖

圖11 DWAE提取的軸承外圈故障信號(hào)第1隱層特征圖

4 結(jié)論

提出一種改進(jìn)深層小波自編碼器的軸承故障診斷方法，能有效地對(duì)軸承原始振動(dòng)信號(hào)進(jìn)行自動(dòng)特征提取與故障識(shí)別，結(jié)論如下：

（1）將深度學(xué)習(xí)和小波理論相結(jié)合，增加了對(duì)信號(hào)的時(shí)頻局部特性的表示，增強(qiáng)了網(wǎng)絡(luò)自動(dòng)提取特征的能力，改進(jìn)WAE的誤差函數(shù)和參數(shù)更新算法，并引入收縮自編碼機(jī)制，使網(wǎng)絡(luò)對(duì)信號(hào)的特征學(xué)習(xí)的魯棒性大大增強(qiáng)。

（2）在DWAE的基礎(chǔ)上，引入“跨層”連接，在一定程度上緩解了網(wǎng)絡(luò)的梯度消失現(xiàn)象，并以實(shí)驗(yàn)證明了“跨層”連接的有效性。