基于動態(tài)結(jié)構(gòu)保持主元分析的故障檢測方法

張 妮,田學民,蔡連芳

(中國石油大學信息與控制工程學院,山東青島 266580)

基于動態(tài)結(jié)構(gòu)保持主元分析的故障檢測方法

張 妮,田學民,蔡連芳

(中國石油大學信息與控制工程學院,山東青島 266580)

為充分利用表征過程運行工況的數(shù)據(jù)特征信息,提高化工過程的故障檢測性能,提出一種基于動態(tài)結(jié)構(gòu)保持主元分析(DSPPCA)的過程故障檢測方法。首先對原始數(shù)據(jù)采用變量相關性分析建立自回歸模型,構(gòu)建包含動態(tài)特征的數(shù)據(jù)集,進一步綜合考慮主元分析法(PCA)和局部線性嵌入(LLE)流形學習算法中數(shù)據(jù)點之間的近鄰關系,融合得出新的目標函數(shù),同時,運用局部線性回歸的方法獲得高維樣本的嵌入映射,特征提取后在特征空間和殘差空間分別構(gòu)造監(jiān)控統(tǒng)計量進行故障檢測。Swiss-roll數(shù)據(jù)集的降維結(jié)果及TE過程的仿真研究結(jié)果表明,DSPPCA算法可以取得較好的特征提取效果,具有較高的故障檢測性能。

動態(tài)結(jié)構(gòu)保持主元分析；流形學習；相關性分析；特征提?。还收蠙z測

基于數(shù)據(jù)分析的故障診斷技術(shù)中對高維數(shù)據(jù)進行有效特征的提取成為學術(shù)界和工業(yè)界極為關注的問題。各種降維方法[1-6]如主元分析法(PCA)、典型變量分析法(CVA)等已經(jīng)廣泛地用于工業(yè)過程監(jiān)控,得到特征空間和殘差空間并分別構(gòu)造監(jiān)控統(tǒng)計量實施故障檢測。近年來,流形學習的方法也用于故障檢測[7-10]。為了更為全面地獲取采集數(shù)據(jù)中隱含的特征信息,筆者采用相關性分析解決動態(tài)數(shù)據(jù)的自相關特性,進一步融合PCA和局部線性嵌入(LLE)流形學習方法提出一種基于動態(tài)結(jié)構(gòu)保持主元分析(DSPPCA)的故障檢測方法,在特征空間和殘差空間分別構(gòu)造監(jiān)控統(tǒng)計量進行故障檢測,并通過Swiss-roll數(shù)據(jù)和化工田納西-伊斯曼(TE)過程數(shù)據(jù)進行仿真驗證。

1 特征提取算法

1.1 局部線性嵌入法

LLE是一種基于流形學習的非線性特征提取方法,觀測空間中的每一個點可以近似由其局部鄰域中的點加權(quán)平均表示,重建流形結(jié)構(gòu)時,低維空間中的該點由同樣大小的權(quán)值和近鄰點進行加權(quán)表示[11]。

設高維數(shù)據(jù)集X=(x1,x2,…,xn),xi∈Rm,降維之后的低維坐標為Y=(y1,y2,…,yn),yi∈Rd。在高維空間中,算法通過下式計算基于最小重構(gòu)誤差的最優(yōu)權(quán)值矩陣W:

添加一個低維坐標約束YYT=I,低維空間輸出值通過保持高維樣本點的局部重建權(quán)值矩陣和近鄰點進一步計算得出。

可以看出,LLE算法從數(shù)據(jù)之間的近鄰關系和區(qū)域近鄰點局部線性的角度出發(fā),使得數(shù)據(jù)之間的近鄰結(jié)構(gòu)在降維后得以保持,然而該算法沒有考慮數(shù)據(jù)整體結(jié)構(gòu)信息,從而可能出現(xiàn)在降維投影后低維空間的整體結(jié)構(gòu)特征未能進一步與高維空間保持一致。

1.2 主元分析法

PCA算法通過正交變換將高維數(shù)據(jù)投影到低維空間,獲得不相關的降維輸出,解決了變量之間的線性相關問題,提取了數(shù)據(jù)變化的主要特征。

PCA算法的目標函數(shù)可以寫為

PCA算法最優(yōu)地保持了變量空間全局方差信息的變化,按獲取數(shù)據(jù)的變化度來說是最優(yōu)的。然而,與LLE算法相似,PCA未能考慮數(shù)據(jù)近鄰點之間的局部結(jié)構(gòu)信息的保持,可能造成數(shù)據(jù)部分結(jié)構(gòu)信息的丟失。

1.3 結(jié)構(gòu)保持的特征提取算法

兼顧數(shù)據(jù)近鄰局部結(jié)構(gòu)信息和全局信息變化的保持,將PCA和LLE算法的優(yōu)化函數(shù)進行融合,轉(zhuǎn)化為一個最大化目標函數(shù)的求解問題。構(gòu)造約束條件下新的目標函數(shù)為

其中,Q=αI-(1-α)M,α為比例參數(shù),控制著兩種結(jié)構(gòu)保持算法的比例。利用拉格朗日乘數(shù)法,上述優(yōu)化問題可以轉(zhuǎn)化為下列特征方程的求解,即

設y0,y1,…,yd-1是矩陣特征值分解后最大的d個特征值對應的特征向量,低維空間的d個正交向量等價于計算矩陣Q的d個最大的特征值對應的特征向量,從而,數(shù)據(jù)X的全局低維坐標可以表示為: Y=((y0)T,(y1)T,…,(yd-1)T)。

1.4 輸入輸出數(shù)據(jù)集映射

結(jié)構(gòu)保持主元分析(SPPCA)算法僅建立了點對點之間的映射關系,無法推廣到獨立于訓練集的數(shù)據(jù)。從而,如何獲得原始空間到降維空間的映射關系是流形學習算法需要解決的關鍵問題。基于潛在流形局部線性的假設,建立線性投影來近似高維數(shù)據(jù)空間到低維嵌入空間的映射關系,在最小二乘意義下求取映射矩陣A:

其中,A=[a1,a2,…,ad]∈Rm×d。每一個基向量a1,a2,…,ad通過求解線性最小二乘回歸獲得

在矩陣X滿秩時,投影基向量aj(j=1,2,…,d)的求解可以根據(jù)下式得出:

2 基于DSPPCA的故障檢測算法

2.1 加權(quán)動態(tài)多變量自回歸模型

數(shù)據(jù)的動態(tài)性在化工過程是普遍存在的,Ku提出動態(tài)過程監(jiān)控處理方法[12],考慮滯后階次的影響采用時滯增廣矩陣將數(shù)據(jù)擴展成如下形式:

然而在實際應用中,數(shù)據(jù)維數(shù)較高、規(guī)模較大時,增廣矩陣的出現(xiàn)造成了龐大的計算量,造成建模時間的顯著增加,為了克服原有數(shù)據(jù)處理的盲目性,充分考慮數(shù)據(jù)動態(tài)性的事實,引入變量相關性分析來考慮每個變量的時間序列相關性。

設X(t)=[x1(t)x2(t)…xm(t)]∈Rn×m為原采樣數(shù)據(jù),變量的自相關系數(shù)計算如下:

其中,b為滯后步長,矩陣擴展后樣本數(shù)據(jù)減少到nb；X′(t)為加權(quán)之后的采樣矩陣；t為采樣時刻；ρ為變量的相關系數(shù)。根據(jù)求出的自相關系數(shù),對變量的時間序列實現(xiàn)了自適應遞歸,使得過程數(shù)據(jù)的動態(tài)信息得以完整保留,更加有利于故障檢測的實施。

2.2 故障檢測步驟

運用SPPCA算法降維得到主特征空間和殘差空間,算法性能監(jiān)控統(tǒng)計量的確定類似于PCA算法中兩監(jiān)控統(tǒng)計量的確定方法,在降維子空間以及殘差空間分別構(gòu)造監(jiān)控統(tǒng)計量。本文中采用T2統(tǒng)計量監(jiān)控降維子空間內(nèi)部的波動,

其中,Λ為樣本的協(xié)方差矩陣。

平方預測誤差(SPE)也稱為Q統(tǒng)計量,用于測量殘差空間的信息變化,該統(tǒng)計量計算式如下:

(1)對正常工況數(shù)據(jù)進行離線建模。運用變量的均值和方差將正常工況訓練數(shù)據(jù)進行標準化處理后,對數(shù)據(jù)建立自回歸統(tǒng)計模型,之后運用SPPCA算法降維獲得輸出并進一步求取輸入輸出數(shù)據(jù)之間的近似投影關系,在殘差空間和降維子流形空間分別構(gòu)造監(jiān)控統(tǒng)計量實施監(jiān)控,通過核密度估計分別獲得兩監(jiān)控統(tǒng)計量的控制限。

(2)對實時采集數(shù)據(jù)進行在線監(jiān)控。采集新的過程觀測數(shù)據(jù)并根據(jù)離線正常工況數(shù)據(jù)進行歸一化處理,基于離線模型求取的投影映射進行特征提取,隨后分別計算測試數(shù)據(jù)的監(jiān)控統(tǒng)計量,如果統(tǒng)計量超出控制限,則表明監(jiān)控過程可能有故障發(fā)生。

3 實例仿真

3.1 Swiss-roll數(shù)值仿真

圖1 Swiss-roll數(shù)據(jù)集及不同方法的降維投影結(jié)果Fig.1 Swiss-roll data sets and projection results of different methods

Swiss-roll數(shù)據(jù)是人工合成的數(shù)據(jù)集,已經(jīng)被廣泛地用來比較不同算法的降維效果[13]。在Swiss-roll的3維曲面上隨機采集2000個數(shù)據(jù)點,運用文中降維算法提取該3維數(shù)據(jù)的內(nèi)在特征,對算法性能進行比較驗證。結(jié)果見圖1。對SPPCA及DSSPCA算法,文中交叉驗證得到參數(shù)α取值為0.60。從3維Swiss-roll數(shù)據(jù)降維的結(jié)果可以看出,采用PCA降維方法無法提供好的降維效果,而SPPCA以及DSSPCA方法皆可以在降維的同時較好地保存原有數(shù)據(jù)的幾何結(jié)構(gòu)特征,從而可以采用DSPPCA方法進行降維特征提取后進一步建立故障檢測模型。

3.2田納西伊斯曼過程

3.2.1 過程簡介

田納西-伊斯曼(TE)過程多年來一直被廣泛用于驗證各種過程控制以及故障診斷方法[14]。TE過程由連續(xù)攪拌式反應釜、分凝器、氣液分離塔、汽提塔、再沸器等多個操作單元組成,過程機制復雜,變量具有非線性、強耦合等顯著特點,是一個典型的復雜工業(yè)過程。TE過程共有41個測量變量和12個操控變量,并人為地設定了21種故障工況[1]。樣本的采樣間隔為3 min,過程仿真運行時間為48 h,以正常工況的960個樣本點作為訓練集,采集不同故障的960個樣本點作為測試集,其中故障在過程運行8 h之后加入。

3.2.2 仿真結(jié)果分析

在離線建模階段,根據(jù)采集的960個正常數(shù)據(jù)分別建立PCA、SPPCA以及DSPPCA的統(tǒng)計分析模型來比較相應的故障檢測性能。嵌入空間維數(shù)通過方差累積貢獻率法獲取,根據(jù)85%的方差累積貢獻率確定主元個數(shù)。故障檢測統(tǒng)計量的閾值均設為95%的控制限,同時,故障檢測時刻定義為連續(xù)3個樣本點超過其控制限。

參數(shù)α取值決定了數(shù)據(jù)非線性特征提取的差異,為了分析α對故障特征提取以及故障檢測性能的影響,對其進行一定范圍的取值比較。故障4涉及反應器冷卻水入口溫度的一個階躍變化,在故障發(fā)生后,其他50個測量變量和控制變量仍然保持穩(wěn)定。故障4與正常運行條件下相比,每個變量的均值和標準差的變化很小,特征提取的任務更加具有挑戰(zhàn)性。圖2所示為α取值與T2檢測率的多次統(tǒng)計關系,由仿真結(jié)果可知,α取0.85可以取得較好的故障檢測效果。

同樣以TE過程故障4為例,基于PCA、SPPCA以及DSSPCA3種方法的T2和Q統(tǒng)計量對于故障4的靈敏程度可以分別在圖3中進行檢驗,定量的故障檢測結(jié)果在后續(xù)的列表中給出。在PCA的監(jiān)控圖中,運用Q統(tǒng)計量的故障檢測時刻為161,自故障發(fā)生時刻便可以一直明顯地檢測到超過閾值。其T2統(tǒng)計量的故障檢測相對較為滯后,在189個采樣點檢測到故障發(fā)生,雖可以檢測到故障但是卻不具有統(tǒng)計量檢測的持續(xù)性?；赟PPCA的故障檢測方法中,T2統(tǒng)計量可以一直有效地檢測到異常發(fā)生,然而其Q監(jiān)控量卻具有一定的漏檢率。而DSSPCA方法的兩個監(jiān)控統(tǒng)計量T2和Q皆在故障發(fā)生的初期檢測到故障,其故障檢測時刻分別為161和162,檢測效果有了明顯的改善。另一方面, DSSPCA方法的Q統(tǒng)計量在大幅值超出閾值方面的表現(xiàn)優(yōu)于SPPCA的Q統(tǒng)計量,這進一步表明,考慮自變量動態(tài)序列相關性實施故障檢測是有效的。

圖2 α對T2統(tǒng)計量檢測性能的影響(f4)Fig.2 Fault detection performance of T2with different α value(f4)

圖3 故障4的監(jiān)控圖比較Fig.3 Comparison of monitoring charts(f4)

故障10不是幅值較大的階躍變化,故障檢測的實施有一定的困難,由圖4可以看出,PCA方法的T2監(jiān)控統(tǒng)計量的故障檢測時刻為205,采用結(jié)構(gòu)保持主元提取技術(shù)后,基于SPPCA方法的T2統(tǒng)計量在第182個采樣時刻檢測到故障,進一步考慮過程變量的時序動態(tài)特性,基于DSSPCA的相應T2統(tǒng)計量可以在第179個采樣時刻發(fā)現(xiàn)故障,反應較為靈敏。進一步比較3種算法對該故障的檢測率,即故障發(fā)生后超出閾值的樣本數(shù)目與實際故障樣本總和的比值,3種方法PCA、SPPCA以及DSSPCA的Q統(tǒng)計量的故障檢測率分別為62.38%、56.63%和62.88%,3種方法相應的T2統(tǒng)計量故障檢測率分別為24.75%、93.75%和96.13%,由此亦可看出考慮變量自相關的特征提取算法能更為有效地檢測出故障。

圖4 監(jiān)控圖比較(f10)Fig.4 Comparison of monitoring charts(f10)

表1為3種故障檢測方法在TE過程21種不同故障發(fā)生時的故障檢出率。由表可以看出,對于故障(3)、(9)、(15),如同其他數(shù)據(jù)驅(qū)動的故障檢測方法, 3種方法皆無法提供較好的監(jiān)控效果。對于故障(4)、(5)、(10)、(11)、(16)、(17)、(19),DSPPCA方法明顯地改善了故障檢測效果,監(jiān)控性能大大提高。雖然DSPPCA的故障檢測率有略低于其他方法的情況,但并不影響其對大部分故障與正常樣本之間差異性的捕捉。從而進一步說明,DSPPCA方法能夠綜合考慮數(shù)據(jù)樣本結(jié)構(gòu)特征的提取,使得數(shù)據(jù)的特征信息得以充分的利用,建立的監(jiān)控模型可以更為精確地描述過程運行工況,從而不僅在縮短故障檢測的延遲時刻而且在提高故障檢測率方面相對原有的PCA方法有了一定的改善和提高。

表1 不同方法的故障檢測率Table 1 Comparison of fault detection rate by different methods

與表1類似,表2所示為3種方法在TE過程不同類型代表性故障發(fā)生時的故障檢出樣本序號。由表2可見,DSPPCA方法能夠明顯地縮短故障檢測的延遲時間,故障檢測的靈敏度較高。這進一步可以說明,基于DSPPCA的故障檢測方法可以更為有效地獲取故障特征,得到更為全面的數(shù)據(jù)特征信息,從而可以在一定程度上縮短故障檢出的延遲時間。

表2 不同方法的故障檢測時刻Table 2 Comparison of fault detection timeby different methods

4 結(jié)束語

提出了一種基于DSPPCA的化工過程故障檢測方法,該方法首先考慮變量自身的序列相關性建立多變量自回歸統(tǒng)計模型,隨后運用LLE算法局部結(jié)構(gòu)保持的優(yōu)勢,融合傳統(tǒng)的PCA和LLE算法,在PCA全局特征提取的同時保存數(shù)據(jù)點之間的局部近鄰關系,同時,運用局部線性回歸的方法逼近高維采樣點與其對應低維嵌入的映射關系,最后在嵌入空間構(gòu)造合理的監(jiān)控統(tǒng)計量實施故障檢測。運用Swiss-roll數(shù)據(jù)、TE過程的正常工況以及不同故障工況數(shù)據(jù)進一步驗證算法,結(jié)果表明,相對于原有的PCA方法,提出的方法可以更為有效地獲取高維數(shù)據(jù)的結(jié)構(gòu)特征,故障檢測的靈敏性較高,縮短故障檢測時間的同時其相應的故障檢測率有了一定程度的提高,可以更為有效地改善故障檢測系統(tǒng)的性能。

[1] RUSSELL L H,BRAATZ R D.Fault detection and diagnosis in industrial system[M].London:Springer Verlag Press,2001:31-94.

[2] LEE J M,YOO C K,CHOI S W,et al.Nonlinear process monitoring using kernel principal component analysis[J].Chemical Engineering Science,2004,59 (1):223-224.

[3] YIN S,DING S X,HAGHANI A,et al.A comparison study of basic data-driven fault diagnosis and process monitoring mehods on the benchmark Tennessee Eastman process[J].Journal of Process Control,2012,12(9): 1567-1581.

[4] 鄧曉剛,田學民.生產(chǎn)過程故障診斷方法研究現(xiàn)狀及展望[J].石油大學學報:自然科學版,2005,29(6): 157-163.

DENG Xiao-gang,TIAN Xue-min.Present situation and prospect of process fault diagnosis technique[J].Journal of the University of Petroleum,China(Edition of Natural Science),2005,29(6):157-163.

[5] ODIOWEI P P,CAO Y.State-space independent component analysis for nonlinear dynamic process monitoring [J].Chemometrics and Intelligent Laboratory Systems, 2010,103(1):59-65.

[6] 鄧曉剛,田學民.基于動態(tài)獨立成分的單類支持向量機方法及其在故障診斷中的應用[J].中國石油大學學報:自然科學版,2012,36(3):187-191.

DENG Xiao-gang,TIAN Xue-min.One-class support vector machine based on dynamic independentcomponent and its application to fault diagnosis[J].Journal of China University of Petroleum(Edition of Natural Science), 2012,36(3):187-191.

[7] SHAO Ji-dong,RONG Gang.Nonlinear process monitoring based on maximum variance unfolding projection [J].Expert Systems with Applications,2009,36(8): 11332-11340.

[8] ZHANG Mu-guang,GE Zhi-qiang,SONG Zhi-huan,et al.Global local structure analysis model and its application for fault detection and identification[J].Industrial &Engineering Chemistry Research,2011,50(11):6837-6848.

[9] 張妮,田學民.基于等距離映射的非線性動態(tài)故障檢測方法[J].上海交通大學學報,2011,45(8):1202-1206.

ZHANG Ni,TIAN Xue-min.Nonlinear dynamic fault detection method based on isometric mapping[J].Journal of Shanghai Jiaotong University,2011,45(8):1202-1206.

[10] LI Ben-wei,ZHANG Yun.Supervised locally linear embedding projection(SLLEP)for machinery fault diagnosis[J].Mechanical Systems and Signal Processing, 2011,25(8):3125-3134.

[11] 曾憲華.流形學習的譜方法相關問題研究[D].北京:北京交通大學,2009.

ZENG Xian-hua.Study on several issues of spectral method for manifold learning[D].Beijing:Beijing Jiaotong University,2009.

[12] KU W,STORER R H,GERGAKIS C.Disturbance detection and isolation by dynamic principal component analysis[J].Chemometrics and Intelligent Laboratory Systems,1995,30(1):179-196.

[13] SAUL L K,ROWEIS S T.Think globally,fit locally: unsupervised learning of low dimensional manifolds[J]. The Journal of Machine Learning Research,2003,4 (4):119-155.

[14] DOWNS J J,VOGEL E F.A plant-wide industrial process control problem[J].Computers and Chemical Engineering,1993,17(3):245-255.

(編輯 修榮榮)

Fault detection method based on dynamic structure preservation principal component analysis

ZHANG Ni,TIAN Xue-min,CAI Lian-fang
(College of Information and Control Engineering in China University of Petroleum,Qingdao 266580,China)

In order to make full use of the feature information of data in the chemical process,a fault detection method based on dynamic structure preservation principal component analysis was proposed to improve the performance and efficiency for fault detection.It firstly established auto-regression model through correlation analysis so that the dynamic feature sets could be obtained to characterize the original data.Furtherly,principal component analysis and locally linear embedding were fused together to obtain a new objective function.Besides,locally linear embedding algorithm could preserve the neighbor relationship between data collected.At the same time,local linear regression was used to find the projection that best approximated the mapping from high-dimensional samples to the embedding for on-line application furtherly.Statistics were constructed in the two spaces for process monitoring after feature extraction respectively.Simulation results of Tennessee Eastman process and Swiss-roll data show that DSPPCA-based method is more effective for feature extraction and process monitoring.

dynamic structure preservation principal component analysis；manifold learning；correlation analysis；feature extraction；fault detection

TP 277

A

1673-5005(2013)02-0170-06

10.3969/j.issn.1673-5005.2013.02.028

2012-04-17

國家自然科學基金項目(61273160)；山東省自科學基金項目(ZR2011FM014)；中央高?；究蒲袠I(yè)務費專項(12CX06071A； 10CX04046A)；山東省優(yōu)秀中青年科學家科研獎勵基金項目(BS2012ZZ011)

張妮(1983-),女,博士研究生,研究方向為化工過程故障檢測與診斷。E-mail:117zhangni@163.com。