基于互信息的分散式動態(tài)PCA故障檢測方法

童楚東，藍(lán)艇，史旭華

?

基于互信息的分散式動態(tài)PCA故障檢測方法

童楚東，藍(lán)艇，史旭華

（寧波大學(xué)信息科學(xué)與工程學(xué)院，浙江寧波 315211）

對現(xiàn)代大型復(fù)雜動態(tài)過程來講，不同測量變量會存在不同的序列相關(guān)性，而且變量間的相互影響會體現(xiàn)在不同的采樣時刻上。為此，結(jié)合利用分散式建模的優(yōu)勢，提出一種基于互信息的分散式動態(tài)過程故障檢測方法。該方法在對每個測量變量都引入多個延時測量值后，利用互信息為每個變量區(qū)分出與其相關(guān)的測量值，并建立起相應(yīng)的變量子塊。這種變量分塊方式使每個變量子塊都能充分地獲取與之相對應(yīng)的自相關(guān)性與交叉相關(guān)性信息，較好地處理了數(shù)據(jù)的動態(tài)性問題。然后，利用主元分析（PCA）算法對每一變量子塊進(jìn)行統(tǒng)計建模從而建立起適于大規(guī)模動態(tài)過程的多模塊化的故障檢測模型。最后，通過實例驗證該方法用于動態(tài)過程監(jiān)測的可行性和有效性。

主元分析；過程系統(tǒng)；互信息；故障檢測；統(tǒng)計過程監(jiān)測

引 言

近年來，數(shù)據(jù)驅(qū)動的故障檢測方法因其簡單通用性，已作為保障生產(chǎn)安全的重要技術(shù)手段而得到了研究者們的重視[1-2]。針對以主元分析（principal component analysis，PCA）為代表的多變量統(tǒng)計過程監(jiān)測方法的研究已經(jīng)受到了工業(yè)界和學(xué)術(shù)界的廣泛關(guān)注，其基本思想都是從工業(yè)過程采集的數(shù)據(jù)中挖掘出能反映過程運行狀況的潛在信息[3-4]。這類方法能避免建立精確的過程機(jī)理模型，因而很適合于監(jiān)測現(xiàn)代大型復(fù)雜化工業(yè)過程。

通常來講，傳統(tǒng)的PCA故障檢測模型假設(shè)過程變量滿足獨立同分布，即要求測量變量序列不相關(guān)。但現(xiàn)代復(fù)雜工業(yè)過程由于廣泛采納先進(jìn)計算機(jī)與DCS技術(shù)，采樣數(shù)據(jù)間不可避免地存在序列相關(guān)性，即存在動態(tài)特性。為解決這一動態(tài)過程故障檢測問題，Ku等[5]提出先在過程數(shù)據(jù)矩陣中引入延時測量值構(gòu)成增廣矩陣后再對其進(jìn)行PCA建模，這也就是動態(tài)PCA（dynamic PCA，DPCA）及其他類似方法的基本出發(fā)點[5-6]。Kerkhof等[7]結(jié)合利用自回歸模型與偏最小二乘回歸算法來消除數(shù)據(jù)自相關(guān)性與交叉相關(guān)性的影響，解決了間歇動態(tài)過程監(jiān)測問題。Li等[8]通過在數(shù)據(jù)投影變換的過程中區(qū)分過程數(shù)據(jù)的自相關(guān)性和交叉相關(guān)性，使提取的數(shù)據(jù)動態(tài)潛隱成分（dynamic latent variables，DLV）具有很好的可解釋性，進(jìn)而提出了一種基于DLV算法的動態(tài)過程故障檢測方法。然而，考慮到現(xiàn)代工業(yè)過程數(shù)據(jù)的復(fù)雜性，不同測量變量會存在不同的自相關(guān)性，而且變量間的相互影響(即交叉相關(guān)性)會體現(xiàn)在不同的采樣時刻上。因此，動態(tài)過程故障檢測問題還有待進(jìn)一步深入研究。

此外，工業(yè)過程規(guī)模的大型化發(fā)展趨勢已逐步凸顯出單個集中的故障檢測模型的局限性，分散式故障檢測方法更適合于處理大規(guī)模工業(yè)過程監(jiān)測問題。Zhang等[9-10]詳細(xì)研究了針對大型過程的分散式故障檢測策略，提出了多種多模塊化的監(jiān)測思路?？墒牵@類基于多模塊化算法的分散式故障檢測模型需要以過程機(jī)理和生產(chǎn)結(jié)構(gòu)等知識為前提對測量變量做多分塊化處理。可想而知，若先驗知識不充分，就無法建立分散式的多塊故障檢測模型。為此，有學(xué)者提出完全從數(shù)據(jù)統(tǒng)計特性角度出發(fā)的變量分塊方法，在不需要任何機(jī)理知識的前提下實現(xiàn)了基于純數(shù)據(jù)的分散式故障檢測[11-13]。無可否認(rèn)，分散式建模方法在進(jìn)行分塊化處理的過程中能降低過程數(shù)據(jù)分析的復(fù)雜度，在監(jiān)測大型工業(yè)過程對象時常表現(xiàn)出優(yōu)越的性能。然而，在這些方法中，前面所提及的過程數(shù)據(jù)的動態(tài)性問題卻未得到充分的研究。

本文針對前述動態(tài)過程故障檢測與分散 式建模的不足，提出一種基于互信息（mutual information，MI）的分散式動態(tài)PCA建模方法并將其應(yīng)用于工業(yè)過程故障檢測。在信息論領(lǐng)域里，互信息常用來度量一個隨機(jī)變量中包含的另一個隨機(jī)變量的信息量[14]。MI的這種度量相關(guān)性的方式不局限于單純的線性關(guān)系，對變量之間的非線性關(guān)系也能進(jìn)行評估[15]。本文首先對每個測量變量都引入多個延時測量值，然后針對每個測量變量，利用互信息區(qū)分出與其相關(guān)的測量值并建立起相應(yīng)的變量子塊。最后，對每一變量子塊進(jìn)行PCA建模從而建立起適于大規(guī)模動態(tài)過程的多模塊化的故障檢測模型?；贛I-DPCA方法的有效性與優(yōu)越性將在標(biāo)準(zhǔn)Tennessee Eastmann（TE）[16]仿真實驗平臺上通過對比分析進(jìn)行驗證。

1 基本方法

1.1 PCA與DPCA

PCA算法旨在提取相互正交的主元以摒除原始數(shù)據(jù)空間的冗余信息而保留大量的方差信息[3]。通過對經(jīng)過標(biāo)準(zhǔn)化處理后的數(shù)據(jù)矩陣（為樣本數(shù)，為變量數(shù)）進(jìn)行奇異值分解，可建立PCA統(tǒng)計模型，即[1]

若是考慮過程數(shù)據(jù)序列相關(guān)性，可對引入前個時刻的測量值，構(gòu)成如下增廣型矩陣[5]

1.2 互信息

互信息（MI）是信息論里一種無參數(shù)、非線性的測度指標(biāo)，它可以用來評估兩個測量變量間的相關(guān)性。目前，多變量統(tǒng)計過程監(jiān)測領(lǐng)域也有一些借鑒互信息分析處理過程數(shù)據(jù)的研究成果[17-18]。設(shè)兩個隨機(jī)變量和的聯(lián)合分布為，邊緣概率分別為和，互信息則定義為

若和之間不存在重疊的信息，即相互獨立時，互信息值等于0。反之，若兩者間的相關(guān)性越高，互信息值越大。值得注意的是，求解需要已知各變量的分布密度概率，實際應(yīng)用中通常是使用核密度估計方法來確定對應(yīng)的概率值。

2 基于MI-DPCA的過程監(jiān)測方法

2.1 基于MI分散式動態(tài)過程建模方法

考慮到復(fù)雜動態(tài)過程變量間的相關(guān)性交錯，不同測量變量會存在不同的序列相關(guān)性，而且變量間的相互影響會體現(xiàn)在不同的采樣時刻上。為了更好地描述每個測量變量的動態(tài)性，提出如圖1所示變量分塊方法。具體的實施步驟介紹如下。

圖1 基于MI的變量分塊方法

（1）為每個變量引入個時刻的測量值構(gòu)成增廣型數(shù)據(jù)矩陣；

（4）對所得到個變量子塊分別建立基于PCA算法的故障檢測模型，即

從上述步驟中可知，每個子塊中包含的變量是最能用來描述相應(yīng)測量變量的動態(tài)性。與DPCA直接用所有個變量進(jìn)行分析相比，本文所涉及的變量選擇方法能剔除某些不相關(guān)變量的“干擾”影響，從而使子塊PCA模型更好地反映出每個測量變量的動態(tài)性特征。因此，MI-DPCA方法在監(jiān)測動態(tài)過程運行狀況時理應(yīng)能取得更優(yōu)越的故障檢測效果。

2.2 基于MI-DPCA模型的過程監(jiān)測方法

值得指出的是，相比于DPCA與DLV方法，MI-DPCA方法因使用互信息與分散式建模方法而導(dǎo)致其計算量有所增加。然而，互信息與分散式PCA模型都是在離線建模階段進(jìn)行的，不會對在線故障檢測直接產(chǎn)生影響。另外，基于貝葉斯推理的在線故障監(jiān)測指標(biāo)的概率融合只涉及簡單的數(shù)學(xué)計算，在計算機(jī)處理器飛速發(fā)展的今天，所增加的在線計算量幾乎可以忽略不計。

3 仿真實驗研究

TE仿真模型因其反應(yīng)過程和生產(chǎn)結(jié)構(gòu)的復(fù)雜性，已經(jīng)成為測試不同控制方法和過程監(jiān)測策略的標(biāo)準(zhǔn)實驗平臺[20-22]。TE過程的流程如圖2所示，主要由連續(xù)攪拌反應(yīng)器、產(chǎn)品冷凝器、氣液分離塔、汽提塔和離心式壓縮機(jī)5個生產(chǎn)單元組成。TE過程可連續(xù)測量22個過程變量和12個操作變量，還可以仿真模擬如表1所列的21種不同的故障類型，詳細(xì)資料可見文獻(xiàn)[16]。在本文的研究中，選取過程可連續(xù)測量的33個變量作為監(jiān)測變量，詳情可見文獻(xiàn)[11]。過程的測試數(shù)據(jù)可從網(wǎng)站http://web.mit. edu/braatzgroup/links. html上下載，所有的故障測試數(shù)據(jù)集都是從160個采樣時刻后引入非正常工況。

圖2 TE過程結(jié)構(gòu)

離線建模階段，利用正常工況下的960個樣本建立DPCA、DLV[8]和MI-DPCA的過程監(jiān)測模型以作對比分析用，置信限統(tǒng)一取值99%。其中，DLV故障檢測模型采用的是3個監(jiān)測統(tǒng)計量，、以及Q，分別用于監(jiān)測動態(tài)潛隱成分、靜態(tài)潛隱成分以及殘差。除此之外，相應(yīng)的模型參數(shù)設(shè)置與原始文獻(xiàn)[8]一致，有關(guān)DLV的詳細(xì)介紹可見文獻(xiàn)[8]，這里不再贅述。按照Ku等[5]提出的方法，在DPCA與MI-DPCA模型中，確定引入的延時測量值個數(shù)，保留的主元個數(shù)通過累計方差貢獻(xiàn)率（CPV≥85%）準(zhǔn)則求得。而在MI-DPCA模型中，同樣引入個延時測量值，每個子塊中選擇的變量個數(shù)，且每個子塊PCA模型中的主元個數(shù)都通過CPV≥85%準(zhǔn)則進(jìn)行設(shè)置。

首先，將3種故障檢測模型用于監(jiān)測TE過程21種故障工況，并計算針對每種故障監(jiān)測的故障漏報率，詳情列于表1中。值得注意的是，故障3、9和15由于對過程的影響甚微，很多文獻(xiàn)都證實這3種故障是很難被有效地檢測出來的[8,21]。因此，在本研究中不予考慮。在表1中，取得最小漏報率的監(jiān)測指標(biāo)已用黑體標(biāo)出。顯而易見，MI-DPCA方法在絕大多數(shù)故障類型上能取得優(yōu)越于傳統(tǒng)DPCA以及DLV方法的故障檢測結(jié)果。尤其是針對故障10與16，故障漏報率得到大幅度下降。這主要是因為MI-DPCA方法為每個測量變量選擇與之相關(guān)的不同延時測量值，極大地遏制了不相關(guān)測量值的負(fù)面影響。因此，所建立的子塊PCA模型能更好地描述相應(yīng)測量變量的動態(tài)性特征，降低了故障漏報的可能性。為了更好地體現(xiàn)MI-DPCA相對于DPCA與DLV方法的優(yōu)越性，特將故障16的過程監(jiān)測圖顯示于圖3中。從圖中可以較直觀地看出3種方法在監(jiān)測故障16時的漏報情況。此外，雖然MI-DPCA方法未能在故障1、2、和19上取得最佳監(jiān)測效果，但是相應(yīng)的漏報率值相差微乎其微。值得指出的是，針對故障5，MI-DPCA方法的故障檢測率明顯低于DLV方法，但從圖4中的監(jiān)測結(jié)果來看，兩者都能在第一時間觸發(fā)故障警報并持續(xù)一段時間。從工程實踐角度來看，這不會影響MI-DPCA方法針對故障5的監(jiān)測效果。

圖3 故障16的過程監(jiān)測結(jié)果

圖4 故障5的過程監(jiān)測結(jié)果

表1 TE過程故障漏報率

其次，為進(jìn)一步說明MI-DPCA方法的有效性，還需對比分析3種方法的故障誤報率，即將正常數(shù)據(jù)樣本錯誤的判別為故障。通常來講，較低的故障漏報率會對應(yīng)著較高的故障誤報率。因此，利用另外一組500個正常樣本組成的測試數(shù)據(jù)集測試DPCA、DLV以及MI-DPCA方法對正常工況的誤報率，詳情列于表2中。從表中可以看出，MI-DPCA方法的兩個統(tǒng)計量都能取得最低的故障誤報率。相比于其他兩種方法，本文所提出的MI-DPCA方法更可靠。通過上述對比分析，充分驗證了基于MI-DPCA的過程監(jiān)測方法的優(yōu)越性和有效性。

表2 TE過程故障誤報率

4 結(jié) 論

本文提出了一種基于MI-DPCA的統(tǒng)計過程監(jiān)測方法?？紤]到不同測量變量會存在不同的自相關(guān)性且變量間的相互影響（即交叉相關(guān)性）會體現(xiàn)在不同的采樣時刻上，該方法利用互信息為每個測量變量單獨的找出與之相關(guān)的測量值。在此基礎(chǔ)上得到的變量子塊能較好地解決復(fù)雜動態(tài)過程在不同時滯上的相關(guān)性交錯問題。該方法還利用了分散式建模的方式用多個統(tǒng)計監(jiān)測模型并行實施故障檢測，在針對大規(guī)模過程對象的監(jiān)測問題上，理應(yīng)取得較好的故障檢測結(jié)果。在TE過程上的仿真研究也通過實例說明了MI-DPCA方法優(yōu)越于DPCA與DLV方法。然而，MI-DPCA仍舊是一種線性建模方法，傳統(tǒng)PCA監(jiān)測模型的缺陷同樣存在于MI-DPCA模型中。如何應(yīng)對非線性、非高斯、多工況的復(fù)雜過程對象對下一步的工作提出了挑戰(zhàn)。此外，本文的研究只限于故障檢測，還未涉及后續(xù)的故障診斷，未來還需要開展相應(yīng)的研究工作。

References

[1] GE Z, ONG Z, GAO F. Review of recent research on data-based process monitoring [J]. Industrial & Engineering Chemistry Research, 2013, 52 (10): 3543-3562.

[2] YIN S, DING S X, XIE X,. A review on basic data-driven approaches for industrial process monitoring [J]. IEEE Transactions on Industrial Electronics, 2014, 61 (11): 6418-6428.

[3] QIN S J. Statistical process monitoring: basics and beyond [J]. Journal of Chemometrics, 2003, 17 (7/8): 480-502.

[4] 童楚東, 史旭華. 基于互信息的PCA方法及其在過程監(jiān)測中的應(yīng)用 [J]. 化工學(xué)報, 2015, 66 (10): 4101-4106. TONG C D, SHI X H. Mutual information based PCA algorithm with application in process monitoring [J]. CIESC Journal, 2015, 66 (10): 4101-4106.

[5] KU W, STORER R H, GEORGAKIS C. Disturbance detection and isolation by dynamic principal component analysis [J]. Chemometrics & Intelligent Laboratory Systems, 1995, 30 (1): 179-196.

[6] FAN J, WANG Y. Fault detection and diagnosis of nonlinear non-Gaussian dynamic processes using kernel dynamic independent component analysis [J]. Information Science, 2014, 259: 369-379.

[7] KERKHOF P V D, GINS G, VANLAER J,. Dynamic model-based fault diagnosis for (bio)chemical batch processes [J]. Computers & Chemical Engineering, 2012, 40: 12-21.

[8] LI G, QIN S J, ZHOU D. A new method of dynamic latent-variable modeling for process monitoring [J]. IEEE Transactions on Industrial Electronics, 2014, 61 (11): 6438-6445.

[9] ZHANG Y, ZHOU H, QIN S J,. Decentralized fault diagnosis of large-scale processes using multiblock kernel partial least squares [J]. IEEE Transactions on Industrial Informatics, 2010, 6 (1): 3-10.

[10] ZHANG Y, MA C. Decentralized fault diagnosis using multiblock kernel independent component analysis [J]. Chemical Engineering Research Design, 2012, 90 (5): 667-676.

[11] TONG C, SONG Y, YAN X. Distributed statistical process monitoring based on four-subspace construction and Bayesian inference [J]. Industrial & Engineering Chemistry Research, 2013, 52 (29): 9897-9907.

[12] GE Z, SONG Z. Distributed PCA model for plant-wide process monitoring [J]. Industrial & Engineering Chemistry Research, 2013, 52 (5): 1947-1957.

[13] JIANG Q, WANG B, YAN X. Multiblock independent component analysis integrated with Hellinger distance and Bayesian inference for non-Gaussian plant-wide process monitoring [J]. Industrial & Engineering Chemistry Research, 2015, 54 (9): 2497-2508.

[14] LI W. Mutual information functionscorrelation functions [J]. Journal of Statistical Physics, 1990, 60 (5/6): 823-837.

[15] HAN M, REN W, LIU X. Joint mutual information-based input variable selection for multivariate time series modeling [J]. Engineering Applications of Artificial Intelligence, 2015, 37: 250-257.

[16] DOWNS J J, VOGEL E F. A plant-wide industrial process control problem [J]. Computers & Chemical Engineering, 1993, 17 (3): 245-255.

[17] VERRON S, TIPLICA T, KOBI A. Fault detection and identification with a new feature selection based on mutual information [J]. Journal of Process Control, 2008, 18 (5):479-490.

[18] JIANG Q, YAN X. Plant-wide process monitoring based on mutual information-multiblock principal component analysis [J]. ISA Transactions, 2014, 53 (5): 1516-1527.

[19] GE Z, SONG Z. Multimode process monitoring based on Bayesian method [J]. Journal of Chemometrics, 2009, 23 (12): 636-650.

[20] 趙忠蓋, 劉飛. 因子分析及其在過程監(jiān)控中的應(yīng)用 [J]. 化工學(xué)報, 2007, 58 (4): 970-974. ZHAO Z G, LIU F. Factor analysis and its application to process monitoring [J]. Journal of Chemical Industry and Engineering (China), 2007, 58 (4): 970-974.

[21] TONG C, PALAZOGLU A, YAN X. Improved ICA for process monitoring based on ensemble learning and Bayesian inference [J]. Chemometrics & Intelligent Laboratory Systems, 2014, 135: 141-149.

[22] 韓敏, 張占奎. 基于改進(jìn)核主成分分析的故障檢測與診斷方法 [J]. 化工學(xué)報, 2015, 66 (6): 2139-2149. HAN M, ZHANG Z K. Fault detection and diagnosis method based on modified kernel principal component analysis [J]. CIESC Journal, 2015, 66 (6): 2139-2149.

Fault detection by decentralized dynamic PCA algorithm on mutual information

TONG Chudong, LAN Ting, SHI Xuhua

(Faculty of Electrical Engineering & Computer Science, Ningbo University, Ningbo 315211, Zhejiang, China)

For modern large-scale complex dynamic processes, different measured variables have their own serial correlations and interactions among these variables show on different time points. A mutual information based dynamic fault detection method was proposed by an advantageously decentralized modeling strategy. After made multiple time-delayed observations on each variable, the relevant measurements for the variable were separated from all observations by utilizing mutual information and corresponding variable sub-blocks were created. This approach of variable grouping allowed each variable sub-block to capture sufficient information about its own self- and inter-correlations such that the dynamic characteristics of process data could be well analyzed. The principal component analysis (PCA) algorithm was employed to construct statistical modeling on each variable sub-block and a decentralized dynamic fault detection model for large-scale dynamic process. The feasibility and effectiveness of the proposed method on dynamic process modeling were validated by a case study of a chemical process.

principal component analysis; process systems; mutual information; fault detection; statistical process monitoring

2016-02-29.

TONG Chudong, tongchudong@nbu.edu.cn

10.11949/j.issn.0438-1157.20160218

TP 277

A

0438—1157（2016）10—4317—07

國家自然科學(xué)基金項目（61503204）；浙江省自然科學(xué)基金項目（Y16F030001）；浙江省公益技術(shù)研究項目（2015C31017）；浙江省信息與通信工程重中之重學(xué)科開放基金項目（XKXL1526）。

2016-02-29收到初稿，2016-07-14收到修改稿。

聯(lián)系人及第一作者：童楚東（1988—），男，博士，副教授。

supported by the National Natural Science Foundation of China (61503204), the Natural Science Foundation of Zhejiang Province (Y16F030001), the Science & Technology Planning Project of Zhejiang (2015C31017) and the Key Discipline Fund of Information and Communication Engineering of Zhejiang (XKXL1526).