齊詠生，張海利，高學(xué)金，王普（內(nèi)蒙古工業(yè)大學(xué)電力學(xué)院，內(nèi)蒙古 呼和浩特 0005；北京工業(yè)大學(xué)電子信息與控制工程學(xué)院，北京 004；教育部數(shù)字工程研究中心，北京 004）

?

基于KECA的化工過程故障監(jiān)測新方法

齊詠生1,3，張海利1，高學(xué)金2,3，王普2,3
（1內(nèi)蒙古工業(yè)大學(xué)電力學(xué)院，內(nèi)蒙古 呼和浩特 010051；2北京工業(yè)大學(xué)電子信息與控制工程學(xué)院，北京 100124；3教育部數(shù)字工程研究中心，北京 100124）

摘要：針對化工過程數(shù)據(jù)復(fù)雜、非線性的特點(diǎn)，提出一種基于核熵成分分析（KECA）的化工過程故障監(jiān)測算法。首先，KECA算法按照Renyi熵值的大小選取特征值及特征向量，相比傳統(tǒng)的KPCA監(jiān)測算法，其保留主元個數(shù)更少，可以有效減少運(yùn)算量。同時，仿真研究表明KECA算法選取的主元具有角度結(jié)構(gòu)特性，據(jù)此，提出一種新的統(tǒng)計量——CS（Cauchy-Schwarz）統(tǒng)計量，其對應(yīng)到核特征空間中即為向量間的角度余弦值，可以較好表述不同概率密度分布之間的相似度。最后，將KECA和KPCA算法分別應(yīng)用于TE（Tennessee Eastman）過程，結(jié)果表明KECA在故障檢測延遲與檢出率相比KPCA都有很大的優(yōu)勢。

關(guān)鍵詞：安全；過程控制；主元分析；故障監(jiān)測；KECA；CS統(tǒng)計量

2015-12-14收到初稿，2015-12-16收到修改稿。

聯(lián)系人及第一作者：齊詠生（1975—），男，博士，副教授。

引 言

化工過程工藝復(fù)雜且常伴隨高溫高壓等極端條件，原材料及產(chǎn)品具有易燃易爆、有毒有害等特點(diǎn)，且生產(chǎn)裝置呈現(xiàn)大型化和連續(xù)化。一旦出現(xiàn)異?；蚴鹿示蜁茐恼Ｉa(chǎn)過程，不但可能影響生產(chǎn)進(jìn)度，還有可能危及人們的生命安全，造成巨大的損失。所以，對化工過程進(jìn)行故障監(jiān)測研究就顯得非常重要[1-4]。近年來，將多元統(tǒng)計分析應(yīng)用于化工過程監(jiān)控中，形成了多元統(tǒng)計過程監(jiān)控（multivariate statistical process monitoring，MSPM）。其基本思想是通過構(gòu)造一組維數(shù)較低的不相關(guān)的隱變量來概括高維數(shù)據(jù)所攜帶的信息。常見的多元統(tǒng)計過程監(jiān)控方法有主元分析（principal component analysis，PCA）[5]、偏最小二乘算法（partial least squares，PLS）[6]、獨(dú)立主元分析（independent component analysis，ICA）[7]以及這些算法的一些改進(jìn)算法等。

多元統(tǒng)計監(jiān)控[8]的核心思想是通過數(shù)據(jù)投影的方法將輸入空間劃分為特征空間和殘差空間達(dá)到數(shù)據(jù)降維的效果，檢測平方預(yù)測誤差（squared prediction error，SPE）、Hotelling T2（T2）等統(tǒng)計量是否超越控制限來判斷過程是否發(fā)生異常情況。其中，PCA算法應(yīng)用最為廣泛，它可以有效將含噪聲且相關(guān)的高維數(shù)據(jù)以保留原始數(shù)據(jù)的最大方差的原則投影到低維空間。然而，PCA算法的前提是假設(shè)數(shù)據(jù)為線性[9-10]，它對于非線性過程的監(jiān)控效果并不十分理想。Scholkopf等[11]提出了核主元分析（KPCA），KPCA是通過非線性映射將原輸入空間映射到高維特征空間，然后在這個高維特征空間內(nèi)進(jìn)行主元分析，從而把輸入空間中的非線性問題轉(zhuǎn)化為特征空間中的線性問題[12-13]。

Jenssen[14]在KPCA的基礎(chǔ)上提出KECA算法用于數(shù)據(jù)轉(zhuǎn)換和數(shù)據(jù)降維，在提取數(shù)據(jù)特征上表現(xiàn)出了其獨(dú)特的優(yōu)越性。KECA算法通過將輸入空間投影到KPCA主軸上實現(xiàn)數(shù)據(jù)的轉(zhuǎn)換和降維，它與KPCA最大的不同是通過對輸入空間熵值的貢獻(xiàn)大小來選取主元[15]，因此，KECA算法選取的主元不一定對應(yīng)于核矩陣較大的特征值和特征向量，且結(jié)果顯示KECA選取的主元具有一定的角度結(jié)構(gòu)，即不同類別數(shù)據(jù)的主元分別聚集在不同的坐標(biāo)軸 附近。

本文將KECA算法應(yīng)用于過程故障監(jiān)測中，基于KECA選取主元的角度結(jié)構(gòu)，定義了一種新的統(tǒng)計量表達(dá)這種角度結(jié)構(gòu)，與KPCA監(jiān)控算法的SPE統(tǒng)計量和Hotelling T2統(tǒng)計量相比，具有一定的優(yōu)勢。

1 KECA算法

給定N維樣本x，p(x)是概率密度函數(shù)，則其Renyi熵計算公式為[16]

式中，K為N×N的核矩陣；1為元素均為1 的N×1的向量。Renyi熵估計可由核矩陣的特征值和特征向量來表示，將核矩陣進(jìn)行特征分解D為特征值矩陣D =為特征向量矩陣，計算得到式（3）

將N維數(shù)據(jù)通過Ф映射到由k個KPCA主軸張成的子空間Uk上，選取對Renyi熵貢獻(xiàn)較大的前k個特征值和特征向量，不一定是特征值較大的前k個，可以得到轉(zhuǎn)換后的數(shù)據(jù)

樣本外數(shù)據(jù)投影到Uk上的計算公式為

KECA算法可以表述為使核空間數(shù)據(jù)均值向量的平方歐氏距離與轉(zhuǎn)換后數(shù)據(jù)均值向量的平方歐氏距離之差盡可能小。為了能夠更多保留原始數(shù)據(jù)的信息，在數(shù)據(jù)降維時采用熵值貢獻(xiàn)率來確定選取主元的個數(shù)。

KECA算法實質(zhì)是一種數(shù)據(jù)轉(zhuǎn)換方法，它可以最大限度保留核空間數(shù)據(jù)均值向量的歐氏距離。對TE過程的21種故障均選取3個主元，降維后數(shù)據(jù)保留原始數(shù)據(jù)在核特征空間均值向量的比值可達(dá)到99%。而KPCA需要選取大約26個主元，其方差貢獻(xiàn)率方能達(dá)到80%以上。

2 新的監(jiān)控統(tǒng)計量——CS統(tǒng)計量

CS散度測度衡量兩種概率密度函數(shù)p1(x)和p2(x)之間的“距離”，表示的是兩種概率密度函數(shù)之間的相似度[17-18]，計算公式如下其中，0≤DCS＜∞，當(dāng)且僅當(dāng)p1(x)= p2(x)時取得最小值。

概率密度分布函數(shù)之間的CS散度測度可以表示為核空間均值向量之間角度的余弦值[18]。例如，概率密度函數(shù)p1( x )和p2( x )之間的CS散度測度為

在此，

3 基于KECA的故障監(jiān)測模型

3.1 建立離線模型

（1）將正常數(shù)據(jù)與故障數(shù)據(jù)組成新的建模數(shù)據(jù)，并對其按正常數(shù)據(jù)的均值及方差進(jìn)行標(biāo)準(zhǔn)化

（2）給定核函數(shù)(本文采用高斯核)及核參數(shù)，利用建模數(shù)據(jù)進(jìn)行KECA建模，選取較大熵值對應(yīng)的特征值及特征向量，對投影后的正常數(shù)據(jù)求均值m。

需要注意的是，本文需要建立21個模型，每個模型數(shù)據(jù)由正常數(shù)據(jù)和一種故障數(shù)據(jù)組成，因此，不同的模型具有不同的控制限。

3.2 在線監(jiān)測

（1）將測試數(shù)據(jù)同樣按上述正常數(shù)據(jù)的均值及方差進(jìn)行標(biāo)準(zhǔn)化，然后進(jìn)行核空間映射，計算，計算與m之間的角度余弦值，即CS統(tǒng)計量。

（2）通過判斷CS統(tǒng)計量是否超過控制限來確定工業(yè)過程是否產(chǎn)生了故障。

4 結(jié)果及分析

采用TE過程的數(shù)據(jù)進(jìn)行仿真，TE過程共52個變量，21個故障。訓(xùn)練數(shù)據(jù)及測試數(shù)據(jù)均包括1組正常數(shù)據(jù)及21組故障數(shù)據(jù)。訓(xùn)練數(shù)據(jù)每隔3 min采樣一次，共采樣500次計時25 h，采樣點(diǎn)個數(shù)為500。其中，對于21組故障數(shù)據(jù)，1 h后引入故障，即故障前20個采樣點(diǎn)屬于正常數(shù)據(jù)，仿真只采用剩下的480個故障數(shù)據(jù)點(diǎn)進(jìn)行建模，前20個正常數(shù)據(jù)點(diǎn)不予考慮。因此訓(xùn)練數(shù)據(jù)共22組，包括1組500× 52的正常數(shù)據(jù)及21組480×52的故障數(shù)據(jù)[19-20]。

同樣，測試數(shù)據(jù)中也有1組正常數(shù)據(jù)和21組故障數(shù)據(jù)，每隔3 min采樣一次，共采樣500次計時48 h，采樣點(diǎn)個數(shù)為960，其中，對于故障數(shù)據(jù)，8 h后引入故障，即從第161個采樣點(diǎn)開始為故障數(shù)據(jù)點(diǎn)。因此，測試數(shù)據(jù)包括1組正常數(shù)據(jù)及21組故障數(shù)據(jù)，其維數(shù)為960×52，其中故障數(shù)據(jù)維數(shù)為800×52[19-20]。

仿真過程選取的核函數(shù)為高斯核函數(shù)，保留主元個數(shù)為3，保留了超過99%的熵值信息，而KPCA保留主元個數(shù)約為26，方差貢獻(xiàn)率約為80%，在此，分別將KECA及KPCA方法用于故障3、10、15、21，故障監(jiān)測結(jié)果如下，由于T2統(tǒng)計量的故障監(jiān)測效果不如SPE統(tǒng)計量，故僅選擇了SPE統(tǒng)計量與CS統(tǒng)計量進(jìn)行比較。

圖1 故障3的監(jiān)測結(jié)果Fig.1 Monitoring charts of fault 3 for KECA-CS, KECA-SPE and KPCA-SPE

基于KECA-CS、KECA-SPE[21]及KPCA-SPE方法對故障3的故障監(jiān)測結(jié)果如圖1所示。大多故障檢測算法都不能夠有效地將該故障檢測出來，KPCA算法的仿真結(jié)果較為混亂，且統(tǒng)計量幾乎一直在控制限以下。KPCA-SPE及KECA-SPE算法在整個測試過程，統(tǒng)計量都沒有明顯的變化，并不能有效地將故障3檢測出來，而采用KECA-CS算法，則可以很清楚地看到有兩個比較明顯的峰值點(diǎn)遠(yuǎn)遠(yuǎn)超出了控制限，且正常時刻的統(tǒng)計量沒有超限，能夠有效地檢測出故障3。這是因為KECA在數(shù)據(jù)特征提取上較KPCA算法有優(yōu)勢，且CS統(tǒng)計量很好地表示了KECA算法所揭露的數(shù)據(jù)間的角度結(jié)構(gòu)，因此能夠有效地將故障數(shù)據(jù)及正常數(shù)據(jù)分離開。

圖2 故障10的監(jiān)測結(jié)果Fig.2 Monitoring charts of fault 10 for KECA-CS, KECA-SPE and KPCA-SPE

故障10的仿真結(jié)果如圖2所示。3個圖中均有兩個比較明顯的峰值，其中KPCA-SPE方法僅超過控制限一小部分，而KECA-CS方法超過控制限的部分要遠(yuǎn)遠(yuǎn)多于另外兩種方法。同時，KECA-CS方法檢測出故障的時間也要比另兩種提前，即檢測延遲少。KECA算法提取正常數(shù)據(jù)及故障數(shù)據(jù)間的角度信息，CS統(tǒng)計量將其很好地表示出來，有利于故障監(jiān)測。因此，KECA-CS方法要優(yōu)于另兩種。

故障15及20的故障監(jiān)測結(jié)果分別如圖3、圖4所示。對于故障15，KPCA-SPE方法幾乎不能檢測出故障，KECA-SPE方法則可以明顯檢測出故障，而KECA-CS不僅能明顯檢測出故障，時間也遠(yuǎn)遠(yuǎn)早于其他方法。KECA算法提取并由CS統(tǒng)計量表示的角度信息提高了故障監(jiān)測的敏感性。對于故障20，3種方法均能有效檢測故障，不同之處在于KECA-CS方法在故障引入120 min處檢測出故障，而KPCA-SPE及KECA-SPE方法則在270 min處方能檢測出故障，很明顯，KECA-CS方法檢測故障要提前很多。總之，對于上述幾種故障，相比KPCA-SPE及KECA-SPE方法，KECA-CS方法具有更好的故障監(jiān)測效果。

圖3 故障15的監(jiān)測結(jié)果Fig.3 Monitoring charts of fault 15 for KECA-CS, KECA-SPE and KPCA-SPE

圖4 故障20的監(jiān)測結(jié)果Fig.4 Monitoring charts of fault 20 for KECA-CS, KECA-SPE and KPCA-SPE

為衡量算法對TE過程的故障監(jiān)測能力，使用檢測延遲（detection latency，DL）[20]、檢出率（fault detection rate，F(xiàn)DR）和誤報率（false alarm rate，F(xiàn)AR）[21]。其中檢測延遲為算法檢測出故障的時間與實際故障發(fā)生時間的差值，檢出率為檢出故障數(shù)與故障樣本總數(shù)的比值，誤報率誤報為故障數(shù)與正常樣本總數(shù)的比值，計算公式如式（13）～式（15）所示。TE過程21種故障的檢測延遲、檢出率及誤報率計算結(jié)果見表1，表明了本文算法的有效性。對KECA算法，幾乎所有故障的檢測延遲都少于KPCA算法，且故障3、4、10、11、15、20故障檢出率都明顯高于KPCA算法，兩種方法的誤報率都較低，相差較小。KECA-CS方法在檢測工業(yè)過程中的微小故障上具有更高的敏感性，TE過程數(shù)據(jù)的仿真證明了KECA-CS算法在故障實時監(jiān)測上的可行性及有效性。

表1 TE過程21種故障的檢測延遲和故障檢出率Table 1 Detection latency (DL) and fault detection rate (FDR) for all 21 faults in TE process

5 結(jié) 論

將KECA算法用于TE過程的故障監(jiān)測。首先，引入Renyi信息熵并以熵值大小選取主元，在數(shù)據(jù)降維的過程中減少了信息的丟失，既實現(xiàn)了主元選取個數(shù)較少，又使降維后數(shù)據(jù)仍保留了原始數(shù)據(jù)在核特征空間99%以上的信息熵值。其次，KECA算法選取出的主元具有一定的角度結(jié)構(gòu)，這是在KPCA算法中所沒有的。在該角度結(jié)構(gòu)的基礎(chǔ)上應(yīng)用一種新的CS統(tǒng)計量，能夠較好表述不同類數(shù)據(jù)之間概率密度分布的相似度。通過分別將KECA及KPCA算法應(yīng)用于TE過程對比發(fā)現(xiàn)，KECA算法在檢測延遲及檢出率方面具有較為顯著的優(yōu)勢。實驗仿真結(jié)果表明，基于KECA的過程故障監(jiān)測算法是行之有效的。

References

[1] 周東華, 李鋼, 李元. 數(shù)據(jù)驅(qū)動的工業(yè)過程故障診斷技術(shù): 基于主成分分析與偏最小二乘的方法 [M]. 北京: 科學(xué)出版社, 2011: 1-9.

ZHOU D H, LI G, LI Y. Industrial Process Fault Diagnosis Technology of Data Driven: Based on Principal Component Analysis and Partial Least Squares Method [M]. Beijing: Science Press, 2011: 1-9.

[2] 馬賀賀, 胡益, 侍洪波. 基于馬氏距離局部離群因子方法的復(fù)雜化工過程故障檢測 [J]. 化工學(xué)報, 2013, 64 (5): 1674-1682. DOI: 10.3969/j.issn.0438-1157.2013.05.024.

MA H H, HU Y, SHI H B. Fault detection of complex chemical processes using Mahalanobis distance-based local outlier factor [J]. CIESC Journal, 2013, 64(5): 1764-1682. DOI: 10.3969/j.issn.0438-1157.2013.05.024.

[3] 韓敏, 張占奎. 基于改進(jìn)核主成分分析的故障檢測與診斷方法 [J].化工學(xué)報, 2015, 66 (6): 2139-2149. DOI: 10.11949/j.issn.0438-1157. 20141378.

HAN M, ZHANG Z K. Fault detection and diagnosis method based on modified kernel principal component analysis [J]. CIESC Journal, 2014, 66(6): 2139-2149. DOI: 10.11949/j.issn.0438-1157.20141378.

[4] 宋冰, 馬玉鑫, 方永鋒, 等. 基于LSNPE算法的化工過程故障檢測 [J]. 化工學(xué)報, 2014, 65 (2): 620-627. DOI: 10.3969/j.issn.0438-1157.2014.02.036.

SONG B, MA Y X, FANG Y F, et al. Fault detection for chemical process based on LSNPE method [J]. CIESC Journal, 2014, 65(2): 620-627. DOI: 10.3969/j.issn.0438-1157.2014.02.036.

[5] GARCIA-ALVAREZ D, FUENTE M J, SAINZ G I. Fault detection and isolation in transient states using principal component analysis [J]. Journal of Process Control, 2012, 22(3): 551-563. DOI: 10.1016/j. jprocont.2012.01.007.

[6] YIN S, DING S X, HAGHANI A, et al. A comparison study of basic data-driven fault diagnosis and process monitoring methods on the benchmark Tennessee Eastman process [J]. Journal of Process Control, 2012, 22(9): 1567-1581. DOI: 10.1016/j.jprocont.2012.06.009.

[7] 徐圓, 劉瑩, 朱群雄. 基于多元時滯序列驅(qū)動的復(fù)雜過程故障預(yù)測方法應(yīng)用研究 [J]. 化工學(xué)報, 2013, 64 (12): 4290-4295. DOI: 10.3969/j.issn.0438-1157.2013.12.003.

XU Y, LIU Y, ZHU Q X. A complex process fault prognosis approach based multivariate delayed sequences [J]. CIESC Journal, 2013, 64(12): 4290-4295. DOI: 10.3969/j.issn.0438-1157.2013.12.003.

[8] XIONG L, LIANG J, QIAN J X. Multivariate statistical process monitoring of an industrial polypropylene catalyzer reactor with component analysis and kernel density estimation [J]. Chinese Journal of Chemical Engineering, 2007, 15(4): 524-532. DOI: 10.1016/S1004-9541(07)60119-0.

[9] NOMIKOS P, MACGREGOR J F. Multivariate SPC charts for monitoring batch processes [J]. Technometrics, 1995, 37: 41-59. DOI: 10.2307/1269152.

[10] DONG D, MCAVOY T J. Nonlinear principal component analysis-based on principal curves and neural networks [J]. Computer & Chemical Engineering, 1996, 20(1): 65-78. DOI: 10.1016/0098-1354(95)00003-K.

[11] SCHOLKOPF B, SMOLA A, MULLER K. Nonlinear component analysis as a kernel eigenvalue problem [J]. Neural Computation, 1998, 10: 1299-1319. DOI: 10.1162/089976698300017467.

[12] LEE J M, YOO C K, CHOI S W, et al. Nonlinear process monitoring using kernel principal component analysis [J]. Chemical Engineering Science, 2004, 59: 223-234. DOI:10.1016/j.ces.2003.09.012.

[13] CHO J H, LEE J M, CHOI S W, et al. Fault identification for process monitoring using kernel principal component analysis [J]. Chemical Engineering Science, 2005, 6: 279-288. DOI:10.1016/j.ces.2004.08.007.

[14] JENSSEN R. Kernel entropy component analysis [J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2010, 32(5): 847-860. DOI: 10.1109/TPAMI.2009.100.

[15] JIANG Q C, YAN X F, Lü Z M, et al. Fault detection in nonlinear chemical processes based on kernel entropy component analysis and angular structure [J]. Korean Journal of Chemical Engineering, 2013, 30(6): 1181-1186. DOI: 10.1007/s11814-013-0034-7.

[16] RENYI A. On Measures of Entropy and Information [C/OL]// Proceedings of the Fourth Berkeley Symposium on Mathematical Statistics and Probability. Oakland: University of California Press, 1961, 1: 547-561. http://projecteuclid.org/euclid.bsmsp/1200512181.

[17] JENSSEN R, PRINCIPE J C, ERDOGMUS D. The Cauchy-Schwarz divergence and Parzen windowing: connections to graph theory and Mercer kernel [J]. Journal of the Franklin Institute, 2006, 343(6): 614-629. DOI: 10.1016/j.jfranklin.2006.03.018.

[18] JENSSEN R, ELTOFT T. A new information theoretic analysis of sum-of-squared-error kernel clustering [J]. Neurocomputing, 2008, 72(1/2/3): 23-32. DOI: 10.1016/j.neucom.2008.03.017.

[19] LAU C K , GHOSH K, HUSSAIN M A, et al. Fault diagnosis of Tennessee Eastman process with multi-scale PCA and ANFIS [J]. Chemometrics and Intelligent Laboratory Systems, 2013, 120: 1-14. DOI: 10.1016/j.chemolab.2012.10.005.

[20] MAHADEVAN S, SHAH A L. Fault detection and diagnosis in process data using one-class support vector machines [J]. Journal of Process Control, 2009, 19: 1627-1639. DOI: 10.1016/j.jprocont.2009. 07.011.

[21] YANG Y H, LI X L, LIU X Z, et al. Wavelet kernel entropy component analysis with application to industrial process monitoring [J]. Neurocomputing, 2015, 147: 395-402. DOI: 10.1016/j.neucom. 2014.06.045.

研究論文

Received date: 2015-12-14.

Foundation item: supported by the National Natural Science Foundation of China (61174109, 61364009) and the Natural Science Foundation of Inner Mongolia (2015MS0615).

Novel fault monitoring strategy for chemical process based on KECA

QI Yongsheng1,3, ZHANG Haili1, GAO Xuejin2,3, WANG Pu2,3
(1Institute of Electric Power, Inner Mongolia University of Technology, Hohhot 010051, Inner Mongolia, China;2School of Electric and Information and Control Engineering, Beijing University of Technology, Beijing 100124, China;
3Engineering Research Center of Digital Community, Ministry of Education, Beijing 100124, China)

Abstract:A chemical process fault monitoring algorithms based on kernel entropy component analysis (KECA) is presented for the complexity and nonlinear of industrial chemical process data. The number of principal components selected by the KECA algorism is much less than the KPCA algorism, which can effectively reduce computational complexity. This is achieved by selections onto eigenvalue and eigenvector based on the value of Renyi entropy. Research shows that KECA reveals angular structure relating to the Renyi entropy of the input space data set. A new statistic—Cauchy-Schwarz divergence measure, namely the cosine value between vectors in kernel space, is proposed, which describes the similarity between different PDFs (probability density functions). It is shown that KECA has great advantages in detection latency and fault detection rate in comparing to KPCA by applying them to TE (Tennessee Eastman) process respectively.

Key words:safety; process control; principal component analysis; fault monitoring; KECA; CS statistic

DOI：10.11949/j.issn.0438-1157.20151899

中圖分類號：TP 277

文獻(xiàn)標(biāo)志碼：A

文章編號：0438—1157（2016）03—1063—07

基金項目：國家自然科學(xué)基金項目（61174109，61364009）；內(nèi)蒙古自治區(qū)自然科學(xué)基金項目（2015MS0615）。

Corresponding author:QI Yongsheng, qyslyt@163.com