郭金玉，李 濤，李 元

(沈陽化工大學(xué) 信息工程學(xué)院，遼寧 沈陽 110142)

隨著現(xiàn)代工業(yè)生產(chǎn)過程日益復(fù)雜，有效提高控制系統(tǒng)的故障檢測性能變得尤為重要。在工業(yè)生產(chǎn)過程中，基于數(shù)據(jù)驅(qū)動(dòng)的控制系統(tǒng)故障檢測方法快速發(fā)展。近年來，以主成分分析 (principal component analysis, PCA) 為代表的多元統(tǒng)計(jì)方法發(fā)展迅速，并衍生出了眾多故障檢測方法[1-5]。PCA是一種線性降維方法，在數(shù)據(jù)滿足單一分布的基本假設(shè)下，解決相關(guān)過程變量引起的線性問題，對數(shù)據(jù)的信息提取和壓縮也取得很好的效果。但實(shí)際工業(yè)生產(chǎn)過程中存在眾多非線性、多模態(tài)和非高斯特征的數(shù)據(jù)，不滿足單一分布的假設(shè)，PCA方法難以得到令人滿意的檢測效果[6]。核主成分分析(kernel principal component analysis，KPCA)[7-9]將低維空間中的非線性數(shù)據(jù)映射到高維特征空間，在高維特征空間中建立PCA模型進(jìn)行故障檢測，在一定程度上擴(kuò)大了PCA方法的使用范圍，提高了對非線性數(shù)據(jù)的處理能力。為了解決工業(yè)生產(chǎn)過程中的數(shù)據(jù)非線性和動(dòng)態(tài)性等問題，王亞君等[10]提出一種多動(dòng)態(tài)核主成分分析的故障檢測方法，構(gòu)造了適合批量生產(chǎn)過程的多模態(tài)、非線性和動(dòng)態(tài)模型建立方法。針對復(fù)雜工業(yè)系統(tǒng)中的動(dòng)態(tài)非線性故障檢測方法精度低和計(jì)算量大的問題，翟坤等[11]提出一種改進(jìn)的動(dòng)態(tài)核主成分分析的故障檢測方法，提高了KPCA的故障檢測性能，同時(shí)對微小故障的檢測也更為敏感。

支持向量機(jī)(support vector machine, SVM)被提出后，因強(qiáng)大的泛化能力和在解決分類問題方面的優(yōu)勢，受到國內(nèi)外學(xué)者[12-14]的廣泛關(guān)注，成為機(jī)器學(xué)習(xí)中的經(jīng)典方法。SVM的分類思想是找到最大分離超平面，進(jìn)而將樣本有效分類。針對非線性過程中SVM的檢測性能不足問題，Zhang等[15]結(jié)合核獨(dú)立成分分析(kernel independent component analysis, KICA)、KPCA和SVM的優(yōu)點(diǎn)，開發(fā)了一種非線性動(dòng)態(tài)檢測方法。Yu[16]提出基于支持向量聚類的概率方法，通過支持向量建立超球面，將故障數(shù)據(jù)和正常數(shù)據(jù)分開，實(shí)現(xiàn)故障檢測。為了進(jìn)一步提高SVM的故障檢測性能，Hsu等[17]將獨(dú)立成分分析(independent component analysis, ICA)和SVM方法相結(jié)合，提高了SVM在多變量過程中的監(jiān)測能力。王東等[18]提出基于核主成分分析和最小二乘支持向量機(jī)(kernel principal component analysis and least squares support vector machine, KPCA-LSSVM)的故障識(shí)別方法，比傳統(tǒng)的分類方法故障識(shí)別速度快、分類準(zhǔn)確率高。后續(xù)的研究與應(yīng)用多集中在提高SVM的故障檢測性能和豐富其應(yīng)用場景上。

為了提高SVM在工業(yè)過程中的故障檢測性能，提出一種基于核主成分空間支持向量機(jī)的過程監(jiān)視方法。運(yùn)用KPCA對數(shù)據(jù)進(jìn)行處理，計(jì)算Hotelling′sT2統(tǒng)計(jì)量；在T2統(tǒng)計(jì)量基礎(chǔ)上加入時(shí)滯特性和時(shí)差特性，將三者組合成增廣矩陣，作為輸入訓(xùn)練SVM模型；運(yùn)用訓(xùn)練的SVM模型對測試數(shù)據(jù)進(jìn)行故障檢測。本研究通過增加模型輸入的復(fù)雜度在一定程度上去除樣本間的自相關(guān)性，提高SVM的故障檢測性能。

1 基于核主成分空間支持向量機(jī)的過程監(jiān)視

1.1 支持向量機(jī)

SVM在處理工業(yè)數(shù)據(jù)時(shí)，往往會(huì)面臨著眾多的非線性數(shù)據(jù)，由于非線性數(shù)據(jù)無法處理，需要將其投影到高維空間，去除數(shù)據(jù)非線性，建造最大分離超平面，使數(shù)據(jù)能夠被有效分類。由于分離平面是基于支持向量構(gòu)造的，所以SVM是解決高維問題的一種很好方案。核函數(shù)的引入，也避免了高維計(jì)算的復(fù)雜度。

假設(shè)給定的樣本訓(xùn)練集為H={(x1,y1),(x2,y2),…,(xm,ym)},yi∈{-1,+1}，其中有兩類樣本，需要找到最大分離超平面將兩類樣本進(jìn)行有效分類，這是分類學(xué)習(xí)最基本的思想。要建立超平面，就要獲得權(quán)重向量w和位移項(xiàng)b，兩者決定了超平面的劃分，影響樣本的分類準(zhǔn)確率。找到有最大間隔的超平面，也就是要找到滿足條件的參數(shù)w和b,使得分類間隔γ最大，使兩類樣本最大程度分開，得到更好的分類效果。因此，SVM基本模型可表示為：

(1)

s.t.yi(wTxi+b)≥1-ξi,i=1,2,…,m。

其中：C>0是懲罰參數(shù)，其引入能夠在一定程度上解決SVM對一些樣本分類出錯(cuò)的問題；ξi是松弛變量，用于表征樣本不滿足最大分離超平面的約束程度。

為了求解式(1)，需要將其轉(zhuǎn)化成“對偶問題”，使用拉格朗日乘子法求解。該問題的拉格朗日函數(shù)表示為：

(2)

其中，αi≥0，μi≥0是拉格朗日乘子。在求解過程中，數(shù)據(jù)往往具有較強(qiáng)的非線性，為了更好地解決這一問題，需要通過非線性映射φ投影到高維空間。為了避免高維運(yùn)算，引入核函數(shù)：

(3)

通過核函數(shù)能夠避免在高維特征空間中內(nèi)積的計(jì)算，對偶問題可表示為：

(4)

求解后的支持向量展式為：

(5)

因此，SVM在對數(shù)據(jù)進(jìn)行分類時(shí)，對訓(xùn)練數(shù)據(jù)進(jìn)行模型訓(xùn)練，求解式(5)的判別函數(shù)。當(dāng)測試數(shù)據(jù)輸入模型時(shí)，判別函數(shù)能夠?qū)ζ溥M(jìn)行有效分類。無論數(shù)據(jù)是線性還是非線性，SVM都可以進(jìn)行有效轉(zhuǎn)化，通過模型訓(xùn)練學(xué)習(xí)數(shù)據(jù)變化特征，進(jìn)而高效準(zhǔn)確地對數(shù)據(jù)進(jìn)行分類。

1.2 基于核主成分空間的支持向量機(jī)方法

(6)

對協(xié)方差矩陣S進(jìn)行特征向量分析，即

(7)

式中，λi為協(xié)方差矩陣的特征值，Pi是特征值對應(yīng)的特征向量，即

(8)

其中a=(a1,a2,…,am)，ai為核函數(shù)矩陣的第i個(gè)特征向量。根據(jù)累計(jì)方差貢獻(xiàn)率(cumulative percent variance，CPV)[19]求取核主成分個(gè)數(shù)z，如下式：

(9)

(10)

Ka=mλia。

(11)

φ(x)在特征向量Pi上的投影為：

(12)

故在核主成分空間中T2統(tǒng)計(jì)量定義為：

T2=yTΛ-1y。

(13)

(14)

在故障操作條件下獲取故障數(shù)據(jù)，同樣在核主成分空間中建立故障數(shù)據(jù)的增廣矩陣：

(15)

將正常數(shù)據(jù)與故障數(shù)據(jù)的增廣矩陣作為SVM模型的訓(xùn)練數(shù)據(jù)，定義為：

(16)

將包含正常和故障數(shù)據(jù)的增廣矩陣輸入SVM模型，進(jìn)行模型訓(xùn)練，獲得判別函數(shù)。訓(xùn)練后的SVM能學(xué)習(xí)到正常和故障數(shù)據(jù)的特性，對數(shù)據(jù)進(jìn)行正確分類。將測試數(shù)據(jù)輸入模型，通過超平面劃分，正常數(shù)據(jù)劃分成一類，將其定義為標(biāo)簽0；故障數(shù)據(jù)劃分成另一類，將其定義為標(biāo)簽1。

1.3 基于核主成分空間支持向量機(jī)的過程監(jiān)視

基于核主成分空間支持向量機(jī)的過程監(jiān)視主要包括離線模型建立和在線故障檢測兩個(gè)部分。

離線模型建立步驟為：

1) 收集正常操作條件下的歷史數(shù)據(jù)集X1和故障操作條件下的歷史數(shù)據(jù)集X2；

2) 運(yùn)用核主成分分析方法在核主成分空間分別建立正常和故障數(shù)據(jù)的T2統(tǒng)計(jì)量；

5) 對SVM模型進(jìn)行訓(xùn)練，獲得判別函數(shù)。

在線故障檢測步驟為：

1) 對于測試數(shù)據(jù)集xnew，利用離線建模數(shù)據(jù)的均值和方差對其進(jìn)行標(biāo)準(zhǔn)化處理；

4) 通過SVM模型對測試數(shù)據(jù)進(jìn)行分類，實(shí)現(xiàn)對故障的檢測。分類標(biāo)簽為0的數(shù)據(jù)為正常樣本，而標(biāo)簽為1的數(shù)據(jù)為故障樣本。

2 仿真結(jié)果與分析

2.1 非線性數(shù)值例子

構(gòu)造由兩個(gè)變量組成的非線性數(shù)值例子，生成模型如下：

(17)

式中，e1和e2分別是服從均值為0、標(biāo)準(zhǔn)差為0.01的正態(tài)分布的白噪聲，t服從[-2，2]的均勻分布。

由該模型產(chǎn)生200組正常數(shù)據(jù)，并分別對變量1和變量2施加0.01×(i-100)和0.5的階躍故障，產(chǎn)生300組故障數(shù)據(jù)。由于SVM模型訓(xùn)練需要加入正常和故障數(shù)據(jù)，因此，本例中由200組正常數(shù)據(jù)和200組故障數(shù)據(jù)共同組成訓(xùn)練數(shù)據(jù)集，其余100組故障數(shù)據(jù)用于模型測試。PCA、KPCA和KPCA-LSSVM方法的主成分個(gè)數(shù)由85%累計(jì)方差貢獻(xiàn)率確定，SVM方法中的懲罰參數(shù)C和核窗寬參數(shù)g通過尋優(yōu)測試分別設(shè)置為0.8和0.25。圖1是樣本散點(diǎn)圖。圖2是5種方法的故障檢測對比圖，從圖中可以看出PCA和KPCA兩種方法的故障檢測效果并不理想，在控制限上方的故障樣本數(shù)較少，說明這兩種方法對故障樣本的檢測效果較差。傳統(tǒng)的SVM方法在訓(xùn)練時(shí)加入了故障數(shù)據(jù)，模型訓(xùn)練時(shí)能夠有效學(xué)習(xí)到故障的變化特征，因此檢測效果優(yōu)于PCA和KPCA。但是樣本間的時(shí)刻相關(guān)性會(huì)影響傳統(tǒng)SVM的檢測效果，因此傳統(tǒng)SVM方法不能得到滿意的分類效果。傳統(tǒng)SVM方法把標(biāo)簽為1的故障樣本識(shí)別為標(biāo)簽0的正常樣本數(shù)量多于本方法，即漏報(bào)樣本較多，因此傳統(tǒng)SVM方法對故障樣本的識(shí)別能力不如本方法。在漏報(bào)的故障樣本數(shù)量方面，KPCA-LSSVM好于傳統(tǒng)SVM方法，但比本研究方法差。本研究方法通過引入時(shí)滯和時(shí)差輸入特性，在一定程度上增加矩陣的復(fù)雜度，去除樣本間的自相關(guān)性，使數(shù)據(jù)特征更加顯著，能夠識(shí)別出更多的故障樣本，檢測效果優(yōu)于傳統(tǒng)的SVM和KPCA-LSSVM方法。

圖1 樣本散點(diǎn)圖Fig. 1 Scatter plot of samples

圖2 5種方法的檢測結(jié)果Fig. 2 Detection results of five methods

表1是5種方法故障檢測率的對比。從表1中可知，PCA的T2、SPE的檢測率分別為9%和13%，KPCA的T2和SPE的檢測率分別為14%和12%，傳統(tǒng)SVM的檢測率為68%，KPCA-LSSVM的檢測率為73%，而本研究方法的故障檢測率為87.88%。原因在于：PCA缺乏對非線性數(shù)據(jù)的處理能力，難以得到滿意的檢測效果；KPCA尋找方差差異最大化的方向投影，其殘差空間和主成分空間在一定程度上會(huì)丟失部分?jǐn)?shù)據(jù)特征，故不能獲得較好的檢測效果；而SVM具有一定的學(xué)習(xí)能力，對故障樣本的分類準(zhǔn)確性高于PCA和KPCA；KPCA-LSSVM結(jié)合兩者的優(yōu)點(diǎn)，檢測效果略高于傳統(tǒng)SVM方法；本研究方法通過引入時(shí)滯和時(shí)差輸入特性，在核主成分空間上建立增廣矩陣，增強(qiáng)輸入矩陣的復(fù)雜度，去除樣本間的自相關(guān)性，故障檢測效果優(yōu)于傳統(tǒng)SVM和KPCA-LSSVM方法。綜上，相較于其他4種方法，本研究方法的故障檢測率最高。

表1 5種方法的故障檢測率對比Tab. 1 Comparison of fault detection rates of five methods

2.2 田納西-伊斯曼(Tennessee Esatman，TE)過程仿真

TE過程仿真平臺(tái)已成為國際上通用的工業(yè)過程模型仿真平臺(tái)[21-23]，在故障檢測和診斷領(lǐng)域得到廣泛使用。TE過程變量眾多，其中2個(gè)氣液放熱反應(yīng)會(huì)產(chǎn)生2種主產(chǎn)品，與5個(gè)主要操作單元等共同組成TE過程。利用TE過程模擬21種預(yù)編程故障，豐富多樣的故障類型可真實(shí)反映實(shí)際工業(yè)過程中的眾多問題。

在TE過程仿真中，以故障類型3、8、9、10、12、13、15、16和19為例，分別從每個(gè)故障類型中選取500組故障數(shù)據(jù)和500組正常數(shù)據(jù)共同組成訓(xùn)練數(shù)據(jù)集用于SVM模型的訓(xùn)練，另外選取160組故障數(shù)據(jù)作為測試數(shù)據(jù)。在本例中，PCA、KPCA、SVM、KPCA-LSSVM和本研究方法的參數(shù)設(shè)置與非線性數(shù)值例子保持一致。圖3是4種方法對故障9的檢測結(jié)果，其中傳統(tǒng)SVM、KPCA-LSSVM和本研究方法都將正常樣本的標(biāo)簽定義為0，故障樣本的標(biāo)簽定義為1。

由圖3可知，KPCA-LSSVM的檢測效果優(yōu)于PCA、KPCA和傳統(tǒng)SVM方法，能夠檢測出更多的故障樣本，這得益于KPCA方法對非線性特征的提取，但樣本間時(shí)刻相關(guān)性仍影響故障檢測的效果，而本研究方法能夠有效地克服這一缺點(diǎn)，檢測效果優(yōu)于其他幾種方法。

圖3 5種方法對故障9的檢測效果Fig. 3 Detection results of five methods for Fault 9

表2是5種方法對9種不同類型故障的檢測率對比。由表2可知，對于9種不同類型的故障，本研究方法的故障檢測率比PCA、KPCA、傳統(tǒng)SVM和KPCA-LSSVM方法均有不同程度的提高，驗(yàn)證了該方法的有效性。

表2 5種方法的故障檢測率對比Tab. 2 Comparison of fault detection rates of five methods

3 結(jié)論

本研究提出一種基于核主成分空間支持向量機(jī)的過程監(jiān)視方法。運(yùn)用KPCA方法在低維核主成分空間建立T2統(tǒng)計(jì)量，并引入時(shí)滯輸入特性和時(shí)差輸入特性作為SVM模型的輸入，通過增強(qiáng)模型輸入矩陣的復(fù)雜度能夠有效地降低樣本間的自相關(guān)性，提高了SVM的故障檢測性能。將本研究方法應(yīng)用于非線性數(shù)值實(shí)例和TE過程仿真，仿真結(jié)果表明，與PCA、KPCA、傳統(tǒng)SVM以及KPCA-LSSVM方法相比，該方法能夠有效地提高故障檢測率。