基于參數(shù)優(yōu)化的支撐矢量機(jī)及其在故障診斷中的應(yīng)用

陳虎

(重慶市軌道交通(集團(tuán))有限公司，重慶400042)

基于參數(shù)優(yōu)化的支撐矢量機(jī)及其在故障診斷中的應(yīng)用

陳虎

(重慶市軌道交通(集團(tuán))有限公司，重慶400042)

為了有效的診斷出設(shè)備的故障，給出了一種基于參數(shù)優(yōu)化的支撐矢量機(jī)算法。該算法首先引入免疫克隆選擇機(jī)制，以兩個(gè)十進(jìn)制數(shù)表示一個(gè)抗體來構(gòu)建抗體群，以漏報(bào)率為基礎(chǔ)構(gòu)造親和度函數(shù)，實(shí)現(xiàn)支撐矢量機(jī)參數(shù)的優(yōu)化。然后使用優(yōu)化后的參數(shù)構(gòu)造支撐矢量分類器對設(shè)備數(shù)據(jù)進(jìn)行分類檢測。通過在汽輪發(fā)電機(jī)組的數(shù)據(jù)集上進(jìn)行仿真驗(yàn)證，實(shí)驗(yàn)結(jié)果表明，該算法相對傳統(tǒng)的支撐矢量機(jī)算法不會顯著增加訓(xùn)練時(shí)間，并且能夠有效提高檢測率和降低誤檢率。

機(jī)電工程；故障診斷；支撐矢量機(jī)；參數(shù)優(yōu)化；免疫克隆算法

故障診斷是工程技術(shù)領(lǐng)域一個(gè)重要的問題。如何及時(shí)有效地檢測出故障對保證設(shè)備正常運(yùn)行和業(yè)務(wù)的連續(xù)開展有關(guān)鍵作用。近年來故障診斷方法研究也成為學(xué)術(shù)及工程技術(shù)等領(lǐng)域的熱點(diǎn)，相關(guān)學(xué)者提出了許多可用的方法，如神經(jīng)網(wǎng)絡(luò)[1]、支撐矢量機(jī)[2]、獨(dú)立分量分析[3]及各種組合算法[4-7]的使用，都取得了一定的效果。

作為一個(gè)好的分類器，支撐矢量機(jī)相對于其它的分類算法具有更高的推廣能力。然而，支撐矢量機(jī)在實(shí)際的應(yīng)用中有一個(gè)顯著的問題是如何選擇合適的參數(shù)來構(gòu)造一個(gè)有效的分類器并使其具有最好的性能。一般而言，支撐矢量機(jī)中的參數(shù)選擇主要借助于專家的實(shí)踐經(jīng)驗(yàn)，但這種參數(shù)的確定方法在實(shí)踐中往往不能夠獲得最優(yōu)的分類器，從而影響了支撐矢量機(jī)的分類效果。

基于上述原因，筆者引入了免疫克隆選擇算法，并將其用于優(yōu)化支撐矢量機(jī)的參數(shù)。為驗(yàn)證優(yōu)化后的分類效果，筆者將優(yōu)化后的分類器用于對汽輪發(fā)電機(jī)組的故障進(jìn)行診斷分類，提出了一種基于參數(shù)優(yōu)化的支撐矢量機(jī)故障診斷方法。

筆者的內(nèi)容組織如下：首先對文中用到的基本技術(shù)，既支撐矢量機(jī)和免疫克隆選擇算法[8]進(jìn)行介紹；并提出了一種基于免疫克隆選擇優(yōu)化的支撐矢量分類器；最后描述了其仿真結(jié)果并對仿真結(jié)果進(jìn)行了分析。

1技術(shù)背景

1.1支撐矢量機(jī)(support vector machines，SVM)

支持矢量機(jī)是當(dāng)前比較流行的一種小樣本分類算法，它能夠利用少量的樣本進(jìn)行訓(xùn)練學(xué)習(xí)，從而得到比較理想的分類效果。其基礎(chǔ)理論是利用了統(tǒng)計(jì)學(xué)中的VC維理論[9]，并引入了結(jié)構(gòu)風(fēng)險(xiǎn)最小化原理。利用少量樣本，對SVM進(jìn)行訓(xùn)練，得到一個(gè)相對最佳的超平面，并通過該超平面可實(shí)現(xiàn)數(shù)據(jù)的分類。

SVM主要用來解決二類可分的問題，基本目標(biāo)就是找到一個(gè)最佳的超平面，它可用于線性可分與線性不可分兩種場景。在線性可分的情況下，可將尋找最佳超平的問題轉(zhuǎn)化為求解一個(gè)最優(yōu)(凸規(guī)劃)的問題。而在非線性可分的問題中，則需要使用非線性映射算法將低維線性不可分的問題轉(zhuǎn)化為高維特征空間中線性可分的問題，因此它具有較好的推廣能力。同時(shí)它基于Vapnik結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則，具有較好的泛化能力?；赟VM的非線性問題的分類算法如下。

假定：x為k維向量，并給定m個(gè)樣本集分別為(x1，y1)，…，(xm，ym)，x∈Rk，y∈{-1，1}。則有如下超平面：w·x+b=0。

若上述超平面可以將樣本分隔為兩類，則構(gòu)造最佳超平面的問題，就可以轉(zhuǎn)化為尋找向量w0和常數(shù)b0的問題。由此可給出如下的構(gòu)造，即使向量w0具有最小的范數(shù)，并且滿足約束條件：

yi[(xi·w0)+b0]≥1

(1)

引入松弛變量ζi≥0，問題轉(zhuǎn)化為最小化下列二次優(yōu)化問題，約束條件如式(1)：

(2)

式中：C為正常數(shù)，代表對錯(cuò)分的懲罰因子。

在對偶空間求解這個(gè)二次優(yōu)化問題，由此問題轉(zhuǎn)化為

(3)

C≥ai≥0，i=1，…，m

得到解

(4)

最優(yōu)解w0和b0必須滿足Kuhn-Tucker條件，由此得

yi(xi·w0+b0)=1

(5)

(6)

根據(jù)Mercer定理，任何滿足半正定的函數(shù)都可以作為核函數(shù)，而對于滿足條件的核函數(shù)，都會對應(yīng)一個(gè)特征空間中的內(nèi)積。因此在最佳超平面上選擇合適的內(nèi)積函數(shù)，就可實(shí)現(xiàn)線性不可分問題到線性可分問題的映射。由此非線性支持矢量機(jī)的優(yōu)化問題如式(6)。

非線性支持矢量機(jī)的判決函數(shù)如下：

(7)

1.2免疫克隆選擇算法

受生物免疫系統(tǒng)克隆選擇機(jī)理的啟發(fā)，研究者設(shè)計(jì)了一種新的智能優(yōu)化算法，既免疫克隆選擇算法(immune clone selection algorithm，ICSA)。該算法可很好的結(jié)合先驗(yàn)知識，并引入了生物免疫系統(tǒng)中的自適應(yīng)能力，所以在信息處理方面具有很強(qiáng)的魯棒性，在進(jìn)行優(yōu)化搜索時(shí)可收斂到全局最優(yōu)。

作為一種新提出的全局最優(yōu)搜索算法，該算法在實(shí)現(xiàn)上能夠兼顧全部和局部搜索。在搜索過程中能夠構(gòu)造記憶單元，記憶最優(yōu)解的群體，從而比單純的遺傳算法具有更好的收斂性。

克隆算法利用記憶單元和將變異算子升級為主要算法，可以在候選解中構(gòu)造一個(gè)變異解的群體，使得搜索范圍更大，從而使得抗體群的多樣性大大增加，由此可以保證算法能夠以概率1收斂到最優(yōu)解。免疫克隆算法的基本步驟如下：

步驟1：初始化抗體群，設(shè)定算法的參數(shù)并計(jì)算初始親和度；

步驟2：根據(jù)親和度和抗體克隆規(guī)模，進(jìn)行克隆操作、免疫基因操作、克隆選擇，生成新的抗體群；

步驟3：計(jì)算新的親和度；

步驟4：若滿足結(jié)束條件，則退出；否則，跳轉(zhuǎn)到步驟2。

2參數(shù)優(yōu)化的支撐矢量機(jī)

在使用支撐矢量機(jī)進(jìn)行分類的過程中，其參數(shù)的選擇對分類和檢測的性能有很大的影響，因此筆者介紹使用免疫克隆選擇算法進(jìn)行支撐矢量機(jī)參數(shù)優(yōu)化的基本思路。

2.1支撐矢量機(jī)中的主要參數(shù)

在式(2)中：C為一個(gè)正常數(shù)，它控制對錯(cuò)分樣本懲罰的程度。若C太小，則懲罰力度不夠，會導(dǎo)致算法對數(shù)據(jù)的擬合不夠；若C太大，則會導(dǎo)致算法的過度擬合。ξ為算法引入的一個(gè)正的松弛因子，代表允許錯(cuò)分樣本的存在，它會影響到分類器所產(chǎn)生的支撐矢量的個(gè)數(shù)，從而進(jìn)一步影響到分類器的最大總誤差。如果ξ太大，則獲得支撐矢量的個(gè)數(shù)就會減少，使得分類的誤差增加，反之依然。

而核函數(shù)中的參數(shù)則反應(yīng)了訓(xùn)練數(shù)據(jù)的特征，對整體的分類性能有很大影響，因此也需慎重選擇。在支撐矢量機(jī)中經(jīng)常用到的核函數(shù)是線性核函數(shù)、多項(xiàng)式核函數(shù)和RBF核函數(shù)。筆者選擇RBF核函數(shù)作為支撐矢量機(jī)的核，原因是雖然線性核函數(shù)，參數(shù)比較少，相對速度快，但對非線性問題無能為力。RBF核函數(shù)與多項(xiàng)式核函數(shù)相比，RBF需要確定的參數(shù)要少，復(fù)雜度相應(yīng)較低。此外，需要考慮的是：多項(xiàng)式核函數(shù)存在當(dāng)階數(shù)較高時(shí)，核矩陣元素值過大或過小的問題，而RBF則不會出現(xiàn)此類問題。

RBF核函數(shù)的形式如式(8)：

(8)

式中：σ為函數(shù)的寬度參數(shù)，用于控制函數(shù)的徑向范圍。

2.2編碼方案

進(jìn)行優(yōu)化的第一步就是對需要優(yōu)化的參數(shù)確定合適的編碼方案，能夠以指定長度的數(shù)字串來標(biāo)示這些參數(shù)在問題空間中的所有取值情況。筆者考慮到所要解決問題的實(shí)際情況，以十進(jìn)制的編碼方式來構(gòu)造抗體種群，基因使用了十進(jìn)制整數(shù)的方式進(jìn)行編碼，設(shè)計(jì)使用兩個(gè)十進(jìn)制數(shù)表示一個(gè)抗體，參數(shù)取值組合的索引則由碼位的值來表示。

2.3親和度函數(shù)

優(yōu)化中抗體選擇與否與該抗體值構(gòu)造的支撐矢量機(jī)的分類效果有關(guān)。為了盡量降低計(jì)算的復(fù)雜度，筆者設(shè)計(jì)的親和度函數(shù)如式(9)：

f=1/(1+F)

(9)

式中：F為漏報(bào)率。

3仿真結(jié)果

3.1實(shí)驗(yàn)中使用的數(shù)據(jù)集

為評價(jià)文中算法的性能，筆者選用汽輪發(fā)電機(jī)組的故障數(shù)據(jù)集作為實(shí)驗(yàn)數(shù)據(jù)，以機(jī)組常見的3種故障(油膜振蕩F1，不平衡F2，不對中F3)為分析對象。表1列出了用于訓(xùn)練的代表性樣本，數(shù)據(jù)中有振幅數(shù)據(jù)6個(gè)，f為發(fā)電機(jī)轉(zhuǎn)子的頻率。

表1汽輪發(fā)電機(jī)組數(shù)據(jù)集Table 1Turbo generator data set

3.2獲得優(yōu)化后的參數(shù)

選擇好實(shí)驗(yàn)用的數(shù)據(jù)集后，利用免疫克隆選擇算法根據(jù)分類器在分類過程的漏報(bào)率進(jìn)行優(yōu)化獲得優(yōu)化的參數(shù)值。優(yōu)化過程中當(dāng)進(jìn)行800次迭代時(shí)，親和度的變化趨于穩(wěn)定，最后得到優(yōu)化后的結(jié)果為：C=6.4，ξ=3.9，σ=0.026；為了避免優(yōu)化過程中的偶然性，提高參數(shù)的可靠性，所給出的優(yōu)化參數(shù)是30次試驗(yàn)的均值。

3.3實(shí)驗(yàn)結(jié)果及分析

在此使用兩個(gè)指標(biāo)對算法的性能進(jìn)行評價(jià)，一個(gè)是能夠正確檢測的比率(既檢測率)，記作TDR(true detection rate)；另一個(gè)是錯(cuò)誤檢測的比率(既誤檢率)，記作FDR(falsedetection rate)。在實(shí)驗(yàn)中還分別測試了標(biāo)準(zhǔn)SVM算法的診斷結(jié)果，實(shí)驗(yàn)結(jié)果如表2。

由表2看出：文中算法在檢測率方面明顯優(yōu)于傳統(tǒng)的SVM算法。在誤檢率方面也比傳統(tǒng)的SVM算法低。

表2文中算法和標(biāo)準(zhǔn)SVM的性能比較Table 2Performance comparison of the proposed algorithm and the standard SVM

此外，筆者對引入優(yōu)化算法后的算法執(zhí)行效率情況進(jìn)行了分析。圖1表示在不同數(shù)據(jù)規(guī)模的情況下，使用文中算法和標(biāo)準(zhǔn)的支撐矢量算法進(jìn)行分類器訓(xùn)練學(xué)習(xí)所消耗時(shí)間的比較。

圖1文中算法和標(biāo)準(zhǔn)SVM訓(xùn)練時(shí)間比較Fig.1Comparison of the training time of the proposed algorithm and the standard SVM

由圖1看出：由于筆者在參數(shù)優(yōu)化時(shí)所選擇的交叉驗(yàn)證的數(shù)據(jù)量比較小，使得文中算法和傳統(tǒng)支撐矢量機(jī)的訓(xùn)練速度基本相當(dāng)。從而也體現(xiàn)了文中算法在提高故障分類診斷檢測正確率的情況下，并沒有產(chǎn)生時(shí)間顯著增加的問題，而在算法的診斷檢測階段，由于已經(jīng)獲得了優(yōu)化的參數(shù)，因此在診斷階段無需再附加優(yōu)化的過程。

4結(jié)語

筆者研究了基于參數(shù)優(yōu)化的支撐矢量機(jī)，引入免疫克隆選擇算法采用交叉驗(yàn)證的方法，優(yōu)化獲得了支撐矢量機(jī)的參數(shù)，并在汽輪發(fā)電機(jī)組故障數(shù)據(jù)集進(jìn)行了驗(yàn)證，從實(shí)驗(yàn)結(jié)果可以看出，文中方法在保證訓(xùn)練速度的基礎(chǔ)上提升了識別正確率。

[1] SIMANI S，F(xiàn)ANTUZZI C.Fault diagnosis in power plant using neural networks[J].InformationSciencesanInternationalJournal，2000，127(3/4)：125-136.

[2] MURALIDHARAN V，SUGUMARAN V，INDIRA V.Fault diagnosis of mono-block centrifugal pump using SVM[J].EngineeringScienceandTechnologyanInternationalJournal，2014，17(3)：152-157.

[3] 陸百川，張凱，馬慶祿，等.基于數(shù)據(jù)驅(qū)動(dòng)的數(shù)據(jù)故障診斷模型[J].重慶交通大學(xué)學(xué)報(bào)(自然科學(xué)版)，2014，33(5)：111-115.

LU Baichuan，ZHANG Kai，MA Qinglu，et al.Data fault diagnosis model based on data-driven[J].JournalofChongqingJiaotongUniversity(NaturalScience)，2014，33(5)：111-115.

[4] JAYASWAL P，VERMA S N，WADHWANI A K.Application of ANN，fuzzy logic and wavelet transform in machine fault diagnosis using vibration signal analysis[J].JournalofQualityinMaintenanceEngineering，2010，16(2)： 190-213.

[5] 高振興，郭創(chuàng)新，俞斌，等.基于多源信息融合的電網(wǎng)故障診斷方法研究[J].電力系統(tǒng)保護(hù)與控制，2011，39(6)：17-23.

GAO Zhenxing，GUO Chuangxin，YU Bin，et al.Study of a fault diagnosis approach for power grid with information fusion based on multi-data resources[J].PowerSystemProtectionandControl，2011，39(6)：17-23.

[6] 陸百川，郭桂林，肖汶謙，等.基于多尺度主元分析法的動(dòng)態(tài)交通數(shù)據(jù)故障診斷與修復(fù)[J].重慶交通大學(xué)學(xué)報(bào)(自然科學(xué)版)，2016，35(1)：134-137.

LU Baichuan，GUO Guilin，XIAO Wenqian，et al.Fault diagnosing and modifying of dynamic traffic data based on MSPCA[J].JournalofChongqingJiaotongUniversity(NaturalScience)，2016，35(1)：134-137.

[7] 王波，劉樹林，張宏利，等.相關(guān)向量機(jī)及其在機(jī)械故障診斷中的應(yīng)用研究進(jìn)展[J].振動(dòng)與沖擊，2015，34(5)：145-153.

WANG Bo，LIU Shulin，ZHANG Hongli，et al.Advances about relevance vector machine and its applications in machine fault diagnosis[J].JournalofVibrationandShock，2015，34(5)：145-153.

[8] DU Haifeng，JIAO Licheng，WANG Sunan.Clonal operator and antibody clone algorithms[C]//InternationalConferenceonMachineLearningandCybernetics2002 Proceedings.IEEE，2002： 506-510.

[9] VAPNIK V N.TheNatureofStatisticalLearningTheory[M].New York： Springer-Verlag，1995.

(責(zé)任編輯：劉韜)

Support Vector Machine Based on Parameter Optimization and Its Application in Fault Diagnosis

CHEN Hu

(Chongqing Rail Transit (Group)Co.Ltd.，Chongqing400042，P.R.China)

In order to effectively diagnose the fault of the equipment，a support vector machine algorithm based on parameter optimization was proposed.Firstly，the immune clonal selection mechanism was introduced.The antibody group was constructed，in which an antibody was expressed in two decimal numbers.Then，the affinity function was established on the basis of the missing report rate.Thus，the parameters of support vector machine were optimized.After that，the support vector classifier with optimized parameters was constructed and used to classify and detect the equipment data.Simulation verification was carried out on the data of turbo generator set.The simulation results indicate that the proposed algorithm does not significantly increase the training time，compared with the traditional support vector machine algorithm.Moreover，it can effectively improve the detection rate and reduce the false detection rate.

electromechanical engineering; fault diagnostics; support vector machines; parameter optimization; immune clone algorithm

TH17

A

1674-0696(2017)10-119-04

2016-03-16；

2016-06-16

國家安全監(jiān)管總局科技攻關(guān)項(xiàng)目(zhishu-031-2013AQ)

陳虎(1982—)，男，山東冠縣人，工程師，主要從事事故診斷與檢測方面的研究。E-mail： chenhu531@163.com。

10.3969/j.issn.1674-0696.2017.10.20