潘 強(qiáng),王懷龍,楊 超
(海軍工程大學(xué)電子工程學(xué)院,湖北武漢 430033)
由于待測數(shù)據(jù)受限,混合電路實(shí)際的故障類型又多樣化,其故障診斷具有特殊性。通過電流測試可以避免混合電路故障診斷時(shí)對模擬和數(shù)字電路的劃分,應(yīng)用較廣。動態(tài)電流測試(IDDT)通過故障狀態(tài)下的瞬態(tài)電流與正常狀態(tài)相比來判斷故障,能直接反映電路狀態(tài)轉(zhuǎn)換時(shí)內(nèi)部信號變化過程,彌補(bǔ)靜態(tài)電流測試(IDDQ)的不足,是混合電路較好的故障特征參數(shù)。
支持向量機(jī)具有結(jié)構(gòu)簡單、學(xué)習(xí)速度快、泛化能力強(qiáng)等優(yōu)點(diǎn),能解決神經(jīng)網(wǎng)絡(luò)應(yīng)用中的速度較慢、局部極小值問題,在少樣本、非線性等情況下具有更強(qiáng)的泛化能力,適合在電路故障診斷等有限樣本信息處理時(shí)應(yīng)用。
支持向量機(jī)是建立在統(tǒng)計(jì)學(xué)習(xí)理論VC維和SRM原則上的學(xué)習(xí)方法,支持向量機(jī)能有效解決二分類問題[1]。
支持向量機(jī)通過事先選擇的非線性映射(核函數(shù)),將輸入空間映射到一個(gè)高維的特征空間,在特征空間中構(gòu)造最優(yōu)分類超平面(Optimal Hyperplane)[2]。
假設(shè)給定的兩類樣本集為(xi,yi),其中i=1,2,…,n,n是樣本總數(shù);xi為輸入向量,diRx∈ ,d表示輸入空間維數(shù);yi代表類別號,yi∈{-1 ,1 }。多維空間的線性判別函數(shù)一般表示為
式中的w表示特征空間中分類超平面的系數(shù)向量,b表示分類面閾值,最優(yōu)分類面滿足:wx+b=0。
支持向量機(jī)的基本思想可用圖1表示。
圖中實(shí)心圓和空心圓分別代表兩類樣本,H為分類超平面,H1、H2分別為過兩類中離分類超平面最近的樣本且平行于分類超平面的超平面,它們之間的距離 稱為分類間隔(margin)[3] [4]。
最優(yōu)分類超平面就是要求分類超平面不但能夠?qū)深悩颖菊_地分開,而且能夠使兩類樣本的分類間隔最大。前者是保證經(jīng)驗(yàn)風(fēng)險(xiǎn)最小,后者則是為了使推廣性的界中的置信范圍最小,進(jìn)而使真實(shí)風(fēng)險(xiǎn)最小。
圖中分類間隔最大同 最小等價(jià),求最優(yōu)分類面問題轉(zhuǎn)換為求(2)的最小值問題。
圖1 最優(yōu)分類面Fig.1 Optimal classified plane
混合電路實(shí)際的故障診斷是典型的多故障模式識別問題。在混合電路多故障識別時(shí),需要重新設(shè)計(jì)支持向量機(jī)的分類算法,使之具備多分類能力。
目前,已有多種算法可以將支持向量機(jī)推廣到多模式識別問題,這些算法統(tǒng)稱為“多類支持向量機(jī)”(Multi-category Support Vector Machines, M-SVM)。常用的算法有三種:1-a-1算法、1-a-r算法、DDAG算法。
采用標(biāo)準(zhǔn)樣本Iris數(shù)據(jù)集(英國著名統(tǒng)計(jì)學(xué)家R.A.Fisher提出)對支持向量機(jī)的常用算法進(jìn)行研究。Iris數(shù)據(jù)集描述三種花卉(Setosa, Versicolour, Virginica),包含了四個(gè)基本屬性,即萼片長度、萼片寬度、花瓣長度、花瓣寬度。其中,三種花卉各有50組數(shù)據(jù),共150組數(shù)據(jù)。將其中75組數(shù)據(jù)用作訓(xùn)練集,另外75組用于測試集。
圖2 二維特征樣本分布圖Fig.2 The scatter map of two dimension characteristic samples
萼片長度、萼片寬度的二維特征樣本可視化如圖2所示。在支持向量機(jī)多類分類中,核函數(shù)采用高斯徑向基,尋優(yōu)出的最佳參數(shù)對(C, )=(10, 0.5)。為了對比BP神經(jīng)網(wǎng)絡(luò)的分類結(jié)果,在仿真過程中采用結(jié)構(gòu)為4-10-3的三層網(wǎng)絡(luò)對Iris數(shù)據(jù)集進(jìn)行分類,訓(xùn)練誤差為0.05。3類樣本SVM分類結(jié)果如圖3。
對比上述三種常見的支持向量機(jī)多類分類算法,尋求應(yīng)用于混合電路故障診斷的最優(yōu)算法。
分類結(jié)果如表1示。
從表1可以得出如下結(jié)論:
(1) 在相同的有限訓(xùn)練樣本和測試樣本情況下,SVM的分類精度均高于BP神經(jīng)網(wǎng)絡(luò)。同時(shí),訓(xùn)練時(shí)間明顯小于BP神經(jīng)網(wǎng)絡(luò),表現(xiàn)出更強(qiáng)的分類能力,適用于混合電路的故障診斷。
(2) DDAG算法所需的訓(xùn)練時(shí)間和測試精度均優(yōu)于1-a-1算法和1-a-r算法,能更加快速而精確地分類識別。
表1 SVM各種算法和BP神經(jīng)網(wǎng)絡(luò)分類結(jié)果對比Tab.1 The result of classification contrasted between BP and SVM algorithm
核函數(shù)及其參數(shù)的尋優(yōu)至關(guān)重要,相關(guān)文獻(xiàn)研究表明【6】【7】,具有平滑特性的高斯徑向基核函數(shù)(RBF)具有很強(qiáng)的學(xué)習(xí)能力,函數(shù)的每一基函數(shù)中心對應(yīng)一個(gè)支持向量。同時(shí),輸出權(quán)值由算法自動確定。本文采用RBF作為SVM的核函數(shù), SVM的性能主要由核函數(shù)參數(shù)σ、懲罰因子C和松弛因子γ進(jìn)行調(diào)整。
確定SVM參數(shù),構(gòu)造最佳分類器是應(yīng)用的關(guān)鍵之一。本文對γ取默認(rèn)值,采用改進(jìn)的網(wǎng)絡(luò)搜索算法確定(C, )以獲取最佳的故障診斷分類器。
參照上節(jié)采用的Iris數(shù)據(jù)集進(jìn)行參數(shù)尋優(yōu)。首先,選用步長為10的(C, )組合,如C=(1,10000), =(0.1,100)得到精度最高的(C, )=(11,1.1),圖4為粗搜索參數(shù)選擇3D結(jié)果圖。其次,在這兩個(gè)值附近的一定范圍內(nèi)進(jìn)行更加細(xì)致的網(wǎng)絡(luò)搜索,如本文選擇C=(1,20), =(0.1,2),步長為0.1。最后,通過圖5的細(xì)搜索參數(shù)選擇3D結(jié)果圖,研究得出了本文尋優(yōu)出的最佳參數(shù)對為(10,0.5)。
為了對比混合電路的故障診斷率,本文選取555構(gòu)成的單穩(wěn)態(tài)觸發(fā)器作為仿真電路,如圖6所示[7]。
電路無故障情況下50次蒙特卡洛分析的動態(tài)電流IDDT曲線圖如7所示。對其 進(jìn)行5層小波分解,圖8是一次分析的小波分解圖。通過小波分解系數(shù)序列求得每種模式下的能量值,表2列出每種模式下的兩個(gè)能量特征值。
首先,測試已經(jīng)學(xué)習(xí)過的全部訓(xùn)練樣本20個(gè)。然后,用沒有學(xué)習(xí)過的測試樣本30個(gè)測試采用不同算法的支持向量機(jī)多故障分類器的推廣能力。由于仿真實(shí)驗(yàn)數(shù)據(jù)比較多,表3、4只給出了采用DDAG算法的部分重要數(shù)據(jù),最終的測試分類結(jié)果見表5。
表4 SVM25二分類器的Lagrange系數(shù)Tab.4 The Lagrange coefficient of SVM25 two class classification
表5 SVM多分類器的分類情況Tab.5 The classified situation of multi-class SVM classification
采用標(biāo)準(zhǔn)樣本Iris數(shù)據(jù)集進(jìn)行研究,通過結(jié)構(gòu)為4-10-3 BP神經(jīng)網(wǎng)絡(luò)仿真,表明在少量樣本情況下SVM的分類精度均高于BP神經(jīng)網(wǎng)絡(luò),同時(shí)訓(xùn)練時(shí)間明顯小于BP神經(jīng)網(wǎng)絡(luò),表現(xiàn)出更強(qiáng)的分類能力,適用于混合電路故障的模式識別。DDAG算法所需的訓(xùn)練時(shí)間和測試精度均優(yōu)于1-a-1算法和1-a-r算法,適合快速精確的模式識別。
針對高斯徑向基核函數(shù),運(yùn)用改進(jìn)的網(wǎng)絡(luò)搜索方法進(jìn)行了粗搜索和細(xì)搜索,得出的3D結(jié)果圖可以確定出SVM的最佳參數(shù)對。
基于SVM融合方法進(jìn)行的混合電路故障診斷仿真結(jié)果表明,SVM適合少量樣本情況下的混合電路故障診斷。
[1] Liang F.An Effective Bayesian Neural Network Classifier with a Comparison Study to Support Vector Machine [J].Neural Computation,2003,15(8):1959-1989.
[2] Chih-Chung Chang,Chih-Jen Lin.LIBSVM:a library of support vector machines[M].2001.
[3] YAN Wei-wu,SHAO Hui-be.Application of support vector machine nonlinear classifier to fault diagnosis[C]. Proceedings of the 4th World Congress on Intelligent Control and Automation.Shanghai,China:IEEE Press,2002,4:2697-2700.
[4] 崔長春,劉文林,鄭俊哲.支持向量機(jī)理論與應(yīng)用[J].沈陽工程學(xué)院學(xué)報(bào),2007,3(2):170-172.
[5] HSU Chih Wei,LIN Chih Jen.A comparison of methods for multi-class support vector machines [J].IEEE Transactions on Neural Networks,2002,13(2):415-425.
[6] 榮海娜,張葛祥,金緯東.系統(tǒng)辨識中支持向量機(jī)核函數(shù)及其參數(shù)的研究[J].系統(tǒng)仿真學(xué)報(bào),2006,11:3204-3209.
[7] Wang Huai-long,Pan Qiang,Liu Hong.The Application of Improved SVM in Mixed Circuit[C].Proceedings of 2012 International Conference on Industrial Design and Mechanical Power.Huangshan,2012:493-496.