基于差分進(jìn)化支持向量機(jī)的作戰(zhàn)效能評估方法

楊健為，徐　堅，吳小役，魯玉祥，魏繼卿

(西北機(jī)電工程研究所，陜西 咸陽　712099)

?

基于差分進(jìn)化支持向量機(jī)的作戰(zhàn)效能評估方法

楊健為，徐堅，吳小役，魯玉祥，魏繼卿

(西北機(jī)電工程研究所，陜西 咸陽712099)

武器系統(tǒng)作戰(zhàn)效能的評估具有重要意義。針對作戰(zhàn)效能評估過程中影響因素復(fù)雜、小樣本、非線性等問題，引入基于最小二乘法的支持向量機(jī)回歸算法，用于作戰(zhàn)效能的學(xué)習(xí)與預(yù)測。為了提高預(yù)測精度，引入差分進(jìn)化算法進(jìn)行支持向量機(jī)的參數(shù)優(yōu)化選取。以地地導(dǎo)彈武器系統(tǒng)效能為例，分別采用BP神經(jīng)網(wǎng)絡(luò)算法、經(jīng)典支持向量機(jī)算法與本文算法進(jìn)行仿真計算，結(jié)果表明差分進(jìn)化支持向量機(jī)算法可很好地實現(xiàn)武器系統(tǒng)作戰(zhàn)效能評估，具有較好的計算精度。

作戰(zhàn)效能；支持向量機(jī)；差分進(jìn)化算法：BP神經(jīng)網(wǎng)絡(luò)

武器系統(tǒng)作戰(zhàn)效能評估具有重要意義。在武器系統(tǒng)的設(shè)計、研制、試驗、使用以及維護(hù)等過程中，效能評估都能起到指導(dǎo)性的作用[1]。

對武器系統(tǒng)進(jìn)行效能評估的方法很多，傳統(tǒng)方法有：專家調(diào)查法、試驗統(tǒng)計法、層次分析法、解析法、指數(shù)法和SEA法等。這些方法得到了廣泛應(yīng)用，但存在一些問題，如受到人為因素的影響較大，武器系統(tǒng)的非線性被過分簡化，評估指標(biāo)不夠體系化等，從而導(dǎo)致效能評估的誤差增大[2]。

近年來，隨著機(jī)器學(xué)習(xí)的研究不斷深入，因其客觀性，其在效能評估上的應(yīng)用得到不斷重視。而效能評估過程中，由于效能評估指標(biāo)、影響因素尚未體系化、標(biāo)準(zhǔn)化，缺少效能評估的歷史數(shù)據(jù)積累，對機(jī)器學(xué)習(xí)的開展造成不小難題。筆者引入差分進(jìn)化支持向量機(jī)算法對武器系統(tǒng)的作戰(zhàn)效能進(jìn)行學(xué)習(xí)與預(yù)測，以地地導(dǎo)彈武器系統(tǒng)效能為例，在小樣本的情況下，該方法可很好地完成歷史數(shù)據(jù)的非線性學(xué)習(xí)，并比BP神經(jīng)網(wǎng)絡(luò)算法、傳統(tǒng)支持向量機(jī)算法取得了更高精度的評估結(jié)果，從而有效地減小人為因素對效能評估的影響。

1　支持向量機(jī)原理

支持向量機(jī)(Support Vector Machine，SVM)是近年來機(jī)器學(xué)習(xí)、模式識別以及神經(jīng)網(wǎng)絡(luò)界最有影響力的成果之一[3]。它采用結(jié)構(gòu)風(fēng)險最小化原則代替?zhèn)鹘y(tǒng)的經(jīng)驗風(fēng)險最小化原則，對有限樣本進(jìn)行學(xué)習(xí)，得到比傳統(tǒng)統(tǒng)計技術(shù)和方法更好的結(jié)果。

筆者采用基于最小二乘法的支持向量機(jī)(Least Square Support Vector Machine，LS-SVM)，該方法采用最小二乘線性系統(tǒng)作為損失函數(shù)，替代傳統(tǒng)支持向量機(jī)所采用的二次規(guī)劃方法，可以較為客觀地提高學(xué)習(xí)速度，并且在小樣本情況下具備有效建模的能力和較強(qiáng)的泛化能力。

將已有的樣本稱為訓(xùn)練樣本，可以設(shè)為X={(xi,yi)|i=1,2,…，n}，xi∈Rn，yi∈R，x、y之間存在函數(shù)關(guān)系，表現(xiàn)為

F={f|f∶Rn→R}

(1)

對于非線性系統(tǒng)，支持向量機(jī)通過非線性函數(shù)將輸入空間映射到高維空間，在高維空間中得到變換后的線性規(guī)律。

f(x)=w·Φ(x)+b

(2)

式中：Φ(x)∶Rn→Rnk為輸入空間映射到高維空間的非線性函數(shù)，或稱為核空間映射函數(shù)；w∈Rnk為權(quán)重向量；b為偏差量。

對給定的訓(xùn)練樣本，根據(jù)結(jié)構(gòu)風(fēng)險最小化原則，得到基于最小二乘法的支持向量機(jī)的優(yōu)化問題：

(3)

s.t.yk=wT·Φ(xk)+b+ek,k=1,2，…，N

(4)

式中：N為訓(xùn)練樣本容量；e為學(xué)習(xí)結(jié)果與實際結(jié)果的誤差；γ為正則化參數(shù)。

為求解以上優(yōu)化問題，構(gòu)造拉格朗日函數(shù)，將目標(biāo)函數(shù)和約束函數(shù)整合為

b+ek-yk}

(5)

式中，α為拉格朗日乘子。

根據(jù)KKT最優(yōu)條件，將上式函數(shù)L對w、b、e、α求偏導(dǎo)數(shù)，得到：

(6)

對于i=1,2,…,N消去ei和w后，可得到如下線性方程組：

(7)

根據(jù)Mercer條件，存在核函數(shù)K(xi，xj)滿足：K(xi,xj)=Φ(xi)·Φ(xj)，常用的核函數(shù)有多項式核函數(shù)、徑向基函數(shù)(RBF函數(shù))、多層感知器核函數(shù)(Sigmoid函數(shù))。徑向基函數(shù)由于可以將輸入空間映射到無限維空間，是最常用的核函數(shù)之一，筆者采用徑向基函數(shù)。

K(xi,xj)=exp{-(‖xi-xj‖2)/2σ2}

(8)

式中,σ為徑向基函數(shù)參數(shù)。

通過對上面方程組的求解，最后得到LS-SVM的估計函數(shù)為

(9)

LS-SVM需要設(shè)置的參數(shù)為：正則化參數(shù)γ，徑向基函數(shù)參數(shù)σ。參數(shù)設(shè)置對支持向量機(jī)的計算精度有著很大影響，但對于參數(shù)的設(shè)置尚缺乏比較成熟的理論證明和實踐指導(dǎo)[4]。

2　差分進(jìn)化算法

2.1差分進(jìn)化算法原理

差分進(jìn)化(Differential Evolution，DE)算法是模擬自然界生物種群以“優(yōu)勝劣汰、適者生存”為原則的進(jìn)化發(fā)展規(guī)律，而形成的一種隨機(jī)啟發(fā)式搜索算法。該方法采用全局搜索策略，采用實數(shù)編碼、基于差分的簡單變異操作，降低了遺傳操作的復(fù)雜性，同時具備動態(tài)跟蹤當(dāng)前搜索情況的能力，可以不斷調(diào)整搜索策略；具有待定參數(shù)少、不易陷入局部最優(yōu)、收斂速度快等優(yōu)點(diǎn)[5]。差分進(jìn)化算法由變異、交叉和選擇3個基本操作組成。

2.1.1變異操作

從群體中隨機(jī)選擇3個不同的個體xp1、xp2和xp3，變異得到的新的個體為hi，對當(dāng)前群體通過下面變異操作得到下一進(jìn)化代的個體。

hij(t+1)=xp1j(t)+F·(xp2j(t)-xp3j(t))

(10)

式中：j為對應(yīng)個體的染色體序號；t為進(jìn)化代數(shù)；xp2(t)-xp3(t)為差異化變量；F為變異因子。

2.1.2交叉操作

為了增加群體的多樣性，在變異操作的基礎(chǔ)上進(jìn)行交叉操作，操作如下：

(11)

式中：r為[0,1]之間的隨機(jī)數(shù)；CR為交叉概率，CR∈[0,1]。

2.1.3選擇操作

(12)

式中,f(x)為適應(yīng)度函數(shù)。

進(jìn)行以上3個基本步驟前，需要先生成一個初始群體，實施措施為

(13)

2.2基于差分算法的LS-SVM參數(shù)優(yōu)化

支持向量機(jī)的參數(shù)選擇問題可以看作一種函數(shù)尋找最優(yōu)解的問題。通過大量的實踐證明，學(xué)習(xí)的誤差小并不意味著預(yù)測的精度高?？梢酝ㄟ^定義合適的適應(yīng)度函數(shù)，在學(xué)習(xí)精度與預(yù)測精度之間取適當(dāng)?shù)恼壑?，作為支持向量機(jī)參數(shù)尋優(yōu)的判斷標(biāo)準(zhǔn)。

將樣本數(shù)據(jù)集劃分成訓(xùn)練樣本集和預(yù)測樣本集，再將訓(xùn)練樣本集劃分為學(xué)習(xí)樣本集和驗證樣本集，引入交叉驗證機(jī)制(Cross Validation，CV)來減小訓(xùn)練樣本集的劃分對算法的影響[6]。隨機(jī)選擇訓(xùn)練樣本集中M組數(shù)據(jù)作為學(xué)習(xí)子集，剩余子集作為驗證樣本，建立LS-SVM回歸預(yù)測模型，計算適應(yīng)度函數(shù)。循環(huán)該過程K次，并記錄每次循環(huán)中得到的適應(yīng)度函數(shù)值；適應(yīng)度函數(shù)值越小，則參數(shù)越優(yōu)。定義適應(yīng)度函數(shù)f如下：

(14)

式中：yi為驗證樣本實際值；yi′為對應(yīng)的預(yù)測值；c1、c2分別為學(xué)習(xí)精度權(quán)重系數(shù)和驗證精度權(quán)重系數(shù)，c1+c2=1。

3　基于差分進(jìn)化支持向量機(jī)的作戰(zhàn)效能評估

3.1基于差分進(jìn)化支持向量機(jī)的作戰(zhàn)效能評估方法

效能本質(zhì)上是一個多屬性函數(shù)，進(jìn)行作戰(zhàn)效能評估的首要工作是確定作戰(zhàn)效能評估的指標(biāo)體系，明確影響因素。通過試驗、實際作戰(zhàn)等積累作戰(zhàn)效能評估經(jīng)驗，作為LS-SVM學(xué)習(xí)的歷史數(shù)據(jù)；為了保證預(yù)測的客觀性，需要盡可能避免主觀因素對歷史數(shù)據(jù)的干擾。

在建立了作戰(zhàn)效能評估的學(xué)習(xí)樣本庫之后，根據(jù)所選擇的效能評估體系，可以對數(shù)據(jù)進(jìn)行歸一化處理來減小數(shù)值大小對學(xué)習(xí)結(jié)果的影響，也可以進(jìn)行主成分分析來適當(dāng)簡化學(xué)習(xí)和預(yù)測過程。

作戰(zhàn)效能評估過程如圖1所示。

3.2算例

筆者以文獻(xiàn)[7]中地地導(dǎo)彈武器系統(tǒng)效能仿真為例說明，該效能評估方法基于貝葉斯網(wǎng)絡(luò)的正向探索模式分析，在SIM 2000柔性仿真平臺上完成，計算取得如表1所示的樣本數(shù)據(jù)。取突防成功概率y作為效能指標(biāo)，效能影響因素有：紅外干擾誘餌釋放數(shù)量X1，紅外干擾誘餌釋放高度X2，壓制干擾機(jī)數(shù)量X3，紅外導(dǎo)引頭探測距離X4，發(fā)射距離X5。

表1　地地導(dǎo)彈效能評估數(shù)據(jù)樣本

在仿真過程中，采用Matlab實數(shù)編碼，決策變量為LS-SVM中的正則化參數(shù)γ、徑向基函數(shù)參數(shù)σ。選擇25個樣本作為訓(xùn)練樣本，其余4個作預(yù)測樣本；訓(xùn)練樣本集中隨機(jī)選擇2組作為驗證樣本，循環(huán)驗證10次。取變異因子F=1.2，交叉因子CR=0.9，尋優(yōu)參數(shù)樣本個數(shù)為50，最大迭代次數(shù)G=50。一般情況下，LS-SVM正則化參數(shù)γ取值范圍為(0,400)，徑向基函數(shù)參數(shù)取值范圍為(0.08,12)。取適應(yīng)度函數(shù)中學(xué)習(xí)精度權(quán)重系數(shù)c1=0.9，驗證精度權(quán)重系數(shù)c2=0.1。尋優(yōu)結(jié)果為γ=400，σ=3.111 5。

為了說明基于DE的LS-SVM的預(yù)測效果，將其與傳統(tǒng)LS-SVM算法(取γ=10，σ=1)、BP神經(jīng)網(wǎng)絡(luò)算法進(jìn)行比較。BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)在Matlab自帶的神經(jīng)網(wǎng)絡(luò)工具箱中進(jìn)行，采用3層神經(jīng)網(wǎng)絡(luò)，5-10-1結(jié)構(gòu)，學(xué)習(xí)效率為0.05，學(xué)習(xí)規(guī)則為“trainlm”。

從訓(xùn)練效果與預(yù)測效果兩方面對比3種算法，如表2～3所示。表2從學(xué)習(xí)樣本的實際效能指標(biāo)值與訓(xùn)練輸出效能指標(biāo)值的平均誤差和均方差兩個角度，對比3種算法的學(xué)習(xí)誤差及其波動情況，反映學(xué)習(xí)效果。表3反映3種算法的預(yù)測效果，將4組待預(yù)測樣本的效能指標(biāo)的期望指標(biāo)和預(yù)測指標(biāo)進(jìn)行對比，并計算預(yù)測誤差。

表2　3種算法的訓(xùn)練效果對比

表3　3種算法的預(yù)測效果對比

通過分析以上數(shù)據(jù)，得到結(jié)論如下：

1)由于樣本容量較小，BP神經(jīng)網(wǎng)絡(luò)不能得到確定的學(xué)習(xí)模型，在不同的初始權(quán)值設(shè)置下，得到的訓(xùn)練效果和預(yù)測結(jié)果差別很大，所以在文中未做確定表示。這說明神經(jīng)網(wǎng)絡(luò)在解決小樣本數(shù)據(jù)的學(xué)習(xí)問題時存在局限性，容易陷入局部次優(yōu)解。

2)傳統(tǒng)LS-SVM和DE-SVM都對小樣本數(shù)據(jù)進(jìn)行了確定的學(xué)習(xí)，這有效說明了支持向量機(jī)在處理小樣本數(shù)據(jù)時不存在陷入局部次優(yōu)解的問題。但不同的參數(shù)設(shè)置對訓(xùn)練效果與預(yù)測效果影響較大：2種參數(shù)的學(xué)習(xí)平均誤差相差不大，但傳統(tǒng)SVM出現(xiàn)了欠學(xué)習(xí)的現(xiàn)象，所以均方差較大；對比預(yù)測效果，DE-SVM的預(yù)測平均誤差更小，說明取得了更好的預(yù)測效果?；谝陨蠈Ρ?，說明SVM能夠有效進(jìn)行小樣本的學(xué)習(xí)與預(yù)測，通過差分進(jìn)化算法進(jìn)行參數(shù)優(yōu)化，能夠有效提高預(yù)測效果，該方法在作戰(zhàn)效能的評估過程中有一定的參考意義。

3)值得說明的是，歷史數(shù)據(jù)對支持向量機(jī)計算結(jié)果有著重要影響，而對于武器系統(tǒng)的效能評估，歷史數(shù)據(jù)的積累還需要更進(jìn)一步的工作。

4　結(jié)束語

針對效能評估過程中影響因素復(fù)雜、小樣本、非線性等問題，筆者引入基于差分進(jìn)化算法和支持向量機(jī)算法的方法，用于效能評估的學(xué)習(xí)與預(yù)測。計算表明，該方法的計算結(jié)果精度較高，具有一定的可行性。

References)

[1]高尚. 基于Rough集和支持向量機(jī)的作戰(zhàn)飛機(jī)效能評估[J]. 計算機(jī)工程，2006，32(14)：184-186.

GAO Shang. Assessing of battle plane effectiveness based on rough set and support vector machine[J]. Computer Engineer, 2006, 32(14): 184-186. (in Chinese)

[2]程愷，張宏軍，柳亞婷，等. 作戰(zhàn)效能及其評估方法研究綜述[J].系統(tǒng)科學(xué)學(xué)報，2014，22(1)： 88-92.

CHENG Kai, ZHANG Hongjun, LIU Yating, et al. Review on operational effectiveness and evaluation method[J]. Journal of Systems Science, 2014, 22(1): 88-92. (in Chinese)

[3]史志富，雷金利，張安，等.機(jī)載火控系統(tǒng)效能評估的支持向量機(jī)方法[J]. 電光與控制，2010，17(3)： 9- 11.

SHI Zhifu, LEI Jinli, ZHANG An, et al. Effectiveness evaluation for airborne fire control system based on support vector machine[J]. Electronics Optics & Control, 2010, 17(3): 9-11. (in Chinese)

[4]王玨鑫. 基于多種智能計算方法的支持向量回歸機(jī)參數(shù)優(yōu)化[D].長春：吉林大學(xué)，2010.WANG Juexin. Parameter optimization for support vector regression based on multiple intelligent computation methods[D].Changchun:Jilin University,2010.(in Chinese)[5]劉金琨，沈曉蓉，趙龍. 系統(tǒng)辨識理論及MTLAB仿真[M]. 北京：電子工業(yè)出版社，2013：240-243.

LIU Jinkun, SHEN Xiaorong, ZHAO Long. The theory of system identification and MATLAB simulation[M]. Beijing: The Publishing House of Electronics Industry, 2013: 240-243. (in Chinese)

[6]唐闊，胡國勝，車喜龍，等. 基于遺傳算法優(yōu)化支持向量回歸機(jī)的網(wǎng)格負(fù)載預(yù)測模型[J]. 吉林大學(xué)學(xué)報：理學(xué)版，2010，48(2)： 251-255.

TANG Kuo, HU Guosheng, CHE Xilong, et al. Grid host load prediction model of support vector regression optimized by genetic algorithm[J]. Journal of Jilin University：Science Edition, 2010, 48(2): 251-255. (in Chinese)

[7]楊峰，王維平. 武器裝備作戰(zhàn)效能仿真與評估[M]. 北京：電子工業(yè)出版社，2010： 263-264.

YANG Feng, WANG Weiping. Weapons and equipment operational effectiveness simulation and evaluation[M]. Beijing: The Publishing House of Electronics Industry, 2010: 263-264. (in Chinese)

Evaluation Method for Operational Effectiveness Based on Support Vector Machine with Differential Evolution

YANG Jianwei, XU Jian, WU Xiaoyi, LU Yuxiang, WEI Jiqing

(Northwest Institute of Mechanical & Electrical Engineering, Xianyang712099, Shaanxi, China)

It is of great significance to evaluate the operational effectiveness of weapon system. With regard to the problems such as complicated impact factors, small sample and nonlinearity, the least square support vector machine was used to study and predict the evaluation of operational effectiveness. When establishing the parameters of SVM, Differential evolution was introduced to enhance the accuracy of the prediction. With the evaluation of surface to surface missile as an example, this new method, BP neural network and traditional SVM were used for simulation calculation. It is shown that the method of LS-SVM with Differential Evolution works well for the evaluation of operational effectiveness with a better computing accuracy.

operational effectiveness; support vector machine; differential evolution; BP neural network

2015-06-02

楊健為(1992—)，男，碩士研究生，主要從事火炮總體技術(shù)研究。E-mail：yjw624@126.com

TJ01

A

1673-6524(2016)01-0016-05