基于MRF模型的飛機(jī)飛行動(dòng)作識(shí)別劃分算法*

顏廷龍，李 瑛，王鳳芹

(1.海軍航空大學(xué)岸防兵學(xué)院，山東 煙臺(tái) 264001;2.海軍航空大學(xué)航空基礎(chǔ)學(xué)院，山東 煙臺(tái) 264001)

1 引言

飛行動(dòng)作的識(shí)別和劃分一直是飛機(jī)健康監(jiān)控、飛行模擬和飛行品質(zhì)評(píng)估等應(yīng)用的基礎(chǔ)，快速準(zhǔn)確地識(shí)別飛機(jī)的基本飛行動(dòng)作和復(fù)雜飛行動(dòng)作具有重要意義。由于民航飛機(jī)動(dòng)作更加平穩(wěn)，識(shí)別劃分難度小，相關(guān)的研究已經(jīng)比較成熟，而軍用戰(zhàn)機(jī)由于其機(jī)動(dòng)性強(qiáng)、速度快的特點(diǎn)，其飛行動(dòng)作識(shí)別一直以來都是難點(diǎn)問題。

目前，飛機(jī)動(dòng)作識(shí)別劃分主要分為以下幾種方法：一是根據(jù)專家的先驗(yàn)知識(shí)，預(yù)先設(shè)定規(guī)則，建立知識(shí)庫識(shí)別飛機(jī)的機(jī)動(dòng)動(dòng)作。倪世宏等[1]分析了軍用飛機(jī)的飛行動(dòng)作的變化特征，建立了基于專家先驗(yàn)知識(shí)和飛行動(dòng)作特征的知識(shí)庫來識(shí)別飛機(jī)的飛行動(dòng)作，但這種方法的缺點(diǎn)在于面對(duì)不同的飛機(jī)型號(hào)，設(shè)置的規(guī)則不具有通用性，另外，專家的先驗(yàn)知識(shí)可能帶有主觀誤差。二是利用目前的機(jī)器學(xué)習(xí)算法，比如貝葉斯網(wǎng)絡(luò)、支持向量機(jī)和神經(jīng)網(wǎng)絡(luò)監(jiān)督學(xué)習(xí)算法等。沈一超等[2]基于時(shí)間序列的DTW(Dynamic Time Warping)距離和貝葉斯網(wǎng)絡(luò)推理，提出了一種基于貝葉斯網(wǎng)絡(luò)的飛行動(dòng)作識(shí)別算法，可以識(shí)別復(fù)雜飛機(jī)動(dòng)作。這些方法要求預(yù)先將帶有基本飛行動(dòng)作標(biāo)記的飛行時(shí)間片段作為訓(xùn)練集[3 - 6]，訓(xùn)練一個(gè)分類器，區(qū)分不同飛行數(shù)據(jù)，要求事先人工標(biāo)記訓(xùn)練集，工作量較大，而且模型的通用性不強(qiáng)。

馬爾可夫隨機(jī)場MRF(Markov Random Field)[7]模型是概率圖模型的一種，它可以表示時(shí)間序列中相鄰2個(gè)隨機(jī)變量的相關(guān)關(guān)系，在飛行數(shù)據(jù)的時(shí)間序列中，可反映相鄰時(shí)間點(diǎn)的參數(shù)的相關(guān)性。比如，飛機(jī)在t時(shí)刻的操縱參數(shù)，會(huì)影響t+1時(shí)刻的姿態(tài)參數(shù)。因此，本文在飛行動(dòng)作識(shí)別領(lǐng)域，引入馬爾可夫隨機(jī)場模型，提出了一種基于馬爾可夫隨機(jī)場模型的飛機(jī)飛行動(dòng)作識(shí)別劃分算法，采用基于馬爾可夫隨機(jī)場的時(shí)序數(shù)據(jù)分割聚類算法，將飛行數(shù)據(jù)序列劃分為多個(gè)動(dòng)作類，并且用MRF網(wǎng)絡(luò)描述其每個(gè)動(dòng)作的特征。

2 飛行動(dòng)作識(shí)別劃分模型

2.1 馬爾可夫隨機(jī)場模型

馬爾可夫隨機(jī)場MRF是在隨機(jī)場的基礎(chǔ)上添加馬爾可夫性質(zhì)，使得隨機(jī)序列變量的分布僅與前一時(shí)刻有關(guān)。這一性質(zhì)提供了方便且具有一致性的建模方法，可以用來表示時(shí)間序列前后的約束關(guān)系。一維的馬爾可夫隨機(jī)場描述隨機(jī)序列中某一時(shí)刻的狀態(tài)只與前一時(shí)刻有關(guān)，二維的馬爾可夫隨機(jī)場常常被用在圖像分割領(lǐng)域，將時(shí)域的馬爾可夫特性轉(zhuǎn)換到空間域，每個(gè)像元對(duì)于除它之外的相鄰的像元組成的鄰近集團(tuán)存在依賴性，通過這一性質(zhì)，進(jìn)而有效地描述圖像的局部統(tǒng)計(jì)特征。在多維時(shí)間序列上定義MRF網(wǎng)絡(luò)，將多維時(shí)間序列描述為一個(gè)由隨機(jī)變量組成的多層網(wǎng)絡(luò)，相鄰層的網(wǎng)絡(luò)通過網(wǎng)絡(luò)節(jié)點(diǎn)的邊相連，網(wǎng)絡(luò)各個(gè)節(jié)點(diǎn)之間的邊描述各個(gè)變量之間的相關(guān)關(guān)系。區(qū)別于傳統(tǒng)飛行動(dòng)作分類方法依賴于飛行數(shù)據(jù)序列距離的度量[8]，本文算法應(yīng)用MRF的特性，用MRF網(wǎng)絡(luò)表示飛行數(shù)據(jù)序列前后的依賴關(guān)系，從而得到更精確的飛行動(dòng)作分類結(jié)果。

2.2 飛行數(shù)據(jù)時(shí)間序列分析

飛行數(shù)據(jù)是一組離散的時(shí)間序列數(shù)據(jù)，飛行動(dòng)作識(shí)別的準(zhǔn)確程度，很大程度取決于各個(gè)飛行動(dòng)作的劃分結(jié)果，本文提出基于馬爾可夫隨機(jī)場的時(shí)間序列分割算法，對(duì)飛行數(shù)據(jù)進(jìn)行分割和聚類，以完成對(duì)飛行動(dòng)作的劃分。設(shè)飛機(jī)的一組長度為T的飛行數(shù)據(jù)為x=[x1,x2,x3,…,xT],其中xi(i≤i≤T)為n維向量，表示同一時(shí)刻采集的n維飛行數(shù)據(jù)。設(shè)需要將待劃分的飛行數(shù)據(jù)分為K類，針對(duì)時(shí)間序列的聚類方式，不能僅對(duì)單獨(dú)數(shù)據(jù)點(diǎn)聚類，還要根據(jù)數(shù)據(jù)前后的相關(guān)變化規(guī)律進(jìn)行聚類，因此通過設(shè)置一個(gè)滑動(dòng)窗口w，其中w?T，w數(shù)值的選取取決于飛行數(shù)據(jù)的粒度和預(yù)期飛行動(dòng)作的長度。以t時(shí)刻為基準(zhǔn)，向前截取窗口大小的數(shù)據(jù)片段，記為Xt：

Xt=[xt-w+1,…,xt-1,xt]

其中,t=1,2,…,T,Xt為n×w維向量，將原始飛行數(shù)據(jù)截取長度為w的多個(gè)子序列，將此時(shí)針對(duì)飛行數(shù)據(jù)的聚類變?yōu)閷?duì)長度為w的多個(gè)子序列的聚類，這樣在聚類過程中，相鄰的子序列更易被劃分為同一類，實(shí)現(xiàn)時(shí)間一致性的目標(biāo)。

設(shè)需要將待劃分的飛行數(shù)據(jù)分為K類，屬于第j類的數(shù)據(jù)段集合記為Pj,其中j=1,2,…,K。每個(gè)類用高斯協(xié)方差矩陣定義，類的協(xié)方差逆矩陣Θj反映各個(gè)參數(shù)之間的獨(dú)立性。Θj是一個(gè)nw×nw矩陣，由w×w個(gè)子矩陣組成，每個(gè)子矩陣是大小為n×n的矩陣，位置pq上的子矩陣描述p時(shí)刻和q時(shí)刻之間，n個(gè)維度之間的協(xié)方差逆矩陣。由于飛行數(shù)據(jù)是非時(shí)變的，即每一個(gè)點(diǎn)的參數(shù)值只與相應(yīng)時(shí)間差有關(guān)。

2.3 基于MRF模型的飛行動(dòng)作識(shí)別劃分算法

MRF模型需要根據(jù)統(tǒng)計(jì)決策和估計(jì)理論中的最優(yōu)準(zhǔn)則確定時(shí)間序列分割問題的目標(biāo)函數(shù)，采用一些優(yōu)化算法可求得滿足這些約束條件的MRF最大似然分布[9]。本文采用多元飛行數(shù)據(jù)時(shí)間序列各個(gè)維度之間的協(xié)方差逆矩陣Θj定義了MRF網(wǎng)絡(luò)的鄰接矩陣，通過估計(jì)稀疏的高斯逆協(xié)方差矩陣來學(xué)習(xí)每個(gè)聚類的MRF，MRF網(wǎng)絡(luò)具有多個(gè)層，層數(shù)對(duì)應(yīng)于定義的短子序列的窗口大小，通過求解帶約束的逆協(xié)方差逆矩陣估計(jì)問題，即可解決飛行動(dòng)作的分類問題。那么，針對(duì)飛行數(shù)據(jù)時(shí)間序列進(jìn)行劃分和識(shí)別變?yōu)榍蠼饷款愶w行動(dòng)作的參數(shù)之間的協(xié)方差逆矩陣Θ={Θ1,Θ2,…,ΘK}和每類飛行動(dòng)作的數(shù)據(jù)段集合P={P1,P2,…,PK}。

用負(fù)對(duì)數(shù)似然函數(shù)表示飛行數(shù)據(jù)段Xt被歸為基本動(dòng)作j類的代價(jià)，如式(1)所示：

E(Xt∈Pj)=-ll(Xt,Θi)=

(1)

其中，ll(Xt,Θi) 表示對(duì)數(shù)似然函數(shù),μi表示矩陣Θi的均值，detΘi表示矩陣Θi的行列式。

考慮飛行數(shù)據(jù)的連續(xù)性，相鄰時(shí)刻的數(shù)據(jù)段屬于不同類時(shí)施加懲罰項(xiàng)β，β越大，相鄰的飛行數(shù)據(jù)子序列被劃分為同一類動(dòng)作的可能性越大。當(dāng)β=0時(shí)，飛行數(shù)據(jù)子序列可以被單獨(dú)劃分，連續(xù)性懲罰項(xiàng)表達(dá)式如式(2)所示：

(2)

由于極大似然估計(jì)不能產(chǎn)生稀疏解，導(dǎo)致模型的復(fù)雜度過高，不方便求解，需要加入稀疏性約束，增加正則化懲罰項(xiàng)，如式(3)所示：

λ‖Θi‖

(3)

其中,λ是正則化參數(shù)。稀疏化可以極大地簡化網(wǎng)絡(luò)結(jié)構(gòu)，一定程度上降低了本文算法的復(fù)雜性，還可以提高模型的泛化能力，解決模型的過擬合問題。

綜上所述，模型的總體優(yōu)化函數(shù)如式(4)所示：

(4)

3 飛行動(dòng)作識(shí)別劃分模型的求解方法

MRF模型的總體優(yōu)化函數(shù)求解是一個(gè)組合和連續(xù)優(yōu)化問題，飛行動(dòng)作劃分參數(shù)的求解和飛行動(dòng)作類參數(shù)協(xié)方差逆矩陣的求解互相耦合，是高度非凸的優(yōu)化問題。解決這一問題的關(guān)鍵在于采用期望最大化EM(Expectation Maximum)算法將總體優(yōu)化目標(biāo)轉(zhuǎn)化為飛行動(dòng)作識(shí)別和飛行動(dòng)作劃分2個(gè)子問題，交替更新參數(shù)，迭代求解，其中飛行動(dòng)作劃分參數(shù)使用動(dòng)態(tài)規(guī)劃算法求解，飛行動(dòng)作識(shí)別參數(shù)采用交替方向乘子法ADMM(Alternating Direction Method of Multipliers)求解[10]。

3.1 飛行動(dòng)作劃分的參數(shù)求解

針對(duì)飛行動(dòng)作劃分的參數(shù)Pj的求解問題，首先要給定Θj，此時(shí)Pj的優(yōu)化要考慮2個(gè)方面的問題，一是飛行數(shù)據(jù)段Xi被歸為j類的代價(jià)，可以用負(fù)對(duì)數(shù)似然函數(shù)和表示，即式(1)，另一個(gè)是飛行數(shù)據(jù)的連續(xù)性約束，應(yīng)用式(3)表示。2個(gè)代價(jià)構(gòu)成典型的流水線問題，可以采用動(dòng)態(tài)規(guī)劃算法進(jìn)行求解[11]。

動(dòng)態(tài)規(guī)劃算法將T個(gè)子序列X1,…,XT分配到K個(gè)聚類的問題，等效為找到時(shí)間戳1～T的最小代價(jià)路徑，其中節(jié)點(diǎn)代價(jià)是將該數(shù)據(jù)段分配給飛行動(dòng)作的負(fù)對(duì)數(shù)似然函數(shù)和，并且每當(dāng)分類改變時(shí)，邊的代價(jià)為β。

3.2 飛行動(dòng)作識(shí)別參數(shù)矩陣的求解

首先要給定一類中所有數(shù)據(jù)段的集合Pj，通過求最小化負(fù)對(duì)數(shù)似然總和，可以求解Θi，如式(5)所示:

E1+E2

(5)

其中,E1=-|Pj|log det(Θi)，E2可以寫成跡的形式，如式(6)所示：

(6)

其中，Si是經(jīng)驗(yàn)協(xié)方差，由當(dāng)前Pj所有數(shù)據(jù)段計(jì)算得到?？紤]矩陣的稀疏性，添加一個(gè)正則項(xiàng)λ‖Θi‖，所以逆協(xié)方差逆矩陣的優(yōu)化函數(shù)如式(7)所示：

(7)

本文采用ADMM算法，ADMM是一種分布式凸優(yōu)化算法，主要應(yīng)用在大規(guī)模優(yōu)化任務(wù)中[12]。為了使問題更符合ADMM算法的形式，引入變量Z并將原問題重寫為等效問題，如式(8)所示。

min(-log detΘ)+tr(SiΘ)+‖λ·Z‖1

subject toΘ=Z,Z∈Γ

(8)

其增廣拉格朗日函數(shù)為：

Lp(Θ,Z,U)=-log detΘ+tr(SiΘ)+

(9)

(10)

(11)

Uk+1:=Uk+Θk+1-Zk+1

(12)

其中k是迭代參數(shù)。

3.3 EM算法求解整體優(yōu)化問題

本文利用迭代EM算法[13]解決數(shù)據(jù)段分類和聚類參數(shù)協(xié)方差逆矩陣的問題。隨機(jī)初始化集群，并且交替執(zhí)行E-step和M-step，直到每個(gè)簇的分配已經(jīng)固定，模型已經(jīng)收斂。本文算法的求解步驟如下所示：

步驟1初始化模型參數(shù)Pj，Θi；

步驟2執(zhí)行E-step，給定Θi，應(yīng)用動(dòng)態(tài)規(guī)劃算法將飛行數(shù)據(jù)分到各個(gè)飛行動(dòng)作類，求解Pj；

步驟3執(zhí)行M-step，給定Pj，應(yīng)用ADMM算法更新飛行動(dòng)作識(shí)別參數(shù)Θi；

步驟4重復(fù)執(zhí)行步驟2和步驟3，不斷地迭代直到算法收斂。

4 實(shí)驗(yàn)與結(jié)果分析

4.1 實(shí)驗(yàn)方法

為了方便驗(yàn)證本文算法的準(zhǔn)確性，采用海軍某型飛機(jī)的50次飛行任務(wù)記錄的飛行數(shù)據(jù)進(jìn)行實(shí)驗(yàn)，每次飛行任務(wù)的時(shí)長大約為1 h，將每次飛行任務(wù)的數(shù)據(jù)劃分為10組，共500組。選取其中與飛行動(dòng)作識(shí)別相關(guān)的發(fā)動(dòng)機(jī)轉(zhuǎn)速、飛行速度、飛行高度、航向角、俯仰角和傾斜角6個(gè)參數(shù)。為了驗(yàn)證實(shí)驗(yàn)結(jié)果，飛行數(shù)據(jù)已經(jīng)事先采用人工標(biāo)記各個(gè)階段所屬的基本飛行動(dòng)作，飛行數(shù)據(jù)的采樣間隔均為1 s，算法的參數(shù)設(shè)置為：滑動(dòng)窗口大小w設(shè)置為5，根據(jù)飛行基本動(dòng)作的種類，將聚類簇的個(gè)數(shù)K設(shè)置為5。

4.2 識(shí)別率對(duì)比

由于飛機(jī)機(jī)動(dòng)平飛的過程占很大一部分，所以單純使用識(shí)別率不足以來評(píng)價(jià)算法的識(shí)別效果，本文使用Macro-F1 值評(píng)價(jià)各個(gè)算法的識(shí)別準(zhǔn)確率。Macro-F1值計(jì)算方式是先計(jì)算每一個(gè)類的Precison和Recall后，再計(jì)算各個(gè)類的F1值，然后將各個(gè)類的F1值的平均值，其中：

(13)

表1是本文算法(記為MRF)、基于高斯混和模型的聚類算法(記為GMM)[14]，基于歐氏距離的DTW算法(記為DTW)[15]、基于自組織圖的人工神經(jīng)網(wǎng)絡(luò)聚類方法(記為Neural Gas)[16]和k-means算法針對(duì)測(cè)試樣本聚類的Macro-F1值和部分動(dòng)作識(shí)別準(zhǔn)確率。

Table 1 Comparison of Macro-F1 values of various algorithms

從表1可以看出，雖然5種算法對(duì)平飛的識(shí)別準(zhǔn)確率都很高，但DTW、k-means、Neural Gas對(duì)于斤斗類動(dòng)作的識(shí)別準(zhǔn)確率較低。斤斗類的飛行數(shù)據(jù)變化比較復(fù)雜，而這些算法大多使用基于距離的判定規(guī)則，無法識(shí)別飛行數(shù)據(jù)表示的本來特征。所以，本文算法在復(fù)雜動(dòng)作的表現(xiàn)上優(yōu)于其他基于距離的算法。

接下來測(cè)試各個(gè)算法需要多少樣本才能準(zhǔn)確聚類，識(shí)別飛機(jī)動(dòng)作。圖1所示為5種算法的Macro-F1值與樣本數(shù)量的關(guān)系圖。如圖1所示，本文算法的性能明顯優(yōu)于其他算法，Macro-F1的值為0.91～0.98。與其他基于距離的聚類算法相比，本文算法只需更少的樣本就能達(dá)到相似的準(zhǔn)確率，而基于距離的聚類算法的結(jié)果準(zhǔn)確率不高，難以對(duì)飛機(jī)動(dòng)作進(jìn)行劃分。

Figure 1 Relationship between Macro-F1 value and data volume圖1 Macro-F1值和數(shù)據(jù)量關(guān)系

當(dāng)有100個(gè)樣本時(shí)，沒有一種算法能夠準(zhǔn)確地識(shí)別飛機(jī)的動(dòng)作。但是，隨著樣本量的增多，基于本文算法的準(zhǔn)確率迅速提高。當(dāng)有200個(gè)樣本時(shí)，本文算法的Macro-F1已經(jīng)超過0.9。

4.3 模型參數(shù)分析

(1)時(shí)間一致性參數(shù)。

圖2所示為本文所提算法和去除算法中時(shí)間一致性約束MRF(β=0)的Marco-F1值和數(shù)據(jù)量之間的關(guān)系。由圖2可知，由β定義的時(shí)間一致性約束在數(shù)據(jù)量較小時(shí)僅具有很小的影響，因?yàn)镸RF和MRF(β=0)都獲得了相似的結(jié)果。但是，隨著樣本數(shù)量的增加，MRF(β=0時(shí))的Marco-F1徘徊在0.9附近。這意味著，一旦有足夠的樣本，飛行數(shù)據(jù)連續(xù)性約束這一參數(shù)的設(shè)置是提高算法性能的決定性因素。

Figure 2 Influence of time consistency parameter 圖2 時(shí)間一致性參數(shù)影響

(2)滑動(dòng)窗口大小分析。

圖3所示為本文算法中滑動(dòng)窗口大小和Marco-F1值之間的關(guān)系，可以觀察到算法滑動(dòng)窗口大小設(shè)置為4～15可得到較高M(jìn)arco-F1聚類準(zhǔn)確率評(píng)分。只有在窗口大小降至4以下或升至10以上時(shí)，算法準(zhǔn)確率較低。

Figure 3 Influence of sliding window size 圖3 滑動(dòng)窗口大小影響

5 結(jié)束語

本文研究了基于MRF模型的飛機(jī)飛行動(dòng)作劃分和識(shí)別算法，算法在對(duì)飛行動(dòng)作準(zhǔn)確識(shí)別和劃分的同時(shí)，還提供了結(jié)果的可解釋性。通過對(duì)比其他算法的Macro-F1值表明，本文算法提高了飛行動(dòng)作識(shí)別的準(zhǔn)確率。