馬軍強(qiáng) 陳文麗 楊思鋒 孫樹(shù)江
(北京航天試驗(yàn)技術(shù)研究所,北京 100074)
基于ARVM模型的液體火箭發(fā)動(dòng)機(jī)試驗(yàn)臺(tái)故障預(yù)測(cè)方法
馬軍強(qiáng) 陳文麗 楊思鋒 孫樹(shù)江
(北京航天試驗(yàn)技術(shù)研究所,北京 100074)
針對(duì)液體火箭發(fā)動(dòng)機(jī)試驗(yàn)臺(tái)故障子樣少,故障預(yù)測(cè)精度低,故障維修保障困難等問(wèn)題,在分析標(biāo)準(zhǔn)RVM優(yōu)缺點(diǎn)的基礎(chǔ)之上,提出了一種自適應(yīng)能力較強(qiáng)的故障預(yù)測(cè)模型——ARVM(Adaptive Relevance Vector Machine)。為測(cè)試該模型,以某型軌控發(fā)動(dòng)機(jī)高空模擬試驗(yàn)臺(tái)管路流量、燃燒室壓力為輸入?yún)⒘繉?duì)推力矢量進(jìn)行了預(yù)測(cè),預(yù)測(cè)結(jié)果表明,ARVM方法能夠有效跟蹤推力矢量參數(shù)的變化趨勢(shì),并且獲得了較高的預(yù)測(cè)精度和模型稀疏性。該方法對(duì)于復(fù)雜系統(tǒng)的故障預(yù)測(cè)和維修保障具有一定的理論價(jià)值和工程應(yīng)用意義。
液體火箭 發(fā)動(dòng)機(jī)試驗(yàn)臺(tái) ARVM 故障預(yù)測(cè)
液體火箭發(fā)動(dòng)機(jī)試驗(yàn)臺(tái)系統(tǒng)復(fù)雜,集成化程度較高,在進(jìn)行發(fā)動(dòng)機(jī)單機(jī)或全系統(tǒng)試驗(yàn)時(shí),需要試驗(yàn)臺(tái)各系統(tǒng)的緊密協(xié)作配合,任何一個(gè)系統(tǒng)出現(xiàn)故障輕則影響試驗(yàn)的正常進(jìn)行,重則會(huì)影響試驗(yàn)的成敗[1]。因此,建立準(zhǔn)確、可靠的液體火箭發(fā)動(dòng)機(jī)試驗(yàn)臺(tái)故障預(yù)測(cè)模型,對(duì)于搭建液體火箭發(fā)動(dòng)機(jī)試驗(yàn)臺(tái)故障預(yù)示與健康管理系統(tǒng),指導(dǎo)試驗(yàn)技術(shù)人員規(guī)劃維修均具有重要意義。
試驗(yàn)臺(tái)故障預(yù)測(cè)的精確度通常由所用的數(shù)學(xué)模型的精確度來(lái)決定。由于液體火箭發(fā)動(dòng)機(jī)試驗(yàn)臺(tái)系統(tǒng)復(fù)雜,各組成部件之間存在很強(qiáng)的非線性,同時(shí),點(diǎn)火過(guò)程中的試驗(yàn)工況極其惡劣,從而使建立準(zhǔn)確、實(shí)用的數(shù)學(xué)模型十分困難。此外,受到傳感器技術(shù)和試驗(yàn)成本的限制,試驗(yàn)臺(tái)故障數(shù)據(jù)通常難以獲得,故障子樣比較少,所以基于小樣本[2,3]的故障預(yù)測(cè)方法成為了一種新的研究方向。
自適應(yīng)相關(guān)向量機(jī)(ARVM)是一種基于貝葉斯概率學(xué)習(xí)模型的有監(jiān)督小樣本學(xué)習(xí)理論。在貝葉斯框架下,其利用自相關(guān)判定理論(ARD)移除不相關(guān)的數(shù)據(jù)點(diǎn),以獲得稀疏化的模型[4~7]。它克服了神經(jīng)網(wǎng)絡(luò)故障預(yù)測(cè)需要較多訓(xùn)練樣本的缺陷,也克服了支持向量機(jī)故障預(yù)測(cè)核函數(shù)必須滿足Mercer條件[8,9]的限制。同時(shí)其通過(guò)為樣本數(shù)據(jù)引入獨(dú)立的噪聲方差系數(shù),也克服了標(biāo)準(zhǔn)相關(guān)向量機(jī)故障預(yù)測(cè)模型對(duì)數(shù)據(jù)樣本中混有的不規(guī)則噪聲敏感的不足,因此其在液體火箭發(fā)動(dòng)機(jī)試驗(yàn)臺(tái)故障預(yù)測(cè)領(lǐng)域展現(xiàn)了很好的應(yīng)用前景。
2.1 標(biāo)準(zhǔn)相關(guān)向量機(jī)RVM回歸預(yù)測(cè)
ti=y(xi,w)+εi,i=1,2…N
(1)
假設(shè)εi是均值為0,方差為σ2的高斯白噪聲,有監(jiān)督學(xué)習(xí)的目的就是應(yīng)用這些訓(xùn)練數(shù)據(jù)和先驗(yàn)知識(shí)設(shè)計(jì)一個(gè)模型[4~7,9,10],使設(shè)計(jì)的模型對(duì)于新的輸入x*,預(yù)測(cè)出輸出y*。RVM預(yù)測(cè)模型的輸出可表示為
(2)
式中:wi——可調(diào)參數(shù)權(quán)值;N——樣本數(shù);K(x*,xi)——核函數(shù),這里的核函數(shù)的選擇不受Mercer定理的限制。
由于已經(jīng)假設(shè)εi服從同均值和同方差的高斯分布,由公式(2)可推導(dǎo)出輸出變量ti服從均值為y(xi,w),方差為σ2的高斯分布,亦即p(ti|xi)=p(ti|y(xi,w),σ2)。為了方便表達(dá),引入超參數(shù)β=1/σ2,由此可得出整個(gè)訓(xùn)練樣本集的似然函數(shù)為
(3)
式中:t=[t1,t2,…,tN];Φ —— 一個(gè)N×(N+1)的核函數(shù)矩陣,定義為Φ=[φ(x1),φ(x2),…,φ(xN)]T,其中φ(xi)=[1,K(xi,x1),…,K(xi,xN)]。相關(guān)向量機(jī)訓(xùn)練過(guò)程的最終目的是求出權(quán)值向量w的后驗(yàn)分布,為了保證模型的稀疏性,假設(shè)wi服從均值為0,方差為1/αi的高斯分布,則w的先驗(yàn)公式可表示為
(4)
式中:α=[α1,α2,…,αN],αi只與其對(duì)應(yīng)的wi有關(guān),根據(jù)w的先驗(yàn)分布和樣本似然函數(shù),可得w的后驗(yàn)分布計(jì)算公式為
(5)
由于p(w|α)和p(t|w,β)均為高斯分布,因此其乘積也滿足高斯分布,而p(t|α,β)中不包含參數(shù)w,故可以認(rèn)為是歸一化系數(shù),所以式(5)可進(jìn)一步簡(jiǎn)化為
p(w|t,α,β)=N(w|μ,Σ)
(6)
式中:μ——均值向量;Σ——協(xié)方差矩陣。其計(jì)算公式分別為
(7)
式中:A=diag(α0,α1,…,αN)。超參數(shù)α和β直接影響w的后驗(yàn)分布,需要對(duì)其進(jìn)行優(yōu)化。優(yōu)化過(guò)程可通過(guò)最大化邊緣似然函數(shù)p(t|α,β)實(shí)現(xiàn)。首先將p(t|α,β)取對(duì)數(shù)得到目標(biāo)似然函數(shù),然后令目標(biāo)似然函數(shù)分別對(duì)超參數(shù)α和β取導(dǎo)數(shù)并令導(dǎo)數(shù)等于0,得到
(8)
式中:μj——均值向量μ的第j個(gè)元素;Σjj——協(xié)方差矩陣Σ的第j個(gè)對(duì)角元;γj=1-αjΣjj。
2.2 自適應(yīng)相關(guān)向量機(jī)ARVM回歸預(yù)測(cè)
標(biāo)準(zhǔn)相關(guān)向量機(jī)假定了所有樣本的噪聲服從同均值同方差的高斯分布,而在實(shí)際的液體火箭發(fā)動(dòng)機(jī)試驗(yàn)中,受惡劣試驗(yàn)環(huán)境和各種物理因素的影響,試驗(yàn)現(xiàn)場(chǎng)測(cè)得的數(shù)據(jù)中通常會(huì)包含一些波動(dòng)較大的數(shù)據(jù)點(diǎn)[1],這些數(shù)據(jù)點(diǎn)可看作是正常的試驗(yàn)數(shù)據(jù)中夾雜了不規(guī)則的噪聲所致,因而實(shí)際的試驗(yàn)數(shù)據(jù)集的噪聲分布不能單純地假設(shè)為服從同方差的高斯分布。假設(shè)訓(xùn)練數(shù)據(jù)集中第i個(gè)樣本的噪聲分布為
p(εi)=N(εi|0,σ2/βi)
(9)
式中:σ2——所有樣本的平均方差;βi——引入的噪聲方差系數(shù),并且假設(shè)其先驗(yàn)分布滿足γ分布,即p(βi)=Gamma(ai,bi)。定義噪聲方差系數(shù)向量β=[β1,β2,…,βN]T,則訓(xùn)練樣本的似然函數(shù)p(t|w,β,σ2)可表示為
(10)
(11)
(12)
由于w后驗(yàn)分布均值μ和協(xié)方差矩陣Σ中含有超參數(shù)α,σ2以及噪聲方差系數(shù)向量β,需要對(duì)其進(jìn)行優(yōu)化。根據(jù)相關(guān)向量機(jī)學(xué)習(xí)理論以及貝葉斯證據(jù)過(guò)程,超參數(shù)和噪聲方差系數(shù)的優(yōu)化通過(guò)最大化邊緣似然函數(shù)p(t|α,β,σ2)和β的先驗(yàn)分布p(β)的乘積來(lái)實(shí)現(xiàn)。由前文假設(shè)可知,βi的先驗(yàn)分布為γ分布,即
(13)
p(t|α,β,σ2)=∫p(t|w,β,σ2)p(w|α)dw
(14)
式中:C=σ2B-1+ΦA(chǔ)-1ΦT。最大化邊緣似然函數(shù)p(t|α,β,σ2)和p(β)的乘積等價(jià)于最大化其對(duì)數(shù)值。此外為了便于計(jì)算,對(duì)logα、logβ和logσ2進(jìn)行優(yōu)化,即可將待優(yōu)化的目標(biāo)函數(shù)表示為
(15)
設(shè)新的輸入向量為x*,通過(guò)模型可得對(duì)應(yīng)的輸出為
(16)
2.3 ARVM模型超參數(shù)優(yōu)化
(17)
分別對(duì)logβi,logαj和logσ2求偏導(dǎo),并令導(dǎo)數(shù)式等于0即可得到超參數(shù)α,β和σ2的迭代計(jì)算公式。
(18)
(19)
式中:μj——均值向量μ的第j個(gè)元素;Σjj——協(xié)方差矩陣Σ的第j個(gè)對(duì)角元,γj=1-αjΣjj。
ARVM算法流程如圖2所示。
3.1 評(píng)價(jià)指標(biāo)
(20)
3.2 測(cè)試結(jié)果
預(yù)測(cè)模型的訓(xùn)練和測(cè)試樣本來(lái)自某型軌控發(fā)動(dòng)機(jī)高空模擬試驗(yàn)?zāi)炒吸c(diǎn)火啟動(dòng)段的試車(chē)數(shù)據(jù),并進(jìn)行了預(yù)處理和歸一化,以在不減少數(shù)據(jù)間相關(guān)關(guān)系的情況下提高模型訓(xùn)練的速度[11]。訓(xùn)練樣本共13組,測(cè)試樣本共8組,如表1所示。為了對(duì)比說(shuō)明本文提出的ARVM模型在液體火箭發(fā)動(dòng)機(jī)試驗(yàn)臺(tái)故障預(yù)測(cè)方面的優(yōu)越性,本節(jié)分別用標(biāo)準(zhǔn)相關(guān)向量機(jī)(RVM)和自適應(yīng)相關(guān)向量機(jī)(ARVM)建立預(yù)測(cè)模型并對(duì)實(shí)測(cè)推力參數(shù)的變化趨勢(shì)進(jìn)行預(yù)測(cè)。核函數(shù)選取為高斯型核函數(shù)[12],如式(21)所示,通過(guò)網(wǎng)格搜索法可得當(dāng)核參數(shù)=2.7時(shí),兩種模型的預(yù)測(cè)效果都最好。
(21)
預(yù)測(cè)結(jié)果如圖3、圖4、表1和表2所示。由圖3、圖4和表1可知,在某工況下的點(diǎn)火啟動(dòng)段,ARVM模型輸出的推力矢量預(yù)測(cè)結(jié)果變化趨勢(shì)較符合發(fā)動(dòng)機(jī)啟動(dòng)后推力矢量的發(fā)展趨勢(shì),且預(yù)測(cè)結(jié)果的變化值比較穩(wěn)定,符合發(fā)動(dòng)機(jī)在正常工作狀態(tài)下的特點(diǎn)。而標(biāo)準(zhǔn)RVM無(wú)論是在模型訓(xùn)練階段還是在預(yù)測(cè)階段,推力矢量預(yù)測(cè)結(jié)果與原始推力數(shù)據(jù)相差都較大。另外由表2可知,與標(biāo)準(zhǔn)相關(guān)向量機(jī)RVM相比,本節(jié)提出的自適應(yīng)相關(guān)向量機(jī)模型ARVM在保證預(yù)測(cè)精度的同時(shí),可以取得與RVM基本一致的模型稀疏性,由此也說(shuō)明了本文提出的模型在液體火箭發(fā)動(dòng)機(jī)試驗(yàn)臺(tái)故障預(yù)測(cè)方面具有較好的優(yōu)越性。
表1 基于ARVM模型的故障預(yù)測(cè)訓(xùn)練和測(cè)試樣本
模型名稱相關(guān)向量個(gè)數(shù)均方誤差EMSERVM20.2161ARVM40.0093
針對(duì)小樣本問(wèn)題,本文研究并給出了基于ARVM模型的故障預(yù)測(cè)算法,并將其應(yīng)用于某型液體火箭發(fā)動(dòng)機(jī)試驗(yàn)臺(tái)推力矢量的故障預(yù)測(cè)仿真中。研究結(jié)果表明,在混有噪聲的故障預(yù)測(cè)中,選取符合樣本本身特點(diǎn)的核函數(shù)和核參數(shù),自適應(yīng)相關(guān)向量機(jī)模型ARVM在兼顧標(biāo)準(zhǔn)RVM模型稀疏性的同時(shí),能給出很好的預(yù)測(cè)效果,極大地體現(xiàn)了ARVM預(yù)測(cè)模型的稀疏性和算法的優(yōu)越性。因此,ARVM所具有的辨識(shí)復(fù)雜非線性系統(tǒng)的能力以及針對(duì)小樣本數(shù)據(jù)的預(yù)測(cè)能力,決定了該算法有望在液體火箭發(fā)動(dòng)機(jī)試驗(yàn)臺(tái)故障預(yù)測(cè)中得到進(jìn)一步的應(yīng)用。
[1] 郭宵峰,李耀華,陳鴻彥等.液體火箭發(fā)動(dòng)機(jī)試驗(yàn) [M].北京:宇航出版社,1990.
[2] 張恒喜,郭基聯(lián),朱家元等.小樣本多元數(shù)據(jù)分析及應(yīng)用[M].西安:西北工業(yè)大學(xué)出版社,2002.
[3] 范庚,馬登武,張繼軍.一種基于小樣本數(shù)據(jù)的裝備故障預(yù)測(cè)方法[J].彈箭與制導(dǎo)學(xué)報(bào),2012,32(2):225~228.
[4] Christopher M. Bishop Michael E. Tipping. Varia-tional Relevance Vector Machines[C]. // Uncertainty in Artificial Intelligence processing, USA,2000:46~53.
[5] Michael E.Tipping, Baseline Matlab Implementat-ion of "Sparse Bayesian" Model Estimation[J] //mike-tipping.com,2009(2).
[6] Michael E. Tipping , Bayesian Inference An Intro-duction to Principle and Practice in Machine Learning[J]//miketipping.com,2004.
[7] Michael E. Tipping, Anita C. Faul. Fast marginal likelihood maximisation for sparse Bayesian model[J].Proceedings of the Ninth International Workshop on Artificial Intelligence and Statistics,Florida, 2006(6).
[8] 李剛,邢書(shū)寶,薛惠鋒.基于RBF核的SVM及RVM模式分析性能比較[J].計(jì)算機(jī)應(yīng)用研究,2009,26(5):1 782~1 784.
[9] 范庚,馬登武,鄧力,呂曉峰.基于灰色相關(guān)向量機(jī)的故障預(yù)測(cè)模型[J].系統(tǒng)工程與電子技術(shù),2012.2,34(2):424~428.
[10] 廉建鑫.基于RVM和混合優(yōu)化算法的變壓器故障診斷與預(yù)測(cè)應(yīng)用研究[J].2012(5):21~22.
[11] 田干,張煒,楊正偉等.SVM方法在液體火箭發(fā)動(dòng)機(jī)故障預(yù)測(cè)中的應(yīng)用研究[J].2010,24(1):1~9
[12] 楊淑瑩.模式識(shí)別與智能計(jì)算—Matlab技術(shù)實(shí)現(xiàn)(第2版) [M].北京:電子工業(yè)出版社,2011.
Fault Prediction Method for Liquid Rocket EngineTest Stand Based on ARVM Model
MA Jun-qiang CHEN Wen-li YANG Si-feng SUN Shu-jiang
(Beijing Institute of Aerospace Testing Technology, Beijing 100074, China)
Aiming at the problems of rare faulty samples, low accuracy of fault prediction and difficulty in maintenance and repair of liquid rocket engine test stand,based on the analysis of the advantages and disadvantages of standard RVM, a fault prediction ARVM model with strong adaptive ability is proposed. In order to test this model, the thrust vector of the high-altitude simulation test stand of a certain orbit control engine is predicted using the flow rate and combustor pressure as input parameters. The prediction result shows that, ARVM method can effectively track the trend of the thrust vector parameters, and obtain a higher prediction accuracy and model sparseness. This method has certain theoretical value and engineering application significance for fault prediction and maintenance of complex systems.
Liquid rocket Engine test-stand ARVM Fault prediction
2016-09-20,
2016-11-14
裝備預(yù)先研究航天支撐資助項(xiàng)目(617010604)
馬軍強(qiáng)(1986-),男,碩士,工程師,主要研究方向:液體火箭發(fā)動(dòng)機(jī)試驗(yàn)臺(tái)故障預(yù)測(cè)。
1000-7202(2017) 02-0030-06
10.12060/j.issn.1000-7202.2017.02.07
V434
A