切換ARMAX系統(tǒng)切換時刻檢測算法*

， 熊 杰

(中國西南電子技術(shù)研究所，成都610036)

切換ARMAX系統(tǒng)切換時刻檢測算法*

陳 俊**， 熊 杰

(中國西南電子技術(shù)研究所，成都610036)

辨識切換線性系統(tǒng)的主要難點在于參數(shù)估計問題與子系統(tǒng)劃分問題耦合。針對該問題，利用卡爾曼濾波與遞推擴展最小二乘的聯(lián)系，證明當(dāng)所辨識的帶外源輸入的自回歸滑動平均(ARMAX)切換系統(tǒng)在滿足嚴(yán)正實條件下，當(dāng)且僅當(dāng)輸入輸出數(shù)據(jù)來源于同一個子ARMA系統(tǒng)時所構(gòu)造的新息序列具有白色性。基于此,提出了一種切換ARMAX系統(tǒng)切換時刻檢測算法。仿真計算結(jié)果驗證了所提算法的有效性。

非線性系統(tǒng)辨識；ARMAX系統(tǒng); 切換時刻檢測；新息過程

1 引 言

在工程實踐中，動態(tài)系統(tǒng)呈現(xiàn)非線性特性是廣泛存在的客觀現(xiàn)象。由于分片線性系統(tǒng)具有通用逼近性質(zhì)，因此常被用于刻畫具有非線性特性的動態(tài)系統(tǒng)[1]。

從輸入輸出時間序列中辨識分片線性系統(tǒng)最主要的難點在于子線性系統(tǒng)的參數(shù)估計問題與每個子線性系統(tǒng)回歸空間凸多面體劃分問題嚴(yán)重耦合。為辨識分片線性系統(tǒng)，文獻(xiàn)[2-6]從不同角度出發(fā)以解決上述耦合問題。文獻(xiàn)[2]在特定的區(qū)域，通過K-均值聚類算法得出每個子系統(tǒng)的回歸向量，再對每個子系統(tǒng)進(jìn)行參數(shù)辨識，但該方法需要已知系統(tǒng)的階數(shù)。類似地，文獻(xiàn)[3]使用統(tǒng)計聚類方法，同時給出了估計子系統(tǒng)數(shù)目的方法，但此方法依然需已知子系統(tǒng)的階數(shù)。通過求解最小可行子系統(tǒng)劃分問題，文獻(xiàn)[4]提出一種迭代求解數(shù)據(jù)聚類與參數(shù)辨識的方法，但該問題已從數(shù)學(xué)上證明是NP難的。文獻(xiàn)[5]將系統(tǒng)辨識問題轉(zhuǎn)化為線性混合整數(shù)規(guī)劃或二次混合整數(shù)規(guī)劃問題并得出了其最優(yōu)值，但所得算法具有較高的計算復(fù)雜度。另一最優(yōu)算法是代數(shù)幾何法[6]，在實驗數(shù)據(jù)不含噪聲的前提下，該算法將混雜系統(tǒng)辨識問題轉(zhuǎn)化為由數(shù)據(jù)構(gòu)成的齊次多項式的非迭代代數(shù)運算問題。

文獻(xiàn)[7]研究了分片線性系統(tǒng)中的最特殊的帶外源輸入的自回歸(Auto-Regressive with eXogenous input,ARX)切換系統(tǒng)(簡記為切換ARX系統(tǒng))，提出了先估計系統(tǒng)發(fā)生模型轉(zhuǎn)換的切換時刻再利用傳統(tǒng)辨識算法單獨估計每個子ARX系統(tǒng)參數(shù)的兩階段辨識策略。該方法使得辨識切換線性系統(tǒng)問題退化為多個單線性系統(tǒng)辨識問題，并且該方法不要求已知切換系統(tǒng)的子系統(tǒng)個數(shù)和子系統(tǒng)階數(shù)。在文獻(xiàn)[7]中，切換系統(tǒng)的子系統(tǒng)設(shè)定為ARX系統(tǒng)，但該系統(tǒng)由于形式簡單只能刻畫一部分線性系統(tǒng)的動態(tài)行為。本文將文獻(xiàn)[7]中的切換ARX系統(tǒng)的切換時刻檢測算法推廣至帶外源輸入的自回歸滑動平均(Auto-Regressive Moving Average with eXogenous input, ARMAX)切換系統(tǒng)(簡記為切換ARMAX系統(tǒng))，使其能夠檢測切換ARMAX系統(tǒng)發(fā)生模型轉(zhuǎn)換的切換時刻點，從而推廣切換系統(tǒng)兩階段辨識策略的使用范圍。

2 問題描述與預(yù)備知識

考慮具有如下形式的切換ARMAX系統(tǒng)：

(1)

式中：yt∈是系統(tǒng)輸出；ut∈為系統(tǒng)確定性輸入；wt∈是為外部零均值高斯白噪聲，且協(xié)方差為r；散狀態(tài)信息λ(t)∈{1,2,…,s}代表切換ARMAX系統(tǒng)當(dāng)前所處的模態(tài)，s是子ARMAX系統(tǒng)的個數(shù)；ai,k,bi,k,ci,k為第k(k=1,2,…,s)個子ARMAX系統(tǒng)的系統(tǒng)參數(shù)。對于如式(1)所描述的切換ARMAX系統(tǒng)，本文研究的問題如下：

求解該問題即能估計出切換系統(tǒng)的切換時刻點，那么在兩個連續(xù)切換點之間的輸入輸出時間序列數(shù)據(jù)采樣自同一個子線性系統(tǒng)，因而通過求解該問題可使切換ARMAX系統(tǒng)辨識問題退化到多個單一ARMAX系統(tǒng)辨識問題，而后者已存在很多經(jīng)典辨識算法[8-12]。

要檢測切換系統(tǒng)發(fā)生模型變化的時刻，應(yīng)首先研究單個線性ARMAX系統(tǒng)具有的統(tǒng)計特性。為此，令式(1)中的散狀態(tài)信息λ(t)≡1，即考慮如下線性時不變ARMAX系統(tǒng)：

(2)

假設(shè)在時刻t噪聲wt-1、wt-2、…、wt-n已知，那么式(2)有如下等價狀態(tài)空間表達(dá)式：

xt+1=xt,yt=φtxt+wt。

(3)

(4)

令

ht=[-yt-1,…,-yt-n,ut-1,…ut-n,εt-1,…εt-n]，

(5)

那么式(4)等價表達(dá)為

(6)

基于上述討論，ARMAX系統(tǒng)經(jīng)典的遞推擴展最小二乘(Recursive Extended Least Squares, RELS)辨識算法如下：

(7)

(8)

針對ARX系統(tǒng)辨識，文獻(xiàn)[9]的引理2.2指出遞推最小二乘辨識的參數(shù)估計向量的后驗分布滿足高斯分布?；谏鲜鲇懻摚珹RMAX系統(tǒng)辨識同樣具有類似性質(zhì)，即

(9)

3 切換時刻檢測算法

從輸入輸出數(shù)據(jù)中估計出系統(tǒng)模態(tài)發(fā)生變化的時刻，應(yīng)當(dāng)首先研究數(shù)據(jù)來自一個模態(tài)與來自多個模態(tài)時是否具有不同的特性。若有，那么這種特性的變化實際上反映了系統(tǒng)模態(tài)的變化。因此，可以進(jìn)一步研究系統(tǒng)模態(tài)切換時刻的估計方法。下面我們分別研究實驗數(shù)據(jù)來自一個模態(tài)時其新息過程的特性與實驗數(shù)據(jù)來自多個模態(tài)時其新息過程的特性。

(10)

那么，隨著t→，et以概率1具有白色性。

證明：欲證明定理1，只需證明

(11)

(12)

成立。下面證明式(12)成立。

將式(10)代入式(12)，整理有

(13)

注意到對任意l>0，有

(14)

以及

(15)

(16)

(17)

(18)

(19)

另一方面，根據(jù)式(7)遞推關(guān)系有

(20)

將式(20)代入(9)，有

(21)

聯(lián)合式(19)與式(21)，可知式(12)成立。類似地，有

(22)

因此，基于上述討論，對任意l≠0,有

(23)

證畢。

(24)

式中：當(dāng)t

(25)

下面假定在t=ts>1時刻，系統(tǒng)發(fā)生模態(tài)切換。定義

(26)

那么，在系統(tǒng)滿足嚴(yán)正實條件下，式(24)中的輸出yt同樣可以表達(dá)成yt=htxt+wt，其中ht如式(5)定義。

(27)

注意到xi在1≤i≤ts-1保持不變，根據(jù)定理1，有

(28)

根據(jù)ht和xt的定義，直接代數(shù)運算有

(29)

(30)

注意到對于ts-n≤j≤ts-1，有

(31)

此外，有

(32)

以及

(33)

將式(31)、式(32)與式(33)代入式(30)，整理得

(34)

證畢。

包含多個子系統(tǒng)的切換ARMAX系統(tǒng)，若相鄰兩系統(tǒng)的模型參數(shù)滿足式(25)，定理2的結(jié)論仍然成立。定理2提供了檢測系統(tǒng)發(fā)生模型變化的時刻點的理論依據(jù)。在具體辨識實踐中，可根據(jù)定理2構(gòu)造如下統(tǒng)計量：

(35)

其中:

(36)

Step4 檢測完所有時刻點后停止本流程。

在應(yīng)用上述流程進(jìn)行切換時刻估計時，一個重要的問題是對所辨識的系統(tǒng)缺乏系統(tǒng)階數(shù)的先驗知識。解決此問題的一個可行方法如下：根據(jù)RELS遞推估計參數(shù)時所構(gòu)造的回歸向量的階數(shù)n不小于系統(tǒng)真實階數(shù)，那么，由子系統(tǒng)模型變化引起的切換時刻均能由上述流程檢測出。

上述切換ARMAX系統(tǒng)切換時刻檢測算法的實質(zhì)是將切換ARMAX系統(tǒng)辨識問題轉(zhuǎn)化為多個單一子ARMAX系統(tǒng)的辨識問題，而后者的解決難度遠(yuǎn)遠(yuǎn)低于前者的解決難度，這就大幅降低了解決原問題的難度。

4 數(shù)值仿真

本節(jié)我們首先對一個包含3個子系統(tǒng)的切換ARMAX系統(tǒng)進(jìn)行數(shù)值仿真，并根據(jù)模擬的輸入輸出數(shù)據(jù)估計其切換時刻，以驗證本文所提算法的性能。其次注意到，本文所證明的新息過程以概率1具有白色性不依賴子系統(tǒng)的模型階數(shù)信息。這意味著在實際應(yīng)用中，只要算法采用的階數(shù)估計值不小于系統(tǒng)的真實階數(shù)，估計結(jié)果應(yīng)不會有顯著變化。換言之，本文所提出的切換時刻估計算法對階數(shù)的估計值具有一定的魯棒性。為驗證這一結(jié)論，在對本仿真例進(jìn)行切換時刻估計時，根據(jù)式(5)所構(gòu)造的回歸向量ht選擇不同的階數(shù)n，并基于這些設(shè)置分別估計切換時刻，以驗證算法性能對階數(shù)設(shè)定值的魯棒性。

仿真實例如式(37)所示:

(37)

式中:wt表示零均值單位方差的高斯白噪聲；確定性輸入ut為偽隨機碼，取值集合為{-1, 1}。

根據(jù)定理2來估計切換ARMAX系統(tǒng)的切換時刻，前提條件是相鄰兩個滿足嚴(yán)正實條件的子系統(tǒng)的參數(shù)需滿足式(25)。針對該仿真實例，經(jīng)計算第一、二個子系統(tǒng)有

第二、三個子系統(tǒng)有

并且3個子系統(tǒng)都滿足嚴(yán)正實條件。計算結(jié)果表明該仿真例滿足定理2要求，適用本文所提的切換時刻估計流程。

仿真設(shè)置：檢測流程中涉及的參數(shù)m和α的取值分別設(shè)置為m=6,α=0.001；為驗證所提算法對階數(shù)的魯棒性，根據(jù)式(5)所構(gòu)造的回歸向量ht的階數(shù)n分別設(shè)置為2、3、4。

根據(jù)上述仿真設(shè)置，根據(jù)本文所提切換時刻檢測算法所估計的切換時刻值如表1所示。此外，當(dāng)所構(gòu)造的回歸向量ht的階數(shù)小于系統(tǒng)實際階數(shù)時，例如在本例中設(shè)置n=1，切換時刻估計算法所檢測到的系統(tǒng)發(fā)生模型變化的時刻多達(dá)9次，分別是92、134、174、214、258、298、338、391、480。盡管時刻214接近第一個系統(tǒng)發(fā)生模型變化的時刻，但其余8個切換時刻估計值均大幅偏離系統(tǒng)真實切換時刻。

為了評價本文所提算法的統(tǒng)計特性，基于前述仿真設(shè)置獨立重復(fù)上述實驗100次，由此計算每個切換時刻的均值與標(biāo)準(zhǔn)差，如表1所示。從表中結(jié)果可知，在3種模型階數(shù)設(shè)置下，本文所提算法所估計出的切換時刻典型值和均值都與真實切換時刻相差不大，而估計值標(biāo)準(zhǔn)差隨系統(tǒng)階數(shù)設(shè)置值稍有波動。

表1 切換時刻估計值Tab.1 The estimated values of switching time

綜上所述，仿真結(jié)果表明，當(dāng)所構(gòu)造的回歸向量ht的階數(shù)n不小于系統(tǒng)實際階數(shù)時，本文所提算法能有效地檢測系統(tǒng)發(fā)生模型變化的時刻。

5 結(jié) 論

本文針對切換ARMAX系統(tǒng)，提出了一種基于遞推擴展最小二乘的切換時刻檢測算法，能有效解決切換ARMAX系統(tǒng)辨識過程中數(shù)據(jù)聚類與參數(shù)估計之間的耦合問題。根據(jù)遞推擴展最小二乘的性質(zhì)，證明了當(dāng)所檢測系統(tǒng)的每個子系統(tǒng)都滿足嚴(yán)正實條件下，當(dāng)實驗數(shù)據(jù)來自同一子系統(tǒng)時其對應(yīng)的新息過程以概率1具有白色性，而實驗數(shù)據(jù)來自多個模態(tài)時其對應(yīng)的新息過程是有色噪聲過程。利用此結(jié)論，通過檢測遞推擴展最小二乘的新息是否具有白性，判斷實驗數(shù)據(jù)序列是否是由同一線性ARMAX系統(tǒng)產(chǎn)生。數(shù)值仿真說明了算法的有效性，并驗證了本文所提算法采用的階數(shù)估計值不小于系統(tǒng)的真實階數(shù)時, 切換時刻的估計值對階數(shù)的估計值具有一定的魯棒性。

[1] BREIMAN L. Hinging hyperplanes for regression, classification, and function approximation[J]. IEEE Transactions on Information Theory, 1993, 39(3): 999-1013.

[2] FERRARI-TRECATE G, MUSELLI M, LIBERATI D, et al. A clustering technique for the identification of piecewise affine systems[J]. Automatica, 2003, 39(2): 205-217.

[3] NAKADA H, TAKABA K, KATAYAMA T. Identification of piecewise affine systems based on statistical clustering technique[J]. Automatica,2005,41(5):905-913.

[4] BEMPORADA, GARULLI A, PAOLETTI S, et al. A bounded-error approach to piece-wise affine system identification[J]. IEEE Transactions on Automatic Control, 2005, 50(10): 1567-1580.

[5] ROLL J, BEMPORAD A, LJUNG L. Identification of piecewise affine systems via mixed- integer programming[J]. Automatica, 2004, 40(1): 37-50.

[6] MA Y, VIDAL R. Identification of deterministic switched ARX systems via identification of algebraic varieties[J].Lecture Notes in Computer Science, 2005, 34(14):449-465.

[7] 熊杰. 兩階段SARX系統(tǒng)的辨識策略研究[J]. 青島大學(xué)學(xué)報(工程技術(shù)版), 2016, 31(4): 23-28. XIONG Jie. Two-stage identification strategy for SARX systems[J]. Journal of Qingdao University (Engineering and Technology Edition), 2016, 31(4): 23-28. (in Chinese)

[8] LJUNG L. System identification-theory for the user[M]. Upper Saddle River, NJ: Prentice-Hall, 1999.

[9] LJUNG L, SODERSTROM T. Theory and practice of recursive identification[M]. Cambridge,MA:MIT Press,1983.

[10] 駱忠強, 朱立東, 李成杰. 一種基于廣義協(xié)方差矩陣的欠定盲辨識方法[J]. 無線電通信技術(shù), 2015, 41(3): 38-42. LUO Zhongqiang, ZHU Lidong, LI Chengjie. An underdetermined blind identification method based on generalized covariance matrix[J]. Radio Communications Technology, 2015, 41(3): 38-42. (in Chinese)

[11] 朱燕梅, 侯文, 鄭浩鑫, 等. 系統(tǒng)辨識在伺服系統(tǒng)動態(tài)特性測試中的應(yīng)用[J]. 現(xiàn)代雷達(dá), 2015, 37(12): 57-60. ZHU Yanmei, HOU Wen, ZHENG Haoxin, et al. System identify applied in dynamic characteristics testing for servo control system[J]. Modern Radar, 2015, 37(12): 57-60. (in Chinese)

[12] 樊高輝, 魏明, 劉衛(wèi)超. 基于系統(tǒng)辨識的電路脈沖響應(yīng)建模[J]. 電訊技術(shù), 2011, 51(10): 117-121. FAN Gaohui, WEI Ming, LIU Weichao. Modeling of circuit pulse response based on system identification[J]. Telecommunication Engineering, 2011, 51(10): 117-121. (in Chinese)

SwitchingTimeEstimationforSwitchingARMAXSystems

CHEN Jun， XIONG Jie

(Southwest China Institute of Electronic Technology，Chengdu 610036，China)

The most difficult and essential part in switching linear systems identification is to decouple the date classification and the sub-model parameter identification from experimental data. Against this issue, on the basis of a relation between the Kalman filter and recursive extended least squares (RELS) estimates, it is shown that when external disturbances are modeled as Moving Average (MA) models which satisfy strictly positive realness, then, there exists an innovation process which is white if and only if experimental data is generated by the same Auto-Regressive Moving Average with eXogenous input (ARMAX) model. Based on this observation, a procedure is developed to identify the switching time of a switching ARMAX system. Numerical experiment results are also included to illustrate its effectiveness.Keywords：nonlinear system identification;ARMAX system;switching time estimation;innovation process

date:2017-03-21；Revised date：2017-06-14

10.3969/j.issn.1001-893x.2017.09.006

陳俊， 熊杰.切換ARMAX系統(tǒng)切換時刻檢測算法[J].電訊技術(shù)，2017,57(9):1011-1016.[CHEN Jun， XIONG Jie.Switching time estimation for switching ARMAX systems[J].Telecommunication Engineering,2017,57(9):1011-1016.]

TP18

：A

：1001-893X(2017)09-1011-06

陳俊(1984—)，男，江蘇南通人， 2011年獲博士學(xué)位，現(xiàn)為工程師，主要從事通信、信號處理等技術(shù)研究;

Email:johnus@126.com

熊杰(1984—)，男，四川邛崍人，2014年獲博士學(xué)位，現(xiàn)為工程師，主要研究方向為導(dǎo)航與自適應(yīng)濾波等。

Email:xiongji_1209@163.com

2017-03-21；

：2017-06-14

**通信作者：johnus@126.com Corresponding author：johnus@126.com