王珠 劉志輝 肖既磊
摘 要 基于Wiener模型和Wiener-Hammerstein模型提出Wiener結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)(WienerNN)模型和Wiener-Hammerstein結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)(WHNN)模型,推導(dǎo)了Wiener模型和Wiener-Hammerstein模型的泛化能力,并給出了模型神經(jīng)網(wǎng)絡(luò)化的全過(guò)程。將所推導(dǎo)出的WienerNN模型和WHNN模型用于單變量和多變量非線性動(dòng)態(tài)過(guò)程建模,驗(yàn)證了模型的有效性。
關(guān)鍵詞 非線性動(dòng)態(tài)系統(tǒng) 神經(jīng)網(wǎng)絡(luò) Wiener模型 Wiener-Hammerstein模型
中圖分類號(hào) TP271? ?文獻(xiàn)標(biāo)志碼 A? ?文章編號(hào) 1000-3932(2023)05-0652-08
非線性動(dòng)態(tài)系統(tǒng)辨識(shí)是目前系統(tǒng)辨識(shí)領(lǐng)域研究的難點(diǎn)和焦點(diǎn)問(wèn)題[1~3],其主要難點(diǎn)在于缺乏描述一般非線性系統(tǒng)的統(tǒng)一的數(shù)學(xué)模型。為此,研究學(xué)者們提出了多種類型的系統(tǒng)模型,如支持向量機(jī)模型[4]、小波網(wǎng)絡(luò)[5]、神經(jīng)網(wǎng)絡(luò)模型[6~8]及Volterra級(jí)數(shù)[9,10]等。雖然這些非線性動(dòng)態(tài)建模方法具體實(shí)現(xiàn)的方式不同,但都存在相同的問(wèn)題:動(dòng)態(tài)與非線性之間的相互融合關(guān)系限制了模型的泛化能力和估計(jì)精度[11]。
為此,筆者基于分離性建模方法Wiener模型[12,13]和Wiener-Hammerstein模型[14]設(shè)計(jì)了Wiener結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)(Wiener Structured Neural Network,WienerNN)模型和Wiener-Hammerstein結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)(Wiener-Hammerstein Structured Neural Network,WHNN)模型。同時(shí),考慮到神經(jīng)網(wǎng)絡(luò)模型權(quán)重參數(shù)初始值的設(shè)置對(duì)模型的預(yù)測(cè)精度和收斂速度具有一定影響,因此在模型訓(xùn)練過(guò)程中,首先采用粒子群算法進(jìn)行初步全局尋優(yōu),目的是得到較優(yōu)的參數(shù)初始值,進(jìn)而使用基于時(shí)間的反向傳播算法(Back-Propagation Through Time,BPTT)進(jìn)行參數(shù)優(yōu)化。最后,將所推導(dǎo)出的WienerNN模型和WHNN模型用于非線性動(dòng)態(tài)過(guò)程建模,并與基線模型GRU和RNN進(jìn)行結(jié)果對(duì)比,以驗(yàn)證筆者所提模型的有效性。
1 分離性模塊化建模的使用范圍與可行性分析
1.1 模塊化非線性系統(tǒng)結(jié)構(gòu)
傳統(tǒng)模塊化非線性系統(tǒng),也稱為簡(jiǎn)單模塊化非線性系統(tǒng),由線性動(dòng)態(tài)模塊和非線性靜態(tài)模塊按照不同的形式級(jí)聯(lián)而成,圖1所示的4種非線性系統(tǒng)均屬于這類系統(tǒng)。這類系統(tǒng)也是目前研究最多的一類模塊化非線性系統(tǒng),它們?yōu)榻鉀Q許多實(shí)際非線性問(wèn)題提供了一種非常有效的結(jié)構(gòu)形式。
采用分離性建模方法描述系統(tǒng)時(shí)需先滿足以下兩個(gè)假設(shè)條件:
a. 過(guò)程中的動(dòng)態(tài)特性能夠被輸入動(dòng)態(tài)與輸出動(dòng)態(tài)充分表達(dá);
b. 從系統(tǒng)中分離出的非線性能夠盡可能充分地表達(dá)過(guò)程中的非線性。
1.2 Wiener模型
Wiener模型由一個(gè)線性動(dòng)態(tài)模塊后接一個(gè)非線性靜態(tài)模塊組成,能夠表征大量的非線性系統(tǒng)。單變量Wiener模型的一般形式如下:
5 結(jié)束語(yǔ)
基于Wiener模型和Wiener-Hammerstein模型建立了新型神經(jīng)網(wǎng)絡(luò)模型WienerNN和WHNN,推導(dǎo)了Wiener模型和Wiener-Hammerstein模型的泛化能力,并給出了模型神經(jīng)網(wǎng)絡(luò)化的全過(guò)程,同時(shí)介紹了WHNN模型的訓(xùn)練原理、算法和流程。仿真實(shí)驗(yàn)結(jié)果表明,與GRU和RNN相比,對(duì)于一類Wiener過(guò)程,即輸出非線性過(guò)程,WienerNN模型具有更高的預(yù)測(cè)精度;對(duì)于一類Wiener-Hammerstein過(guò)程,WHNN模型具有更高的預(yù)測(cè)精度;對(duì)于非線性與動(dòng)態(tài)特性很難分離的一類系統(tǒng),WienerNN和WHNN模型均能夠很好地跟蹤系統(tǒng)輸出,但WienerNN模型更為合適。
后續(xù)工作中筆者將收集實(shí)際現(xiàn)場(chǎng)數(shù)據(jù),利用更加高效的訓(xùn)練算法對(duì)WienerNN和WHNN模型進(jìn)行訓(xùn)練,以進(jìn)一步驗(yàn)證模型的有效性。
參 考 文 獻(xiàn)
[1]? ?KOUKOULAS P,KALOUPTSIDIS N.Nonlinear system identification using Gaussian inputs[J].IEEE Transactions on Signal Processing:A Publication of the IEEE Signal Processing Society,1995,43(8):1831-1841.
[2]? ?馮培悌.系統(tǒng)辨識(shí)[M].2版.杭州:浙江大學(xué)出版社,2004.
[3]? ?SI H N,SHAO X L,ZHANG W D.Fuzzy rule-based neural appointed-time control for uncertain nonlinear systems with aperiodic samplings[J].Expert Systems with Applications,2021,170.DOI:10.1016/j.eswa.2020.
114504.
[4]? ?田中大,高憲文,石彤.用于混沌時(shí)間序列預(yù)測(cè)的組合核函數(shù)最小二乘支持向量機(jī)[J].物理學(xué)報(bào),2014,63(16):70-80.
[5]? ?宋彤,李菡.基于小波回聲狀態(tài)網(wǎng)絡(luò)的混沌時(shí)間序列預(yù)測(cè)[J].物理學(xué)報(bào),2012,61(8):90-96.
[6]? ?NARENDRA K S,PARTHASARATHY K.Identificat-ion and control of dynamical systems using neural networks[J].IEEE Transactions on Neural Networks,1990,1(1):4-27.
[7]? ?LEVIN A U,NARENDRA K S.Control of nonlinear dynamical systems using neural networks.Ⅱ.Observab-ility,identification,and control[J].IEEE Transactions on Neural Networks,1996,7(1):30-42.
[8]? ?趙小國(guó),劉丁,景坤雷.融合改進(jìn)蟻獅算法和T-S模糊模型的噪聲非線性系統(tǒng)辨識(shí)[J].控制與決策,2019,34(4):759-766.
[9]? ?彭志科,程長(zhǎng)明.Volterra級(jí)數(shù)理論研究進(jìn)展與展望[J].科學(xué)通報(bào),2015,60(20):1874-1888.
[10]? JANJANAM L,SAHA S K,KAR R,et al.Global Gravitational Search Algorithm-Aided Kalman Filter Design for Volterra-Based Nonlinear System Identifi-cation[J].Circuits,Systems,and Signal Processing,2021,40(5):2302-2334.
[11]? ?TOTTERMAN S,TOIVONEN H T.Support vector me-thod for identification of Wiener models[J].Journal of Process Control,2009,19(7):1174-1181.
[12]? ?曹鵬飛,羅雄麟.基于Wiener結(jié)構(gòu)的軟測(cè)量模型及辨識(shí)算法[J].自動(dòng)化學(xué)報(bào),2014,40(10):2179-2192.
[13]? ?WANG Z, ZHAO L K,LUO X L. Wiener structure based adaptive control for dynamic processes with approximate monotonic nonlinearities[J].Journal of the Franklin Institute,2020,357(18):13534-13551.
[14]? ?JANJANAM L, SAHA S K, KAR R,et al.Optimal design of cascaded Wiener-Hammerstein system using a heuristically supervised discrete Kalman filter with application on benchmark problems[J].Expert Systems with Applications,2022,200.DOI:10.1016/j.eswa.2022.117065.
[15]? ?KUMARI R,EKBAL A.AMFB:Attention based mult-imodal Factorized Bilinear Pooling for multimodal Fake News Detection[J].Expert Systems with Appli-cation,2021,184:115412.1-115412.12.
[16]? ?賈立,李訓(xùn)龍.Hammerstein模型辨識(shí)的回顧及展望[J].控制理論與應(yīng)用,2014,31(1):1-10.
[17]? ?HOU J,LIU T,WAHLBERG B,et al.Subspace Ham-merstein Model Identification under Periodic Distur-bance[J].IFAC-PapersOnLine,2018,51(15):335-340.
(收稿日期:2022-11-25,修回日期:2023-07-25)
A Complete Modeling Method for Nonlinear Dynamic Processes
Based on Wiener Structured Neural Network and Wiener-
Hammerstein Structured Neural Network
WANG Zhu, LIU Zhi-hui, XIAO Ji-lei
(College of Information Science and Engineering, China University of Petroleum(Beijing))
Abstract? ?Having Wiener model and Wiener-Hammerstein model based to propose Wiener structured neural network(WienerNN) model and Wiener-Hammerstein structured neural network(WHNN) model was implemented, including the derivation of generalization ability of the Wiener model and the Wiener-Hammerstein model, as well as the presentation of the whole process of model neural network. Applying both WienerNN model and WHNN model derived to model univariate and multivariable nonlinear dynamic processes can verify both feasibility and effectiveness of the model proposed.
Key words? ?nonlinear dynamic system, neural network, Wiener model, Wiener-Hammerstein model
基金項(xiàng)目:國(guó)家自然科學(xué)基金項(xiàng)目(61703434)。
作者簡(jiǎn)介:王珠(1989-),副教授,從事過(guò)程動(dòng)態(tài)建模與辨識(shí)、智能控制與故障預(yù)警以及機(jī)器學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)等的研究。
通訊作者:劉志輝(1998-),碩士研究生,從事過(guò)程動(dòng)態(tài)建模與辨識(shí)、神經(jīng)網(wǎng)絡(luò)等的研究,15750490146@163.com。
引用本文:王珠,劉志輝,肖既磊.基于Wiener模型和Wiener-Hammerstein模型的非線性動(dòng)態(tài)過(guò)程完整建模方法[J].化工自動(dòng)化及儀表,2023,50(5):652-659.