權(quán)鵬宇+車文剛+余任+周志元
摘 要:為研究混沌時(shí)間序列預(yù)測(cè)問(wèn)題,提出了一種結(jié)合模糊神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)方法,對(duì)輸入數(shù)據(jù)進(jìn)行模糊規(guī)則提取,再經(jīng)過(guò)優(yōu)化得到最佳模糊規(guī)則庫(kù)。通過(guò)神經(jīng)網(wǎng)絡(luò)的自適應(yīng)學(xué)習(xí)能力調(diào)整隸屬函數(shù)參數(shù)及網(wǎng)絡(luò)權(quán)值等信息,對(duì)相關(guān)混沌時(shí)間序列進(jìn)行預(yù)測(cè)。對(duì)Mackey-Glass系統(tǒng)及Lorenz系統(tǒng)進(jìn)行仿真實(shí)驗(yàn),結(jié)果證明了該系統(tǒng)的有效性。
關(guān)鍵詞:混沌時(shí)間序列;神經(jīng)網(wǎng)絡(luò);模糊推理系統(tǒng);自適應(yīng)學(xué)習(xí)
DOIDOI:10.11907/rjdk.172284
中圖分類號(hào):TP301
文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1672-7800(2018)002-0023-05
0 引言
混沌時(shí)間序列是確定系統(tǒng)中出現(xiàn)的一種無(wú)規(guī)則運(yùn)動(dòng)?;煦鐣r(shí)間序列常常表現(xiàn)為其運(yùn)動(dòng)的離散情況,混沌時(shí)間序列是由混沌模型生成的具有混沌特性的時(shí)間序列,在混沌動(dòng)力學(xué)系統(tǒng)中,通過(guò)時(shí)間序列研究整個(gè)系統(tǒng)的動(dòng)力學(xué)行為并對(duì)混沌序列進(jìn)行預(yù)測(cè)。目前,國(guó)內(nèi)外學(xué)者對(duì)混沌時(shí)間序列預(yù)測(cè)提出了多種方法,比如自適應(yīng)高階非線性濾波法、最大李雅普諾夫指數(shù)法、神經(jīng)網(wǎng)絡(luò)法等[1-3]。目前,混沌時(shí)間序列預(yù)測(cè)在稅收預(yù)測(cè)、電力負(fù)荷預(yù)測(cè)、天文學(xué)預(yù)測(cè)、股市預(yù)測(cè)等方面有著廣泛應(yīng)用[2-4]。
傳統(tǒng)的混沌時(shí)間序列預(yù)測(cè)以相空間重構(gòu)為基礎(chǔ),包括相空間重構(gòu)和預(yù)測(cè)模型建立兩個(gè)階段[7]。已有的相空間重構(gòu)方法眾多,但其實(shí)現(xiàn)都比較繁瑣、效率低,漸漸被放棄。近年來(lái),在復(fù)雜非線性系統(tǒng)建模、預(yù)測(cè)與控制研究中,神經(jīng)網(wǎng)絡(luò)技術(shù)尤其是模糊神經(jīng)網(wǎng)絡(luò)理論是重點(diǎn)[8]。模糊神經(jīng)網(wǎng)絡(luò)既有模糊系統(tǒng)的邏輯推理能力又有神經(jīng)網(wǎng)絡(luò)的自適應(yīng)能力。近年來(lái),許多具有學(xué)習(xí)能力的模糊神經(jīng)網(wǎng)絡(luò)模型被開發(fā)出來(lái),如Mamdani型模糊推理模型[5]、Tsukamoto型模糊推理模型[6]等。
本文提出一種基于模糊神經(jīng)網(wǎng)絡(luò)模型,可展開學(xué)習(xí)與推理,以求達(dá)到最初期望值,獲取相應(yīng)知識(shí),確立模糊初始規(guī)則,達(dá)到期望目標(biāo)。應(yīng)用神經(jīng)網(wǎng)絡(luò)的反向傳播算法修改隸屬函數(shù)某些信息,如網(wǎng)絡(luò)權(quán)值等,可大幅降低匹配時(shí)間,有效提升推理速度,對(duì)提升體系自適應(yīng)水平與混沌時(shí)間序列的準(zhǔn)確度與速度作用顯著。此體系可有效估測(cè)Lorenz系統(tǒng)混沌時(shí)間序列,通過(guò)實(shí)驗(yàn)數(shù)據(jù)可詳細(xì)了解到模糊神經(jīng)網(wǎng)絡(luò)實(shí)施效果。
1 模糊神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)
本文模糊神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)如圖1所示,各部分輸入用I表示,輸出用O表示,通過(guò)輸入輸出可獲得下標(biāo)具體信息。上標(biāo)代表節(jié)點(diǎn),即第m層的第n個(gè)節(jié)點(diǎn)的輸出情況用Inm表達(dá),同樣,也可用Onm表達(dá)。其中,神經(jīng)元詳細(xì)情況說(shuō)明如下。
第一層表示輸入層,每一層都有幾個(gè)變量,節(jié)點(diǎn)數(shù)目通過(guò)體系進(jìn)行調(diào)控。可將獲取信息值送到下一層神經(jīng)元中。輸入輸出關(guān)系表示為:
式(1)中n為輸入變量的個(gè)數(shù)。
第二層為模糊化層,該層將輸入層的清晰輸入變得較為模糊。與上層神經(jīng)元連接權(quán)值大致是1,明確變動(dòng)使其模糊。此層神經(jīng)元與上一部分之間的連接權(quán)值是1,運(yùn)用高斯隸屬度函數(shù)進(jìn)行計(jì)算。該層輸入輸出關(guān)系為:
根據(jù)圖1可看到第三層代表模糊規(guī)則層,在此部分中所有神經(jīng)元都具有相適應(yīng)的模糊標(biāo)準(zhǔn),其中輸入部分代表此標(biāo)準(zhǔn)的前件部分(IF部分),輸出部分代表此標(biāo)準(zhǔn)條件下隸屬度的乘積,即:
第四層為結(jié)論層,本層每個(gè)神經(jīng)元的隸屬函數(shù)取為高斯型,依據(jù)前置標(biāo)準(zhǔn)的后件部分(THEN部分)在各種模糊區(qū)域中進(jìn)行計(jì)算。此層和第三層節(jié)點(diǎn)權(quán)值均代表模糊規(guī)則強(qiáng)度, wlk代表可調(diào)控參數(shù),此層函數(shù)如下:
第五層代表輸出層,此部分神經(jīng)元與可實(shí)現(xiàn)權(quán)值連接,進(jìn)而達(dá)到解模糊效果。運(yùn)用面積中心法處理存在問(wèn)題,最后的輸出內(nèi)容表達(dá)如下:
2 學(xué)習(xí)算法
在模糊神經(jīng)網(wǎng)絡(luò)推理系統(tǒng)模型中,學(xué)習(xí)過(guò)程包括兩個(gè)部分,即結(jié)構(gòu)學(xué)習(xí)和參數(shù)學(xué)習(xí) [17]。結(jié)構(gòu)學(xué)習(xí)部分主要處理輸入數(shù)據(jù),對(duì)最佳模糊規(guī)則進(jìn)行提取,并確定整個(gè)系統(tǒng)結(jié)構(gòu);參數(shù)學(xué)習(xí)階段則使用反向傳播算法,對(duì)模糊神經(jīng)網(wǎng)絡(luò)中相關(guān)的權(quán)值進(jìn)行調(diào)整。結(jié)構(gòu)學(xué)習(xí)決定了模糊規(guī)則的數(shù)量及輸入輸出模糊子集個(gè)數(shù),參數(shù)學(xué)習(xí)決定了每條規(guī)則的具體表達(dá)及隸屬函數(shù)形式[14-15]。
2.1 結(jié)構(gòu)學(xué)習(xí)
在模糊推理體系中,模糊規(guī)則的識(shí)別和提取是非常重要的一環(huán)。從局限的樣本數(shù)據(jù)中得到模糊規(guī)則,詳細(xì)步驟如下:①輸入輸出空間模糊分割;②在各子空間中獲取相應(yīng)規(guī)則。這里選取兩個(gè)輸入一個(gè)輸出的系統(tǒng)進(jìn)行詳細(xì)說(shuō)明。
(1)對(duì)輸入輸出空間進(jìn)行模糊化分割,將其劃分成若干模糊子空間,確定每個(gè)子空間的模糊標(biāo)記,將數(shù)據(jù)輸入信息轉(zhuǎn)化為語(yǔ)言輸入信息。之后根據(jù)隸屬函數(shù)中心等分?jǐn)?shù)據(jù)空間原則獲取隸屬函數(shù)的初始參數(shù),其中包括中心與寬度。
(2)在相應(yīng)數(shù)據(jù)對(duì)中識(shí)別并提取模糊規(guī)則。先需要確定不同子空間相應(yīng)數(shù)據(jù)的隸屬度,之后為xi1,xi2,yi在區(qū)域賦予最大隸屬度,最后從輸入輸出數(shù)據(jù)對(duì)中提取相應(yīng)的模糊規(guī)則。
(3)規(guī)則合并優(yōu)化。將得到的模糊規(guī)則定義一個(gè)置信度,其置信度大小為該模糊規(guī)則中各個(gè)變量隸屬度的乘積。在相同規(guī)則下,當(dāng)其前件部分(IF部分)相同后件部分(THEN部分)不同時(shí),取強(qiáng)度最大值。在此條件下,將置信度最大值作為此規(guī)則的置信度。把前件部分相同而后件部分不同的規(guī)則合并成一條規(guī)則,出現(xiàn)頻率最高的規(guī)則作為合并后的規(guī)則,其置信度作為該規(guī)則的置信度。
結(jié)構(gòu)學(xué)習(xí)結(jié)束即可得到簡(jiǎn)化的模糊規(guī)則庫(kù)。
2.2 參數(shù)學(xué)習(xí)
只要確立了模糊規(guī)則庫(kù),相應(yīng)的整個(gè)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)體系也同樣被確定。之后獲取輸入到輸出的詳細(xì)映射情況,其準(zhǔn)確度取決于相關(guān)權(quán)值與規(guī)則庫(kù)的精確性。之后經(jīng)過(guò)神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)優(yōu)化,對(duì)隸屬函數(shù)的相關(guān)參數(shù)權(quán)值進(jìn)行調(diào)整,使用梯度下降算法可有效減小誤差,目標(biāo)誤差函數(shù)如下:
式(6)中,m表示第五層神經(jīng)元的數(shù)量,O∧d和O5分別表示第五層神經(jīng)元l的目標(biāo)輸出和實(shí)際輸出。endprint
2.2.1 網(wǎng)絡(luò)權(quán)值修正
3 混沌動(dòng)力系統(tǒng)預(yù)測(cè)實(shí)驗(yàn)
研究表明,模糊集合理論與神經(jīng)網(wǎng)絡(luò)相結(jié)合的預(yù)測(cè)方法在系統(tǒng)建模中有著巨大的優(yōu)越性和精準(zhǔn)性,在不同領(lǐng)域得到了廣泛應(yīng)用。選取Mackey-Glass系統(tǒng)和Lorenz系統(tǒng)的混沌時(shí)間序列進(jìn)行仿真實(shí)驗(yàn),以證明上述系統(tǒng)的有效性。
3.1 Mackey-Glass混沌時(shí)間序列預(yù)測(cè)
Mackey-Glass混沌模型由以下的時(shí)滯微分方程描述:
3.1.1 仿真實(shí)驗(yàn)
采用模糊神經(jīng)網(wǎng)絡(luò)對(duì)混沌時(shí)間序列進(jìn)行建模:
3.1.2 自適應(yīng)學(xué)習(xí)結(jié)果分析
對(duì)圖2(a)的混沌時(shí)間序列進(jìn)行仿真實(shí)驗(yàn),首先用500個(gè)樣本數(shù)據(jù)建立模糊規(guī)則庫(kù)構(gòu)建整個(gè)模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),然后對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練調(diào)整隸屬函數(shù)的參數(shù),使整個(gè)模糊神經(jīng)網(wǎng)絡(luò)系統(tǒng)性能指標(biāo)達(dá)到期望值,最后有新的數(shù)據(jù)對(duì)時(shí),對(duì)最初的模糊規(guī)則進(jìn)行優(yōu)化學(xué)習(xí),并用優(yōu)化后的模型對(duì)未來(lái)值進(jìn)行預(yù)測(cè)。對(duì)圖2(a)的混沌時(shí)間序列進(jìn)行自適應(yīng)學(xué)習(xí),對(duì)前500個(gè)數(shù)據(jù)對(duì)建立的網(wǎng)絡(luò)進(jìn)行訓(xùn)練修正參數(shù),并以此網(wǎng)絡(luò)模型對(duì)下一個(gè)數(shù)據(jù)x(501)進(jìn)行預(yù)測(cè),再用得到的估值優(yōu)化模糊規(guī)則庫(kù),再用優(yōu)化后的網(wǎng)絡(luò)對(duì)數(shù)據(jù)x(502)進(jìn)行預(yù)測(cè),用得到的估值優(yōu)化模糊規(guī)則庫(kù),預(yù)測(cè)下一個(gè)數(shù)據(jù)x(503),這種方法一直到第1000個(gè)數(shù)據(jù)x(1000)為止。預(yù)測(cè)仿真結(jié)果見圖3。通過(guò)對(duì)圖2(a)與圖3(a)比較,不難發(fā)現(xiàn)采用自適應(yīng)方法效果有很大改進(jìn)。預(yù)測(cè)輸出誤差如圖3(b)所示,相對(duì)集中在0.01范圍內(nèi)。
3.2 Lorenz混沌時(shí)間序列預(yù)測(cè)
Lorenz系統(tǒng)方程為:
當(dāng)α=10,β=8/3,ρ=28時(shí),Lorenz系統(tǒng)處于混沌狀態(tài),此時(shí)以定步長(zhǎng)0.005,初始條件為x(0)=0,y(0)=1,z(0)=0,用Runge-Kutta算法獲取變量x的序列信息,并進(jìn)行相空間重構(gòu)。取嵌入維度m=7,延遲時(shí)間τ=10Δt=0.05,通過(guò)t時(shí)刻與之前m個(gè)值預(yù)測(cè)t+τ時(shí)刻的映射:
使用神經(jīng)網(wǎng)絡(luò)迫近函數(shù)f(),令ζ=0.005,從9000組輸入輸出數(shù)據(jù)集合中提煉模糊規(guī)則,建立模糊規(guī)則庫(kù),將獲得的48條模糊規(guī)則進(jìn)行處理,建立5層神經(jīng)網(wǎng)絡(luò)模型。
用本文的自適應(yīng)學(xué)習(xí)方法,將78=5764801條規(guī)則減少到48條,減小了規(guī)則匹配時(shí)間,加快了推理速度。取3000組數(shù)據(jù)參數(shù)進(jìn)行訓(xùn)練,3000組數(shù)據(jù)校驗(yàn)網(wǎng)絡(luò),取η=0.005,然后用上述系統(tǒng)進(jìn)行仿真實(shí)驗(yàn),結(jié)果與誤差曲線如圖4所示。
4 結(jié)語(yǔ)
本文提出的將神經(jīng)網(wǎng)絡(luò)與模糊邏輯推理體系相結(jié)合的自適應(yīng)學(xué)習(xí)系統(tǒng),可在一定程度加強(qiáng)適應(yīng)性,提高提取模糊規(guī)則的效果,克服基于先驗(yàn)知識(shí)確定網(wǎng)絡(luò)模型的缺陷,加快了學(xué)習(xí)推理速度,提高了網(wǎng)絡(luò)精度,為復(fù)雜非線性系統(tǒng)的識(shí)別與混沌時(shí)間序列的預(yù)測(cè)提供了一條有效渠道。通過(guò)對(duì)上述兩種混沌時(shí)間序列系統(tǒng)的仿真實(shí)驗(yàn),驗(yàn)證了系統(tǒng)對(duì)模糊神經(jīng)網(wǎng)絡(luò)的非線性建模能力。因此,本文提出的模糊神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法具有很高的研究?jī)r(jià)值。
參考文獻(xiàn):
[1] 呂金虎.混沌時(shí)間序列分析及其應(yīng)用[M].武漢:武漢大學(xué)出版社,2002.
[2] 張吉禮.模糊神經(jīng)網(wǎng)絡(luò)控制原理與工程應(yīng)用[M].哈爾濱:哈爾濱工業(yè)大學(xué)出版社,2004.
[3] 許傳華,任青文,房定旺.基于神經(jīng)網(wǎng)絡(luò)的混沌時(shí)間序列預(yù)測(cè)[J].水文地質(zhì)工程地質(zhì),2003(1):30-32.
[4] 向小東.基于混沌理論與徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)的混沌時(shí)間序列預(yù)測(cè)[J].福州大學(xué)學(xué)報(bào),2003(8):401-403.
[5] 邵小強(qiáng),馬憲民.混沌時(shí)間序列預(yù)測(cè)的建模與仿真研究[J].計(jì)算機(jī)仿真,2011,28(4):100-102.
[6] 張淑清,賈健,高敏,等.混沌時(shí)間序列重構(gòu)相空間參數(shù)選取研究[J].物理學(xué)報(bào),2012,59(3):1576-1582.
[7] 王永生,孫瑾,王昌金,等.變參數(shù)混沌時(shí)間序列的神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)研究[J].物理學(xué)報(bào),2008,57(10):6120-6131.
[8] JANG J S R.ANFIS: adaptive-network-based fuzzy inference system[J]. IEEE Trans. on Systems,Man,and Cybernetics,1993,22(3):775-784.
[9] SU S F,LIN C B,HSU Y T. A high precision global prediction approach based on local prediction approaches[J].IEEE Transactions on Systems, Man and Cybernetics, Part C,2002,32(4):416-425.
[10] MASOUMI H R F, BASRI M, KASSIM A, et al. Comparison of estimation capabilities of the artificial neural network with the wavelet neural network in lipase-catalyzed synthesis of triethanolamine-based esterquats cationic surfactant[J]. J of Surfact Deterg, 2014,17(2):287-294.
[11] 張森,肖先賜.混沌時(shí)間序列全局預(yù)測(cè)新方法——連分式法[J].物理學(xué)報(bào),2005,54(11):5062-5068.
[12] 簡(jiǎn)向超,鄭君里.混沌神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)算法評(píng)價(jià)準(zhǔn)則與性能分析[J].清華大學(xué)學(xué)報(bào):自然科學(xué)版,2001,41(7):43-46.
[13] 譚文,王耀南.混沌系統(tǒng)的模糊神經(jīng)網(wǎng)絡(luò)控制理論與方法[M].北京:科學(xué)出版社,2008.
[14] BASHIROV A E, BELAGHI M J S. On application of eulers differential method to a continued fraction depending on parameter[J]. Indian J of Pure and Applied Mathematics,2014,45(3):285-295.
[15] TIAN N, LAI C H. Parallel quantum-behaved particle swarm optimization[J]. Int J of Machine Learning and Cybernetics, 2014,5(2):309-318.
[16] MANICKAVELU D, VAIDYANATHAN R U. Particle swarm optimization(PSO)-based node and link lifetime prediction algorithm for route recovery in MANET[J]. EURASIP J on Wireless Communications and Networking, 2014(107):1-10.
[17] 韓敏,王迎新.多元混沌時(shí)間序列的加權(quán)極端學(xué)習(xí)機(jī)預(yù)測(cè)[J].控制理論與應(yīng)用,2013,30(11):1467-1472.endprint