李曉龍, 田 薇, 李曉毅
(沈陽(yáng)師范大學(xué) 數(shù)學(xué)與系統(tǒng)科學(xué)學(xué)院, 沈陽(yáng) 110034)
?
突發(fā)傳染病的小波神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)
李曉龍, 田 薇, 李曉毅
(沈陽(yáng)師范大學(xué) 數(shù)學(xué)與系統(tǒng)科學(xué)學(xué)院, 沈陽(yáng) 110034)
利用小波神經(jīng)網(wǎng)絡(luò)對(duì)突發(fā)傳染病的預(yù)測(cè)進(jìn)行研究。給出密度函數(shù)的小波估計(jì)的計(jì)算公式,提供了小波神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)的理論框架。 用小波函數(shù)作為隱層節(jié)點(diǎn)激活函數(shù),神經(jīng)網(wǎng)絡(luò)連接權(quán)的大小由小波函數(shù)的系數(shù)確定,取數(shù)據(jù)庫(kù)中的監(jiān)控?cái)?shù)據(jù)為訓(xùn)練樣本,對(duì)小波神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練學(xué)習(xí),得到優(yōu)化的神經(jīng)網(wǎng)絡(luò)。給出小波神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過(guò)程和具體步驟,用小波神經(jīng)網(wǎng)絡(luò)對(duì)突發(fā)傳染病歷史數(shù)據(jù)庫(kù)中的已知數(shù)據(jù),進(jìn)行未知密度函數(shù)的小波估計(jì),得到相應(yīng)的小波估計(jì)函數(shù)和分布函數(shù),在顯著性水平下做擬合檢驗(yàn),構(gòu)造激活函數(shù),得到輸出結(jié)果,進(jìn)而進(jìn)行預(yù)測(cè),驗(yàn)證其有效性和可行性,最后總結(jié)問(wèn)題的關(guān)鍵和今后研究的方向。
小波神經(jīng)網(wǎng)絡(luò); 密度估計(jì); 擬合檢驗(yàn); 分類(lèi)預(yù)測(cè)
人工神經(jīng)網(wǎng)絡(luò)在非線性系統(tǒng)的建模及控制中有著廣闊的應(yīng)用前景,在傳染病分析與預(yù)測(cè)中的應(yīng)用也越來(lái)越廣泛[1-2]。文獻(xiàn)[3]給出了非線性函數(shù)逼近的小波神經(jīng)網(wǎng)絡(luò),文中對(duì)突發(fā)傳染病的實(shí)際監(jiān)控?cái)?shù)據(jù)進(jìn)行小波分析,得到監(jiān)測(cè)數(shù)據(jù)的小波估計(jì)。在此基礎(chǔ)上,利用小波函數(shù)建立小波神經(jīng)網(wǎng)絡(luò),與歷史數(shù)據(jù)庫(kù)中被人們所認(rèn)知的各類(lèi)傳染病的分布函數(shù)進(jìn)行擬合分析,對(duì)突發(fā)傳染病進(jìn)行分類(lèi)預(yù)測(cè),預(yù)測(cè)突發(fā)傳染病是屬于已有的傳染病類(lèi)型,還是一種新型傳染病,為醫(yī)療、衛(wèi)生、防御等相關(guān)決策部門(mén)提供相關(guān)的決策依據(jù)。
小波分析中函數(shù)逼近能力是小波理論中最重要的特征之一。神經(jīng)網(wǎng)絡(luò)可以作為非線性系統(tǒng)表征、控制以及近似實(shí)現(xiàn)的有效工具,它對(duì)信息進(jìn)行分布式存儲(chǔ)、并行處理,具有良好的學(xué)習(xí)和記憶能力,而且有很強(qiáng)的容錯(cuò)性、自適應(yīng)性等。小波網(wǎng)絡(luò)是小波分析和神經(jīng)網(wǎng)絡(luò)相結(jié)合的產(chǎn)物,兩者的結(jié)合既能夠使函數(shù)逼近效果更好,又利于網(wǎng)絡(luò)的控制處理,達(dá)到控制和預(yù)測(cè)的滿意效果。
1.1 密度函數(shù)的小波估計(jì)
密度函數(shù)的估計(jì)問(wèn)題是統(tǒng)計(jì)學(xué)的一個(gè)基本問(wèn)題,提出了諸如核估計(jì)、直方圖估計(jì)和近鄰估計(jì)等方法。近年來(lái)概率密度的小波估計(jì)受到了越來(lái)越多的關(guān)注[4-6],小波分析優(yōu)于傳統(tǒng)Fourier分析,它在時(shí)域和頻域內(nèi)同時(shí)具有良好的局部化性質(zhì),從而特別適于研究函數(shù)的局部性質(zhì),對(duì)密度函數(shù)進(jìn)行小波估計(jì),是非參數(shù)估計(jì)的一個(gè)有效方法。
對(duì)于函數(shù)Ψ(t)∈L2(R),滿足允許條件
稱(chēng)Ψ(t)為一個(gè)基本小波或母小波,將小波函數(shù)Ψ(t)經(jīng)過(guò)伸縮和平移后,得到小波序列
正交序列密度估計(jì)的思想是將平方可積的密度函數(shù)表示為收斂的正交序列展式,即對(duì)f(t)L2(R),存在L2(R)的一組標(biāo)準(zhǔn)正交基使得
密度函數(shù)f(x)的估計(jì)為:
Antonia等[7],Kerkyacharian等[8]討論了單變量密度函數(shù)線性小波估計(jì)的收斂速度,在一定條件下得到f(x)小波估計(jì)的收斂速度是滿足均方收斂的。
1.2 小波神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
小波神經(jīng)網(wǎng)絡(luò)以小波元來(lái)代替神經(jīng)元,采用小波函數(shù)直接作為神經(jīng)元的激勵(lì)函數(shù),通過(guò)一致逼近的小波分解來(lái)建立小波變換與神經(jīng)網(wǎng)絡(luò)的連接。
設(shè)xk(t)(k=1,2,…,n)為輸入的第k個(gè)樣本,yi(t)(i=1,2,…,m)為輸出的第i個(gè)輸出值。ωj·k是隱層結(jié)點(diǎn)j和輸入層節(jié)點(diǎn)k之間的權(quán)重;ωij為輸出層結(jié)點(diǎn)i和隱層結(jié)點(diǎn)j之間的權(quán)重,a>0為尺度參數(shù)(伸縮參數(shù)),b為定位參數(shù)(平移參數(shù))。經(jīng)典小波神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示,包括輸入層、輸出層和隱層。
(a)—含有1個(gè)隱層; (b)—含有2個(gè)隱層
函數(shù)的小波估計(jì)式(5),提供了小波神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)的理論框架。用小波函數(shù)作為隱層節(jié)點(diǎn)的激活函數(shù),神經(jīng)網(wǎng)絡(luò)的連接權(quán)大小就由函數(shù)f(x)的小波系數(shù)展開(kāi)式(4)來(lái)表示。
小波神經(jīng)網(wǎng)絡(luò)用于預(yù)測(cè)的基本思想是綜合小波分析極強(qiáng)的函數(shù)逼近能力與神經(jīng)網(wǎng)絡(luò)的控制處理能力,達(dá)到控制和預(yù)測(cè)的滿意效果[9-10]。
2.1 小波神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過(guò)程
實(shí)現(xiàn)過(guò)程分為5個(gè)步驟,一般選擇2個(gè)隱層的小波神經(jīng)網(wǎng)絡(luò)。
步驟1 取歷史數(shù)據(jù)庫(kù)中的監(jiān)控?cái)?shù)據(jù)為訓(xùn)練樣本,對(duì)小波神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練學(xué)習(xí),得到優(yōu)化的神經(jīng)網(wǎng)絡(luò),見(jiàn)圖1b;
步驟2 選取合適的小波函數(shù),存放在第1個(gè)隱層;對(duì)歷史數(shù)據(jù)庫(kù)中常見(jiàn)的s種典型傳染病的實(shí)際監(jiān)控?cái)?shù)據(jù)進(jìn)行小波分解,得到s個(gè)相應(yīng)的小波估計(jì)函數(shù)(F1,F2,…,Fs),存放在第2個(gè)隱層;
步驟5 構(gòu)造激活函數(shù),得到輸出結(jié)果Y,Y=(y1,y2,…,ys)T,
2.2 小波神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算例
按小波神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)步驟,得到優(yōu)化小波神經(jīng)網(wǎng)絡(luò);按步驟2,對(duì)歷史數(shù)據(jù)庫(kù)中s種已知數(shù)據(jù)(s種已知的傳染病數(shù)據(jù)),進(jìn)行未知密度函數(shù)f(x)的小波估計(jì),得到其分布函數(shù)(F1(x),F2(x),…,Fs(x));本文取s=3,計(jì)算所采用的數(shù)據(jù)為模擬產(chǎn)生的3種分布:單峰標(biāo)準(zhǔn)正態(tài)分布N(0,1)、多峰混合正態(tài)分布0.25N(-3,1)+0.75N(3,1)和混合分布0.5LN(-0.5,0.09)+0.5N(2.0,0.09),各取256個(gè)觀測(cè)值[7],其中LN(μ,σ)為對(duì)數(shù)正態(tài)分布,計(jì)算采用Daubechies 4小波,得到3種分布的分布函數(shù)(F1(x),F2(x),F3(x)),放入第2隱層。
2.3 結(jié)果討論
在上述算例中,取s=3,輸出結(jié)果Y=(1,0,0)T,認(rèn)為此次突發(fā)傳染病的實(shí)際監(jiān)控?cái)?shù)據(jù)與第1種傳染病是相合的,屬于第1種傳染病類(lèi)型;同理,若輸出結(jié)果Y=(0,1,0)T,認(rèn)為此次突發(fā)傳染病的實(shí)際監(jiān)控?cái)?shù)據(jù)與第2種傳染病是相合的,屬于第2種傳染病類(lèi)型;若輸出結(jié)果Y=(0,0,0)T,認(rèn)為此次突發(fā)傳染病的實(shí)際監(jiān)控?cái)?shù)據(jù)與已有的3種傳染病都不相合,不屬于已有傳染病的任何一種,屬于一種新型的傳染病,必須引起高度重視,需采取新的預(yù)防治療措施;若輸出結(jié)果Y=(1,1,1)T,不能判定此次突發(fā)傳染病的實(shí)際監(jiān)控?cái)?shù)據(jù)與那一種傳染病是相合的,須進(jìn)一步觀察,并采取其他方法手段進(jìn)行檢驗(yàn)(13-15)。
在密度函數(shù)的小波估計(jì)中,數(shù)據(jù)的真實(shí)有效是關(guān)鍵之一,正交小波函數(shù)的選取是關(guān)鍵之二。當(dāng)突發(fā)傳染病來(lái)臨之際,數(shù)據(jù)的獲取和剔除極為重要,直接影響對(duì)突發(fā)傳染病的判別歸類(lèi)的準(zhǔn)確性。另外,不能僅憑單一的分析方法,給出結(jié)論,還應(yīng)用進(jìn)一步的方法給予深層研究。及時(shí)準(zhǔn)確的判別歸類(lèi),可以為政府、醫(yī)療、衛(wèi)生、防御等相關(guān)部門(mén)提供決策依據(jù),有效預(yù)防和控制突發(fā)傳染病的蔓延,最大限度的減少傷亡和損失。
[ 1 ]白艷萍,靳禎. 人工神經(jīng)網(wǎng)絡(luò)在SARS疫情分析與預(yù)測(cè)中的應(yīng)用[J]. 數(shù)學(xué)的認(rèn)識(shí)與實(shí)踐, 2004,32(5):101-107.
[ 2 ]許慧,申?yáng)|日,陳義俊. 一種用于非線性函數(shù)逼近的小波神經(jīng)網(wǎng)絡(luò)[J]. 自動(dòng)化與儀器儀表, 2003(6):4-6.
[ 3 ]呂柏權(quán),李天鐸,呂崇德,等. 一種用于函數(shù)學(xué)習(xí)的小波神經(jīng)網(wǎng)絡(luò)[J]. 自動(dòng)化學(xué)報(bào), 1998,24(4):548-551.
[ 4 ]DEVROYE L,KRZYZAK A. New multivariate product density estimators[J]. JMVA, 2002,82(1):88-110.
[ 5 ]劉志剛,王曉茹,錢(qián)清泉. 小波網(wǎng)絡(luò)的研究進(jìn)展與應(yīng)用[J]. 電力系統(tǒng)自動(dòng)化, 2003,27(6):73-79.
[ 6 ]ANTONIADES A, CARMONA R A. Multiresolution anaylysis and wavelets for density estimation[R]. Technical Report, Dept of Math., University of California at Irvine, 1991.
[ 7 ]KERKYACHARIAN G, PICARD D. Density estimation by kernel and wavelet methods: optimality of Besov space[J]. Statist Probab Lett, 1993,18(4):327-336.
[ 8 ]侯迎春,宋錦萍,張軍艦. 密度函數(shù)的小波估計(jì)及其影響函數(shù)[J]. 鄭州大學(xué)學(xué)報(bào):理學(xué)版, 2006,38(1):28-32.
[ 9 ]ZHANG Q. Using wavelet network in nonparametric estimation[J]. IEEE Trans on Neural Nework, 1997,8(2):227-236.
[10]DELYON B,JUDITSKY A,BENVENISE A. Accuracy analysis for wavelet approximations[J]. IEEE Trans on Neural Network, 1995,6(2):332-348.
[11]SZU H H,TELFER B,KADAMBE B. Neural network adaptive wavelets for signal representation and classification[J]. OPT ENG, 1992,31(9):1906-1907.
[12]高采文,甘華來(lái). 增長(zhǎng)曲線模型的非參數(shù)估計(jì)[J]. 應(yīng)用概率統(tǒng)計(jì), 2013,29(6):655-665.
[13]寇俊克. 一類(lèi)回歸函數(shù)小波估計(jì)的相合性[J]. 北京工業(yè)大學(xué)學(xué)報(bào), 2015,41(4):636-640.
[14]CHESNEAU C, SHIRAZI E. Nonparametric wavelet regression based on biased data[J]. COMMUN STAT-THEOR M, 2014,43(13):2642-2658.
Wavelet neural network predication for epidemic outbreak
LIXiaolong,TIANWei,LIXiaoyi
(School of Mathematics and Systems Science, Shenyang Normal University, Shenyang 110034, China)
Using wavelet neural network to predict outbreaks of infectious diseases were studied. The calculation formula of the wavelet estimation of density function is given, which provides a theoretical framework for the structural design of the wavelet neural network. Using the wavelet function as the activation function of the hidden layer nodes, the connection weights of the neural network is determined by the coefficient of the wavelet function. The monitoring data in the database is a training sample, and the wavelet neural network is trained to learn and get optimized neural network. The learning process and the concrete steps of the wavelet neural network are presented. Using the wavelet neural network to the known data in the history database of the burst infectious disease, the wavelet estimation of the unknown density function is carried out, and the corresponding wavelet function and distribution function are obtained, Under the significance level, the fitting test is done, and the activation function is constructed, and the output results are obtained, and then the validity and feasibility of the research is verified. Finally, we summarize key issues and future directions of research.
wavelet neural networks; wavelet function; fitting test; classification and prediction
2015-01-19。
國(guó)家自然科學(xué)基金資助項(xiàng)目(10471096)。
李曉龍(1989-),男,遼寧丹東人,沈陽(yáng)師范大學(xué)碩士研究生; 通信作者: 李曉毅(1956-),女,遼寧葫蘆島人,沈陽(yáng)師范大學(xué)教授,碩士研究生導(dǎo)師。
1673-5862(2015)03-0392-04
TP183
A
10.3969/ j.issn.1673-5862.2015.03.016