楊 帆,于 奇
(遼寧工程技術(shù)大學(xué) 測(cè)繪與地理科學(xué)學(xué)院,遼寧 阜新 123000)
?
遺傳小波神經(jīng)網(wǎng)絡(luò)的GPS高程擬合模型
楊 帆,于 奇
(遼寧工程技術(shù)大學(xué) 測(cè)繪與地理科學(xué)學(xué)院,遼寧 阜新 123000)
針對(duì)小波神經(jīng)網(wǎng)絡(luò)模型參數(shù)優(yōu)化方法的局限性,提出基于遺傳小波神經(jīng)網(wǎng)絡(luò)的GPS高程擬合模型。該算法在小波神經(jīng)網(wǎng)絡(luò)GPS高程擬合模型的基礎(chǔ)上,采用遺傳算法優(yōu)化小波神經(jīng)網(wǎng)絡(luò)的權(quán)值與閾值,獲取小波神經(jīng)網(wǎng)絡(luò)的最優(yōu)參數(shù)建立模型。通過(guò)實(shí)驗(yàn)分析表明:該模型擬合精度要優(yōu)于二次曲面擬合、小波神經(jīng)網(wǎng)絡(luò)與BP神經(jīng)網(wǎng)絡(luò)模型,避免了小波神經(jīng)網(wǎng)絡(luò)參數(shù)選擇的隨機(jī)性,有效提高了擬合的精度。
GPS高程擬合;小波神經(jīng)網(wǎng)絡(luò);遺傳算法;模型優(yōu)化
隨著全球定位系統(tǒng)(global positioning system,GPS)技術(shù)的成熟,其越來(lái)越廣泛地應(yīng)用于工程中,可以獲得點(diǎn)的高精度三維坐標(biāo);但是GPS測(cè)量獲得的是點(diǎn)在WGS-84坐標(biāo)系下的大地高,而在實(shí)際工程應(yīng)用或城市測(cè)量中采用以似大地水準(zhǔn)面為參考面的正常高,因此如何確定二者之間的差值成為GPS高程擬合中的關(guān)鍵。目前用于GPS高程擬合的數(shù)學(xué)模型主要有:多項(xiàng)式擬合、二次曲面擬合模型,以及新興的智能算法如神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)模型等等[1-7]。但是這些單一模型都有各自的優(yōu)缺點(diǎn),如BP神經(jīng)網(wǎng)絡(luò)具有結(jié)構(gòu)設(shè)計(jì)盲目性且學(xué)習(xí)速度慢,同時(shí)很依賴(lài)訓(xùn)練樣本等缺點(diǎn)。小波神經(jīng)網(wǎng)絡(luò)結(jié)合了小波函數(shù)與BP神經(jīng)網(wǎng)絡(luò)二者的優(yōu)點(diǎn),不僅避免了BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)的盲目性,同時(shí)其學(xué)習(xí)能力更強(qiáng),精度更高[8]。
本文探討將小波神經(jīng)網(wǎng)絡(luò)模型應(yīng)用到GPS高程擬合中。小波神經(jīng)網(wǎng)絡(luò)建模的精度在很大程度上取決于初始權(quán)值、閾值以及縮放因子和平移因子;而傳統(tǒng)法小波神經(jīng)網(wǎng)絡(luò)模型采用的參數(shù)優(yōu)化方法是梯度修正法,該方法在靠近極小值時(shí)收斂速度會(huì)減慢,同時(shí)在進(jìn)行直線搜索時(shí)會(huì)產(chǎn)生問(wèn)題:因此,采用遺傳算法優(yōu)化小波神經(jīng)網(wǎng)絡(luò)的權(quán)值與閾值,不僅可以克服傳統(tǒng)小波神經(jīng)網(wǎng)絡(luò)權(quán)值閾值選取的隨機(jī)性,又能加快網(wǎng)絡(luò)計(jì)算收斂的速度。
1.1 小波神經(jīng)網(wǎng)絡(luò)模型
小波神經(jīng)網(wǎng)絡(luò)是一種以BP神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)為基礎(chǔ),將小波基函數(shù)作為隱含層函數(shù)中隱含層節(jié)點(diǎn)的傳遞函數(shù),信號(hào)向前傳播的同時(shí)誤差反向傳播的神經(jīng)網(wǎng)絡(luò)。小波神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)如圖1所示。
圖1中:X1,X2,…,Xn為小波神經(jīng)網(wǎng)絡(luò)的輸入值;Y1,Y2,…,Yn為小波神經(jīng)網(wǎng)絡(luò)的輸出集;ωij和ωjk表示小波神經(jīng)網(wǎng)絡(luò)的權(quán)值。在輸入值序列為xi(i=1,2,…,k)時(shí),此時(shí)隱含層輸出計(jì)算公式為
(1)式中:h(j)表示隱含層第j個(gè)節(jié)點(diǎn)的輸出值;ωij表示輸入層與隱含層之間的連接權(quán)值;bj表示小波基函數(shù)hj的平移因子;aj表示小波基函數(shù)hj的縮放因子。
小波神經(jīng)網(wǎng)絡(luò)輸出層的計(jì)算公式為
(2)
式中:ωik表示隱含層到輸出層之間的權(quán)值;h(i)表示第i個(gè)節(jié)點(diǎn)的輸出值;l表示隱含層節(jié)點(diǎn)數(shù);m表示輸出層節(jié)點(diǎn)數(shù)。
小波神經(jīng)網(wǎng)絡(luò)權(quán)值參數(shù)修正算法采用的是梯度修正網(wǎng)絡(luò)的權(quán)值和小波基函數(shù)參數(shù),從而使小波神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)輸出不斷逼近期望輸出。小波神經(jīng)網(wǎng)絡(luò)修正過(guò)程如下:
1)計(jì)算網(wǎng)絡(luò)預(yù)測(cè)誤差為
(3)
式中:yn(k)表示期望輸出;y(k)表示小波神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)輸出值。
2)依據(jù)預(yù)測(cè)誤差e修正小波神經(jīng)網(wǎng)絡(luò)權(quán)值與小波基函數(shù)系數(shù)為
(4)
(5)
式中η表示學(xué)習(xí)速率。
小波神經(jīng)網(wǎng)絡(luò)算法訓(xùn)練步驟如下:
1)網(wǎng)絡(luò)模型初始化。隨機(jī)初始化小波函數(shù)縮放因子ak、平移因子bk以及網(wǎng)絡(luò)連接權(quán)重ωijωjk并設(shè)置網(wǎng)絡(luò)學(xué)習(xí)速率η。
2)預(yù)測(cè)輸出。將訓(xùn)練樣本輸入網(wǎng)絡(luò),計(jì)算網(wǎng)絡(luò)預(yù)測(cè)輸出并計(jì)算網(wǎng)絡(luò)輸出與期望輸出殘差e。
3)權(quán)值修正。依據(jù)誤差e修正網(wǎng)絡(luò)權(quán)值和小波函數(shù)參數(shù),使網(wǎng)絡(luò)預(yù)測(cè)值逼近期望值。
4)判斷算法是否結(jié)束,若沒(méi)結(jié)束,返回步驟3)。
1.2 遺傳算法優(yōu)化小波神經(jīng)網(wǎng)絡(luò)參數(shù)
遺傳算法(genetic algorithms, GA)是模擬自然選擇與基因遺傳學(xué)機(jī)制而形成的一種并行隨機(jī)全局優(yōu)化搜索方法[9]。首先對(duì)網(wǎng)絡(luò)模型中的權(quán)值、閾值、縮放因子與平移因子進(jìn)行編碼處理,同時(shí)確定適度值函數(shù),通過(guò)小波神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練計(jì)算,得到各個(gè)體種群的適度函數(shù)值,并通過(guò)選擇、交叉與變異等操作,獲得最優(yōu)個(gè)體;然后得到最優(yōu)個(gè)體所對(duì)應(yīng)的權(quán)值、閾值。遺傳算法優(yōu)化小波神經(jīng)網(wǎng)絡(luò)模型的具體流程如下:
1)對(duì)初始種群P,小波神經(jīng)網(wǎng)絡(luò)的權(quán)值、閾值、縮放因子以及平移因子進(jìn)行編碼,并初始化設(shè)置遺傳算法的交叉規(guī)模、交叉概率、突變概率以及初始種群數(shù)目與遺傳迭代次數(shù)。
2)對(duì)每一個(gè)高程異常值輸入序列,計(jì)算其每層輸出;并計(jì)算網(wǎng)絡(luò)預(yù)測(cè)值與實(shí)測(cè)值的誤差,并將誤差作為個(gè)體適度值進(jìn)行優(yōu)化處理。
3)比較編碼每顆衛(wèi)星個(gè)體適度值的大小,進(jìn)行選擇、交叉、變異等操作產(chǎn)生下一代種群。
4)判斷是否達(dá)到條件,若否則返回2)。
5)將得到的最佳個(gè)體解碼的連接權(quán)值與伸縮平移因子帶入小波神經(jīng)網(wǎng)絡(luò)模型中,重新訓(xùn)練,并計(jì)算高程異常值預(yù)測(cè)值。
為驗(yàn)證該模型的可行性與實(shí)用性,選用某地勢(shì)平緩地區(qū)的30組等精度的GPS水準(zhǔn)聯(lián)測(cè)數(shù)據(jù),以其中平均分布的13個(gè)點(diǎn)的高程異常值作為訓(xùn)練樣本以建立模型,剩余的17組數(shù)據(jù)作為檢測(cè)樣本以檢測(cè)模型預(yù)測(cè)誤差,其點(diǎn)位分布如圖2所示。并采用3種不同預(yù)測(cè)模型方案進(jìn)行對(duì)比分析。方案1為二次曲面擬合模型;方案2為小波神經(jīng)網(wǎng)絡(luò)模型;方案3為BP神經(jīng)網(wǎng)絡(luò)模型。然后計(jì)算各點(diǎn)的誤差以及外符合精度。
2.1 計(jì)算方案
將30組數(shù)據(jù)進(jìn)行歸一化處理,將其歸一化至[0,1]區(qū)間內(nèi),并設(shè)置遺傳算法的初始參數(shù):種群大小為100,個(gè)體長(zhǎng)度為30;選擇方法為隨機(jī)遍歷采樣;交叉方法為單點(diǎn)交叉,交叉概率為0.6;編譯概率為0.02;最大遺傳代數(shù)為40。然后采用3種方案對(duì)13組訓(xùn)練數(shù)據(jù)進(jìn)行建模,對(duì)剩余的17組數(shù)據(jù)進(jìn)行預(yù)測(cè),各個(gè)方案的計(jì)算結(jié)果以及誤差如表1所示,各方案的誤差曲線如圖3所示。
檢核點(diǎn)號(hào)高程異常/m二次曲面小波神經(jīng)網(wǎng)絡(luò)遺傳小波神經(jīng)網(wǎng)絡(luò)BP神經(jīng)網(wǎng)絡(luò)擬合異常/m殘差/m擬合異常/m殘差/m擬合異常/m殘差/m擬合異常/m殘差/m141469851469990001414718300198146851-00134146726-0025915144841144647-00194144647-0019414489500054144656-0018516145234145122-00112145122-00112145048-00186144987-00247171458191459380011914570000119145735-00084145783-00036181462441472040009614634000096146227-00017145786-0003319146723146728000051467280000514682500102145943-00780201451101453640025414536400254145086-00024145093-0001721141877141558-00319141558-0031914200300126141826-0005122146426146647002211466470022114656500139146412-0001423146913147084001711470840017114703400121146800-0011324144417144131-00286144131-00286144273-00144144372-0004525144185143941-00244143941-0024414431600131143910-0027526144733144600-00133144599-00134144829000961447530002027142520142423-00097142424-0009614308000056142140-0003828143270143165-00105143166-00104143354000841433990012929143155142295-00086143069-00086143121-000341431560000130142614142564-00050142563-00051142596-0001814295300339外符合精度/mm1317179510672425
2.2 結(jié)果分析
由表1可知:方案3的建模擬合效果最差,外符合精度為24.25mm,平均誤差15.188mm;方案2建模擬合的平均誤差為15.82mm,外符合精度為17.95mm;方案1的平均誤差為14.04mm,最大誤差達(dá)到31.9mm,外符合精度為13.17mm;本文模型擬合效果最佳,外符合精度為10.67mm,平均誤差僅為8.62mm,最小誤差僅為1.7mm。同時(shí)由圖3誤差曲線可以看出,提出的算法模型相對(duì)于其他方案穩(wěn)定性更好,擬合數(shù)據(jù)的波動(dòng)性不大,與實(shí)際值更加吻合,證明了該模型的可行性與有效性。
針對(duì)GPS高程擬合存在的問(wèn)題,在分析現(xiàn)有高程擬合模型優(yōu)缺點(diǎn)的基礎(chǔ)上,本文提出了基于遺傳算法優(yōu)化的小波神經(jīng)網(wǎng)絡(luò)GPS高程擬合模型,將遺傳算法引入到小波神經(jīng)網(wǎng)絡(luò)的參數(shù)優(yōu)化中,并通過(guò)實(shí)例分析得到以下結(jié)論:1)利用該模型進(jìn)行GPS高程擬合的精度較高,擬合精度優(yōu)于二次曲面模型、BP神經(jīng)網(wǎng)絡(luò)等模型,外符合精度為10.67mm;2)避免了小波神經(jīng)網(wǎng)絡(luò)參數(shù)選擇的隨機(jī)性;3)對(duì)于地勢(shì)平緩的地區(qū)采用該模型進(jìn)行高程擬合能夠得到很好的效果,為研究GPS高程擬合模型提供了參考。另外,由于實(shí)驗(yàn)區(qū)域的限制,在地勢(shì)起伏較大的區(qū)域的擬合效果仍需要進(jìn)一步驗(yàn)證。
[1] 邱衛(wèi)寧,陶本藻,姚宜斌,等. 測(cè)量數(shù)據(jù)處理理論與方法[M]. 武漢:武漢大學(xué)出版社, 2008:126-139.
[2] 高原, 張恒璟, 趙春江. 多項(xiàng)式曲面模型在GPS高程擬合中的應(yīng)用[J].測(cè)繪科學(xué), 2011, 36(3):179-181.
[3] 駱麗華, 覃輝. Matlab程序設(shè)計(jì)在GPS高程擬合中的應(yīng)用[J]. 地理空間信息, 2015(1):99-101.
[4] SCHAFFRIN B, WIESER A. On weighted total least-squares adjustment for linear regression[J]. Journal of Geodesy, 2008, 82(82):415-421.
[5] 韓碩. 神經(jīng)網(wǎng)絡(luò)在GPS高程擬合中的應(yīng)用[J]. 測(cè)繪通報(bào), 2006(4):48-50.
[6] 謝波, 劉連旺. 支持向量機(jī)在GPS高程異常中的應(yīng)用[J]. 測(cè)繪科學(xué), 2011, 36(1):172-174.
[7] 王繼剛, 胡永輝, 孔令杰. 基于最小二乘支持向量機(jī)的區(qū)域GPS高程轉(zhuǎn)換組合[J]. 大地測(cè)量與地球動(dòng)力學(xué), 2009, 29(5):99-102.
[8] 潘國(guó)榮, 谷川. 變形監(jiān)測(cè)數(shù)據(jù)的小波神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法[J]. 大地測(cè)量與地球動(dòng)力學(xué), 2007, 27(4):47-50.
[9] 李婧瑜, 李歧強(qiáng), 侯海燕,等. 基于遺傳算法的小波神經(jīng)網(wǎng)絡(luò)交通流預(yù)測(cè)[J]. 山東大學(xué)學(xué)報(bào)(工學(xué)版), 2007, 37(2):109-112.
GPS elevation fitting based on genetic wavelet neural network model
YANGFan,YUQi
(School of Geomatics, Liaoning Technical University, Fuxin, Liaoning 123000, China)
Aiming at the limitations of the parameter optimization of the wavelet neural network model, the paper proposed the GPS elevation fitting model based on genetic wavelet neural network: the genetic algorithm was used to optimize the weights and thresholds of wavelet neural network on the basis of GPS height fitting model with wavelet neural network, so as to obtain the optimal parameters of wavelet neural network model for establishing the proper model.Experimental result showed that the fitting precision of the proposed model would be superior to the quadric surface fitting, wavelet neural network and BP neural network models, and the method could help avoid the randomness in parameter choosing of wavelet neural network, which would effectively improve the fitting accuracy.
GPS elevation fitting; wavelet neural network; genetic algorithm; model optimization
2016-08-16
國(guó)家自然科學(xué)基金項(xiàng)目(50604009);遼寧省“百千萬(wàn)人才工程”人選資助項(xiàng)目(2010921099)。
楊帆(1972—),男,湖北隨州人,博士,教授,研究方向?yàn)樽冃伪O(jiān)測(cè)與預(yù)報(bào)、開(kāi)采沉陷研究。
于奇(1992—),男,黑龍江綏化人,碩士研究生,研究方向?yàn)樽冃伪O(jiān)測(cè)與預(yù)報(bào)、變形監(jiān)測(cè)數(shù)據(jù)處理。
楊帆,于奇.遺傳小波神經(jīng)網(wǎng)絡(luò)的GPS高程擬合模型[J].導(dǎo)航定位學(xué)報(bào),2017,5(2):131-134.(YANG Fan,YU Qi.GPS elevation fitting based on genetic wavelet neural network model[J].Journal of Navigation and Positioning,2017,5(2):131-134.)
10.16547/j.cnki.10-1096.20170223.
P228
A
2095-4999(2017)02-0131-04