BP神經(jīng)網(wǎng)絡(luò)在水下地形高程擬合的應(yīng)用

彭中波， 高 陽

重慶交通大學(xué) 航運與船舶工程學(xué)院，重慶 400041)

0 引 言

人工神經(jīng)網(wǎng)絡(luò)是模仿人類大腦的結(jié)構(gòu)和功能的一種信息處理系統(tǒng)[1-2]，由于具有并行結(jié)構(gòu)和并行處理能力、知識能夠分布式存儲、良好的容錯性以及自適應(yīng)學(xué)習(xí)能力等特點，在信號處理、模式識別、智能檢測以及人工智能等領(lǐng)域得到廣泛應(yīng)用。具有3層或3層以上結(jié)構(gòu)的無反饋、層內(nèi)無互聯(lián)結(jié)構(gòu)的前向神經(jīng)網(wǎng)絡(luò)，即為BP神經(jīng)網(wǎng)絡(luò)。它采用有指導(dǎo)的學(xué)習(xí)方式進(jìn)行訓(xùn)練和學(xué)習(xí)，即在一給出的BP神經(jīng)網(wǎng)絡(luò)中，輸入神經(jīng)元的激活值從輸入層經(jīng)過各個隱含層傳遞到輸出層，在輸出層的各個神經(jīng)元得到神經(jīng)網(wǎng)絡(luò)的實際輸出。對神經(jīng)網(wǎng)絡(luò)的實際輸出與期望輸出值進(jìn)行比較，得到輸出值的誤差，再逐層修正各個從輸出層至隱含層的連接權(quán)值，最后返回到輸入層并不斷重復(fù)該過程，使誤差值減小到能夠接受的范圍。

隨著市政工程的不斷發(fā)展完善，高程測量[3-5]工作顯得尤為重要，測量值的準(zhǔn)確性將直接影響到工程的質(zhì)量。在市政工程中高程的主要測量方式有GPS技術(shù)測量、水準(zhǔn)測量、三角高程測量和氣壓高程測量[6-9]，其中以GPS技術(shù)測量、水準(zhǔn)測量兩種方式所測數(shù)據(jù)最為精密，但是整個測量過程中對設(shè)備及設(shè)備的安裝位置有特定的要求，測量步驟也較為復(fù)雜，都需要嚴(yán)格按照相關(guān)測量規(guī)范進(jìn)行。針對烏江河口至白馬河段水下地形圖高程測量問題，利用MATLAB提供的神經(jīng)網(wǎng)絡(luò)函數(shù)編程實現(xiàn)GPS正常高的神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)擬合[10-12]。

1 BP神經(jīng)網(wǎng)絡(luò)模型與理論基礎(chǔ)

BP(Back Propagation)神經(jīng)網(wǎng)絡(luò)是一種典型的多層前向型網(wǎng)絡(luò)，可以實現(xiàn)從輸入到輸出的任意非線性映射。網(wǎng)絡(luò)中通常含有一個或多個隱含層，各個神經(jīng)元接受前級輸入并輸出到后級，最終網(wǎng)絡(luò)的輸出是由輸入與其對應(yīng)的權(quán)值求取加權(quán)和后通過傳遞函數(shù)得出。BP網(wǎng)絡(luò)的輸出可以通過選擇最后一層的傳遞函數(shù)確定。傳遞函數(shù)為S型時，輸出量為0～1的連續(xù)量；傳遞函數(shù)是線性傳遞函數(shù)時，網(wǎng)絡(luò)輸出量可以取任意值。其中隱含層神經(jīng)元采用S型傳遞函數(shù)，輸出層神經(jīng)元采用線性傳遞函數(shù)。BP神經(jīng)元模型如圖1。

圖1 BP神經(jīng)元模型Fig. 1 BP neuron model

圖1是具有R個輸入的神經(jīng)網(wǎng)絡(luò)模型。每一個輸入信號的連接強(qiáng)度都用一權(quán)值表示，權(quán)值的刺激或者抑制作用通過對權(quán)值取正負(fù)值表示。給輸入信號相應(yīng)突觸加權(quán)之和添加一個閾值，根據(jù)閾值的正負(fù)值去增加或減少激活函數(shù)的輸入。激活函數(shù)主要作用是限制神經(jīng)元的輸出振幅，將輸入信號限制在允許范圍之內(nèi)。一般的輸出的幅度范圍有[0,1]和[-1,+1]兩種。

BP神經(jīng)網(wǎng)絡(luò)輸入輸出之間的線性或非線性關(guān)系都可以由隱含層的非線性傳遞函數(shù)神經(jīng)元學(xué)習(xí)擬合獲得，輸出層采用線性傳遞函數(shù)是為了拓寬網(wǎng)絡(luò)輸出。圖2為一典型BP網(wǎng)絡(luò)結(jié)構(gòu)，含有一個神經(jīng)元數(shù)目為s的隱含層，隱層神經(jīng)元傳遞函數(shù)tansig，輸出層神經(jīng)元傳遞函數(shù)purelin[13]。

圖2 BP網(wǎng)絡(luò)結(jié)構(gòu)Fig. 2 BP network structure

2 BP神經(jīng)網(wǎng)絡(luò)設(shè)計

2.1 神經(jīng)網(wǎng)絡(luò)問題簡述

將以獲取點的坐標(biāo)值(xi，yi)和相對應(yīng)的高程值zi作為新建神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)樣本：

P={P1,P2,P3,…,Pn}

(1)

式中：Pi=(xi,yi,zi)，i=1,2,3,…,n。

對數(shù)據(jù)樣本進(jìn)行學(xué)習(xí)，建立映射關(guān)系：

z=f(x,y)

(2)

式中：x，y為平面坐標(biāo)；z為高程值。

2.2 神經(jīng)網(wǎng)絡(luò)設(shè)計

2.2.1 樣本數(shù)據(jù)的處理

從工程河段實測水下地形圖中提取坐標(biāo)點(x,y)及高程值z，其中坐標(biāo)點作為神經(jīng)網(wǎng)絡(luò)的輸入層，坐標(biāo)組成向量為二維，因此輸入層有兩個神經(jīng)元；高程值組成向量Z作為神經(jīng)網(wǎng)絡(luò)的輸出層，即輸出層有一個神經(jīng)元。從實測圖中提取的數(shù)據(jù)顯示所測坐標(biāo)點及高程值之間的差值較大，為了方便后面的數(shù)據(jù)處理與加快MATLAB中神經(jīng)網(wǎng)絡(luò)程序的運行及網(wǎng)絡(luò)收斂速度，需要對樣本數(shù)據(jù)進(jìn)行歸一化處理，歸一化后的數(shù)據(jù)將分布在區(qū)間[0,1]，網(wǎng)絡(luò)訓(xùn)練結(jié)束后可以將數(shù)據(jù)反歸一化到原始數(shù)據(jù)的范圍[14]。使用的歸一化函數(shù)：

(3)

式中：P為輸入輸出向量P(x，y，z)；min(P)、max(P)分別為向量P(x，y，z)的最小值和最大值。

2.2.2 隱層神經(jīng)元數(shù)選取

BP神經(jīng)網(wǎng)絡(luò)的神經(jīng)元個數(shù)選擇是關(guān)鍵。根據(jù)BP神經(jīng)網(wǎng)絡(luò)任意逼近定理，對于有界區(qū)域中的任意連續(xù)函數(shù)在足夠多的神經(jīng)元數(shù)時，都能用3層前向神經(jīng)網(wǎng)絡(luò)以任意精度逼近[15-16]。但是神經(jīng)元數(shù)目較多時，神經(jīng)網(wǎng)絡(luò)訓(xùn)練學(xué)習(xí)的時間較長，網(wǎng)絡(luò)復(fù)雜度增加，容錯性差以及過擬合現(xiàn)象出現(xiàn)；神經(jīng)元數(shù)目較少時，網(wǎng)絡(luò)對樣本數(shù)據(jù)的訓(xùn)練能力和預(yù)測能力不夠，不能識別之前沒看到過的數(shù)據(jù)，導(dǎo)致神經(jīng)網(wǎng)絡(luò)訓(xùn)練的結(jié)果達(dá)不到應(yīng)用的要求。確定神經(jīng)元數(shù)目的研究結(jié)果較多，筆者參考以下3個公式：

(4)

m=log2n

(5)

(6)

式中：m為隱含層神經(jīng)元數(shù)；n為輸入層神經(jīng)元數(shù)；l為輸出層神經(jīng)元數(shù)；α為1～10之間的常數(shù)。

2.2.3 權(quán)值和閾值訓(xùn)練過程

BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練就是輸入樣本訓(xùn)練數(shù)據(jù)刺激網(wǎng)絡(luò)的連接權(quán)值動態(tài)調(diào)整[17]，判斷網(wǎng)絡(luò)輸出和期望輸出相符精度是否符合要求，不滿足的誤差將反向傳輸進(jìn)行動態(tài)修正連接權(quán)值，根據(jù)誤差值對權(quán)值的偏導(dǎo)數(shù)的正負(fù)判斷實際輸出與期望輸出的大小，確定權(quán)值的調(diào)整方向，使得實際與期望的誤差值收斂。權(quán)值和閾值初始化即是給各連接權(quán)值賦(-1,1)區(qū)間的任一隨機(jī)數(shù)，其初始化函數(shù)調(diào)用格式為：net=init(net)。網(wǎng)絡(luò)中各連接權(quán)值和閾值矩陣根據(jù)輸入層、隱層及輸出層節(jié)點數(shù)確定。BP網(wǎng)絡(luò)訓(xùn)練完成，權(quán)值和閾值讀取函數(shù)分別為net.iw{1,1}、net.lw{2,1}、net.b{1}、net.b{2}。為了方便訓(xùn)練好后的網(wǎng)絡(luò)使用，需要save net(保存網(wǎng)絡(luò))，在使用時只需要load net(保存網(wǎng)絡(luò))就能進(jìn)行高程點預(yù)測。

2.2.4 傳遞函數(shù)及訓(xùn)練函數(shù)選取

1)傳遞函數(shù)選取

傳遞函數(shù)是BP網(wǎng)絡(luò)的重要組成部分。BP網(wǎng)絡(luò)的傳遞函數(shù)有多種，常用的有S型的對數(shù)或正切函數(shù)和線性函數(shù)。logsig函數(shù)也叫S型的對數(shù)函數(shù)，可取任意值為輸入值，輸出值為0～1之間的數(shù)；tansig函數(shù)又叫雙曲正切S型傳遞函數(shù)，輸入值可取任意數(shù)，輸出值在[-1，+1]之間；線性傳遞函數(shù)purelin的輸入值與輸出值都可取任意數(shù)[18]。在實際訓(xùn)練中，可根據(jù)樣本數(shù)據(jù)的訓(xùn)練誤差大小選取隱層和輸出層傳遞函數(shù)。

2)訓(xùn)練函數(shù)選取

在BP網(wǎng)絡(luò)訓(xùn)練時，采用不同的訓(xùn)練函數(shù)對網(wǎng)絡(luò)的性能影響不同[19]。BP網(wǎng)絡(luò)主要的訓(xùn)練函數(shù)有Newton算法的trainbfg函數(shù)、trainoss函數(shù)；共軛梯度算法的traincfg函數(shù)、trainscg函數(shù)以及trainrp函數(shù)、trainlm函數(shù)。這些函數(shù)在計算速度、收斂速度、內(nèi)存要求及誤差范圍等方面有各自的優(yōu)缺點。因樣本數(shù)據(jù)較多，需要的訓(xùn)練精度較高，綜合各種條件選取trainlm訓(xùn)練函數(shù)。

3 MATLAB實現(xiàn)神經(jīng)網(wǎng)絡(luò)高程擬合

3.1 烏江河口至白馬河段航道建設(shè)工程圖

圖3 工程河段航標(biāo)配布及高程Fig. 3 Standard layout and elevation map of river reach

圖4 局部高程點位概略分布Fig. 4 Local elevation general distribution map

3.2 烏江河口至白馬河段高程值預(yù)測

該河段工程測量點較多，所獲取的訓(xùn)練樣本數(shù)據(jù)較充足。取3 000組數(shù)據(jù)作為樣本數(shù)據(jù)，其中前2 000組數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)(training data)，剩下400組作為驗證數(shù)據(jù)(validation data)，600組作為測試數(shù)據(jù)(testing data)。在實驗中，BP網(wǎng)絡(luò)創(chuàng)建函數(shù)為newff，其函數(shù)選用及訓(xùn)練參數(shù)確定如表1、表2。

表1 BP網(wǎng)絡(luò)函數(shù)選用Table 1 Selection of BP network function

表2 BP網(wǎng)絡(luò)訓(xùn)練參數(shù)Table 2 Training parameters of BP network

表1的函數(shù)選取都是針對研究河段獲取的樣本數(shù)據(jù)特點進(jìn)行分析選取。表2中參數(shù)都是經(jīng)過多次訓(xùn)練得出，通過以上參數(shù)訓(xùn)練獲得的BP網(wǎng)絡(luò)有較好的預(yù)測效果，其預(yù)測結(jié)果如圖5。

圖5 河口至白馬河段高程預(yù)測Fig. 5 Elevation forecast map between estuary and White Horse River reach

神經(jīng)網(wǎng)絡(luò)性能的主要參數(shù)是均方差(Mean Squared Error)，表現(xiàn)數(shù)據(jù)的變化程度，差值越小，擬合精度越高。擬合過程中最優(yōu)的性能參數(shù)(Best Validation Performance)經(jīng)過801次迭代運算得出為0.007 23，說明該預(yù)測模型擬合數(shù)據(jù)具有較高精確度。訓(xùn)練樣本(train sample)、驗證樣本(validation sample)及測試樣本(test sample)的均方差擬合曲線如圖6。

圖6 訓(xùn)練樣本、驗證樣本、測試樣本均方差曲線Fig. 6 Mean square errer curves of train semple, validation sampleand test sample

樣本數(shù)據(jù)集擬合曲線一般有線性和指數(shù)兩種形式。筆者將樣本數(shù)據(jù)歸一化處理，采用線性擬合描述訓(xùn)練樣本(train sample)、驗證樣本(validation sample)、測試樣本(test sample)及整體樣本分析。擬合系數(shù)R是說明神經(jīng)網(wǎng)絡(luò)訓(xùn)練情況，越接近1訓(xùn)練程度越好，更適合工程中高程預(yù)測應(yīng)用。訓(xùn)練樣本、驗證樣本、測試樣本及整體樣本擬合系數(shù)R分別為0.970 03，0.955 83，0.959 68，0.967 91，均大于0.95，其中訓(xùn)練樣本R=0.970 03，如圖7，說明該網(wǎng)絡(luò)訓(xùn)練較為成功，可用于數(shù)據(jù)預(yù)測。

圖7 訓(xùn)練樣本、驗證樣本、測試樣本線性擬合Fig. 7 Linear fitting of train sample, validation sample and test sample

3.2 預(yù)測結(jié)果分析

將BP神經(jīng)網(wǎng)絡(luò)擬合出的結(jié)果與工程實測高程對比分析，得出測試集擬合最大誤差為4.75 m。根據(jù)統(tǒng)計學(xué)中的置信水平(95%)對600組擬合結(jié)果進(jìn)行區(qū)間估計，最大誤差為2.32 m，與對應(yīng)高程點的占比為0.745%，擬合效果較好，符合地形測量的工程應(yīng)用要求。擬合誤差及擬合精度的點位分布如圖8，高程誤差都在0～2.32 m之間，在1 m范圍內(nèi)的誤差值占總數(shù)據(jù)的70.17%，誤差精度都在0.745%以內(nèi)，屬于較高精度等級要求。

圖8 擬合誤差及擬合精度點位分布Fig. 8 Fitting error and fitting precision point distribution map

4 總 結(jié)

主要對重慶地區(qū)河口至白馬河段坐標(biāo)數(shù)據(jù)進(jìn)行分析，并對樣本數(shù)據(jù)建立BP神經(jīng)網(wǎng)絡(luò)，通過訓(xùn)練好的BP網(wǎng)絡(luò)對該河段更多區(qū)域高程值進(jìn)行預(yù)測，并對該網(wǎng)絡(luò)進(jìn)行推廣到該類河段高程預(yù)測應(yīng)用，以此節(jié)省傳統(tǒng)高程測量方式需要耗費的人力和財力資源。

研究結(jié)果主要體現(xiàn)在兩個方面：一是針對工程河段水下地形圖高程的數(shù)據(jù)特征，建立BP神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)的創(chuàng)建工作包括：①分析不同網(wǎng)絡(luò)函數(shù)的適用范圍，選取合適的函數(shù)；②網(wǎng)絡(luò)層數(shù)及神經(jīng)元個數(shù)的確定；③結(jié)構(gòu)參數(shù)的選取。二是對神經(jīng)網(wǎng)絡(luò)擬合的高程值與實際測量高程值進(jìn)行對比分析，通過繪制工程圖的點位分布圖、神經(jīng)網(wǎng)絡(luò)樣本數(shù)據(jù)集的擬合誤差曲線、擬合回歸曲線及擬合誤差和擬合誤差精度的點位分布圖等可知該網(wǎng)絡(luò)訓(xùn)練預(yù)測值與實測值之間的誤差為0.745%以內(nèi)，屬于工程應(yīng)用的誤差范圍，對該河段其它未通過人為測量的高程值有預(yù)測作用。得出的BP網(wǎng)絡(luò)還可以在更多地方得以推廣應(yīng)用。