張盼盼 滕欣 趙奇威 王雙 康琬超 張夢(mèng)真
【摘要】? ? 傳統(tǒng)基于高分辨率遙感圖像的道路提取方法計(jì)算復(fù)雜度高,難以實(shí)現(xiàn)自動(dòng)化,基于深度學(xué)習(xí)的方法可以顯著提高提取的精度和效率。本文選取CVPR 2018 Deep Globe數(shù)據(jù)集作為訓(xùn)練數(shù)據(jù)集,基于Tensorflow框架的Adam優(yōu)化算法,采用ResNet模型對(duì)孟加拉國(guó)沿海區(qū)域進(jìn)行了道路識(shí)別和提取。經(jīng)與人工目視解譯數(shù)據(jù)集驗(yàn)證,得到道路提取總體精度為97.85%,驗(yàn)證了方法的有效性。
【關(guān)鍵詞】? ? 深度卷積神經(jīng)網(wǎng)絡(luò);道路提取? ? ResNet 網(wǎng)絡(luò)結(jié)構(gòu)? ? Adam優(yōu)化算法
引言:
隨著計(jì)算機(jī)技術(shù)的快速發(fā)展,在一些復(fù)雜的大樣本背景下,神經(jīng)網(wǎng)絡(luò)顯示出其獨(dú)特的優(yōu)勢(shì)。如何利用卷積神經(jīng)網(wǎng)絡(luò)來(lái)解決遙感圖像目標(biāo)識(shí)別和地物提取等領(lǐng)域的熱點(diǎn)問(wèn)題,引起了廣泛關(guān)注。
魏清等人[1]提出了一種結(jié)合神經(jīng)網(wǎng)絡(luò)模型和數(shù)學(xué)形態(tài)學(xué)算法的高分辨率遙感影像道路自動(dòng)提取方法,能夠有效地自動(dòng)識(shí)別道路區(qū)域。郭正勝等人[2]提出一種基于U型卷積網(wǎng)絡(luò)的ZY-3道路提取方法,使用形態(tài)學(xué)開(kāi)運(yùn)算完成孔洞的去除等工作使提取結(jié)果在不同實(shí)驗(yàn)區(qū)域中平均準(zhǔn)確度達(dá)到了95%以上。戴激光等人[3]提出一種基于多尺度卷積神經(jīng)網(wǎng)絡(luò)的高分辨率遙感圖像道路提取方法,與傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)和U-Net網(wǎng)絡(luò)相比,該方法在準(zhǔn)確度和精確度上均具有較大優(yōu)勢(shì)。Fran?ois Waldner等[4]提出了一種數(shù)據(jù)驅(qū)動(dòng)、魯棒性強(qiáng)、通用性強(qiáng)的衛(wèi)星圖像場(chǎng)邊界提取方法,使用具有完全連接的U-Net骨干的深度卷積神經(jīng)網(wǎng)絡(luò),能夠從圖像中學(xué)習(xí)復(fù)雜的層次上下文特征以準(zhǔn)確地檢測(cè)場(chǎng)邊界和丟棄不相關(guān)的邊界,優(yōu)于傳統(tǒng)的邊緣濾波器。宋延強(qiáng)等人[5]提出一種在 SegNet 架構(gòu)的基礎(chǔ)上改進(jìn)的網(wǎng)絡(luò)模型 AA-SegNet,增加了增強(qiáng)的空間金字塔池化模塊和空間注意力融合模塊,能夠更好的學(xué)習(xí)小目標(biāo)特征,總體識(shí)別準(zhǔn)確率達(dá) 96.61%。Faster R-CNN 利用RPN 網(wǎng)絡(luò)提取待選區(qū)域,并將 RPN 和 Faster R-CNN? 結(jié)合成一個(gè)網(wǎng)絡(luò)共享卷積特征,實(shí)現(xiàn)真正意義上的端到端訓(xùn)練,RPN是一個(gè)全卷積網(wǎng)絡(luò),通過(guò)在特征圖上做窗口滑動(dòng),將錨點(diǎn)框(anchor) 映射到原始圖像,并獲得不同大小和比例的候選區(qū)域[6]。為彌補(bǔ)Faster R-CNN 對(duì)被遮擋目標(biāo)和弱小目標(biāo)不敏感的缺陷,張慶輝等人[7]構(gòu)建了一個(gè)快速、精確道路目標(biāo)檢測(cè)算法(FAROD),獲得了更快的檢測(cè)速度和更高的魯棒性。
綜上,基于深度卷積神經(jīng)網(wǎng)絡(luò)的高分辨率遙感圖像的道路提取雖取得較好的發(fā)展,但仍需進(jìn)行深入研究。本文將ResNet模型與Adam優(yōu)化算法相結(jié)合,可提高道路檢測(cè)的魯棒性,優(yōu)化道路提取網(wǎng)絡(luò)模型的性能。
一、研究方法
本文以高分辨率遙感圖像作為研究對(duì)象,將衛(wèi)星圖像的每個(gè)像素標(biāo)記為道路或非道路,既將像素通過(guò)二值語(yǔ)義分割的方式來(lái)標(biāo)記為道路。本文將基于深度卷積神經(jīng)網(wǎng)絡(luò)(DCNN)結(jié)構(gòu)中的ResNet網(wǎng)絡(luò)模型提取高分辨率遙感圖像深度特征。選擇道路為提取目標(biāo),以 ResNet 模型為基礎(chǔ),采用一種針對(duì)高分辨率衛(wèi)星圖像道路提取的網(wǎng)絡(luò)模型算法Adam優(yōu)化算法,該方法將提高模型的學(xué)習(xí)效率。同時(shí)避免丟失更多的細(xì)節(jié)特征,為提高道路提取的準(zhǔn)確性提供參考。
1.1 Adam優(yōu)化學(xué)習(xí)算法
Adam 算法和傳統(tǒng)的隨機(jī)梯度下降不同。隨機(jī)梯度下降保持單一的學(xué)習(xí)率更新所有的權(quán)重,學(xué)習(xí)率在訓(xùn)練過(guò)程中并不會(huì)改變。均方根傳播(RMSProp)優(yōu)化算法將微分平方加權(quán)平均算法引入其中,在參數(shù)空間的更平緩的方向上,將會(huì)取得更大的進(jìn)步(因?yàn)樵撈骄?,歷史梯度的平方和更小,并且相應(yīng)的學(xué)習(xí)下降幅度更?。⑶夷軌蚴沟枚盖偷姆较蜃兊闷骄?,即收斂能在水平方向上采取更大的步長(zhǎng),從而加快訓(xùn)練速度。Adam既能像Momentum系列算法那樣優(yōu)化更新方向,也能像AdaGrad系列算法那樣調(diào)整學(xué)習(xí)效率。其公式如下:
其中,? 為梯度;? 、為累計(jì)梯度, 為學(xué)習(xí)率,參數(shù)? 、∈ [0, 1) 控制了這些移動(dòng)均值(moving average)指數(shù)衰減率。Adam 優(yōu)化算法是將動(dòng)量法和 RMSprop優(yōu)化算法結(jié)合起來(lái)使用的一種算法,它能夠同時(shí)使用梯度和梯度平方的指數(shù)加權(quán)平均。該方法能夠通過(guò)快速收斂網(wǎng)絡(luò)得到最優(yōu)解,具有較好的穩(wěn)定性。
Adam算法的精度和收斂速度在上述算法中相對(duì)較好,故采用Adam 優(yōu)化算法進(jìn)行實(shí)驗(yàn),將參數(shù)設(shè)定為:學(xué)習(xí)率為0.001、beta1=0.9和beta2=0.999 。其中beta1為一階矩估計(jì)的指數(shù)衰減率,beta2為二階矩估計(jì)的指數(shù)衰減率。
1.2? ResNet網(wǎng)絡(luò)模型
傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)在一定程度上會(huì)隨著深度的增加而提高識(shí)別、提取精度,但是達(dá)到一定的深度時(shí),梯度消失問(wèn)題將越來(lái)越嚴(yán)重,容易出現(xiàn)過(guò)度擬合問(wèn)題,就是所謂的“退化”問(wèn)題,使得模型效果變差。針對(duì)這一問(wèn)題,本文采用深度殘差網(wǎng)絡(luò)(Deep Residual Network)。該網(wǎng)絡(luò)模型通過(guò)利用殘差學(xué)習(xí)單元,可以達(dá)到比傳統(tǒng)神經(jīng)網(wǎng)絡(luò)更深的深度,具有很好的網(wǎng)絡(luò)特征提取效果。
1.3 數(shù)據(jù)集的選取
本文選定Deep Globe的數(shù)據(jù)作為實(shí)驗(yàn)數(shù)據(jù)集,其圖像分辨率為1024×1024,它包含訓(xùn)練數(shù)據(jù)集、測(cè)試數(shù)據(jù)集兩部分,其中訓(xùn)練數(shù)據(jù)集包含6226幅圖像,測(cè)試數(shù)據(jù)集包含201幅圖像,圖片來(lái)自泰國(guó)、印度、印尼等多個(gè)國(guó)家。圖像場(chǎng)景包括城市、村莊、郊區(qū)、海灘、熱帶雨林等場(chǎng)景。訓(xùn)練數(shù)據(jù)集樣本量大,包含沙漠、城市、農(nóng)田、村莊等多種地物信息,使得訓(xùn)練后的網(wǎng)絡(luò)模型具有較強(qiáng)的魯棒性和預(yù)測(cè)性,且與孟加拉國(guó)局部區(qū)域具有相似性。
二、實(shí)驗(yàn)結(jié)果與分析
在進(jìn)行神經(jīng)網(wǎng)絡(luò)提取時(shí),需要采用一些指標(biāo)來(lái)衡量訓(xùn)練的網(wǎng)絡(luò)模型,常用的評(píng)價(jià)形式有混淆矩陣,準(zhǔn)確率等?;煜仃囍饕糜趯⒎诸惤Y(jié)果與實(shí)際測(cè)量值進(jìn)行比較。分類結(jié)果的準(zhǔn)確性可以在混淆矩陣中顯示。準(zhǔn)確率(Accuracy):預(yù)測(cè)正確的所有樣本占所有測(cè)試樣本的比例。其公式如下所示:
為驗(yàn)證本文所提出的模型的有效性,在Anaconda 中安裝Tensorflow,搭建ResNet模型,學(xué)習(xí)算法采用Adam優(yōu)化算法,0.001作為學(xué)習(xí)率設(shè)定,在訓(xùn)練過(guò)程中,對(duì)輸入圖像進(jìn)行預(yù)處理,將迭代次數(shù)設(shè)為1000,對(duì)訓(xùn)練過(guò)程進(jìn)行多次迭代,為防止過(guò)度擬合,且當(dāng) dropout為0.5時(shí),隨機(jī)生成的網(wǎng)絡(luò)結(jié)構(gòu)最多,故將dropout設(shè)置為0.5。將輸出圖像進(jìn)行閾值分化生成二進(jìn)制圖像,對(duì)測(cè)試圖像進(jìn)行多次預(yù)測(cè),取平均作為最終結(jié)果。本文選取孟加拉國(guó)沿海局部地區(qū)的遙感影像,使用ResNet模型結(jié)合Adam優(yōu)化學(xué)習(xí)算法提取道路,通過(guò)與國(guó)家海洋技術(shù)中心組織進(jìn)行人工目視解譯的結(jié)果數(shù)據(jù)集進(jìn)行對(duì)比,發(fā)現(xiàn)基于深度學(xué)習(xí)技術(shù)的道路提取結(jié)果的準(zhǔn)確率為97.85%,提取的效果整體較好(圖1)。
三、結(jié)束語(yǔ)
本文通過(guò)對(duì)算法的精度和收斂速度進(jìn)行綜合分析,將ResNet模型與Adam優(yōu)化學(xué)習(xí)算法相結(jié)合實(shí)現(xiàn)了基于高分辨率遙感圖像的道路提取。利用孟加拉國(guó)沿海局部地區(qū)的遙感影像進(jìn)行檢驗(yàn),經(jīng)與人工目視解譯數(shù)據(jù)集驗(yàn)證,得到道路提取總體精度為97.85%,驗(yàn)證了方法的有效性。本研究可為“一帶一路”相關(guān)國(guó)家道路的自動(dòng)化提取提供有價(jià)值的參考。
參? 考? 文? 獻(xiàn)
[1]魏清,艾玲梅,葉雪娜.一種高分辨率遙感圖像道路自動(dòng)提取方法[J].計(jì)算機(jī)技術(shù)與發(fā)展, 2019,29(06):130-133.
[2]郭正勝,李參海,王智敏.U型卷積神經(jīng)網(wǎng)絡(luò)的ZY-3影像道路提取方法[J].測(cè)繪科學(xué), 2020,45(04):51-57.
[3]戴激光,杜陽(yáng),金光,陶德志.卷積神經(jīng)網(wǎng)絡(luò)道路提取方法[J].遙感信息,2020,35(01):28-37.
[4] Fran?ois Waldner, Foivos I.? Diakogiannis. Deep learning on edge: Extracting field boundaries from satellite images with a convolutional neural network[J]. Remote Sensing of Environment,2020,245.
[5]宋廷強(qiáng),李繼旭,張信耶.基于深度學(xué)習(xí)的高分辨率遙感圖像建筑物識(shí)別[J].計(jì)算機(jī)工程與應(yīng)用,2020,56(08):26-34.
[6]曹燕,李歡,王天寶.基于深度學(xué)習(xí)的目標(biāo)檢測(cè)算法研究綜述[J].計(jì)算機(jī)與現(xiàn)代化,2020(05):63-69.
[7]張慶輝,萬(wàn)晨霞,秦淑英,卞山峰.基于卷積神經(jīng)網(wǎng)絡(luò)的道路目標(biāo)檢測(cè)算法[J].計(jì)算機(jī)工程與設(shè)計(jì),2019,40(07):2052-2058.
基金項(xiàng)目:“推行海洋空間規(guī)劃,助力藍(lán)色經(jīng)濟(jì)發(fā)展”海上絲路項(xiàng)目支持;山東自然科學(xué)基金項(xiàng)目支持(ZR2020MD0115、ZR2020MD018)。
張盼盼(1985.02),女,漢族,山東德州,碩士研究生,工程師,畢業(yè)于山東科技大學(xué)地圖制圖學(xué)與地理信息工程專業(yè),研究方向?yàn)楹Q罂臻g規(guī)劃與信息化。
滕欣(1986.08),男,漢族,山東濰坊,博士研究生,正高工程師,畢業(yè)于天津大學(xué)技術(shù)經(jīng)濟(jì)及管理專業(yè),研究方向?yàn)楹Q罂臻g規(guī)劃、海洋資源管理和政策評(píng)價(jià)等研究。
趙奇威(1992.08),女,漢族,河北邯鄲,碩士研究生,工程師,畢業(yè)于西澳大利亞大學(xué)海洋與海岸管理專業(yè),研究方向?yàn)楹Q笈c海岸帶規(guī)劃與管理。
王雙(1987.03),女,漢族,山東德州,碩士研究生,研究實(shí)習(xí)員,畢業(yè)于北京大學(xué)生態(tài)學(xué)專業(yè),研究方向?yàn)楹Q筚Y源保護(hù)與利用。
康琬超(1994.11.01),女,漢族,河北保定,碩士研究生,助理工程師,畢業(yè)于天津師范大學(xué)人文地理學(xué)專業(yè),研究方向?yàn)楹Q罂臻g規(guī)劃。
張夢(mèng)真(1997.01.17),女,漢族,山東臨沂,碩士研究生, 山東理工大學(xué)測(cè)繪科學(xué)與技術(shù)專業(yè),研究方向?yàn)榛诟叻直媛蔬b感圖像的目標(biāo)檢測(cè)算法。