張振華，陸金桂

(南京工業(yè)大學(xué)機(jī)械與動(dòng)力工程學(xué)院，江蘇 南京 211816)

1 引言

混凝土橋梁在長(zhǎng)期服役中，由于車輛超重，環(huán)境等因素影響，多數(shù)都存在裂縫[1]，根據(jù)相關(guān)數(shù)據(jù)，裂縫是混凝土橋梁損壞的主要因素[2-3]。依靠人眼觀察的傳統(tǒng)檢測(cè)方式效率低精度差。隨著科學(xué)技術(shù)的發(fā)展，研究人員將圖像采集與分析設(shè)備安置于橋檢車上即為智能化橋檢車[4-6]，此方法檢測(cè)效率高、成本低。

為了更好的對(duì)橋梁進(jìn)行檢測(cè)，對(duì)裂縫檢測(cè)的算法開發(fā)刻不容緩。Xu[7]通過研究提取裂縫圖像的4個(gè)統(tǒng)計(jì)特征，以BP神經(jīng)網(wǎng)絡(luò)進(jìn)行裂縫的識(shí)別。丁愛玲[8]等根據(jù)圖像特征數(shù)據(jù)，以支持向量機(jī)檢測(cè)破損路面。上述方法通常需要復(fù)雜的預(yù)處理手段，而卷積神經(jīng)網(wǎng)絡(luò)可以直接對(duì)圖像進(jìn)行學(xué)習(xí)，不需要復(fù)雜的預(yù)處理過程，且具有較好的平移、縮放和旋轉(zhuǎn)不變性[9-10]。Lecun首先運(yùn)用CNN完成了對(duì)數(shù)字的識(shí)別[11]，Lawrence等將CNN用于人臉識(shí)別上并取得較好的識(shí)別效果[12]，S.Ji等以CNN實(shí)現(xiàn)了人體動(dòng)作的識(shí)別[13]，劉欣等人將CNN用于軌道零部件檢測(cè)[14]，姚明海等人將CNN用于鐵氧體磁片缺陷檢測(cè)中[15]。

由于卷積神經(jīng)網(wǎng)絡(luò)的特性[16]，對(duì)于不同的識(shí)別目標(biāo)往往需要采用不同的網(wǎng)絡(luò)結(jié)構(gòu)。通過對(duì)橋梁裂縫圖片的分析和對(duì)卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的研究，本文采用雙通道多種尺寸卷積核對(duì)橋梁裂縫圖片進(jìn)行卷積和特征提取，并配以改進(jìn)的激活函數(shù)作為傳遞函數(shù)，使用支持向量機(jī)(SVM)替代Softmax分類器，提高識(shí)別精度和效率。利用該方法對(duì)橋梁裂縫圖像進(jìn)行識(shí)實(shí)驗(yàn)，統(tǒng)計(jì)其識(shí)別率，并與傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)方法進(jìn)行對(duì)比。

2 基于熵閾值法法的圖像預(yù)處理

由于在橋梁表面存在干擾物，或由于圖像采集問題導(dǎo)致圖片質(zhì)量問題等因素，采用熵閾值法對(duì)圖像進(jìn)行簡(jiǎn)單的預(yù)處理，突出裂縫與背景的對(duì)比，有效提高識(shí)別精度。

熵往往用來表示系統(tǒng)混亂的程度，熵閾值法通過尋找閾值對(duì)圖像進(jìn)行分割，先設(shè)定閾值對(duì)圖像進(jìn)行分割，分割后計(jì)算圖像目標(biāo)和背景的熵總值，若某一閾值使分割后圖像的熵總值達(dá)到最大，則認(rèn)為該閾值使圖像最佳分割閾值，熵閾值法表達(dá)式如下：

假設(shè)設(shè)原圖像的灰度級(jí)為K，當(dāng)前設(shè)定的閾值為L(zhǎng)，圖像目標(biāo)為T，圖像背景為B，圖像中灰度級(jí)為i的像素為p(i)，則目標(biāo)像素的累計(jì)PT(L)如式(1)所示，背景像素的累計(jì)PB(L)如式(2)所示

(1)

(2)

則根據(jù)上式結(jié)果可得目標(biāo)熵HT(L)和背景熵HB(L)分別為

(3)

(4)

而總熵即為兩熵之和

Hs(L)=HT(L)+HB(L)

(5)

以使總熵達(dá)到最大的閾值L對(duì)橋梁裂縫圖像進(jìn)行簡(jiǎn)單的預(yù)處理，效果如圖1所示。

圖1 混凝土橋梁裂縫處理效果圖

3 改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)

在橋梁表面往往會(huì)有拼接縫、劃痕、標(biāo)線等一些類似于裂縫形態(tài)的物體，這些物體在一定程度上影響了對(duì)于裂縫識(shí)別的準(zhǔn)確率，通常將其歸類是偽裂縫，如圖2所示。

圖2 混凝土橋梁常見的偽裂縫

偽裂縫的存在是目前影響橋梁裂縫檢測(cè)準(zhǔn)確率的最大因素，但是相比于真實(shí)的裂縫這些偽裂縫在特征上還是有區(qū)別的，如何采用卷積神經(jīng)網(wǎng)絡(luò)提取真實(shí)裂縫和偽裂縫的不同特征即為研究重點(diǎn)。同時(shí)橋梁裂縫一般有線狀裂縫和網(wǎng)狀裂縫，如何設(shè)計(jì)卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)使其能充分提取圖像特征完成裂縫的識(shí)別是研究關(guān)鍵。

3.1 傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

卷積神經(jīng)網(wǎng)絡(luò)主要由卷積層、激活函數(shù)、池化層、全連接層組成，卷積層主要是通過不同的卷積核對(duì)圖像的特征進(jìn)行提取。

激活函數(shù)即為神經(jīng)元之間輸入和輸出之間映射關(guān)系的表達(dá)。池化層的即將相近的特征進(jìn)行合并。全連接層的神經(jīng)元與之前一層的每個(gè)神經(jīng)元相連。卷積神經(jīng)網(wǎng)絡(luò)基本結(jié)構(gòu)如圖3所示。

圖3 卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

3.2 改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

由于橋梁的裂縫和偽裂縫具有不同層次的特征，傳統(tǒng)的卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)會(huì)限制提取的特征的來源和層次，為了改善這種缺陷，往往采用添加卷積層的方法來提高獲取特征的層次，但若一味的添加卷積層會(huì)導(dǎo)致網(wǎng)絡(luò)層數(shù)過高，最后全連接層得到的信息較少，導(dǎo)致識(shí)別性能下降。由于橋梁裂縫識(shí)別中干擾物的存在和偽裂縫的影響，且微裂縫與真實(shí)裂縫相似度非常高，根據(jù)采用不同結(jié)構(gòu)的卷積神經(jīng)網(wǎng)絡(luò)對(duì)橋梁裂縫的識(shí)別測(cè)試，設(shè)計(jì)了雙通道多尺寸卷積核對(duì)橋梁裂縫圖像進(jìn)行卷積處理，并最終將得到的信息在全連接層進(jìn)行匯總，從而對(duì)橋梁裂縫進(jìn)行識(shí)別。改進(jìn)后的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖4所示。

圖4 改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

從圖4中可以看出，本文模型由兩個(gè)相對(duì)獨(dú)立的子卷積神經(jīng)網(wǎng)絡(luò)構(gòu)成，這樣不會(huì)有過多的卷積層導(dǎo)致全連接層得到信息過少的問題，且可以充分提取輸入圖像的特征。最終將兩個(gè)子網(wǎng)絡(luò)的信息在全連接層匯總處理。本文采用輸入圖片統(tǒng)一大小為128*128的分辨率，包含4個(gè)卷積層(C1，C2，C3，C4，)，4個(gè)池化層(P1，P2，P3，P4)，池化層以均值池化的方法得到池化結(jié)果，1個(gè)全連接層，最后以SVM代替softmax分類器來進(jìn)行識(shí)別分類。

C1層由16個(gè)7*7的卷積核與輸入圖像進(jìn)行卷積，得到16個(gè)不同的特征圖，特征圖的大小為122*122，后由池化層P1對(duì)卷積層C1以2*2的單元進(jìn)行池化操作，P1層由16個(gè)61*61的特征圖構(gòu)成。再以32個(gè)10*10的卷積核對(duì)P1進(jìn)行卷積，得到卷積層C2，其由32個(gè)52*52大小的特征圖組成，再以2*2的單元對(duì)C2進(jìn)行池化操作，得到池化層P2，其由32個(gè)26*26大小的特征圖組成。

C3層由16個(gè)13*13的卷積核與輸入圖像進(jìn)行卷積，得到16個(gè)不同的特征圖，特征圖的大小為116*116，后由池化層P3對(duì)卷積層C3以2*2的單元進(jìn)行池化操作，P3層由16個(gè)58*58的特征圖構(gòu)成。再以32個(gè)15*15的卷積核對(duì)P3進(jìn)行卷積，得到卷積層C4其由32個(gè)44*44大小的特征圖組成，再以2*2的單元對(duì)C2進(jìn)行池化操作，得到池化層P2，其由32個(gè)22*22大小的特征圖組成。

全連接層F的輸入來自兩個(gè)子卷積神經(jīng)網(wǎng)絡(luò)的最終池化層P3，P6，公式如下，F(xiàn)采用全連接的方法。

(6)

3.3 改進(jìn)激活函數(shù)

常用的激活函數(shù)有sigmoid函數(shù)、Tanh函數(shù)、Relu函數(shù)等。但這些函數(shù)或多或少都有些缺陷，sigmoid函數(shù)和Tanh函數(shù)易出現(xiàn)梯度彌散的問題，而Relu函數(shù)是分段的線性非飽和函數(shù)，相比sigmoid函數(shù)和Tanh函數(shù)有了很大的進(jìn)步，但是其在運(yùn)行時(shí)會(huì)將一部分神經(jīng)元的輸出設(shè)為0，會(huì)造成神經(jīng)網(wǎng)絡(luò)稀疏特征。本文對(duì)橋梁裂縫圖像進(jìn)行識(shí)別，由于橋梁干擾物和偽裂縫的存在，且和真實(shí)裂縫非常相似，需要對(duì)圖像特征的映射更加精確。

Softplus函數(shù)也是非飽和線性函數(shù)，其數(shù)學(xué)表達(dá)式如式(7)所示，與Relu函數(shù)相比稀疏性較差，收斂速度比Relu函數(shù)慢，但Relu函數(shù)過分的強(qiáng)制稀疏往往會(huì)導(dǎo)致模型錯(cuò)誤率的增高，其數(shù)學(xué)表達(dá)式如式(8)所示。本文采取兩個(gè)函數(shù)各自的優(yōu)點(diǎn)，構(gòu)造一個(gè)非飽和線性的激活函數(shù)用于神經(jīng)網(wǎng)絡(luò)的輸入輸出映射，以期提高識(shí)別率。

f(x)=loge(1+ex)

(7)

(8)

在進(jìn)行輸入輸出的映射時(shí)，由于Relu函數(shù)將小于0的部分都強(qiáng)制輸出為0，使小于0的神經(jīng)元處于都處于非激活狀態(tài)，導(dǎo)致網(wǎng)絡(luò)學(xué)習(xí)受阻。本文引入Softplus函數(shù)，對(duì)小于0的部分使用Softplus函數(shù)來進(jìn)行處理。當(dāng)x=0時(shí)，Softplus函數(shù)的取值為loge2，為了保證組合函數(shù)的連貫性將Softplus函數(shù)減去loge2，使函數(shù)連貫。對(duì)于大于0的部分依舊采用Relu函數(shù)進(jìn)行處理，以此方法改進(jìn)Relu函數(shù)會(huì)造成神經(jīng)網(wǎng)絡(luò)過度稀疏、模型欠擬合問題，綜合得到的改進(jìn)激活函數(shù)如下式

(9)

以此操作保留了Relu函數(shù)收斂較快，不易丟失有用特征的優(yōu)點(diǎn)，同時(shí)通過使用Softplus函數(shù)保留了小于0部分神經(jīng)元的特征信息，提高了信息的獲取量，避免模型欠擬合。

圖5 改進(jìn)的激活函數(shù)圖像

3.4 使用支持向量機(jī)(SVM)替代Softmax分類器

卷積神經(jīng)網(wǎng)絡(luò)具有較好的特征提取能力，但其分類效果一般，卷積神經(jīng)網(wǎng)絡(luò)通常采用Softmax分類器。支持向量機(jī)最初來自于線性分類器，它建立在VC維度理論和結(jié)構(gòu)風(fēng)險(xiǎn)最小化原則之上。支持向量機(jī)具有較好的泛化性能，它可以在學(xué)習(xí)能力與模型復(fù)雜度之間取得最佳平衡。支持向量機(jī)能較好解決機(jī)器學(xué)習(xí)算法經(jīng)常遇到的小樣本、過學(xué)習(xí)、局部極值、高維數(shù)問題。

Softmax分類器在對(duì)目標(biāo)樣本分類時(shí)，若目標(biāo)樣本的分類概率大于0.9時(shí)即認(rèn)為分類正確，但此時(shí)損失函數(shù)仍然繼續(xù)計(jì)算，僅在分類概率接近1時(shí)才會(huì)終止計(jì)算，這種情況下運(yùn)行時(shí)間會(huì)更長(zhǎng)；而SVM的側(cè)重點(diǎn)在于被錯(cuò)誤分類的目標(biāo)樣本，對(duì)分類正確的目標(biāo)樣本不再計(jì)算，因此使用SVM分類器的卷積神經(jīng)網(wǎng)絡(luò)可以提高計(jì)算效率，縮短訓(xùn)練時(shí)間，識(shí)別效果也更好。

4 基于改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)橋梁裂縫識(shí)別實(shí)驗(yàn)

4.1 實(shí)驗(yàn)參數(shù)和樣本選取

實(shí)驗(yàn)采用單核CPU:3.30GHz，內(nèi)存4GB，GPU為NVIDIA GTX960，操作系統(tǒng)為64位win7系統(tǒng)，使用matlab2016a編寫算法。采用1013張橋梁采集的裂縫和偽裂縫圖片作為數(shù)據(jù)庫。實(shí)驗(yàn)數(shù)據(jù)詳情如表1所示。

表1 實(shí)驗(yàn)數(shù)據(jù)集

再對(duì)驗(yàn)證集分別進(jìn)行旋轉(zhuǎn)操作，旋轉(zhuǎn)角度分別為旋轉(zhuǎn)45°,90°,135°和180°，進(jìn)行一共5組識(shí)別對(duì)比實(shí)驗(yàn)。先對(duì)其以熵閾值法進(jìn)行簡(jiǎn)單地預(yù)處理，效果圖如前文第2節(jié)圖1所示。

參與實(shí)驗(yàn)的各卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如表2所示。

表2 實(shí)驗(yàn)的卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和激活函數(shù)

4.2 實(shí)驗(yàn)結(jié)果與分析

通過上節(jié)所提方法對(duì)橋梁表面裂縫圖像進(jìn)行識(shí)別，3種卷積神經(jīng)網(wǎng)絡(luò)通過5組實(shí)驗(yàn)所得實(shí)驗(yàn)結(jié)果如圖7所示，第一組實(shí)驗(yàn)本文方法均方誤差與迭代次數(shù)關(guān)系圖如圖6所示，總迭代次數(shù)為1200次。

圖6 均方誤差變化圖

圖7 不同模型分類準(zhǔn)確率

表3 不同模型平均分類準(zhǔn)確率對(duì)比

表4 不同模型訓(xùn)練時(shí)間對(duì)比

從實(shí)驗(yàn)結(jié)果中可看出改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)對(duì)橋梁真實(shí)裂縫的識(shí)別率有了明顯的提高，無論是將圖像做了多少度的旋轉(zhuǎn)，本文方法始終保持較高的識(shí)別率，且識(shí)別率波動(dòng)不大，說明本文算法對(duì)旋轉(zhuǎn)、平移有較好的魯棒性。綜合來看5組試驗(yàn)平均96.26%的識(shí)別率證明該方法在識(shí)別橋梁裂縫方面的可行性。

對(duì)比本文方法和CNN1可以發(fā)現(xiàn)，本文通過設(shè)計(jì)雙通道模型，使用Softplus函數(shù)改進(jìn)Relu函數(shù)，并且使用SVM代替Softmax分類器構(gòu)建新的CNN模型，其分類準(zhǔn)確率、訓(xùn)練時(shí)間較傳統(tǒng)的CNN模型均有顯著改善，平均分類準(zhǔn)確率提高了10.34%，訓(xùn)練時(shí)間縮短了15s，充分驗(yàn)證了改進(jìn)的CNN模型對(duì)橋梁裂縫檢測(cè)的適用性。對(duì)比本文方法和CNN2，在使用相同雙通道結(jié)構(gòu)，相同激活函數(shù)的前提條件下，使用SVM分類器替代Softmax分類器的CNN模型，訓(xùn)練時(shí)間縮短了10s。驗(yàn)證了本文改進(jìn)分類器策略的有效性。

5 結(jié)論

1)本文以基于卷積神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)了用于混凝土橋梁裂縫檢測(cè)的方法，通過對(duì)橋梁裂縫圖像進(jìn)行簡(jiǎn)單地預(yù)處理，將處理后的圖像輸入改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練學(xué)習(xí)，并最終完成對(duì)橋梁裂縫的識(shí)別檢測(cè)。

2)橋梁裂縫圖像存在大量的干擾物，且偽裂縫和真實(shí)裂縫高度相似，直接識(shí)別會(huì)造成特征提取困難且容易混淆。以熵閾值法對(duì)橋梁裂縫圖像進(jìn)行預(yù)處理。以該方法很好地完成了橋梁裂縫圖像處理過程。

3)設(shè)計(jì)雙通道多種卷積核方式提取的圖像特征并在全連接層匯總；為充分提取圖像特征，進(jìn)一步提高識(shí)別精度，以Relu函數(shù)和Softplus函數(shù)取優(yōu)，構(gòu)建了改進(jìn)的卷積神經(jīng)網(wǎng)絡(luò)激活函數(shù)，用于映射輸入和輸出之間的關(guān)系；為了提高計(jì)算效率，縮短模型的訓(xùn)練時(shí)間，以SVM分類器替代Softmax分類器進(jìn)行識(shí)別分類。最終以1013幅橋梁裂縫圖像對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練學(xué)習(xí)和識(shí)別測(cè)試，通過與其它2種卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行對(duì)比，本文所提卷積神經(jīng)網(wǎng)絡(luò)在橋梁裂縫的識(shí)別率上有了明顯的提高，高達(dá)96.26%。證明該方法在橋梁裂縫識(shí)別中的優(yōu)越性和可行性。