深度學(xué)習(xí)算法應(yīng)用于巖石圖像處理的可行性研究

程國(guó)建++劉麗婷

摘要：近年來(lái)，機(jī)器學(xué)習(xí)領(lǐng)域中的“深度學(xué)習(xí)”開始受到國(guó)內(nèi)外學(xué)者的廣泛關(guān)注。借助深度學(xué)習(xí)，具有多處理層結(jié)構(gòu)的計(jì)算機(jī)模型可通過多層抽象來(lái)學(xué)習(xí)數(shù)據(jù)表征。這些方法推動(dòng)了語(yǔ)音識(shí)別、視覺識(shí)別、目標(biāo)檢測(cè)以及許多其它領(lǐng)域的技術(shù)發(fā)展。深度學(xué)習(xí)被應(yīng)用到計(jì)算機(jī)視覺、語(yǔ)音識(shí)別、自然語(yǔ)言處理、在線廣告等領(lǐng)域，并取得了良好效果。將計(jì)算機(jī)技術(shù)與地質(zhì)勘探相結(jié)合，在巖石處理方面已取得了不少成果，不斷有新的或者改進(jìn)方法用于提高處理效率和改善效果，以更好地投入到實(shí)際生產(chǎn)中去。針對(duì)目前傳統(tǒng)的巖石薄片圖像處理方法，試圖將深度學(xué)習(xí)中典型的兩類算法模型：深度信念網(wǎng)絡(luò)（Deep Belief Networks，DBNs）、卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks，CNNs）引入到巖石圖像的處理中，分析算法在操作中的可行性及優(yōu)勢(shì)。

關(guān)鍵詞：深度學(xué)習(xí)；深度信念網(wǎng)絡(luò)；卷積神經(jīng)網(wǎng)絡(luò)；巖石圖像處理

DOIDOI：10.11907/rjdk.161408

中圖分類號(hào)：TP317.4

文獻(xiàn)標(biāo)識(shí)碼：A文章編號(hào)文章編號(hào)：16727800（2016）009016304

基金項(xiàng)目基金項(xiàng)目：陜西省自然科學(xué)基礎(chǔ)研究計(jì)劃項(xiàng)目（2014JQ5193）；西安石油大學(xué)青年科技創(chuàng)新基金項(xiàng)目（2014BS13）

作者簡(jiǎn)介作者簡(jiǎn)介：程國(guó)建（1964-），男，陜西扶風(fēng)人，西安石油大學(xué)計(jì)算機(jī)學(xué)院教授，研究方向?yàn)闄C(jī)器學(xué)習(xí)、模式識(shí)別、圖像處理與數(shù)據(jù)挖掘；劉麗婷（1991-），女，江蘇靖江人，西安石油大學(xué)計(jì)算機(jī)學(xué)院碩士研究生，研究方向?yàn)橹悄苡?jì)算與可視化技術(shù)。

0引言

機(jī)器學(xué)習(xí)已經(jīng)逐漸滲透到現(xiàn)代生活的方方面面，從網(wǎng)頁(yè)搜索到社交網(wǎng)絡(luò)內(nèi)容過濾，再到電商推薦，在相機(jī)、智能手機(jī)等電子產(chǎn)品中的應(yīng)用也越來(lái)越多。自20世紀(jì)80年代以來(lái)，機(jī)器學(xué)習(xí)在算法、理論和應(yīng)用等方面都獲得了巨大成功。從2006年起，國(guó)外開始了深度學(xué)習(xí)方面的深入研究，并取得了一定的階段性成果。深度學(xué)習(xí)（Deep Learning，DL）[1]的概念來(lái)源于人工神經(jīng)網(wǎng)絡(luò)，所謂“深度”是含多隱層的感知器。深度學(xué)習(xí)可以將低層次特征有效組合起來(lái)，逐步進(jìn)行學(xué)習(xí)與特征提取，形成能夠表示屬性類別的抽象高層次特征。

傳統(tǒng)的巖石薄片圖像鑒定以肉眼觀察和描述為主，存在一系列問題，如實(shí)驗(yàn)周期偏長(zhǎng)、定量困難、效率較低、受主觀影響較大等，在低孔隙度、低滲透率巖心條件下存在問題很多，因此已不能滿足現(xiàn)場(chǎng)測(cè)井資料解釋評(píng)價(jià)的需要。針對(duì)目前巖石分析工作中存在的實(shí)際問題，應(yīng)用現(xiàn)代圖像處理以及人工智能技術(shù)領(lǐng)域的深度學(xué)習(xí)算法對(duì)巖石薄片圖像進(jìn)行礦物識(shí)別、信息提取、巖石分類、巖心重構(gòu)、特征標(biāo)注等處理極具理論和現(xiàn)實(shí)意義。人工神經(jīng)網(wǎng)絡(luò)因其多隱層結(jié)構(gòu)而具有良好的特征學(xué)習(xí)能力，能將數(shù)據(jù)本質(zhì)更好地表現(xiàn)出來(lái)，對(duì)數(shù)據(jù)的可視化和模式分類十分有利。這對(duì)于測(cè)井解釋中的巖石物理研究是非常必要的。同時(shí)，深度學(xué)習(xí)模型的層次、參數(shù)多，容量大，滿足了巖石圖像分析中海量數(shù)據(jù)的處理需要。

1深度學(xué)習(xí)（Deep Learning）

根據(jù)加拿大多倫多大學(xué)教授Geoffrey Hinton 2006年在《Science》上發(fā)表的文章[2]，以及Yoshua Bengio、Yann Lecun等人的相關(guān)工作，深度學(xué)習(xí)逐漸被人們關(guān)注。“深度學(xué)習(xí)”指多層的人工神經(jīng)網(wǎng)絡(luò)和訓(xùn)練方法。一層神經(jīng)網(wǎng)絡(luò)會(huì)把大量矩陣數(shù)字作為輸入，通過非線性激活方法取得權(quán)重，再產(chǎn)生另一個(gè)數(shù)據(jù)集合作為輸出。其類似生物神經(jīng)大腦的工作機(jī)理，通過合適的矩陣數(shù)量，將多層組織鏈接在一起，形成神經(jīng)網(wǎng)絡(luò)“大腦”來(lái)進(jìn)行精準(zhǔn)復(fù)雜的處理，并通過“逐層初始化”（layerwise pretraining）克服深度神經(jīng)網(wǎng)絡(luò)在訓(xùn)練上的難度[3]。用較少的參數(shù)表示復(fù)雜函數(shù)是多層優(yōu)勢(shì)的體現(xiàn)。深度學(xué)習(xí)將具有多隱層的機(jī)器學(xué)習(xí)模型和海量的訓(xùn)練數(shù)據(jù)構(gòu)建起來(lái)，用“深度模型”的手段達(dá)到“特征學(xué)習(xí)”的目的，最終提升分類或預(yù)測(cè)的準(zhǔn)確性[4]。

在對(duì)巖石圖像的特征信息提取、巖石分類、巖心重構(gòu)、特征標(biāo)注、孔隙識(shí)別等處理中運(yùn)用了大量圖像處理與人工智能技術(shù)，經(jīng)過大量反復(fù)實(shí)驗(yàn)表明，圖像處理技術(shù)在測(cè)井實(shí)際應(yīng)用中已經(jīng)有了良好基礎(chǔ)[57]。將深度學(xué)習(xí)運(yùn)用到巖石圖像的處理分析中，具有重要的研究意義與較大的發(fā)展空間。

深度學(xué)習(xí)模型有多種，如深度信念網(wǎng)絡(luò)、卷積神經(jīng)網(wǎng)絡(luò)、自動(dòng)編碼器等，通過與其它方法的結(jié)合改進(jìn)，又出現(xiàn)了一些新方法。深度學(xué)習(xí)的各類算法模型有著各自的特點(diǎn)與優(yōu)勢(shì)，在語(yǔ)音、圖像、自然語(yǔ)言、在線廣告等領(lǐng)域的應(yīng)用取得顯著進(jìn)展[8]。Volvo采用NVIDIA車載深度學(xué)習(xí)電腦來(lái)提供更安全的駕駛服務(wù)；中國(guó)科學(xué)院計(jì)算機(jī)技術(shù)研究所發(fā)布了全球首個(gè)能“深度學(xué)習(xí)”的神經(jīng)網(wǎng)絡(luò)處理器芯片，名為“寒武紀(jì)”；不久前，谷歌DeepMind開發(fā)的人工智能圍棋程序AlphaGo戰(zhàn)勝世界冠軍李世石，在深度學(xué)習(xí)領(lǐng)域取得了重大突破。但在巖石圖像處理中采用深度學(xué)習(xí)方法仍不多見，人們大多還是采用傳統(tǒng)方法，如濾波算法、邊緣檢測(cè)、決策樹、支持向量機(jī)等。通過閱讀學(xué)習(xí)大量有關(guān)深度學(xué)習(xí)的資料，結(jié)合巖石圖像的實(shí)際特征，分析各類算法在巖石圖像處理中的可行性是本文的主要目的。

2深度信念網(wǎng)絡(luò)及其在巖石圖像處理中的應(yīng)用

2.1深度信念網(wǎng)絡(luò)簡(jiǎn)介

深度信念網(wǎng)絡(luò)（DBNs-Deep Belief Networks）是無(wú)監(jiān)督的概率生成模型，2006年由Hinton等人提出。從結(jié)構(gòu)上看，DBNs是由多個(gè)無(wú)監(jiān)督的受限玻爾茲曼機(jī)（RBM-Restricted Boltzmann Machines）堆疊而成，最后還有一層有監(jiān)督的反向傳播BP網(wǎng)絡(luò)。對(duì)于圖像而言，可視層與像素層對(duì)應(yīng)，隱層與特征描述因子對(duì)應(yīng)。

DBNs需要經(jīng)過預(yù)訓(xùn)練（per-training）和微調(diào)（fine-tuning）兩個(gè)階段：在預(yù)訓(xùn)練階段采用無(wú)監(jiān)督方式訓(xùn)練第一層的RBM，固定其權(quán)值和偏置值，將該層的輸出作為第二層RBM的輸入，再訓(xùn)練第二個(gè)RBM，然后將其堆疊在第一個(gè)RBM的上方，重復(fù)堆疊多次，構(gòu)建DBN網(wǎng)絡(luò)的初步模型。在微調(diào)階段使用Contrastive Wake-Sleep（對(duì)比喚醒-休眠）算法修改權(quán)重，使每一層的RBM特征向量映射達(dá)到最優(yōu)。

圖3中的y1部分是在最頂層RBM中參與訓(xùn)練的標(biāo)簽。微調(diào)過程是一個(gè)判別模型。

2.2DBN在巖石孔隙識(shí)別中的可行性分析

DBN模型是一種逐層貪婪預(yù)訓(xùn)練的深層神經(jīng)網(wǎng)絡(luò)模型，它克服了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)在訓(xùn)練上的難度，挖掘隱藏在圖像像素特征之中的高維抽象特征。它是深度神經(jīng)網(wǎng)絡(luò)模型的典型代表，受到了學(xué)者們的廣泛關(guān)注[910]。在現(xiàn)有研究成果中，已有將模糊C均值聚類和BP神經(jīng)網(wǎng)絡(luò)結(jié)合起來(lái)處理鑄體薄片圖像的方法[11]，達(dá)到了良好的孔隙度識(shí)別效果；還有學(xué)者提出巖石圖像分類的自動(dòng)模式識(shí)別方法[12]，通過神經(jīng)網(wǎng)絡(luò)建立特征空間與巖石圖像之間的映射關(guān)系，能夠快速準(zhǔn)確地識(shí)別巖石圖像類型。由此可見，利用神經(jīng)網(wǎng)絡(luò)進(jìn)行巖石圖像的處理已有不少具體應(yīng)用，而深度信念網(wǎng)絡(luò)是在傳統(tǒng)神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上加以優(yōu)化改進(jìn)，例如：根據(jù)人臉特征提出基于Gabor小波與深度信念網(wǎng)絡(luò)的人臉識(shí)別方法[13]，取得了較高的學(xué)習(xí)效率和很好的識(shí)別效果；將深度信念網(wǎng)絡(luò)應(yīng)用于軸承的故障識(shí)別[14]；運(yùn)用DBN模型，將環(huán)境和氣象數(shù)據(jù)編碼，對(duì)特定區(qū)域進(jìn)行PM2.5的檢測(cè)等[15]。因此，基于現(xiàn)有的巖石圖像處理和深度信念網(wǎng)絡(luò)的研究成果，針對(duì)巖石圖像的孔隙提取問題，結(jié)合傳統(tǒng)的圖像處理技術(shù)，嘗試采用DBN模型進(jìn)行特征提取。該方法不僅在理論層面上具有可行性，在具體應(yīng)用中也具有現(xiàn)實(shí)意義。擬定技術(shù)路線如圖4所示。

分析應(yīng)用步驟如下：①將巖石薄片圖像轉(zhuǎn)換為CIE lab彩色空間；②采用圖像分割技術(shù)將預(yù)處理后的圖像分割為目標(biāo)和背景兩類；③在目標(biāo)和背景中各選取10組特征向量，提取特征；④隨機(jī)選取部分特征向量送入DBN模型中進(jìn)行訓(xùn)練；⑤選取500組256×256的圖像，將分割后的圖像整幅送入訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)中，運(yùn)用訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行巖石孔隙的識(shí)別。

3卷積神經(jīng)網(wǎng)絡(luò)及其在巖石圖像處理中的應(yīng)用

卷積神經(jīng)網(wǎng)絡(luò)（CNNConvolutional Neural Networks）[16，17]是第一個(gè)真正成功實(shí)現(xiàn)多層網(wǎng)絡(luò)結(jié)構(gòu)的學(xué)習(xí)算法。它提高普通前向BP算法訓(xùn)練性能的方式是利用空間關(guān)系減少需要學(xué)習(xí)的參數(shù)數(shù)目。其權(quán)值共享網(wǎng)絡(luò)結(jié)構(gòu)與生物神經(jīng)網(wǎng)絡(luò)類似，網(wǎng)絡(luò)模型的復(fù)雜度在一定程度上得到了降低，并且權(quán)值數(shù)量也有所減少。該優(yōu)勢(shì)集中體現(xiàn)在網(wǎng)絡(luò)的輸入是多維圖像時(shí)，能夠直接將圖像作為網(wǎng)絡(luò)輸入，避免了傳統(tǒng)識(shí)別算法中復(fù)雜的特征提取和數(shù)據(jù)重建過程。

在卷積神經(jīng)網(wǎng)絡(luò)中，輸入圖像特征圖的產(chǎn)生是由輸入圖像本身與卷積濾波器進(jìn)行卷積得到的，再提取圖像中的局部特征。圖6中的C1層（采樣層）即為經(jīng)過濾波和加偏置操作后得到的特征映射圖，之后再進(jìn)行像素求和、加權(quán)等操作產(chǎn)生S2層（亞采樣層）的特征映射圖。依次進(jìn)行操作，最后將得到的多個(gè)特征映射轉(zhuǎn)化成特征向量，以完全連接的方式輸出。CNN的訓(xùn)練算法與傳統(tǒng)的BP算法類似，主要有向前傳播和向后傳播兩個(gè)階段：第一階段主要是從樣本集中選取樣本輸入網(wǎng)絡(luò)中，并計(jì)算實(shí)際的輸出結(jié)果：第二階段相當(dāng)于調(diào)整階段，用極小化誤差法反向傳播來(lái)調(diào)整矩陣權(quán)值，目的是縮小實(shí)際輸出與理想輸出的差。

卷積神經(jīng)網(wǎng)絡(luò)的主要優(yōu)勢(shì)為：①輸入圖像和網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)有較高吻合度；②特征提取和模式分類能夠同時(shí)進(jìn)行并在訓(xùn)練中產(chǎn)生；③權(quán)重共享減少了網(wǎng)絡(luò)的訓(xùn)練參數(shù)，使神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)具有更強(qiáng)的適應(yīng)性。鑒于卷積神經(jīng)網(wǎng)絡(luò)的特點(diǎn)，已有基于CNN的各類具體應(yīng)用：有學(xué)者提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)的視頻圖像失真檢測(cè)及分類方法[18]，在目前的大數(shù)據(jù)背景下，采用卷積神經(jīng)網(wǎng)絡(luò)對(duì)高分辨率遙感影像進(jìn)行分類[19]，提高了分類精度；還有將卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用到植物葉片、商品圖像、奶牛個(gè)體等分類中[2022]。巖石圖像數(shù)據(jù)集較大，內(nèi)部結(jié)構(gòu)復(fù)雜，借鑒現(xiàn)有的研究成果，采用卷積神經(jīng)網(wǎng)絡(luò)根據(jù)巖石之間的不同屬性對(duì)巖石圖像進(jìn)行分類。

基于CNN的巖石薄片圖像分類方法如下：①輸入層。當(dāng)原始圖像不是灰度圖像時(shí)，首先進(jìn)行灰度化；②C1層。C1層是一個(gè)特征提取層，獲得二維特征圖，卷積得到的結(jié)果先經(jīng)過激活函數(shù)（一般采用Sigmoid函數(shù)）y=Sigmoid（wx+b）進(jìn)行計(jì)算，再將計(jì)算所得作為特征值賦予C1層的某個(gè)神經(jīng)元。運(yùn)算中x為圖像子塊，w為卷積核，b為偏置項(xiàng)，y為輸出；③S1層。S1層是子采樣層，子采樣的計(jì)算過程為y=Sigmoid[w·sum（xi）+b][]xi∈x；④C2層。C2也是一個(gè)特征提取層，感受進(jìn)一步擴(kuò)大，其將S1中的特征圖進(jìn)行組合輸入再作卷積得到，相當(dāng)于將原始圖像翻倍；⑤剩余卷積層與子采樣層。所提取的特征隨著深度的增加更加抽象；⑥輸出層。輸出層與S3是全連接，每個(gè)神經(jīng)元都與輸出的一個(gè)神經(jīng)元相連。S3到輸出層的映射相當(dāng)于使用該向量進(jìn)行分類。

4結(jié)語(yǔ)

本文在當(dāng)下熱門的深度學(xué)習(xí)的環(huán)境背景下，重點(diǎn)介紹了深度學(xué)習(xí)的基本模型。從巖石圖像處理的角度出發(fā)，針對(duì)傳統(tǒng)巖石圖像處理存在的問題，將深度學(xué)習(xí)中的特征和分類器結(jié)合在一起，根據(jù)數(shù)據(jù)學(xué)習(xí)特征，提出了基于DBN的巖石孔隙識(shí)別方法和基于CNN的巖石圖像分類方法。分別介紹了兩種模型的基本結(jié)構(gòu)，擬定了巖石圖像處理的技術(shù)路線及框架。在參考了諸多應(yīng)用實(shí)例后，通過分析，證明了本文提出的方法在具體應(yīng)用中的可行性和可操作性。深度學(xué)習(xí)能夠更好地表示數(shù)據(jù)特征，并在大規(guī)模訓(xùn)練數(shù)據(jù)上取得更好的效果，減少了手工設(shè)計(jì)特征的巨大工作量，使用起來(lái)也非常方便。

參考文獻(xiàn)參考文獻(xiàn)：

[1]Mf J. Scientists see promise in deep learning programs[N].The New York Time，20121123.

[2]HINTON G E， SALAKHUTDINOV R.Reducing the dimensionality of data with neural networks[J].Science，2006，313（5786）：504507.

[3]MOHAMED，HINTON G E，PENN G.Understanding how deep belief networks perfom acoustic modeling[M].kyoto：ICASSP，2012.

[4]孫志軍，薛磊，許陽(yáng)明，等.深度學(xué)習(xí)研究綜述[J].計(jì)算機(jī)應(yīng)用研究，2012（8）：28062810.

[5]SWARUP CHAUHAN， WOLFRAM RHAAK， FAISAL KHAN，et al. Processing of rock core microtomography images： using seven different machine learning algorithms[J].Computers&Geosciences 2016（86）：120128.

[6]HEIKO ANDR A，NICOLAS COMBARET，JACK DVORKIN，et al.Digital rock physics benchmarks—part I： imaging and segmentation[J].Computers & Geosciences，2013（50）：2532.

[7]HEIKO ANDRA， NICOLAS COMBARET， JACK DVORKIN，et al. Digital rock physics benchmarkpartⅡ： computing effective properties[J].Computers&Geosciences，2013（50）：3334.

[8]余凱，賈磊，陳雨強(qiáng)，等.深度學(xué)習(xí)的昨天，今天和明天[J].計(jì)算機(jī)研究與發(fā)展，2013（9）：17991804.

[9]HINTON G E， OSINDERO S， THE Y. A fastarkof learning algorithm for deep belief nets[J]. Neural Computation， 2006，18（7）：15271544.

[10]HINTON G E.Learning multiple layers of representation[J].Trends in Cognitive Sciences， 2007，11（10）：428434.

[11]程國(guó)建，楊靜，劉燁.結(jié)合模糊C均值聚類與BP神經(jīng)網(wǎng)絡(luò)的巖石孔隙識(shí)別方法[J].電腦知識(shí)與技術(shù)，2013（30）：68726873，6876.

[12]郭超，劉燁.多色彩空間下的巖石圖像識(shí)別研究[J].科學(xué)技術(shù)與工程，2014（18）：247251，255.

[13]柴瑞敏，曹振基.基于Gabor小波與深度信念網(wǎng)絡(luò)的人臉識(shí)別方法[J].計(jì)算機(jī)應(yīng)用，2014（9）：25902594.

[14]單外平，曾雪瓊. 基于深度信念網(wǎng)絡(luò)的信號(hào)重構(gòu)與軸承故障識(shí)別[J].電子設(shè)計(jì)工程，2016（4）：6771.

[15]鄭毅，朱成璋. 基于深度信念網(wǎng)絡(luò)的PM_（2.5）預(yù)測(cè)[J].山東大學(xué)學(xué)報(bào)：工學(xué)版，2014（6）：1925.

[16]LECUN Y， KAVUKCUOGLUK， FARABET C. Convolutional networks and applications in vision[C].IEEE International Symposium on Circuits and Systems ，2010：253256.

[17]KRIZHEVSKY A， SUTSKEVER I， HINTON G E. ImageNet classification with deep convolutional neural networks[C].Advances in Neural Information Processing Syetems， Annual Conference， Lake Tahoe， Nevada，2012：10971105.

[18]鄔美銀，陳黎，田青.基于卷積神經(jīng)網(wǎng)絡(luò)的視頻圖像失真檢測(cè)及分類[EB/OL]. http：//www.cnki.net/kcms/detail/51.1196.TP.20151028.1119.010.html.

[19]曹林林，李海濤， 韓顏?lái)槪?卷積神經(jīng)網(wǎng)絡(luò)在高分遙感影像分類中的應(yīng)用[EB/OL].http：//www.cnki.net/kcms/detail/11.4415.p.20160127.1150.040.html.

[20]龔丁禧，曹長(zhǎng)榮.基于卷積神經(jīng)網(wǎng)絡(luò)的植物葉片分類[J].計(jì)算機(jī)與現(xiàn)代化，2014（4）：1215，19.

[21]賈世杰，楊東坡，劉金環(huán). 基于卷積神經(jīng)網(wǎng)絡(luò)的商品圖像精細(xì)分類[J].山東科技大學(xué)學(xué)報(bào)：自然科學(xué)版，2014（6）：9196.

[22]趙凱旋，何東健.基于卷積神經(jīng)網(wǎng)絡(luò)的奶牛個(gè)體身份識(shí)別方法[J].農(nóng)業(yè)工程學(xué)報(bào)，2015（5）：181187.

責(zé)任編輯（責(zé)任編輯：黃?。?