郭瑞 董振良 喬鵬舉 閆濤 苗壯 田豐
摘 要:針對傳統(tǒng)卷積神經網絡(CNN)在電磁反演中提取數據特征時冗余信息多,導致網絡反演精度降低的問題,提出一種變步長卷積神經網絡電磁反演方法,將輸入數據拓展為一維行向量,在各層網絡中交替使用不同步長的卷積核進行卷積運算提取數據特征,利用變步長卷積方式替代傳統(tǒng)網絡的池化層,完成對冗余信息的過濾和特征信息的選擇,并通過小卷積核級聯的方式增大網絡感受野提高網絡的非線性表達能力。通過二維時域有限差分法(2D-FDTD)對不同電磁參數的富水區(qū)模型進行正演計算,并根據計算得出的電場時域響應特征建立樣本數據集;將變步長卷積神經網絡應用于電磁反演研究,建立適用于富水區(qū)問題的變步長卷積神經網絡電磁反演模型,并驗證變步長卷積神經網絡電磁反演方法的精度。結果表明:該方法對坐標位置的反演平均相對誤差為2.85%,對相對介電常數的反演平均相對誤差為6.07%,反演結果與實際模型吻合度較高。所提方法對提高礦井富水區(qū)電磁反演的精度和效率具有一定的理論參考價值。關鍵詞:礦井富水區(qū);電磁探測;電磁反演;卷積神經網絡;變步長CNN中圖分類號:TD 745
文獻標志碼:
A
文章編號:1672-9315(2023)06-1186
-09
DOI:10.13800/j.cnki.xakjdxxb.2023.0617開放科學(資源服務)標識碼(OSID):
Electromagnetic inversion of mine water-rich area based on CNN
GUO Rui1,DONG Zhenliang2,QIAO Pengju1,YAN Tao1,MIAO Zhuang1,TIAN feng3
(1.China Coal Shaanxi Yulin Energy Chemical Co.,Ltd.,Yulin? 719000,China;
2.China Coal Energy Research Institute Co.,Ltd.,Xian 710054,China;
3.College of Communication and Information? Engineering,Xian University of Science and Technology,Xian 710054,China)
Abstract:
Aiming at the problem that the traditional convolutional neural network(CNN) has a lot of redundant information when extracting data features in electromagnetic inversion,which leads to the reduction of network inversion accuracy,this paper proposed a variable-step convolutional neural network electromagnetic inversion method.The method expands the input data into a one-dimensional row vector,and alternately uses convolution kernels with different convolution steps in each layer of the network to extract data features.The method is used to replace the pooling layer of the traditional convolutional neural network to complete the filtering of redundant information and the selection of feature information.And the network receptive field is increased by cascading small convolution kernels to improve the nonlinear expression ability of the network.The two-dimensional finite-difference time-domain method(2D-FDTD) is used to calculate the water-rich area model with different electromagnetic parameters,and the sample data set is established according to the calculated electric field time-domain response characteristics.The variable step-size convolutional neural network is applied to establish the electromagnetic inversion model suitable for the problem of water-rich area,and its accuracy is verified.The results show that the average relative error of the method for the inversion of coordinate positions is 2.85%,and for the inversion of relative permittivity is 6.07%,and the inversion results are in good agreement with the actual model.The method has some theoretical reference value for improving the accuracy and efficiency of electromagnetic inversion in water-rich area of mine.
Key words:water-rich area of mine;electromagnetic detection;electromagnetic inversion;convolutional neural network;variable-step CNN
0 引 言
由于中國水文地質條件相對復雜,礦產資源的開發(fā)長期以來受到水患災害的制約和威脅[1-2]。為進一步滿足煤礦安全開采的需求,研究新的反演算法對礦井富水區(qū)超前探測具有重要意義。電磁探測技術是地球物理勘探的重要手段之一,反演算法是電磁探測數據解釋的關鍵技術,直接影響實際資料的成像效果[3-5]。反演的實質是根據儀器測得的電磁場響應曲線,將曲線與電磁參數進行數學關聯,從而推導出合理的模型結構,通常反演如介電常數、電導率、幾何結構等參數。電磁反演目前已被廣泛應用于地震波探測、電磁波探測、礦產勘測和安全檢測等,具有十分重要的意義[6]。國內外研究學者在電磁反演領域進行了一系列研究工作,傳統(tǒng)的電磁反演方法包括Occam反演、最小二乘反演、非線性共軛梯度法(NLCG)、采用降維處理技術的快速松弛迭代反演等,這些研究極大地促進了電磁反演技術的發(fā)展[7-8]。然而,傳統(tǒng)反演計算方法通常采用正則化的計算方法,對于先驗模型信息要求相對較高。雖然基于線性關系的傳統(tǒng)反演能有效反映異常體的位置、大小以及埋深等相關信息,但其反演精度較低。近年來隨著非線性反演方法的興起,新的理論和研究方法開始蓬勃發(fā)展。卷積神經網絡(Convolutional Neural Networks,CNN)因其優(yōu)秀的計算機視覺識別能力而備受廣大研究學者的關注[9-11]。目前,CNN在圖像、語音處理、自然語言識別等領域已經取得了巨大的成就,但在電磁探測領域的研究尚處于起步階段[12-15]。由于神經網絡是一種復雜的數學模型,具有非常強大的非線性擬合能力,理論上可以擬合任意函數。根據George Cybenko和Kurt Hornik提出的神經網絡的萬能逼近定理可知,具有足夠數量的隱藏神經元的網絡可以逼近任意連續(xù)函數,即使這個函數是高維非線性函數。這意味著,只要有足夠的計算資源與訓練數據,就可以使用合適的神經網絡來實現高度非線性的電磁場反演建模。PUZYREV V提出一種基于深度全卷積網絡的電磁反演新方法,將電場和磁場分量形成的三維陣列數據提供給深度卷積網絡,供其學習從測量數據到模型的映射關系,在具有垂直電偶極子的井-地結構的模型上證明了深度神經網絡在二維反演中的性能,通過利用足夠深的完全卷積網絡,可以精確且快速地預測地下電阻率模型[16];XIAO L Y等提出一種雙模機器學習方案來重構具有高對比度的非均勻散射體[17];
PUZYREV V和
SWIDINSKY
A針對非線性共軛梯度法在電磁數據反演中容易陷入局部極小值的問題,提出將深度CNN應用于海洋頻域可控源電磁(CSEM)數據和陸上時域電磁數據的反演,該方法完全是數據驅動的,不使用傳統(tǒng)的基于梯度的技術[18];王青等提出一種通過小波轉換將反演參數映射到小波域進行反演的方法,該方法通過對小波域模型進行修正,實現小波推導空間域反演模型[19];XIAO等提出一種基于玻恩近似(BA)和CNN的三維電磁反演方法,在訓練階段,首先利用BA獲得一系列形狀規(guī)則的均勻散射體的初步三維圖像,再用蒙特卡羅方法對其進行改進,然后將改進后的圖像輸入到神經網絡模型中進行訓練,最后利用訓練好的三維U-Net和傳統(tǒng)的迭代方法變分玻恩迭代法(VBIM)對形狀復雜的非均勻散射體進行重構[20];高明亮等設計一種將BP神經網絡和免疫遺傳算法進行有機結合的全局優(yōu)化反演策略,并成功應用于二維高密度電法數據反演[21];廖曉龍等為了提高電磁反演精度,將電阻率和相位數據分別作為CNN的一個分支輸入,相應的模型參數作為網絡的輸出,實現了對地電模型的精準定位[22];嵇艷鞠等為解決半航空探測問題中視電阻率反演精度低、效率慢的問題,通過建立感應電動勢和視電阻率單一映射的數據集,采用BP神經網絡對樣本進行訓練,建立神經網絡反演模型[23];王鶴等將遺傳神經網絡引入大地電磁反演當中提高反演的數值穩(wěn)定性、計算效率及準確度,并通過試驗驗證了遺傳神經網絡算法在電磁反演中的可靠性[24]。綜上,基于CNN的電磁反演理論,針對電磁響應數據存在冗余信息的特點,引入變步長卷積的方法,通過控制卷積過程中的步長大小,進行信息融合,降低了信息冗余度,并基于此搭建了變步長CNN的電磁反演模型。該模型將輸入層的電場時域響應序列通過各層不同步長的卷積核進行卷積運算并提取特征變量,利用變步長卷積方式替代傳統(tǒng)池化層,完成對冗余信息的過濾和特征信息的選擇,并通過小卷積核級聯的方式提高網絡的非線性表達能力,網絡的輸出為反演目標的位置、幾何形狀及電磁參數信息。該方法有利于提高礦井富水區(qū)電磁探測精度,為煤礦的安全開采提供技術支撐。
1 基于神經網絡電磁反演方法
1.1 基于卷積神經網絡的電磁反演理論
電磁反演研究的目的是根據觀測點的電磁響應計算目標的位置、形狀及其電磁參數等[25]。利用CNN方法求解電磁反演問題的基本思想是建立一種映射關系,將每一個電場時域響應序列視為圖像數據,每一個電場數據視為圖像中的一個像素點[26]。因此,將電場時域響應序列作為網絡的輸入,其對應的反演目標位置、相對介電常數、電阻率等信息作為神經網絡的輸出,建立基于CNN的電磁反演模型。反演流程如圖1所示。
1.1.1 數據集建立首先根據Maxwell方程組建立電磁正演模型。由于礦井中地質構造復雜電磁干擾嚴重,正演時可以忽略位移電流,且由于煤質為非磁性介質,可設置其相對磁導系數為1。電磁場空間與時間關系的Maxwell方程如下
(12)損失函數Loss以網絡自變量為參數,函數值為誤差值,用于描繪預測值與真實值之間的誤差變化曲線,梯度即損失函數Loss的導數,通過梯度下降,計算損失函數最小值時自變量的對應取值。全局最小值點所對應的參數所代表的曲線與真實數據的分布最為符合,此時可以通過這條最佳曲線擬合真實數據的分布,
進而預測數據集中未出現過的數據。在網絡訓練中,訓練函數由于其本身的特點,選擇不同的訓練函數會對網絡的收斂速度和精度造成不同的影響。對于電磁場反問題,由于其模型較為復雜,訓練方式選擇不合理將會導致網絡陷入局部最小值,收斂速度慢,預測性能降低。
2 富水區(qū)電磁反演數值算例在礦井富水區(qū)電磁反演問題中,數據集通過二維時域有限差分法進行獲取。由于富水區(qū)與背景場電性差異比較大,直接通過總場時域響應序列進行神經網絡訓練,網絡難以收斂,訓練結果不佳。因此針對電磁反演問題,常用的方法為計算富水區(qū)二次響應曲線。為測試基于變步長CNN的電磁反演算法的有效性,建立正演模型如圖3所示,入射波頻率0.75 GHz,在地面下有一處寬5 m、深度2.5 m的矩形探測區(qū)域(ε=3,ρ=200),其中ε為相對介電常數,ρ為電阻率。探測區(qū)域內有一邊長為d(d=0.2,0.3,0.4,0.5,0.6 m)的富水區(qū),富水區(qū)位置在探測區(qū)域內進行遍歷,其電磁參數未知(ε,ρ)。在地表上方長為4 m的一條直線上,等間距放置5個接收點。
假設富水區(qū)邊長為d(d=0.2,0.3,0.4,0.5,0.6 m),以探測區(qū)域的上表面中點為坐標軸原點建立坐標軸,富水區(qū)的左上坐標點為(x,y),富水區(qū)在探測區(qū)域內以一定步長進行移動從而建立數據樣本。假設訓練樣本的電阻率分別為50,100,150,250,300,400;測試樣本的電阻率分別為50,100,150,200,300,400。樣本數據集通過改變富水區(qū)的大小、位置及電阻率等電磁參數信息,共建立訓練樣本9 618組,測試樣本8 592組,其中選擇測試樣本的10%用作驗證樣本?;谒岢龅乃惴?,建立基于卷積神經網絡電磁反演模型。模型輸入為二次場電場響應特征,輸出為富水區(qū)的位置信息和電阻率。模型包含4層卷積層,交替使用步長為1和步長為3的卷積核進行卷積運算,共有4層全連接層,神經元個數逐層減少。為了驗證基于CNN的電磁反演模型是否收斂,給出CNN的損失函數變化曲線,如圖4所示。
訓練集和驗證集的平均絕對誤差隨著迭代次數的增加逐漸下降,網絡逐漸收斂。如圖5所示,對部分測試樣本的反演結果進行可視化,反演區(qū)域大小為5 m×2.5 m,其中圖像橫坐標x為探測區(qū)域的水平位置,縱坐標y為探測區(qū)域的深度。
為進一步檢驗基于變步長CNN的電磁反演精度,在測試集上分別統(tǒng)計不同邊長d(d=0.2,0.3,0.4,0.5,0.6 m)的富水區(qū)反演的位置和電阻率誤
差。其中d=0.2 m的測試樣本4 788組,d=0.3 m
的測試樣本1 944組,d=0.4 m的測試樣本960組,d=0.5 m的測試樣本540組,d=0.6 m的測試樣本360組,對比結果見表1和表2。
數值試驗結果表明,不同邊長的富水區(qū)坐標位置反演平均絕對誤差為0.011,平均相對誤差為2.55%。不同邊長的富水區(qū)電阻率反演平均絕對誤差為1.587,平均相對誤差為0.91%。
從圖5可以看出,CNN預測結果與真實結果基本吻合,基于變步長CNN的電磁反演方法可以有效地對地下富水區(qū)的位置信息及電阻率進行反演。
此外,為檢驗基于變步長CNN的電磁反演方法的反演精度,對所有測試樣本進行反演測試。圖6為富水區(qū)真實電磁參數與反演的電磁參數對比結果。其中,橫坐標為測試樣本的真實電磁參數,縱坐標為文中所提出方法預測的電磁參數。圖6(a)~(d)分別為富水區(qū)4個頂點坐標的反演結果與真實結果的對比;圖6(e)為富水區(qū)的電阻率反演結果與真實結果的對比。從圖中可以看到,基于變步長CNN的電磁反演結果中,坐標誤差較小而在電阻率誤差相對較大。
最后,為了驗證變步長CNN算法的精確度,圖7為傳統(tǒng)CNN與變步長CNN電磁反演方法反演位置誤差的對比。
如圖7所示,分別計算變步長CNN電磁反演方法和傳統(tǒng)CNN電磁反演方法的準確率,當真實坐標與預測坐標的絕對誤差小于0.3 m時,基于CNN的反演算法準確率為95.74%,基于變步長CNN電磁算法的準確率為
98.12%;當真實坐標與預測坐標的絕對誤差小于0.2 m時,基于CNN的反演算法準確率為83.28%,基于變步長CNN電磁算法的準確率為93.11%。
根據測試數據集的反演結果,通過對傳統(tǒng)CNN誤差的分析可知,基于變步長CNN的電磁反演方法準確有效,成像精度較傳統(tǒng)CNN更高。
3 結 論
1)提出了變步長CNN電磁反演方法,并成功將其應用到礦井富水區(qū)的反演問題中。通過設計與訓練過程,給出了網絡的損失函數、網絡結構等參數。試驗證明,采用該算法可以準確高效地反演礦井
富水區(qū)位置、電導率、相對介電常數等信息。
2)變步長卷積神經網絡電磁反演方法在礦井富水區(qū)算例驗證中,對坐標位置的反演平均相對誤差為2.85%,對相對介電常數的反演平均相對誤差為6.07%,反演結果與實際模型吻合度較高。
3)通過二維時域有限差分法建立了關于地電模型的時域電磁響應特征數據集,并通過建立CNN電磁反演模型驗證了該反演算法。其反演結果是準確有效的,為礦井富水區(qū)的反演提供了一種新的解決方法。
參考文獻(References):
[1]
吳曉軍,趙飛.新疆大南湖七號煤礦首采區(qū)水文地質條件研究[J].煤炭科學技術,2018(S2):210-215.WU Xiaojun,ZHAO Fei.Study on hydrogeological conditions in the first mining area of Da Nanhu No.7 coal mine in Xinjiang[J].Coal Science and Technology,2018(S2):210-215.
[2]江志鵬.水文地質工作在礦產資源勘察中的作用分析[J].世界有色金屬,2020(18):95-96.JIANG Zhipeng.Analysis on the role of hydrogeology in mineral resources exploration[J].World Nonferrous Metals,2020(18):95-96.[3]王家剛.電磁法超前探測在巷道掘進中的應用現狀分析[J].能源與節(jié)能,2018(2):16-17.WANG Jiagang.Analysis of application status of electromagnetic method for advanced detection in roadway tunneling[J].Physical and Chemical Exploration,2018(2):16-17.
[4]張鵬.中國煤炭礦井物探技術現狀及展望[J].工礦自動化,2017,43(3):20-23.Z
HANG Peng.Status and prospect of coal mine geophysical exploration technology in China[J].Industry and Mine Automation,2017,43(3):20-23.
[5]李云波,李好.礦井瞬變電磁法富水體超前探測及應應用研究[J].礦業(yè)安全與環(huán)保,2013,40(2):69-72.
LI Yunbo,LI Hao.Principle of advance detection of water-enriched body with Mine transient electromagnetic method and its application[J].Mining Safety and Environmental Protection,2013,40(2):69-72.
[6]杜鈴鈴.大地電磁測深法在礦山地質構造探測中的應用[J].世界有色金屬,2018(22):215-217.DU Lingling.Application of magnetotelluric sounding method in mine geological structure exploration[J].World Nonferrous Metals,2018(22):215-217.
[7]LIANG B,SHEN F,WANG S,et al.Reconstruction of three-dimensional objects in layered composite structures from multimode orbital angular momentum[J].
Physical Review E,2022,105(2):025302.[8]韓曉冰,郭濤,李航,等.基于CFS-PML的高階有限元在地質雷達數值模擬中的應用研究[J].電波科學學報,2022,37(5):837-843.
HAN Xiaobing,GUO Tao,LI Hang,et al.Application research on CFS-PML-based high-order finite element method in GPR numerical simulation[J].Chinese Journal of Radio Science,2022,37(5):837-843.
[9]GAO C Q,LI X D,
ZHOU F S,et al.Face liveness detection based on the improved CNN with context and texture information[J].Chinese Journal of Electronics,2019,28(6):1092-1098.
[10]繆祥華,單小撤.基于密集連接卷積神經網絡的入侵檢測技術研究[J].電子與信息學報,2020,42(11):2706-2712.MIAO Xianghua,SHAN Xiaoche.Research on intrusion detection techniques based on densely connected convolutional neural networks[J].Journal of Electronics and Information,2020,42(11):2706-2712.[11]JIN J,GONG J Q.An interference-tolerant fast convergence zeroing neural network for dynamic matrix inversion and its application to mobile manipulator path tracking[J].Alexandria Engineering Journal,2021,60(1):659-669.[12]李新葉,龍慎鵬,朱婧.基于深度神經網絡的少樣本學習綜述[J].計算機應用研究,2020,37(8):2241-2247.LI Xinye,LONG Shenpeng,ZHU Jing.A review of deep neural network-based learning with few samples[J].Computer Application Research,2020,37(8):2241-2247.
[13]李澤宇.基于微波輻射計的大氣溫濕廓線反演算法及應用研究[D].哈爾濱:哈爾濱工程大學,2018.LI Zeyu.Atmospheric temperature and humidity profile inversion algorithm based on microwave radiometer and application research[D].Harbin:Harbin Engineering University,2018.
[14]孫洲鑫,王文松.深度學習中激活函數權重初始值的選?。跩].信息技術與信息化,2020(9):100-102.SUN Zhouxin,WANG Wensong.Selection of initial val-ues of activation function weights in deep learning[J].Information Technology and Informatization,2020(9):100-102.
[15]章琳,袁非牛,張文睿,等.全卷積神經網絡研究綜述[J].計算機工程與應用,2020,56(1):25-37.ZHANG Lin,
YUAN Feiniu,ZHANG Wenrui,et al.A review of research on fully convolutional neural networks[J].Computer Engineering and Applications,2020,56(1):25-37.
[16]PUZYREV V.Deep learning electromagnetic inversion with convolutional neural networks[J].Geophysical Journal International,2019,218(2):817-832.
[17]XIAO L Y,LI J,HAN F,et al.Dual-module NMM-IEM machine learning for fast electromagnetic inversion of inhomogeneous scatterers with High contrasts and Large electrical dimensions[J].IEEE Transactions on Antennas and Propagation,2020,68(8):6245-6255.[18]PUZYREV V,
SWIDINSKY A.Inversion of 1D frequency-and time-domain electromagnetic data with convolutional neural networks[J].Computers & Geosciences,2021,149:104681.
[19]王青,劉云鶴,殷長春,等.基于模型空間壓縮的大地電磁三維反演研究[J].地球物理學報,2019,62(2):752-762.
WANG Qing,LIU Yunhe,YIN Changchun,et al.Research on geomagnetic 3D inversion based on model space compression[J].Journal of Geophysics,2019,62(2):752-762.
[20]XIAO J,LI J,CHEN Y,et al.Fast electromagnetic inversion of inhomogeneous scatterers embedded in layered media by born approximation and 3-D U-Net[J].IEEE Geoscience and Remote Sensing Letters,2019,17(10):1677-1681.[21]李瑞友,張淮清,吳昭.基于在線慣序極限學習機的瞬變電磁非線性反演[J].物探與化探,2021,45(4):1048-1054.LI Ruiyou,ZHANG Huaiqing,WU Zhao.Online sequen-tial extreme learning machine for transient electromagnetic nonlinear inversion[J].Geophysical and Geochemical Exploration,2021,45(4):1048-1054.
[22]廖曉龍,張志厚,姚禹,等.基于卷積神經網絡的大地電磁反演[J].中南大學學報(自然科學版),2020,51(9):2546-2557.LIAO Xiaolong,ZHANG Zhihou,YAO Yu,et al.Geomagnetic inversion based on convolutional neural network[J].Journal of Central South University(Natural Science Edition),2020,51(9):2546-2557.
[23]李賡,曹飛翔.基于深度學習的二維航空大地電磁數據反演[J].科學技術與工程,2021,21(4):1272-1278.
LI Geng,CAO Feixiang.Nversion of two-dimensional airborne magnetotelluric data by deep learning[J].Science Technology and Engineening,2021,21(4):1272-1278.
[24]王鶴,劉夢琳,席振銖,等.基于遺傳神經網絡的大地電磁反演[J].地球物理學報,2018,61(4):1563-1575.
WANG He,LIU Menglin,XI Zhenzhu,et al.Geomagnetic inversion based on genetic neural network[J].Journal of Geophysics,2018,61(4):1563-1575.
[25]甘露,吳慶舉,黃清華,等.大地電磁與接收函數結構約束聯合反演[J].地球物理學報,2022,65(11):4460-4470.
GAN?? Lu,WU Qingju,HUANG Qinghua,et al.Structure?? constrained?? joint?? inversion?? of?? magnetotelluric?? data?? and?? receiver?? function[J].Chinese?? Journal?? of?? Geophysics,2022,65(11):4460-4470.
[26]馬琰祁,李偉勤,吳育涵,等.基于CNN-GAN組合模型的可控源電磁反演方法[J].大地測量與地球動力學,2023,43(10):1095-1100.
MA?? Yanqi,LI?? Weiqin,WU?? Yuhan,et al.A?? controllable?? source?? electromagnetic?? inversion?? method?? based?? on?? CNN-GAN?? combinatorial?? model[J].Journal?? of?? Geodesy?? and?? Geodynamics,2023,43(10):1095-1100.
[27]韓曉冰,張輝,梁冰洋,等.基于HIE-FDTD方法的太赫茲頻段石墨烯吸收器的設計[J].電波科學學報,2022,37(1):106-112,136.
HAN?? Xiaobing,ZHANG?? Hui,LIANG?? Bingyang,et al.Designing?? graphene????? absorber?? in?? Terahertz?? band?? using?? HIE-FDTD?? method[J].Chinese?? Journal?? of?? Radio?? Science,2022,37(1):106-112,136.
[28]葛德彪,閆玉波.電磁波時域有限差分方法(第3版)[M].西安:西安電子科技大學出版社,2011.
(責任編輯:高佳)