基于A-GRU的瓦斯?jié)舛刃蛄蓄A(yù)測(cè)研究

冉啟華，吳何碧，丁力生，李 旭，賴永標(biāo)，楊 揚(yáng)，楊黎明，賴祥威

（1.云南衛(wèi)士盾科技有限公司，云南昆明 650500；2.中建鐵路投資建設(shè)集團(tuán)有限公司，北京 100053；3.昆明理工大學(xué)理學(xué)院，云南 昆明 650031）

0 引言

由于瓦斯災(zāi)害危害煤礦安全生產(chǎn)，國(guó)內(nèi)外已有諸多學(xué)者針對(duì)瓦斯預(yù)測(cè)開(kāi)展研究。最開(kāi)始，有學(xué)者認(rèn)為瓦斯?jié)舛扰c開(kāi)采深度單純成正比關(guān)系，但在實(shí)際測(cè)量過(guò)程中，由于煤礦井下地質(zhì)復(fù)雜，瓦斯?jié)舛刃蛄型ǔ３尸F(xiàn)非線性的規(guī)律。于是，部分學(xué)者便考慮引入多變量指標(biāo)預(yù)測(cè)瓦斯?jié)舛?，但均未取得較為滿意的效果。

為此，不少學(xué)者通過(guò)向量機(jī)［1-2］、Elman 神經(jīng)網(wǎng)絡(luò)［3］、BP 神經(jīng)網(wǎng)絡(luò)［4］、灰色神經(jīng)網(wǎng)絡(luò)［5-9］等方法對(duì)瓦斯?jié)舛冗M(jìn)行非線性擬合。魏林等［10］結(jié)合最小二乘支持向量機(jī)和自回歸模型對(duì)瓦斯體積分?jǐn)?shù)進(jìn)行預(yù)測(cè)。楊麗等［11］提出了一種新的變量選擇和定階方法，利用多元分布滯后模型建立多變量瓦斯?jié)舛刃蛄蓄A(yù)測(cè)模型。胡坤等［12］利用教學(xué)算法優(yōu)化回歸算法的參數(shù)，實(shí)現(xiàn)了對(duì)瓦斯回采工作面演出量的預(yù)測(cè)。此外，也有學(xué)者采用多指標(biāo)耦合算法［13］、自回歸差分移動(dòng)平均模型［14］、循環(huán)神經(jīng)網(wǎng)絡(luò)［15］對(duì)瓦斯進(jìn)行預(yù)測(cè)。

隨著智能化煤礦快速發(fā)展，在極大程度上推動(dòng)了深度學(xué)習(xí)模型的發(fā)展。Zhang 等［16］采用遺傳算法優(yōu)化SRWNN瓦斯預(yù)測(cè)模型，開(kāi)發(fā)了一套分布式智能邊緣裝置瓦斯?jié)舛阮A(yù)測(cè)系統(tǒng)。Zhang 等［17］利用長(zhǎng)短時(shí)記憶神經(jīng)網(wǎng)絡(luò)對(duì)瓦斯監(jiān)控?cái)?shù)據(jù)進(jìn)行預(yù)測(cè)。

考慮到模型的預(yù)測(cè)精度和實(shí)時(shí)性需求，本文基于融合注意力機(jī)制的門控循環(huán)單元神經(jīng)網(wǎng)絡(luò)對(duì)瓦斯?jié)舛戎颠M(jìn)行預(yù)測(cè)，并以瓦斯?jié)舛葰v史數(shù)據(jù)為案例，闡述門控循環(huán)單元（Gated Recurrent Unit，GRU）［18］的結(jié)構(gòu)設(shè)計(jì)，并將其與卷積神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)、人工神經(jīng)網(wǎng)絡(luò)進(jìn)行比較。

1 模型設(shè)計(jì)流程與評(píng)價(jià)指標(biāo)

考慮到瓦斯?jié)舛刃蛄蓄A(yù)測(cè)屬于非線性問(wèn)題，傳統(tǒng)算法難以進(jìn)行高精度預(yù)測(cè)，因此本文提出了一種基于門控循環(huán)單元神經(jīng)網(wǎng)絡(luò)的瓦斯?jié)舛刃蛄蓄A(yù)測(cè)算法，以輔助瓦斯?jié)舛缺O(jiān)控系統(tǒng)進(jìn)行預(yù)警。

1.1 RNN

針對(duì)給定的瓦斯?jié)舛刃蛄衳=(x1，x2，...，xn)，運(yùn)用標(biāo)準(zhǔn)循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Network，RNN）算法進(jìn)行預(yù)測(cè)。RNN 結(jié)構(gòu)如圖1所示。

Fig.1 RNN internal structure圖1 RNN內(nèi)部結(jié)構(gòu)

由此，計(jì)算隱藏層序列h=(h1，h2，...，hn)和輸出層序列y=(y1，y2，...，yn)，計(jì)算公式如下：

其中，W為權(quán)重系數(shù)矩陣，例如Why為隱藏層到輸出層的權(quán)重系數(shù)矩陣，by、bh為偏置向量，fa為激活函數(shù)，下標(biāo)t為時(shí)刻。

1.2 GRU

GRU 不同于傳統(tǒng)神經(jīng)網(wǎng)絡(luò)，該網(wǎng)絡(luò)基于長(zhǎng)短期記憶網(wǎng)絡(luò)（Long Short-Term Memory，LSTM），但不同之處在于GRU將LSTM 中的輸入門和遺忘門合并成一個(gè)更新門。于是GRU 存在兩個(gè)門：更新門和重置門。其中，更新門控制上一個(gè)時(shí)刻的信息保存到下一時(shí)刻的程度；重置門控制當(dāng)前狀態(tài)信息與上一時(shí)刻信息是否結(jié)合。GRU 內(nèi)部結(jié)構(gòu)如圖2所示。

Fig.2 Internal structure of GRU圖2 GRU內(nèi)部結(jié)構(gòu)

GRU 內(nèi)部計(jì)算公式如下：

1.3 注意力機(jī)制

注意力機(jī)制的結(jié)構(gòu)如圖3 所示。其中，xt(t=[1，n])表示網(wǎng)絡(luò)層中輸入數(shù)據(jù)，ht(t=[1，n])表示網(wǎng)絡(luò)層中每一個(gè)隱藏層的輸出，at(t=[1，n])表示網(wǎng)絡(luò)中隱藏狀態(tài)的每一個(gè)注意力概率分布值。

Fig.3 Attention mechanism structure圖3 注意力機(jī)制結(jié)構(gòu)

1.4 模型設(shè)計(jì)

A-GRU 神經(jīng)網(wǎng)絡(luò)瓦斯?jié)舛阮A(yù)測(cè)模型如圖4 所示，共包含輸入層、隱藏層、輸出層、網(wǎng)絡(luò)訓(xùn)練及網(wǎng)絡(luò)預(yù)測(cè)5 個(gè)板塊。

（1）輸入層。在輸入瓦斯?jié)舛刃蛄袛?shù)據(jù)前，先定義瓦斯?jié)舛刃蛄袛?shù)據(jù)x=(x1，x2，...，xn)，再將數(shù)據(jù)集劃分為訓(xùn)練集xtrain=(x1，x2，...，xm)和測(cè)試集xtest=(xm+1，xm+2，...，xn)，m∈(0，n)。最后將劃分好的訓(xùn)練集和測(cè)試集數(shù)據(jù)進(jìn)行歸一 化 處 理，得 到m∈(0，n) 和

（2）隱藏層。隱藏層采用A-GRU 構(gòu)造的神經(jīng)網(wǎng)絡(luò)，將數(shù)據(jù)輸入隱藏層，經(jīng)過(guò)前向傳播公式計(jì)算損失，不斷優(yōu)化模型。

（3）輸出層。輸出層用來(lái)降低預(yù)測(cè)值與真實(shí)值的損失，然后輸出y=(y1，y2，...，yn)，并將m時(shí)刻的結(jié)果提供給預(yù)測(cè)模塊，進(jìn)行一下步m+1 時(shí)刻預(yù)測(cè)，得到瓦斯?jié)舛刃蛄蓄A(yù)測(cè)最終結(jié)果。

（4）網(wǎng)絡(luò)訓(xùn)練。網(wǎng)絡(luò)訓(xùn)練部分首先利用RMSE 進(jìn)行損失計(jì)算，然后使用Adam 優(yōu)化算法進(jìn)行二次優(yōu)化，再經(jīng)過(guò)多次訓(xùn)練迭代后得到最終預(yù)測(cè)值。

（5）網(wǎng)絡(luò)預(yù)測(cè)。網(wǎng)絡(luò)預(yù)測(cè)部分采用訓(xùn)練好的A-GRU神經(jīng)網(wǎng)絡(luò)模型進(jìn)行預(yù)測(cè)，得到多個(gè)時(shí)刻的瓦斯?jié)舛刃蛄蓄A(yù)測(cè)值。

Fig.4 Network model structure圖4 網(wǎng)絡(luò)模型結(jié)構(gòu)

1.5 評(píng)價(jià)指標(biāo)

為比較不同算法間的優(yōu)劣性，本文采用均方根差（RMSE）和平均絕對(duì)誤差（MAE）對(duì)不同算法的預(yù)測(cè)精度進(jìn)行科學(xué)評(píng)價(jià)，計(jì)算公式如下：

其中，n為樣本數(shù)量，xk為時(shí)間點(diǎn)k的真實(shí)值，為時(shí)間點(diǎn)k的預(yù)測(cè)值。

2 實(shí)驗(yàn)比較及分析

本文基于吉林省板石瓦斯?jié)舛缺O(jiān)控?cái)?shù)據(jù)對(duì)A-GRU 模型、MLP、CNN 和RNN 共4 種模型進(jìn)行實(shí)驗(yàn)，比較分析各模型的優(yōu)缺點(diǎn)。

2.1 實(shí)驗(yàn)數(shù)據(jù)

實(shí)驗(yàn)數(shù)據(jù)來(lái)源于吉林省板石礦瓦斯災(zāi)害風(fēng)險(xiǎn)防控示范工程項(xiàng)目2020年10月1日至2021年10月1日和2021年1 月1 日至4 月1 日兩個(gè)階段的瓦斯監(jiān)控?cái)?shù)據(jù)。數(shù)據(jù)平臺(tái)如圖5所示。

Fig.5 Banshi coal mine gas disaster risk management and control platform圖5 板石煤礦瓦斯災(zāi)害風(fēng)險(xiǎn)管控平臺(tái)

瓦斯?jié)舛缺O(jiān)控傳感器數(shù)據(jù)為全天候不間斷采集，采集時(shí)間間隔為1h。為避免實(shí)驗(yàn)的偶然性，選取31901 上順工作面和31901 下順工作面采集的樣本數(shù)據(jù)作為實(shí)驗(yàn)數(shù)據(jù)，每組樣本數(shù)據(jù)集序列長(zhǎng)度如表1 所示，選取數(shù)據(jù)集的前80%為訓(xùn)練集，后20%為測(cè)試集。

Table 1 Description of experimental data set collected by gas concentration sensor in underground coal mine表1 煤礦井下瓦斯?jié)舛葌鞲衅鞑杉瘜?shí)驗(yàn)數(shù)據(jù)集描述

2.2 實(shí)驗(yàn)結(jié)果

由于瓦斯?jié)舛刃蛄写嬖谝欢ǖ男蛄行?，并且A-GRU模型的參數(shù)設(shè)置會(huì)直接影響預(yù)測(cè)結(jié)果的準(zhǔn)確性，因此合理設(shè)置模型參數(shù)尤為重要。

2.2.1 參數(shù)設(shè)置

根據(jù)經(jīng)驗(yàn)設(shè)置歷史數(shù)據(jù)特征數(shù)（即步長(zhǎng)）為6，訓(xùn)練網(wǎng)絡(luò)模型的損失函數(shù)選擇均方誤差，優(yōu)化器選擇Adam，迭代次數(shù)為30次，批大小為8。

2.2.2 算法比較

首先從空間角度考查A-GRU 模型的優(yōu)勢(shì)，采用31901上順和31901 下順3 個(gè)月的實(shí)驗(yàn)數(shù)據(jù)進(jìn)行預(yù)測(cè)，得到預(yù)測(cè)值（見(jiàn)圖6、圖7）和3 個(gè)月瓦斯?jié)舛刃蛄姓`差表（見(jiàn)表2）。然后，為了充分驗(yàn)證該模型的可靠性，對(duì)31901 上順工作面和31901 下順工作面6 個(gè)月的瓦斯?jié)舛戎颠M(jìn)行預(yù)測(cè)，得到預(yù)測(cè)值（見(jiàn)圖8、圖9）和6 個(gè)月瓦斯?jié)舛刃蛄姓`差表（見(jiàn)表3）。

根據(jù)表2 可知，在31901 上順工作面訓(xùn)練集中A-GRU算法相較于MLP 的RMSE 降低了0.467%，相較于CNN 的MAE 下降了0.297%；在測(cè)試集中A-GRU 算法相較于MLP的RMSE 降低了1.858%，MAE 降低了3.483%。

在31901 下順工作面測(cè)試集中，A-GRU 算法相較于RNN 的MAE 降低了0.368%。在其它條件都一致的情況下，A-GRU 總體上預(yù)測(cè)效果更好。

Fig.6 Prediction value of gas by different algorithms in 31901 upper working face（3 months）圖6 31901上順工作面（3個(gè)月）不同算法瓦斯預(yù)測(cè)值

Fig.7 Prediction value of gas by different algorithms in 31901 lower running working face（3 months）圖7 31901下順工作面不同算法瓦斯預(yù)測(cè)值

Table 2 Error of gas concentration series in 3 months表2 3個(gè)月瓦斯?jié)舛刃蛄姓`差

Table 3 Error of gas concentration series in 6 months表3 6個(gè)月瓦斯?jié)舛刃蛄姓`差

續(xù)表

Fig.8 Prediction value of gas by different algorithms in 31901 upper working face（6 months）圖8 31901上順工作面（6個(gè)月）不同算法瓦斯預(yù)測(cè)值

由表3 可知，在31901 上順工作面測(cè)試集中，A-GRU相較于CNN 的RMSE 降低了0.277%，相較于CNN 的MAE降低了0.776%；在31901 下順工作面訓(xùn)練集中，A-GRU 相較于MLP 的MAE 降低了0.176%，相較于RNN 的MAE 降低了0.511%。

在6 個(gè)月的測(cè)試集中，A-GRU 相較于RNN 的MAE 降低了1.024%，總體上預(yù)測(cè)效果更好。

Fig.9 Prediction value of gas by different algorithms in 31901 lower working face（6 months）圖9 31901下順工作面（6個(gè)月）不同算法瓦斯預(yù)測(cè)值

3 結(jié)論

為準(zhǔn)確預(yù)測(cè)瓦斯?jié)舛刃蛄袛?shù)據(jù)，本文提出一種基于A-GRU 神經(jīng)網(wǎng)絡(luò)的瓦斯?jié)舛刃蛄蓄A(yù)測(cè)方法。該方法首先對(duì)數(shù)據(jù)集進(jìn)行劃分和歸一化，接著引入更新門和重置門處理具有時(shí)序性的歷史瓦斯?jié)舛刃蛄袛?shù)據(jù)，設(shè)計(jì)網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)瓦斯?jié)舛刃蛄袃?nèi)部的動(dòng)態(tài)變化規(guī)律，以誤差損失最小為目標(biāo)，構(gòu)建模型預(yù)測(cè)瓦斯?jié)舛?。并以吉林板石瓦斯?jié)舛缺O(jiān)控?cái)?shù)據(jù)為例，時(shí)間、空間兩種不同角度的實(shí)例數(shù)據(jù)表明，該方法預(yù)測(cè)數(shù)據(jù)的最小均方根誤差為3.95%，最小平均絕對(duì)誤差為0.71%，相較于CNN、RNN 和MLP 模型預(yù)測(cè)精度更高。此外，在模型設(shè)計(jì)方面，本文考慮了瓦斯?jié)舛刃蛄械幕煦缣匦?，增加了模型的普適性。