賈澎濤，林開義，郭風(fēng)景

（1.西安科技大學(xué) 計算機科學(xué)與技術(shù)學(xué)院，陜西 西安 710054；2.陜西建新煤化有限責(zé)任公司，陜西 黃陵 727300）

0 引言

我國對煤炭的需求短期內(nèi)不會發(fā)生根本性變化，煤炭在能源結(jié)構(gòu)中仍將長期處于主體地位[1-2]。長期大量開采導(dǎo)致采空區(qū)遺煤增多，煤自燃災(zāi)害頻發(fā)[3-4]。煤自燃是一個復(fù)雜的動態(tài)氧化過程，一旦發(fā)生會造成巨大資源浪費和環(huán)境污染[5-6]。因此，開展煤自燃的溫度預(yù)測研究對防控煤自燃災(zāi)害發(fā)生具有重要意義[7]。

近年來，學(xué)者們圍繞煤自燃溫度預(yù)測相關(guān)問題提出了多種方法，主要有測溫法、自燃實驗預(yù)測法和氣體分析法等[8-10]。其中氣體分析法根據(jù)煤體氧化升溫時不同溫度狀態(tài)會釋放不同濃度的氣體產(chǎn)物這一規(guī)律，通過監(jiān)測煤自燃過程中氣體指標濃度預(yù)測煤自燃溫度[11-13]。氣體分析法因規(guī)律性強、靈敏度高而被廣泛應(yīng)用[14-15]。鄧軍等[16]建立了支持向量回歸（Support Vector Regression,SVR）的煤自燃預(yù)測模型，并采用粒子群（Particle Swarm Optimization,PSO）選取最佳的核函數(shù)和懲罰因子，提高了預(yù)測精度，但該模型對參數(shù)選取敏感，易陷入局部最優(yōu)。劉寶等[17]提出了基于相關(guān)向量機（Relevance Vector Machine,RVM）的煤自燃預(yù)測方法，簡化了模型參數(shù)選取，泛化性較好，但預(yù)測精度有待提高。昝軍才等[18]采用反向傳播（Back Propagation,BP）神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)煤溫與氣體指標的非線性映射關(guān)系，實現(xiàn)煤自燃溫度預(yù)測，但該方法易出現(xiàn)過擬合現(xiàn)象，泛化能力較差。鄭學(xué)召等[19]建立了基于隨機森林（Random Forest,RF）的煤自燃溫度預(yù)測模型，優(yōu)化了決策樹深度和數(shù)量，參數(shù)優(yōu)化簡單，泛化性好，但預(yù)測精度和模型魯棒性有待提高。

綜上可知，現(xiàn)有的煤自燃溫度預(yù)測方法存在預(yù)測模型泛化性不強、魯棒性較差的問題。針對上述問題，本文考慮真實煤自燃監(jiān)測數(shù)據(jù)前后具有強關(guān)聯(lián)性，提出了基于PSO 算法優(yōu)化簡單循環(huán)單元（Simple Recurrent Units,SRU）的煤自燃溫度預(yù)測模型-PSO-SRU 模型。將煤自燃多特征數(shù)據(jù)輸入SRU 預(yù)測模型，利用SRU 神經(jīng)單元挖掘特征數(shù)據(jù)間的非線性關(guān)系，根據(jù)挖掘到的規(guī)律和當前煤自燃特征的輸入預(yù)測煤自燃溫度；通過改進的PSO 算法優(yōu)化SRU 預(yù)測模型參數(shù)，提高了模型的預(yù)測精度和魯棒性。該模型可為利用深度神經(jīng)網(wǎng)絡(luò)預(yù)測煤自燃溫度提供解決思路。

1 理論基礎(chǔ)

1.1 SRU

SRU 是循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Network,RNN）的優(yōu)秀變體[20]，與長短期記憶網(wǎng)絡(luò)（Long Short Term Memory,LSTM）和門循環(huán)單元（Gate Recurrent Unit,GRU）等循環(huán)神經(jīng)單元的結(jié)構(gòu)一樣，都是基于“門控”結(jié)構(gòu)構(gòu)建。SRU 簡化了單元結(jié)構(gòu)，使RNN更加輕便，其內(nèi)部結(jié)構(gòu)和網(wǎng)絡(luò)結(jié)構(gòu)如圖1 所示。

圖1 SRU 內(nèi)部結(jié)構(gòu)和網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 Simple recurrent units(SRU) interior structure and network structure

SRU 結(jié)構(gòu)計算過程如下：

式中：ft為遺忘門，用來決定單元狀態(tài)需要丟棄過去哪些信息，t為時刻；σF為遺忘門激活函數(shù)；WF為遺忘門細胞狀態(tài)的參數(shù)矩陣；Xt為輸入數(shù)據(jù)；UF,bF,UR,bR為需要在訓(xùn)練過程中學(xué)習(xí)的參數(shù)向量；⊙為點乘運算符號；ct-1,ct為神經(jīng)單元狀態(tài)；W為細胞狀態(tài)參數(shù)矩陣；rt為重置門，控制前一單元狀態(tài)有多少信息被寫入到當前細胞ht中；σR為重置門激活函數(shù)；WR為重置門細胞狀態(tài)的參數(shù)矩陣。

SRU 網(wǎng)絡(luò)結(jié)構(gòu)由輕量循環(huán)（式（1）和式（2））和高速網(wǎng)絡(luò)（式（3）和式（4））2 個重要部分組成。輕量循環(huán)采用UF⊙ct-1的計算方式，降低單元與單元間的依賴程度，提高運算速度。高速網(wǎng)絡(luò)采用（1-rt）⊙Xt跳躍連接的方式，使梯度能夠直接向前傳播，緩解梯度消失和梯度爆炸問題。

1.2 PSO 算法

PSO 算法從擬態(tài)生物學(xué)的角度出發(fā)，將鳥群在空間內(nèi)的覓食過程、狀態(tài)及行為抽象為無質(zhì)量粒子在多維空間內(nèi)搜索滿足最優(yōu)適應(yīng)度值的過程、狀態(tài)和行為。其核心思想是信息共享，通過粒子群中記錄的全局最優(yōu)適應(yīng)度和個體最優(yōu)適應(yīng)度更新粒子的速度和位置，計算自身的適應(yīng)度，將信息分享給群體，各粒子調(diào)整自身的速度和位置，朝最優(yōu)適應(yīng)度粒子周圍聚集，達到搜索終止條件的最優(yōu)適應(yīng)度粒子的每個維度值即為全局最優(yōu)解[21]。

在D維搜索空間下，PSO 算法的更新公式為

式中：νi，λi分別為第i個粒子的速度和位置，i=1，2，…，s，s為粒子數(shù)，通常取40；為慣性權(quán)重，通常取0.9；q為當前迭代次數(shù)；α1，α2為學(xué)習(xí)因子，控制著第q-1 次迭代的經(jīng)驗對第q次迭代的影響程度，通常α1=α2=0.5；β1，β2為[0,1]內(nèi)的隨機數(shù)；pbesti為個體粒子歷史最優(yōu)位置；gbesti為全局最優(yōu)個體粒子位置。

2 基于PSO-SRU 的煤自燃溫度預(yù)測模型

2.1 PSO-SRU 模型構(gòu)建

PSO-SRU 模型架構(gòu)如圖2 所示。通過煤自燃程序升溫實驗采集到n個時刻煤自燃數(shù)據(jù)樣本，令數(shù)據(jù)集合X={X1,X2,…,Xn}，Xt為第t個時刻樣本，Xt=[xt1,xt2,…,xtm]，xtj為第t個時刻第j個預(yù)警指標氣體濃度，t=1，2，…，n，j=1，2，…，m，m為預(yù)警氣體指標個數(shù)。PSO-SRU 模型構(gòu)建過程如下：

圖2 PSO-SRU 模型架構(gòu)Fig.2 Temperature prediction model framework for coal spontaneous combustion based on particle swarm optimization and simple recurrent unit（PSO-SRU）

（1）通過實驗采集煤自燃預(yù)警指標氣體濃度，對數(shù)據(jù)進行清洗、歸一化處理，計算氣體與煤溫相關(guān)性，篩選相關(guān)性氣體指標并將數(shù)據(jù)集劃分為訓(xùn)練集和測試集。

（2）建立SRU 煤自燃溫度預(yù)測模型，將Xt輸入SRU 進行矩陣計算，通過式（1）-式（4）計算得到下一時刻煤自燃溫度。

（3）提升SRU 預(yù)測模型性能，將隱藏層神經(jīng)元數(shù)L1，L2，學(xué)習(xí)率?及模型訓(xùn)練次數(shù)e作為PSO 算法尋優(yōu)對象，改進PSO 算法，提升尋優(yōu)算法性能。

（4）用最優(yōu)超參數(shù)建立SRU 預(yù)測模型，將測試集輸入?yún)?shù)最優(yōu)的SRU 預(yù)測模型，得到煤溫預(yù)測結(jié)果。

2.1.1 數(shù)據(jù)采集及處理

實驗選取某礦采集的氣煤煤樣進行程序升溫實驗。裝煤總質(zhì)量為1 kg，裝煤高度為17.5 cm，混合煤樣平均粒徑為 4.18 mm，空隙率為0.48%，平均升溫速率為0.3 ℃/min，供風(fēng)量為120 mL/min。利用程序升溫裝置對煤樣進行加熱，并向程序升溫裝置送入預(yù)熱空氣，測定氣體產(chǎn)物，當溫度升高到400 ℃預(yù)定溫度時停止加熱。共得到625 組樣本數(shù)據(jù)，記錄氣煤煤樣氧化升溫過程中產(chǎn)生的多種氣體（如CO，CO2，CH4，C2H4，O2）濃度和溫度等。625 組原始數(shù)據(jù)中包含缺失值和異常值的數(shù)據(jù)，會使建模過程陷入混亂，導(dǎo)致輸出結(jié)果不可靠，通過剔除異常值并對缺失值進行插補，得到601 組數(shù)據(jù)，采用MinMaxScaler方法將數(shù)值映射到[0,1]之間。

2.1.2 預(yù)警氣體指標分析

不同氣體指標與煤溫隨時間變化關(guān)系如圖3 所示。從圖3（a）可看出，因為煤氧復(fù)合反應(yīng)的發(fā)生，實驗環(huán)境中的O2體積分數(shù)呈現(xiàn)隨煤溫升高而逐漸減小的規(guī)律。從圖3（b）、圖3（c）可看出，從煤溫開始發(fā)生變化時，CO 和CH4體積分數(shù)呈現(xiàn)隨煤溫升高而不斷增大的趨勢，并且與煤自燃溫度變化有明顯的強相關(guān)性關(guān)系，具有很好的規(guī)律性，可以用于煤自燃預(yù)測預(yù)警的整個周期。從圖3（b）、圖3（d）可看出，CO2和C2H4體積分數(shù)在煤溫為100 ℃以前沒有明顯變化，而在煤溫達到100 ℃以后，能夠反映煤溫的劇烈變化，因此，可以作為煤自燃發(fā)生后期的預(yù)警氣體。

圖3 不同氣體指標與煤溫隨時間變化關(guān)系Fig.3 Gas indicators and coal temperature as time changes

2.2 SRU 預(yù)測模型參數(shù)尋優(yōu)

2.2.1 改進PSO 算法

為了平衡全局搜索和局部搜索，提高PSO 算法尋優(yōu)的性能，根據(jù)[-4，4]之間雙曲正切曲線變化規(guī)律對標準PSO 算法權(quán)重進行改進，使慣性權(quán)重隨粒子搜索迭代次數(shù)動態(tài)改變。改進后的PSO 算法權(quán)重更新公式為

改進后的權(quán)重隨迭代次數(shù)變化趨勢如圖4 所示。

圖4 動態(tài)的慣性權(quán)重Fig.4 Dynamic inertia weight

為了進一步避免算法陷入局部最小值，提高種群多樣性和跳出局部極值的能力，從擬態(tài)物理學(xué)角度出發(fā)，將粒子調(diào)整自身朝個體最優(yōu)位置和全局最優(yōu)位置飛行的過程看作是受到二者的引力作用。與此同時，所有粒子都避免自己成為全局最差粒子，紛紛遠離當前全局最差粒子，將粒子遠離全局最差粒子構(gòu)造為一股排斥力，使粒子陷入局部極值時迅速跳出[24-25]。在前人研究的基礎(chǔ)上，綜合考慮粒子在飛行過程中受到的引力和排斥力，即粒子更新將同時受到2 個引力和1 個排斥力的影響，對粒子速度更新進行改進，改進后的粒子速度更新公式為

式中：gworsti為全局最差個體粒子位置；β3為[0，1]內(nèi)的隨機數(shù)。

第q+1 次迭代時，粒子λi受到的個體最優(yōu)粒子對其的引力為pbesti-λi，受到全局最優(yōu)粒子對其的引力為gbesti-λi，受到全局最差粒子對其的排斥力為gworsti-λi，加入排斥力后，能使粒子更快地向全局范圍內(nèi)適應(yīng)度小的位置聚集，提高算法的收斂速度。

2.2.2 改進PSO 優(yōu)化SRU 預(yù)測模型

（1）將獲取的煤自燃溫度和氣體指標原始數(shù)據(jù)進行數(shù)據(jù)預(yù)處理，將數(shù)據(jù)劃分為訓(xùn)練集和測試集。

（2）確定參數(shù)尋優(yōu)范圍，初始化粒子群參數(shù)。最大迭代次數(shù)設(shè)為1 000；尋優(yōu)范圍設(shè)置如下：2 個隱藏層神經(jīng)元數(shù)的取值范圍均為[1，200]，學(xué)習(xí)率邊界范圍為[0.000 1，0.01]，訓(xùn)練次數(shù)尋優(yōu)范圍為[1，500]。

（3）利用當前粒子群中各粒子的參數(shù)取值建立SRU 煤自燃溫度預(yù)測模型，學(xué)習(xí)訓(xùn)練集中氣體指標與煤自燃溫度之間的非線性規(guī)律，再對測試集樣本進行預(yù)測。

（4）計算各粒子適應(yīng)度，更新共享信息。記錄當前取得最小適應(yīng)度的粒子，更新粒子群的全局最優(yōu)位置gbesti；更新每個粒子從搜索開始后各自的歷史最優(yōu)位置pbesti；記錄當前取得最大適應(yīng)度的粒子，更新粒子群的全局最差位置gworsti。適應(yīng)度計算公式：

（5）判斷是否達到終止條件。若未達到終止條件，根據(jù)迭代次數(shù)更新，并依據(jù)式（8）、式（6）更新每個粒子的速度和位置，然后轉(zhuǎn)步驟（2）繼續(xù)執(zhí)行；否則執(zhí)行步驟（6）。

（6）輸出全局最小適應(yīng)度及全局最小適應(yīng)度對應(yīng)粒子的位置參數(shù)，該位置參數(shù)即為全局最優(yōu)解。

3 實驗與結(jié)果分析

實驗環(huán)境配置如下：CPU 型號為i7-3612QM；GPU型號為RTX1080Ti；內(nèi)存容量為12 GB；編程語言為Python-3.6；編程平臺為PyCharm-2019.2.5（Professional Edition）；集成環(huán)境管理為Anaconda Navigator-1.3.1；深度學(xué)習(xí)框架為PyTorch-1.6；機器學(xué)習(xí)框架為Scikitlearn-0.23.2。

3.1 預(yù)警指標擇優(yōu)

煤氧復(fù)合作用下，煤體氧化升溫過程中會釋放不同濃度的氣體產(chǎn)物，需要分析各氣體指標與溫度在數(shù)據(jù)上的緊密程度，篩選出與煤自燃溫度相關(guān)性盡可能大的氣體指標。對插補過的指標氣體數(shù)據(jù)與煤樣溫度數(shù)據(jù)進行相關(guān)性分析，對數(shù)據(jù)的每一列均采用Kolmogorov-Smirnov 檢驗，其P-value 均小于0.001，采用Pearson 相關(guān)系數(shù)法分析相關(guān)性。

式中：θ為線性相關(guān)的程度；xt,yt為任意2 個特征指標的樣本值；為對應(yīng)特征指標的均值。

選取與溫度相關(guān)系數(shù)大于0.7 的氣體指標O2，CO，CO2，CH4，C2H4作為預(yù)測模型輸入數(shù)據(jù)，煤溫作為預(yù)測模型目標輸出，將這些數(shù)據(jù)樣本按照70%訓(xùn)練集、30%測試集進行劃分。各指標間相關(guān)性系數(shù)見表1。

表1 溫度與氣體指標間的相關(guān)性Table 1 Correlation between temperature and gas indexes

3.2 評價指標計算

為了評估PSO-SRU 模型性能，對模型的預(yù)測結(jié)果作出統(tǒng)一客觀的評價，選取平均絕對誤差（Mean Absolute Error,MAE）、均方根誤差（Root Mean Square Error,RMSE）、決定系數(shù)R2作為評價指標。

（1）MAE 計算公式為

MAE 是預(yù)測值與真實值之間絕對誤差的平均值，能避免誤差相互抵消。MAE 越小，說明預(yù)測越精準。

（2）RMSE 計算公式為

RMSE 能體現(xiàn)出預(yù)測值的離散程度，RMSE 越大，說明有較多或較大的偏差值出現(xiàn)，RMSE 越小，說明模型性能越好。

（3）R2計算公式為

R2可以判別模型擬合非線性關(guān)系的程度，取值范圍為[0,1]，數(shù)值越接近1，表示模型預(yù)測性能越好。

3.3 實驗結(jié)果分析

3.3.1 模型結(jié)構(gòu)確定

為了選擇合適的隱藏層數(shù)，本文利用改進的PSO 算法分別優(yōu)化隱藏層的SRU 預(yù)測模型，改變不同隱藏層數(shù)模型的訓(xùn)練次數(shù)，進行MAE 和運行時間對比，結(jié)果如圖5 所示。

圖5 不同隱藏層數(shù)SRU 預(yù)測模型MAE 與時間對比Fig.5 Comparison of mean absolute errors(MAE) and running time under various hidden layer of simple recurrent units(SRU) perdiction model

從圖5 可看出，不同隱藏層SRU 預(yù)測模型的MAE 隨訓(xùn)練次數(shù)增加逐漸減小，運行時間隨隱藏層數(shù)增加幾乎為線性增長。1 層隱藏層模型的最小MAE 始終大于2，3，4 層模型；3 層隱藏層模型的最小MAE 略高于2，4 層模型；4 層隱藏層模型的MAE 最小，雖然比2 層模型的MAE 略小，但運行時間是2 層模型的2.1 倍。因此，在綜合考慮預(yù)測精度和時效性的前提下，本文采用含有2 層隱藏層的SRU 構(gòu)建PSO-SRU 模型。

3.3.2 模型參數(shù)優(yōu)化

SRU 預(yù)測模型由輸入層、2 層隱藏層和1 層輸出層構(gòu)成。為了驗證改進的PSO 算法性能，分別采用改進的PSO 算法和PSO 算法對含有2 層SRU 隱藏層的模型進行優(yōu)化對比。尋優(yōu)過程中二者的適應(yīng)度變化曲線如圖6 所示。從圖6 可看出，改進的PSO 算法明顯比PSO 算法可更快求得全局最優(yōu)解，并最終求解到全局最小適應(yīng)度，說明改進的PSO 算法全局尋優(yōu)能力更強，算法收斂速度更快?；诟倪M的PSO 算法最終尋找到的最優(yōu)SRU 預(yù)測模型參數(shù)如下：L1=18，L2=18，?=0.001，e=21。

圖6 PSO 算法改進前后適應(yīng)度變化曲線Fig.6 Fitness value change curves before and after improving particle swarm optimization（PSO）algorithm

3.3.3 性能對比

為了驗證PSO-SRU 模型的性能，在使用相同訓(xùn)練集和測試集數(shù)據(jù)前提下，利用改進的PSO 算法對各對比模型參數(shù)進行優(yōu)化?；赟VR 算法的預(yù)測模型[16]懲罰因子為9.16，核參數(shù)為12.47；基于BP 算法的預(yù)測模型[18]2 層隱藏層神經(jīng)元數(shù)分別為12 和8；基于RF 算法的預(yù)測模型[19]決策樹數(shù)量為115，最大樹深為5。采用MAE、RMSE 和R2指標對不同預(yù)測模型的性能進行評價，結(jié)果見表2。

表2 不同預(yù)測模型的性能預(yù)測結(jié)果對比Table 2 Comparison of predictions using various models

由表2 分析可知，PSO-SRU 模型在測試集上的決定系數(shù)R2比基于SVR，RF 和BP 算法的預(yù)測模型分別提高了15.67%，11.63%和7.87%，且PSO-SRU模型的R2為0.96，說明其預(yù)測效果及性能最好，預(yù)測結(jié)果最接近真實值。在訓(xùn)練集和測試集上的預(yù)測結(jié)果表明：基于BP 算法的預(yù)測模型容易出現(xiàn)過擬合；基于SVR 和RF 算法的預(yù)測模型在訓(xùn)練樣本和測試樣本上預(yù)測誤差差距較小、泛化性較好，但預(yù)測精度不足；PSO-SRU 模型在訓(xùn)練集和測試集上的R2差值為0.03，說明PSO-SRU 模型具有良好的泛化性。相較于基于SVR，RF 和BP 算法的預(yù)測模型，PSO-SRU模型在測試集上的MAE 分別降低了12.58，7.65，5.91 ℃，說明PSO-SRU 模型在測試樣本上的預(yù)測精度優(yōu)于其他3 個模型；同時，RMSE 分別降低了22.65，17.45，8.94 ℃，說明PSO-SRU模型預(yù)測的煤自燃溫度離散化程度低，具有良好的魯棒性。

不同模型測試樣本真實煤溫與預(yù)測煤溫對比如圖7 所示。

圖7 不同模型測試樣本真實煤溫與預(yù)測煤溫對比Fig.7 Comparison of real and predicted temperatures of testing samples using different models

從圖7 可看出，基于SVR 算法的預(yù)測模型預(yù)測值偏離真實值程度最大，基于RF 算法的預(yù)測模型預(yù)測值離散化程度較大，模型魯棒性較差，基于BP 算法的預(yù)測模型預(yù)測值曲線雖然比基于SVR，RF 算法的預(yù)測模型更貼近真實值，但預(yù)測精度仍然低于PSO-SRU 模型。PSO-SRU 模型預(yù)測的煤溫曲線平滑，驗證了其用于提高煤自燃溫度預(yù)測精度、魯棒性和泛化能力的有效性。

4 結(jié)論

（1）PSO-SRU 模型利用SRU 挖掘煤自燃溫度與氣體指標特征之間的非線性關(guān)系，根據(jù)歷史監(jiān)測數(shù)據(jù)預(yù)測出煤自燃溫度，并利用改進的PSO 算法對模型參數(shù)進行優(yōu)化。相較于標準PSO算法，改進的PSO 算法在優(yōu)化SRU 煤自燃溫度預(yù)測模型超參數(shù)的過程中，降低了預(yù)測模型選取參數(shù)的難度和模型結(jié)構(gòu)復(fù)雜程度，提高了參數(shù)尋優(yōu)效率。

（2）實驗結(jié)果表明：與基于SVR，RF，BP 算法的煤自燃溫度預(yù)測模型相比，PSO-SRU 模型在測試集上決定系數(shù)R2分別提高了15.67%，11.63%，7.87%，且R2為0.96，預(yù)測結(jié)果最接近真實值；MAE 分別降低了12.58，7.65，5.91 ℃，預(yù)測精度得到了提升；RMSE分別降低了22.65，17.45，8.94 ℃，預(yù)測曲線在拐點處更平滑，說明PSO-SRU 模型具有良好的魯棒性。