改進BP神經(jīng)網(wǎng)絡預測Ni/Al2O3催化CH4-CO2重整反應

付柯，謝良才，閆雨瑗，李波，賀改，徐龍，馬曉迅

?

改進BP神經(jīng)網(wǎng)絡預測Ni/Al2O3催化CH4-CO2重整反應

付柯，謝良才，閆雨瑗，李波，賀改，徐龍，馬曉迅

（陜北能源先進化工利用技術教育部工程研究中心，陜西省潔凈煤轉化工程技術研究中心，西安市能源高效清潔化工利用工程實驗室，西北大學化工學院，陜西西安 710069）

CH4-CO2重整制合成氣的反應可以實現(xiàn)CO2的減排和C1資源的高效利用。這一反應受反應溫度、原料氣比例、催化劑種類等諸多因素影響，如果考察每種因素影響，勢必大大增加實驗的工作量。人工神經(jīng)網(wǎng)絡以其超強容錯性、并行處理、可學習和自適應等優(yōu)點，在非線性預測方面具有明顯的優(yōu)勢。本文基于Ni/Al2O3催化CH4-CO2重整反應過程，采用改進的BP神經(jīng)網(wǎng)絡建立了關于CH4轉化率、CO2轉化率和H2/CO比的預測模型，結果表明，采用改進BP神經(jīng)網(wǎng)絡在此研究中具有更快的收斂速度和更好的網(wǎng)絡穩(wěn)定性，其收斂次數(shù)僅為BP神經(jīng)網(wǎng)絡的58.86%；改進BP神經(jīng)網(wǎng)絡模型的敏感度分析表明，輸入因素對反應結果影響的順序為：反應溫度>Ni負載量>平均孔徑≈比表面積≈孔體積。

CH4-CO2催化重整；BP神經(jīng)網(wǎng)絡；模擬；優(yōu)化；預測

CH4-CO2重整反應不但消耗兩種溫室氣體（CO2和CH4），而且在實現(xiàn)了CO2資源化的同時產(chǎn)生了合成眾多化工產(chǎn)品的基礎原料——合成 氣[1-5]。影響該反應的因素有很多，包括反應溫度、CH4和CO2氣體進料比、催化劑類型、載體、助劑等[6-10]。如果對諸多因素都進行實驗，將會大大增加實驗工作量。為此，基于數(shù)據(jù)分析的數(shù)學建模方法已經(jīng)成為一個新的發(fā)展方向。人工神經(jīng)網(wǎng)絡（artificial neural network，ANN）是人腦生物神經(jīng)網(wǎng)絡的簡化模型，借鑒了人腦的結構和信息處理的特點[11]。在信息處理方面多用于高度復雜、非線性、并行處理等場合，功能強大。目前，應用相對較多的神經(jīng)網(wǎng)絡有BP神經(jīng)網(wǎng)絡[12]、GRNN神經(jīng)網(wǎng)絡、RBF網(wǎng)絡[13]等。神經(jīng)網(wǎng)絡的應用領域非常廣泛，涵蓋面廣。BP神經(jīng)網(wǎng)絡采用的是反向傳播算法（back propagation，BP算法）。其結構屬于多層前饋神經(jīng)網(wǎng)絡，通常包含3層：輸入層、隱含層和輸出層。每層可以分布數(shù)量不等的神經(jīng)元（節(jié)點），并采用權值與其相鄰層的神經(jīng)元相互連接，同層節(jié)點不連接[14]。圖1是典型的三層BP神經(jīng)網(wǎng)絡的結構簡圖。

圖1中，X是輸入變量；、、分別是輸入層節(jié)點、隱含層節(jié)點和輸出層節(jié)點；1是輸入層和隱含層之間的連接權值；2是隱含層和輸出層之間的連接權值；y和y分別對應隱含層輸出和輸出層輸出。

目前，BP神經(jīng)網(wǎng)絡也應用于催化領域。蘇鑫 等[15]采用改進BP神經(jīng)網(wǎng)絡預測了煤炭催化裂化過程，結果表明：改進后的BP神經(jīng)網(wǎng)絡能夠準確地預測焦炭產(chǎn)率，其相對誤差僅為2.94%，并且解決了預測結果不穩(wěn)定等問題。李晨等[16]采用BP神經(jīng)網(wǎng)絡預測了鈷催化劑催化F-T合成反應，預測模型以反應溫度、反應壓力、空速、原料氣H2/CO為影響反應的輸入?yún)?shù)，以CO轉化率、C1和C5+產(chǎn)率為輸出參數(shù)。結果表明：反應溫度對CO轉化率和產(chǎn)物烴中甲烷的含量影響很大，低溫有利于重質烴的生成，高溫可以提高CO轉化率和甲烷含量；高壓可以增加CO的轉化率和C5+的選擇性；空速增大有利于C1的生成；H2/CO越小，則C5+的選擇性高，經(jīng)實驗驗證，預測的結果與實驗結果的誤差小于8%。黃瑋等[17]采用BP神經(jīng)網(wǎng)絡建立了反應催化劑用量、助劑用量、空氣流量、反應溫度和反應時間對石蠟催化氧化制備氧化蠟的酸值和皂化值影響模型，并用該模型對石蠟催化氧化制備氧化蠟的工藝條件進行預測。結果表明：空氣流量、反應溫度和反應時間對酸值和皂化值的影響比較明顯，催化劑量和助劑量的影響較小。并確定了石蠟催化氧化反應制備氧化蠟的最佳工藝條件為：催化劑質量0.008～0.032g，助催化劑質量1～3g，空氣流量3L/min左右，反應溫度150～170℃，反應時間8～10h。

本研究將通過引入自適應學習率和動量因子優(yōu)化的BP神經(jīng)網(wǎng)絡建立預測模型，對Ni/Al2O3催化CH4-CO2重整反應進行模擬，并對預測的結果進行考察和敏感度分析。

1 樣本數(shù)據(jù)采集與模型設計

1.1 樣本數(shù)據(jù)

在有序介孔Al2O3負載Ni催化CH4-CO2重整實驗中，考察的反應溫度分別為600℃、650℃、700℃、750℃、800℃，考察的Ni負載量分別為3%、5%、7%、10%、15%，共收集到25組樣本數(shù)據(jù)[18]。分別針對催化劑特性以及操作條件兩類參數(shù)，選擇反應溫度、Ni負載量、催化劑比表面積、催化劑孔體積和催化劑平均孔徑5個參數(shù)為輸入?yún)?shù)，以CH4和CO2轉化率和H2/CO作為輸出參數(shù)。用其中20組數(shù)據(jù)作為訓練樣本，以反應溫度為750℃的5組數(shù)據(jù)作為檢驗樣本。

1.2 BP神經(jīng)網(wǎng)絡的設計

根據(jù)BP神經(jīng)網(wǎng)絡的結構，其輸入層、隱含層和輸出層的節(jié)點數(shù)確定方法如下所示。

（1）輸入層根據(jù)有序介孔Al2O3負載Ni催化CH4-CO2重整反應的實驗，選取了反應溫度、Ni負載量、催化劑的比表面積、孔體積和平均孔徑5個影響因素作為網(wǎng)絡的輸入?yún)?shù)，即輸入層節(jié)點數(shù)確定為5個。

（2）隱含層采用經(jīng)驗公式如式(1)[19]。

式中，1為隱含層節(jié)點數(shù)；為輸出層節(jié)點數(shù)；為輸入層節(jié)點數(shù)；為0～10之間的常數(shù)。

確定隱含層節(jié)點數(shù)，確定出隱含層節(jié)點數(shù)一個大致的取值范圍，然后建立網(wǎng)絡模型，通過編程對該范圍內的每個值依次進行訓練，比較訓練結果，選取訓練誤差最小時對應的隱含層節(jié)點數(shù)。

（3）輸出層將反應物中CH4與CO2的轉化率、產(chǎn)物中H2/CO比作為反映結果的指標，即這3個變量作為模型的輸出，即輸出層節(jié)點數(shù)為3個。

1.3 改進的BP神經(jīng)網(wǎng)絡

1.3.1 引入自適應學習率

BP學習算法的局限之一是難以選取最佳的學習率。學習率過大，會導致網(wǎng)絡產(chǎn)生振蕩訓練不收斂；學習率過小，會導致網(wǎng)絡訓練時間過長，故最佳學習率的確定尤其重要。通過引入自適應學習率，因其可以根據(jù)誤差的變化來調整大小，從而保證了網(wǎng)絡的穩(wěn)定性。在誤差連續(xù)下降時，可通過增加學習率提高網(wǎng)絡的收斂速度，使網(wǎng)絡能以較大的學習率進行訓練。本文采用的自適應學習率的調整公式如式(2)。

式中，為訓練次數(shù)；為學習速率；()、(1)分別為當前學習率和調整后學習率；()、(1)分別為當前和上一次循環(huán)的學習誤差。

1.3.2 附加動量項

在誤差反向傳遞的過程中，BP神經(jīng)網(wǎng)絡存在易陷入局部極小的問題。通過引入動量項更新當前的權值和閾值可以極大地減小該問題的產(chǎn)生。在權值變化時，同時考慮當前次誤差梯度下降方向和前一次誤差梯度下降方向，即在當前權值的變化上，再增加一項正比于前次權值變化量的值。本文采用的附加動量項的調整公式如式(3)～式(6)。

(4)

(5)

式中，為訓練次數(shù)；為動量系數(shù)，（0＜＜1）；等式右邊第二項Δ2()、Δ2()、Δl()和Δl()為附加的動量項。

2 結果與分析

2.1 BP多輸出預測模型的結果分析

不同隱含層節(jié)點數(shù)和學習率訓練后的誤差見圖2。由圖2可知，當隱含層節(jié)點數(shù)為7，學習率為0.03時，對應的誤差最小，其值為0.003875，故確定BP多輸出模型的拓撲結構為5-7-3。

圖3為BP多輸出預測模型的訓練結果，圖中(a)～(c)分別為CH4轉化率、CO2轉化率、H2/CO實驗值和預測值的對比圖。由圖3可知，訓練樣本收斂于對角線，這表明預測值與實驗值偏差很小，該模型的訓練結果較好。

圖4為校驗樣本的實驗值和預測值對比圖。由圖4可知，預測值和實驗值吻合程度非常高，該 BP多輸出預測模型具有較高的預測精度。

2.2 改進BP多輸出預測模型結果分析

圖5為不同隱含層節(jié)點數(shù)和學習率訓練后的誤差。由圖5可知，當隱含層節(jié)點數(shù)為11時，對應的誤差最小，其值為0.001819，僅為BP神經(jīng)網(wǎng)絡的46.94%，故確定改進BP多輸出模型的拓撲結構為5-11-3。

圖6是在初始學習率為0.04時得到的自適應學習率的變化圖及不同初始學習率訓練誤差圖。由圖6可知，當引入自適應學習率后，初始學習率對訓練結果的影響顯著降低，且其對訓練結果誤差的影響幾乎可以忽略，說明引入自適應學習率對預測模型有明顯改善；在訓練過程中，學習率在不斷地變化調整，進一步說明了引入自適應學習率，在BP神經(jīng)網(wǎng)絡的運行過程中發(fā)揮著重要作用。

圖4 檢驗樣本中預測值與實驗值的關系圖

圖7為不同動量因子的誤差圖，由圖可知，動量因子為0.6時，對應的誤差最小，其值為0.00245，因此確定該模型的動量因子為0.6。其他的輸入因素和輸出變量與BP多輸出模型相同。

圖8為改進BP多輸出預測模型的訓練結果，圖中(a)～(c)分別為CH4轉化率、CO2轉化率、H2/CO實驗值和預測值的對比圖。由圖8可知，訓練樣本很好地收斂于對角線，這表明預測值與實驗值偏差很小，該模型具有很好的訓練結果，可以用該模型對檢驗樣本中的數(shù)據(jù)進行預測。

圖9為校驗樣本的實驗值和預測值對比圖。由圖9可知，預測值和實驗值吻合程度非常高，說明該BP多輸出預測模型的預測精度很高。

圖8 訓練樣本中預測值與實驗值的關系圖

2.3 模型對比

分別從預測精度和訓練過程的收斂速度兩個方面將兩個模型進行對比。首先，對比預測精度，表1為兩個模型檢驗樣本的相對誤差對比，由表1可知，改進BP多輸出模型的預測精度略高于BP多輸出模型。

其次是對比模型的收斂速度，圖10為BP算法和改進BP算法訓練的誤差隨著訓練次數(shù)變化的曲線圖。由圖10可知，在相同的目標誤差下，改進BP算法達到目標所需要的訓練次數(shù)僅為BP算法的58.86%。說明改進BP算法由于引入了動量項與自適應學習率，訓練次數(shù)明顯地減小，即提高了網(wǎng)絡收斂速度。在整個訓練過程中，改進BP算法的訓練誤差都低于BP算法，并且訓練誤差快速平穩(wěn)地下降。BP算法的誤差在訓練1000次前下降很快，但在1000次后下降就變得非常緩慢，且在1100次后，誤差從0.028突然增大到0.1305，說明BP算法訓練的網(wǎng)絡不穩(wěn)定，這時對應的學習率可能過大，從而引起網(wǎng)絡產(chǎn)生振蕩。改進BP算法由于引入自適應學習率，使網(wǎng)絡能夠根據(jù)誤差的變化自行調整學習率的大小，整個過程都有合適的學習率，從而保證了網(wǎng)絡的穩(wěn)定性。

表1 BP和改進BP預測模型檢驗樣本的相對誤差

2.4 模型敏感度分析結果

采用PaD法和權值法[20-26]對BP多輸出預測模型和改進BP多輸出預測模型進行敏感度分析，結果見圖11。橫坐標表示網(wǎng)絡模型的5個輸入因素，依次為反應溫度、Ni負載量、催化劑的比表面積、孔體積和平均孔徑，縱坐標表示各因素影響的大小。由圖11可知，對于BP模型和改進BP模型，PaD法和權值法分析對各輸入因素對反應結果的影響順序是一致的，即：反應溫度＞Ni負載量＞平均孔徑≈比表面積≈孔體積?？赡苡捎诖呋瘎┑谋缺砻娣e（157～212m2/g）、孔體積（0.25～0.30cm3/g）、平均孔徑（5.58～6.49nm）這些催化劑的物理性質在催化劑制備過程中差別變化較小，所以與反應溫度和Ni負載量相比其對反應結果的影響較小。

圖11 各輸入因素對反應結果的影響比較

3 結論

基于實驗數(shù)據(jù)，以反應溫度、Ni負載量、平均孔徑、催化劑比表面積、孔體積為影響反應結果的5個關鍵因素，并作為輸入?yún)?shù)，所對應的CH4轉化率、CO2轉化率和H2/CO作為輸出結果。應用BP神經(jīng)網(wǎng)絡和改進BP神經(jīng)網(wǎng)絡構建的預測模型，預測結果表明：改進BP神經(jīng)網(wǎng)絡的收斂速度和穩(wěn)定性明顯優(yōu)于BP神經(jīng)網(wǎng)絡。采用PaD法和權值法對該模型進行敏感度分析的結果表明，反應溫度和 Ni負載量對重整反應的影響較大，催化劑的物理結構（比表面積、孔體積和平均孔徑）在研究范圍內影響相對較小。

[1] ZHANG X H，HU R J，LIU Y F，et al.The performance of Co/ZrO2-Al2O3composite oxide catalyst for CH4/CO2reforming reaction[J]. International Journal of Hydrogen Energy，2015，40（32）：10026-10032.

[2] SONG C S. Global challenges and strategies for controlconversion and utilization of CO2for sustainable development involving energy，catalysis，adsorption and chemical processing[J]. Catal.Today，2006，115（1-4）：2-32.

[3] ASHCROFT A T，CHEETHAM A K，GREEN L H，et al.Partial oxidation of methane to synthesis gas-using carbon-dioxide[J]. Nature，1991，352：225–226.

[4] LIU Y F，HE Z H，ZHOU L，et al.Simultaneous oxidative conversion and CO2reforming of methane to syngas over Ni/vermiculite catalysts[J]. Catalysis Communications，2013，42：40-44.

[5] SUN N N，WEN X.Catalytic performance and characterization of Ni-CaO-ZrO2catalysts for dry reforming of methane[J]. Applied Surface Science，2011，257（21）：9169-9176.

[6] QI J Z，SUN Y P，XIE Z L，et al. Development of Cu foam-based Ni catalyst for solar thermal reforming of methane with carbon dioxide[J]. Journal of Energy Chemistry，2015，24（6）：786- 793.

[7] SUN N N，WEN X，WANG F，et al. Effect of pore structure on Ni catalyst for CO2reforming of CH4[J]. Energy Environ.Sci.，2010，3：366-369.

[8] XU L L，SONG H，CHOU L J. Carbon dioxide reforming of methane over ordered mesoporous NiO-Al2O3composite oxides[J]. Catal.Sci.Technol.，2011（1）：1032-1042.

[9] LUAN A E C，IRIARTE M E. Carbon dioxide reforming of methane over a metalmodified Ni-Al2O3catalyst[J].Appl. Catal，A：Gen.，2008，343（1/2）：10-15.

[10] LI Y，HE D，ZHU Q，et al. Effects of redox properties and acid-base properties on isosynthesis over ZrO2-based catalysts[J]. Catal.，2004， 221（2）：584-593.

[11] 何玉彬，李新忠. 神經(jīng)網(wǎng)絡控制技術及其應用[M]. 北京：科學出版社，2000：2-35.

HE Y B, LI X Z. Shen jing wang luo kong zhi ji shu ji qi ying yong[M]. Beijing：Science Press，2000：2-35.

[12] 張敬玲. BP神經(jīng)網(wǎng)絡的應用[J]. 石家莊技術學院報，2015，27（4）：34-35.

ZHANG J L. Application of BP neural network[J]. Journal of Shijiazhuang Vocational Technology Institute，2015，27（4）：34-35.

[13] 王文新，潘立登，李榮，等. 常減壓蒸餾裝置雙模型結構RBF神經(jīng)網(wǎng)絡建模及其應用[J]. 北京化工大學學報，2004，31（4）：91-94.

` WANG W X，PAN L D，LI R，et al. Development of RBF neural network with double model structure and its application to atmospheric and vacuum distillation units[J]. Journal of Beijing University of Chemical Technology，2004，31（4）：91-94.

[14] JUAN G S，JOSE D，MARTIN G，et al. Neural networks for analyzing the relevance of input variables in the prediction of tropospheric ozone concentration[J]. Atmospheric Environment，2006，40：6173-6180.

[15] 蘇鑫，裴華健，吳迎亞，等. 應用經(jīng)遺傳算法優(yōu)化的BP神經(jīng)網(wǎng)絡預測催化裂化裝置焦炭產(chǎn)率[J]. 化工進展，2016，35（2）：389-396.

` SU X，PEI H J，WU Y Y，et al.Predicting coke yield of FCC unit using genetic algorithm optimized BP neural network[J].Chemical Industry and Engineering Progress，2016，35（2）：389-396.

[16] 李晨，張海濤，應衛(wèi)勇，等. 鈷基催化劑F-T合成的人工神經(jīng)網(wǎng)絡模擬[J]. 計算機與應用化學，2006，23（10）：963-966.

LI C，ZHANG H T，YING W Y，et al.Aritncial neural network simulation of cobalt-based catalyst F-T synthesis[J]. Computers and Applied Chemistry，2006，23(10)：963-966.

[17] 黃瑋，叢玉鳳，郭大鵬. 基于BP神經(jīng)網(wǎng)絡的石蠟催化氧化反應的研究[J]. 石油化工高等學校學報，2012，25（6）：30-38.

HANG W，CONG Y F，GUO D P. Catalytic oxidized reaction of paraffin wax based on BP neural network[J]. Journal of Feterochemcial Universities，2012,25（6）：30-38.

[18] XU L L，ZHAO H H，SONG H L. Ordered mesoporous alumina supported nickel based catalysts for carbon dioxide reforming of methane[J]. Hydrogen Energy，2012，37（9）：7497-7511.

[19] CHEN X Y，CHAU K W，BUSARI A O. A comparative study of population-based optimization algorithms for downstream river flow forecasting by a hybrid neural network model[J]. Engineering Applications of Artificial Intelligence，2015，46：258-268.

[20] BARCENAS O P，OLIVAS E S，MARTIN J D. Unbiased sensitivity analysis and pruning techniques[J]. Ecoogical Modelling，2005，182（2）：149-158.

[21] MURIEL G，IOANNIS D，SOVAN L. Review and comparison of methods to study the contribution of variables in artificial neural networks models[J]. Ecological Modelling，2003，160（3）：249-264.

[22] SOVAN L，MARITXU G，GIRAUDEL J L. Predicting stream nitrogen concentration from watershed features using neural networks[J]. Water Research，1999，33（16）：3469-3478.

[23] SZECOWKA P M，SZCZUREK A，LICZNERSKI B W. On reliability of neural network sensitivity analysis applied for sensor array optimization[J]. Sensors and Actuators B，2011，157：298-303.

[24] NIKHIL R P. Soft computing for feature analysis[J]. Fuzzy Sets and Systems，1999，103：201-221.

[25] PODOLAK I. Feedforward neural network’s sensitivity to input data[J]. Computer Physics Conunication，1999，117：181-188.

[26] PARK Y S，JORGE R，SOVAN L. Sensitivity analysis and stability patterns of two-species pest models using artificial neural networks[J]. Ecological Modelling，2007，204：427-438.

Predicting model of CH4-CO2reforming on Ni/Al2O3catalyst by improved back propagation（BP）neural network

FU Ke，XIE Liangcai，YAN Yuyuan，LI Bo，HE Gai，XU Long，MA Xiaoxun

（Chemical Engineering Research Center of the Ministry of Education for Advanced Use Technology of Shanbei Energy，Shaanxi Research Center of Engineering Technology for Clean Coal Conversion，Xi’an Engineering Laboratory for Energy Efficient and Clean Chemical Utilization，College of Chemical Engineering，Northwest University，Xi’an 710069，Shaanxi，China）

CH4-CO2reforming reaction can produce synthesis gas，which is an ideal way both for the reduction of CO2emission and the efficient utilization of C1resources. This reaction is affected by many factors，such as reaction temperature，ratio of raw material gas，catalyst type and so on. If each of factors were investigated，it would greatly increase the workload of the experiment. Artificial neural network（ANN） has obvious advantages in nonlinear prediction because of its superior fault tolerance，parallel processing and adaptive learning. The prediction model about CH4-CO2reforming reaction catalyzed by Ni/Al2O3was built based on artificial neural network. This model was trained by back propagation (BP) algorithm and improved BP algorithm，respectively. It was found that the improved BP model was much better than the BP model in view of the stability and convergence speed. Compared with the BP algorithm，the improved BP algorithm reduced the number of convergence times greatly，which was only 58.86% of that in BP model. By sensitivity analysis of the models，it showed that the reaction temperature was the most important factor on the reaction indexes（CH4conversion，CO2conversion，and H2/CO ratio） among five input factors，followed by Ni loading. In addition，the average pore size，the specific surface area，and the pore volume had relatively small effects on reaction indexes within the experimental range.

CH4-CO2catalytic reforming；BP neural networks；simulation；optimization；prediction

TE646

A

1000–6613（2017）07–2393–07

10.16085/j.issn.1000-6613.2016-2126

2016-11-17；

2017-01-05。

國家自然科學基金重點項目（21536009）及西安市科技計劃項目（CXY1511(4)）。

付柯（1991—），男，碩士研究生，研究方向為甲烷重整。E-mail：fuke916@163.com。

聯(lián)系人：徐龍，教授。E-mail：longxuxulong@163.com。