基于蟻群算法優(yōu)化支持向量機的邊坡位移預測

俞俊平，陳志堅，武立軍，余世元，王澍

(河海大學 地球科學與工程學院，南京210098)

摘要：由于復雜工程地質(zhì)條件和環(huán)境因素的綜合影響，邊坡變形呈現(xiàn)復雜非線性演變特征。借助支持向量機(SVM)可有效解決小樣本、高維數(shù)、非線性等問題的優(yōu)點，對邊坡實測位移進行數(shù)據(jù)挖掘，預測邊坡變形趨勢。為了避免人為選擇支持向量機模型參數(shù)的盲目性，提高模型預測精度和泛化能力，引入改進的蟻群算法(ACO)對模型參數(shù)進行尋優(yōu)，結(jié)合位移時序滾動預測方法，建立了適合邊坡變形預測的ACO-SVM模型。將該模型應用于2個邊坡的位移預測，研究結(jié)果表明，ACO-SVM預測精度高，模型建立正確。與遺傳算法、粒子群算法優(yōu)化SVM的預測結(jié)果相比，ACO-SVM模型預測精度更高，具有更強的泛化能力，預測結(jié)果更加合理，在邊坡變形預測中具有一定的工程應用價值。

關(guān)鍵詞：邊坡；支持向量機；蟻群算法；位移預測；優(yōu)化參數(shù)

中圖分類號：P642.22；TU457 文獻標志碼：A

收稿日期：2013-11-4；修回日期：2013-11-18

基金項目：國家科技支撐計劃項目(2011BAK12B05)

作者簡介：齊識(1987-),女,遼寧營口人,碩士研究生,主要從事水文過程與地質(zhì)災害方面的研究，(電話)18298419119(電子信箱)qis11@lzu.edu.cn 。

DOI:10.3969/j.issn.1001-5485.2015.04.006

1研究背景

位移是邊坡開挖或者變形過程中反映的重要信息之一，根據(jù)位移監(jiān)測數(shù)據(jù)分析預測邊坡未來演化規(guī)律及發(fā)展趨勢等，及時掌握邊坡變形規(guī)律，在工程上具有十分重要的意義[1]。位移隨時間演變的過程是一個時間序列，目前對位移時間序列進行預測的方法主要有時間序列分析法[2]、灰色系統(tǒng)[3-4]、人工神經(jīng)網(wǎng)絡[5]、支持向量機(SVM)[6]及各種預測方法的組合[7-8]。上述方法中，時間序列分析較難確定參數(shù)自相關(guān)系數(shù)r、偏相關(guān)系數(shù)q及模型合理識別；灰色系統(tǒng)主要適用于指數(shù)型時間序列，對于復雜非線性邊坡位移序列，預測結(jié)果常出現(xiàn)較大誤差；人工神經(jīng)網(wǎng)絡是基于啟發(fā)式算法，沒有完備的理論基礎(chǔ)，且當樣本數(shù)量有限時，精度難以保證，而學習樣本很多時，易陷入維數(shù)災難，泛化能力不高[9]；支持向量機(SVM)以結(jié)構(gòu)風險最小化原理為基礎(chǔ)，具有泛化能力強，可有效解決小樣本、高維數(shù)、非線性等問題。

但支持向量機存在一個突出問題即懲罰參數(shù)C和核函數(shù)參數(shù)γ難以確定，其準確與否直接關(guān)系到模型預測推廣能力。前人對支持向量機模型參數(shù)的優(yōu)化做了大量研究，主要的方法有梯度下降法[10]、遺傳算法[11]、粒子群算法[12]、蟻群算法[13]等。蟻群算法是一種新型的模擬生物進化方法，具有并行計算、正反饋搜索、適應性好等優(yōu)點。本文在已有的研究基礎(chǔ)上，提出改進的蟻群算法優(yōu)化支持向量機預測模型，減少模型參數(shù)選擇的盲目性，用于邊坡監(jiān)測位移訓練學習，滾動預測位移時序的變化規(guī)律。通過與其他算法優(yōu)化支持向量機預測結(jié)果對比分析，驗證所提方法的優(yōu)劣。

2支持向量機回歸預測模型

支持向量機是由Vapnik[9]基于統(tǒng)計學習理論提出的一種小樣本智能學習算法，利用核函數(shù)映射的方法，通過非線性映射將已知空間變換到高維空間，從而使高維空間樣本線性可分。

(1)

(2)

式中C>0，為懲罰參數(shù)，表示超出ε的樣本懲罰程度。式(2)約束條件為

(3)

針對上述凸二次優(yōu)化問題，引入Lagrange函數(shù)進行偏微分，從而得到優(yōu)化目標的對偶形式，獲得最大化函數(shù),即

(4)

約束條件為

(5)

式中α，α*為Lagrange乘子，在該對偶問題中，目標函數(shù)尋優(yōu)只涉及訓練樣本之間的內(nèi)積運算(xi,xj)，所以在高維空間實際只要進行內(nèi)積運算，這種運算可以利用原空間中的函數(shù)實現(xiàn)。根據(jù)泛函有關(guān)理論，只要滿足Mercer條件的一種核函數(shù)K(xi,xj)，它就對應某一空間變換中的內(nèi)積[14]。SVM常用的核函數(shù)有多項式核函數(shù)、徑向基(RBF)核函數(shù)、Sigmoid核函數(shù)，其中RBF核函數(shù)運用最廣泛，具有較寬的收斂域，其表達式為

(6)

則式(4)可轉(zhuǎn)化為

(7)

(8)

從式(5)、式(6)可知，支持向量機中的懲罰函數(shù)C和K(xi,xj)核函數(shù)中參數(shù)γ對算法推廣泛化能力和計算效率有很大影響。通常情況人為確定兩參數(shù)，具有一定的盲目性，而且效率很低?；谶@種情況，本文利用蟻群算法對2參數(shù)進行搜索，尋找最優(yōu)的支持向量機參數(shù)。

3改進蟻群算法對支持向量機模型參數(shù)優(yōu)化

3.1　連續(xù)域蟻群算法

蟻群算法是意大利學者Dorigo等[15]在20世紀90年代初提出的一種新型智能優(yōu)化算法，最早用于解決離散性優(yōu)化問題。支持向量機參數(shù)的優(yōu)化是解決連續(xù)域的問題，本文借鑒文獻[16]改進蟻群算法對連續(xù)域的模型參數(shù)尋優(yōu)。蟻群算法的關(guān)鍵在于移動規(guī)則和信息素更新，蟻群通過信息素的揮發(fā)積累正反饋進行移動搜索，選擇出最優(yōu)的路徑。

假設連續(xù)域的目標函數(shù)為

(9)

(1)蟻群初始化。設蟻群規(guī)模為N，循環(huán)迭代次數(shù)為K，蟻群隨機分布在優(yōu)化空間里，作為各螞蟻進行搜索的起點，將連續(xù)域離散成若干區(qū)間，各自變量子區(qū)間長度矩陣為

(10)

根據(jù)螞蟻當前所處位置情況，按照尋優(yōu)目標類別的不同，先確定螞蟻i處的初始信息素濃度向量τ(i)，即

(11)

(2) 蟻群移動規(guī)則。當所有螞蟻完成一次搜索后，將根據(jù)相應的移動規(guī)則進行下一步搜索。本文引入動態(tài)全局選擇因子和動態(tài)揮發(fā)因子[17]，提高全局搜索能力。搜索的基本規(guī)則是：蟻群完成一次循環(huán)后，將有一只螞蟻找到本次循環(huán)的最優(yōu)解即頭蟻，其位置為xleader，下次循環(huán)其他螞蟻將頭蟻位置為目標進行轉(zhuǎn)移搜索，稱為全局搜索；將獲得最優(yōu)解的頭蟻leader在鄰域內(nèi)進行隨機搜索，以便獲得更好的解，稱為局部搜索。位于xi(i=1,2,…,N,i≠leader)螞蟻i向頭蟻位置xleader轉(zhuǎn)移概率P(i)為

(12)

式中：τ(leader)為頭蟻leader所處位置信息素濃度，τ(i)為螞蟻i所處位置信息素濃度。

在全局搜索中，將動態(tài)全局選擇因子P0引入螞蟻i向最優(yōu)解位置xleader轉(zhuǎn)移的步長中，具體表達式為

(13)

式中：λ是全局轉(zhuǎn)移步長參數(shù)，λ∈(0,1)；Len為各自變量子區(qū)間長度矩陣；動態(tài)全局選擇因子P0∈(0,1)，P0隨著迭代次數(shù)先大后小，最后再次變大，目的是為了增大隨機搜素和全局優(yōu)化能力。

局部搜索則是在頭蟻leader的xleader鄰域內(nèi)隨機搜索。設搜索新的位置為xtemp，若xtemp比xleader位置更優(yōu)，則用xtemp替換xleader，反之，則保留原來的位置。為了后期精細搜索得到最優(yōu)解，引入步長更新參數(shù)w，使得搜索步長隨著迭代次數(shù)增加而減小。具體表示為

(14)

式中τ(temp)為螞蟻在xtemp處的信息素濃度，其中

(15)

式中step=0.1×rand(D,N,K)，為局部搜索步長；w步長更新規(guī)則為

(16)

式中：wmin，wmax為初始設定值，一般wmin∈(0.2,0.8)，wmax∈(1.2,1.4)；k為當前蟻群迭代次數(shù)；K為蟻群最大迭代次數(shù)。

(3) 信息素更新規(guī)則。螞蟻在完成一次全局搜索和局部搜索后，將對螞蟻i所處位置的信息素τ(i)進行更新，信息素更新規(guī)則為

(17)

式中：Δτ(i)為信息素增量，Δτ(i)=exp(-f(xi))；ρ為信息素揮發(fā)因子，ρ∈(0,1)，隨迭代次數(shù)呈先小后大的動態(tài)變化，即擴大前期的全局搜索能力和加快后期的收斂速度。

3.2　改進蟻群算法優(yōu)化模型參數(shù)

利用上述蟻群算法對支持向量機中的懲罰函數(shù)C和K(xi,xj)核函數(shù)中參數(shù)γ搜索尋優(yōu)，首先確定目標函數(shù)為

(18)

(19)

(1) 根據(jù)監(jiān)測位移數(shù)據(jù)，進行歸一化處理，確定歷史步數(shù)p和預測步數(shù)m，建立學習樣本和測試樣本。

(2) 對系統(tǒng)進行初始化設置，包括蟻群規(guī)模N，循環(huán)迭代次數(shù)K，待優(yōu)化參數(shù)C和γ的取值范圍，螞蟻位置，每個位置值對應一組參數(shù)(C,γ)。

(3) 利用文中2.1節(jié)理論建立優(yōu)化支持向量機學習預測模型，計算每個螞蟻個體對應的目標函數(shù)式(18)，進行全局和局部搜索，同時更新信息素，確定最優(yōu)解。

(4) 判斷迭代次數(shù)或目標函數(shù)值是否滿足條件，若不滿足，返回第(3)步；若滿足，結(jié)束尋優(yōu)，輸出最優(yōu)參數(shù)C和γ。

(5) 利用優(yōu)化的參數(shù)C和γ建立支持向量機預測模型，對位移時間序列進行滾動預測。

4工程實例

4.1　錦屏一級水電站左岸邊坡淺部變形預測

本文利用改進的蟻群算法優(yōu)化支持向量機(ACO-SVM)對文獻[17]邊坡監(jiān)測位移時序進行位移預測，監(jiān)測數(shù)據(jù)為左岸纜機平臺邊坡位于f42-9斷層出露部位的多點位移計 M4-7(高程1 886 m)的孔口位移，學習樣本如表1。采用文獻[16]中提到的滾動時窗方式預測，驗證ACO-SVM預測模型的正確性。

選取歷史步數(shù)為6，預測步數(shù)為1，蟻群規(guī)模為200，迭代總數(shù)為50。 利用本文所提ACO優(yōu)化方法得到模型參數(shù)(C,γ)分別為20.346和2.517，ACO-SVM模型預測結(jié)果見表2。與文獻[17]改進的SVM(混合核函數(shù)最小二乘支持向量機)預測結(jié)果相比，除個別點外，ACO-SVM預測精度都優(yōu)于改進的SVM，ACO-SVM預測的最大相對誤差為2.25%，小于改進SVM的3.18%，證明本文所提ACO-SVM預測模型的正確性。

表1　M4-7監(jiān)測點位移構(gòu)建的學習數(shù)據(jù) Table 1 Training data of multi-point extensometer M4-7

表2　各模型對M4-7監(jiān)測點位移預測結(jié)果比較 Table 2　Comparison of prediction results among different models for extensometer M4-7

4.2　華光潭一級水電站廠房后邊坡變形預測

華光潭一級水電站工程位于浙江省臨安市巨溪中下游，一級廠房位于巨溪右岸，附近河流總體流向為120°～130°，廠房后邊坡沖溝發(fā)育，沖溝方向40°～50°，與巨溪近正交。廠房上、下游控制性沖溝切割深度50～70 m，形成三面臨空、呈北東向展布的狹長型山脊。坡體表層為第四系崩坡積層，中部為卸荷作用強烈的破碎巖體，下部為新鮮的侏羅系熔結(jié)凝灰?guī)r。在2008年5—6月強降雨下，廠區(qū)250馬道發(fā)生沉陷和外鼓，并在以后補充勘察發(fā)現(xiàn)坡體中上部出現(xiàn)多條拉裂縫。為了可靠掌握邊坡變形規(guī)律和發(fā)展趨勢，建立了邊坡變形安全監(jiān)測系統(tǒng)。在建立的坡體表面觀測系統(tǒng)中，共布設14個表面位移觀測點，位移觀測點的編號按高程由高至低為1#至14#。

本文選取位于主滑方向上的7#測點的水平位移數(shù)據(jù)對該邊坡進行變形預測分析。通過試算選取最佳歷史步數(shù)p為4，預測步數(shù)m為1，蟻群規(guī)模為200，迭代總數(shù)為50，最佳目標函數(shù)值f<1×10-6。利用7#測點2010-01-20至2010-08-11監(jiān)測的30個位移時序(如表3)構(gòu)造成26個訓練樣本，對后10個位移時序進行滾動預測，時間間隔為7 d。滾動即將新預測值加入訓練樣本，剔除最早1個訓練樣本，保持樣本數(shù)不變，對下一時刻進行預測，依次類推。

表3　7 #測點邊坡水平位移 Table 3　Horizontal resultant displacement of monitoring point 7 #

利用ACO-SVM模型對表3監(jiān)測數(shù)據(jù)進行訓練學習并預測分析，為了比較該模型預測的精確性，同時用傳統(tǒng)SVM、遺傳算法(GA)優(yōu)化的SVM和粒子群算法(PSO)優(yōu)化SVM對該測點數(shù)據(jù)分別進行預測分析，各模型優(yōu)化得到的參數(shù)(C,γ)如表4，對應的預測結(jié)果比較見表5。根據(jù)表5可知，ACO-SVM模型的絕大多數(shù)預測結(jié)果要好于其他3種預測模型，預測精度更高，最大相對誤差為2.29%，均小于其他3種模型的最大相對誤差。傳統(tǒng)SVM模型短期預測精度較高，但推廣泛化能力很弱，后期預測誤差較大；運用了優(yōu)化算法的3種SVM模型的泛化能力都強于傳統(tǒng)SVM模型。ACO-SVM模型預測值與實測值對比結(jié)果見圖1，由其變化規(guī)律可知，邊坡位移后期變化不大，變形趨勢平緩，位移趨向于收斂，證明該邊坡是相對穩(wěn)定的，后期的邊坡位移實測值也驗證了位移趨向收斂，故預測結(jié)果滿足工程實際需求。

表4　各預測模型最優(yōu)化參數(shù) Table 4　Optimal parameters of different prediction models

圖1　7 #測點實測值與預測值的比較 Fig.1　Comparison between monitored data and forecasted data for monitoring point 7 #

表5　各模型對7 #測點位移預測結(jié)果比較 Table 5　Comparison of prediction results among different models for monitoring point 7 #

5結(jié)論

(1)根據(jù)位移監(jiān)測數(shù)據(jù)預測邊坡未來變形趨勢，對工程施和安全運營具有重要意義。針對支持向量機模型參數(shù)(C,γ)對預測精度和推廣泛化能力有較大影響，為避免人為選擇參數(shù)的盲目性，本文提出利用改進的蟻群算法優(yōu)化SVM，搜索得到最優(yōu)化參數(shù)。并將模型用于兩邊坡工程實例的變形預測。研究發(fā)現(xiàn)，ACO-SVM模型對邊坡變形預測是可行的，滿足工程預測需求。

(2) 在錦屏一級水電站左岸邊坡淺部變形預測中，ACO-SVM模型和混合核函數(shù)最小二乘支持向量機模型的預測精度相差無幾，較傳統(tǒng)SVM預測更加準確，精度更高，說明ACO-SVM模型的正確性。

(3) 與遺傳算法、粒子群算法優(yōu)化SVM預測結(jié)果相比，ACO-SVM模型預測精度更高，具有更強的泛化能力。蟻群優(yōu)化支持向量機也存在一些不足。例如該算法搜索時間較其他優(yōu)化算法時間長，這是最優(yōu)化問題中精度和耗時相互權(quán)衡的過程，有待進一步研究。

參考文獻：

[1]馮夏庭. 智能巖石力學導論[M]. 北京: 科學出版社, 2000:111-112. (FENG Xia-ting. Introduction to Intelligent Rock Mechanics[M]. Beijing: Science Press, 2000:111-112. (in Chinese))

[2]徐峰，汪洋，杜娟，等. 基于時間序列分析的滑坡位移預測模型研究[J]. 巖石力學與工程學報，2011, 30(4): 746-751.(XU Feng, WANG Yang, DU Juan,etal. Study of Displacement Prediction Model of Landslide Based on Time Series Analysis[J]. Chinese Journal of Rock Mechanics and Engineering, 2011, 30(4): 746-751.(in Chinese))

[3]蔣剛, 林魯生, 劉祖德, 等. 邊坡變形的灰色預測模型[J]. 巖土力學, 2000, 21(3): 244-246, 251. (JIANG Gang, LIN Lu-sheng, LIU Zu-de,etal. Grey Forecasting Model for Slope Displacement[J]. Rock and Soil Mechanics, 2000, 21(3): 244-246, 251. (in Chinese))

[4]王霄，陳志堅，黃清保. 改進的新灰色模型在邊坡變形預測中的運用[J]. 三峽大學學報(自然科學版)，2012, 34(2): 40-44. (WANG Xiao, CHEN Zhi-jian, HUANG Qing-bao. Improved New Grey Model and Its Application to Slope Deformation Prediction[J]. Journal of China Three Gorges University (Natural Sciences),2012, 34(2): 40-44. (in Chinese))

[5]劉曉，曾祥虎，劉春宇. 邊坡非線性位移的神經(jīng)網(wǎng)絡-時間序列分析[J]. 巖石力學與工程學報, 2005, 24(19): 3499-3504. (LIU Xiao, ZENG Xiang-hu, LIU Chun-yu. Research on Artificial Neural Network-Time Series Analysis of Slope Nonlinear Displacement[J]. Chinese Journal of Rock Mechanics and Engineering, 2005, 24(19): 3499-3504. (in Chinese))

[6]劉開云, 喬春生, 騰文彥. 邊坡位移非線性時間序列采用支持向量機算法的智能建模與預測研究[J]. 巖土工程學報, 2004, 26(1): 57-61. (LIU Kai-yun, QIAO Chun-sheng, TENG Wen-yan. Research on Nonlinear Time Sequence Intelligent Model Construction and Prediction of Slope Displacement by Using Support Vector Machine Algorithm[J]. Chinese Journal of Geotechnical Engineering, 2004, 26(1): 57-61. (in Chinese))

[7]馬文濤. 基于灰色最小二乘支持向量機的邊坡位移預測[J]. 巖土力學, 2010, 31(5): 1670-1674. (MA Wen-tao. Forecasting Slope Displacements Based on Grey Least Square Support Vector Machines[J]. Rock and Soil Mechanics, 2010, 31(5): 1670-1674. (in Chinese))

[8]高瑋，馮夏庭. 基于灰色-進化神經(jīng)網(wǎng)絡的滑坡變形預測研究[J]. 巖土力學, 2004, 25(4): 514-517. (GAO Wei, FENG Xia-ting. Study on Displacement Predication of Landslide Based on Grey System and Evolutionary Neural Network[J]. Rock and Soil Mechanics, 2004, 25(4): 514-517. (in Chinese))

[9]VAPNIK V N.The Nature of Statistical Learning Theory[M]. New York: Springer-Verlag, 1995.

[10]CHAPPELLE O, VAPNIK V, BOUSQUET O. Choosing Multiple Parameters for Support Vector Machines[J]. Machine Learning, 2002, 46(1): 131-160.

[11]吳景龍, 楊淑霞, 劉承水. 基于遺傳算法優(yōu)化參數(shù)的支持向量機短期負荷預測方法[J]. 中南大學學報(自然科學版), 2009,40(1): 180-184.(WU Jing-long, YANG Shu-xia, LIU Cheng-shui. Parameter Selection for Support Vector Machines Based on Genetic Algorithms to Short-Term Power Load Forecasting[J]. Journal of Central South University (Science and Technology), 2009, 40(1): 180-184. (in Chinese))

[12]姜諳男. 基于PSO-SVM非線性時序模型的隧洞圍巖變形預報[J]. 巖土力學, 2007, 28(6):1176-1180.(JIANG An-nan. Forecasting Nonlinear Time Series of Surrounding Rock Deformations of Underground Cavern Based on PSO-SVM[J]. Rock and Soil Mechanics, 2007, 28(6):1176-1180. (in Chinese))

[13]徐飛, 徐衛(wèi)亞，劉大文, 等. 洞室圍巖變形預測的ACA-LSSVM模型及工程應用研究[J]. 長江科學院院報,2009, 26(2): 32-35,52. (XU Fei, XU Wei-ya , LIU Da-wen,etal. ACA-LSSVM for Deformation Forecasting of Cavern Surrounding Rock and Its Application[J]. Journal of Yangtze River Scientific Research Institute, 2009, 26(2): 32-35,52. (in Chinese))

[14]張學工. 關(guān)于統(tǒng)計學習理論與支持向量機[J]. 自動化學報, 2000, 26(1): 32-42. (ZHANG Xue-gong. Introduction to Statistical Learning Theory and Support Vector Machines[J]. Acta Automatica Sinica, 2000, 26(1): 32-42. (in Chinese))

[15]DORIGO M, MANIEZZO V, COLORNI A. Ant System: Optimization by A Colony of Cooperating Agents[J]. IEEE Transaction on Systems, Man, and Cybernetics: Part B, 1996, 26(1): 29-41.

[16]莊嚴, 白振林, 許云峰. 基于蟻群算法的支持向量機參數(shù)選擇方法研究[J]. 計算機仿真, 2011, 28(5): 216-219.(ZHUANG Yan, BAI Zhen-ling, XU Yun-feng. Research on Parameters of Support Vector Machine Based on Ant Colony Algorithm[J]. Computer Simulation, 2011, 28(5): 216-219. (in Chinese))

[17]鄭志成, 徐衛(wèi)亞, 徐飛, 等. 基于混合核函數(shù)PSO-LSSVM 的邊坡變形預測[J]. 巖土力學, 2012, 33(5): 1421-1426. (ZHENG Zhi-cheng, XU Wei-ya, XU Fei,etal. Forecasting of Slope Displacement Based on PSO-LSSVM with Mixed Kernel[J]. Rock and Soil Mechanics, 2012,33(5): 1421-1426. (in Chinese))

(編輯：曾小漢)

Forecasting Slope Displacement Based on Support Vector MachineOptimized by Ant Colony Algorithm

YU Jun-ping, CHEN Zhi-jian, WU Li-jun, YU Shi-yuan, WANG Shu

(School of Earth Science and Engineering, Hohai University, Nanjing210098, China)

Abstract:Due to the combined influence of complex engineering geological conditions and environmental factors, the evolution of slope deformation is complicated and nonlinear. As support vector machine (SVM) could effectively solve the small sample, high dimension, and nonlinear problems, it is employed for the data mining of measured displacements of slope and the forecasting of slope deformation trend. In order to avoid the blindness of human choice of SVM parameters and to improve the prediction accuracy and generalization ability of the model, ACO-SVM model is built by adopting improved ant colony algorithm(ACO) to optimize parameters in association with rolling forecasting method of displacement time-series. The model is applied to two engineering examples. The research results show that ACO-SVM model is correct with high accuracy. Compared with optimizing SVM based on genetic algorithm or particle swarm optimization, ACO-SVM model has higher accuracy of prediction and stronger generalization ability. The forecasting results are more reasonable. It is of practical value for slope deformation prediction.

Key words: slope; support vector machine; ant colony algorithm; displacement prediction; parameter optimization

2015,32(04):28-34