胡安峰 李唐 陳緣 葛紅斌 李怡君

摘? ?要：基于深度學(xué)習(xí)中的長(zhǎng)短期記憶網(wǎng)絡(luò)LSTM，通過(guò)搭建Seq2Seq模型，提出了可對(duì)實(shí)測(cè)沉降數(shù)據(jù)進(jìn)行預(yù)處理的新方法. Seq2Seq可通過(guò)觀測(cè)大量有效的測(cè)點(diǎn)數(shù)據(jù)來(lái)自動(dòng)學(xué)習(xí)沉降發(fā)展規(guī)律，并在訓(xùn)練完成后能對(duì)異常測(cè)點(diǎn)沉降進(jìn)行重新計(jì)算，可有效避免異常數(shù)據(jù)對(duì)后續(xù)沉降預(yù)測(cè)的干擾. 以某機(jī)場(chǎng)多個(gè)區(qū)域的實(shí)測(cè)沉降數(shù)據(jù)為背景，通過(guò)將Seq2Seq模型重計(jì)算出的沉降值與實(shí)測(cè)值對(duì)比，驗(yàn)證了該模型的可靠性. 結(jié)合超參數(shù)與數(shù)據(jù)集等參數(shù)分析，研究了提升模型學(xué)習(xí)能力的影響因素. 研究結(jié)果表明：在訓(xùn)練集選取40個(gè)測(cè)點(diǎn)、測(cè)試集選取15個(gè)的條件下，模型重計(jì)算值與實(shí)測(cè)值全過(guò)程平均誤差3 cm. 增大訓(xùn)練集與數(shù)據(jù)特征，且減小訓(xùn)練集與測(cè)試集之間的偏差時(shí)，模型的精度提升明顯，誤差縮小到2 cm.

關(guān)鍵詞：長(zhǎng)短期記憶網(wǎng)絡(luò);深度學(xué)習(xí);序列到序列模型;沉降預(yù)測(cè);沉降數(shù)據(jù)預(yù)處理

中圖分類號(hào)：U443.15? ? ? ? ? ? ? ? ? ? ? ? ? ? ?文獻(xiàn)標(biāo)志碼：A

Deep Learning for Preprocessing of Measured Settlement Data

HU Anfeng1，2，LI Tang1，3，CHEN Yuan1，GE Hongbin4，LI Yijun1

（1. Research Center of Coastal and Urban Geotechnical Engineering，Zhejiang University，Hangzhou 310058，China;

2. Center for Balance Architecture，Zhejiang University，Hangzhou 310058，China;

3. Architectural Design and Research Institute of Zhejiang University Co Ltd，Hangzhou 310058，China;

4. Xiamen Iport Go Ltd，Xiamen 361012，China ）

Abstract：Based on Long Short Term Memory （LSTM） in deep learning，a new method for preprocessing the measured settlement data is proposed by building a Seq2Seq model. Seq2Seq can automatically learn the law of settlement development by observing a large number of effective measuring point data，and can recalculate the settlement of abnormal measuring points after training is completed，which can effectively avoid the interference of abnormal data on the subsequent settlement prediction. Taking the actual measured settlement data in multiple areas of an airport as the background，the reliability of the model was verified by comparing the calculated settlement value of the Seq2Seq model with the measured values. Combined with parametric analysis such as hyperparameters and data sets，the influencing factors on improving model learning ability are studied. The research results show that，under the condition that the training set selects 40 measurement points and the test set selects 15，the average error of the model recalculated value and the measured value in the whole process is 3 cm. When the training set and data features are increased and the deviation between the training set and the test set is reduced，the accuracy of the model is significantly improved and the error is reduced to 2 cm.

Key words：Long Short Term Memory（LSTM）;deep learning;Seq2Seq model;settlement prediction;preprocessing for measured settlement data

作為巖土工程的經(jīng)典問(wèn)題，預(yù)測(cè)地基的沉降過(guò)程是尚未完全解決的難題. 傳統(tǒng)預(yù)測(cè)沉降的方法一般有三種：一是利用沉降的理論計(jì)算法，如各類分層總和法與固結(jié)理論[1-4]，但由于難以獲取原狀土參數(shù)以及施工現(xiàn)場(chǎng)的復(fù)雜性，計(jì)算出的結(jié)果往往和實(shí)際有一定差距. 二是有限元建模等數(shù)值方法[5-9]，除上述原狀土體參數(shù)問(wèn)題外，有限元法還存在模型參數(shù)選取偏經(jīng)驗(yàn)化，迭代過(guò)程復(fù)雜耗時(shí)，易出現(xiàn)奇異點(diǎn)等多種問(wèn)題，計(jì)算出的結(jié)果和實(shí)測(cè)值相比也不夠準(zhǔn)確. 與上述兩種方法相比，第三種的曲線擬合法通過(guò)實(shí)測(cè)數(shù)據(jù)來(lái)推算沉降量與時(shí)間的對(duì)應(yīng)關(guān)系，能更真實(shí)地反映地基的沉降規(guī)律[10]. 應(yīng)用廣泛的有指數(shù)曲線法[11]、雙曲線法[12]、泊松法[13]和Asaoka法[14]等. 曲線擬合法是通過(guò)在實(shí)測(cè)曲線上采點(diǎn)來(lái)擬合曲線，從而預(yù)測(cè)后續(xù)的沉降. 為保證后續(xù)沉降預(yù)測(cè)順利進(jìn)行，實(shí)測(cè)數(shù)據(jù)的準(zhǔn)確度就變得至關(guān)重要. 但在實(shí)際工程中，現(xiàn)場(chǎng)實(shí)測(cè)沉降數(shù)據(jù)常常存在諸多問(wèn)題.

對(duì)于在建的大型地基處理項(xiàng)目，測(cè)點(diǎn)通常在千位數(shù)量級(jí)，由于人工誤差、儀器誤差等影響，一般很難保證所有測(cè)點(diǎn)數(shù)據(jù)都準(zhǔn)確無(wú)誤. 為避免異常數(shù)據(jù)對(duì)后續(xù)沉降預(yù)測(cè)的干擾，在使用曲線擬合法或其他預(yù)測(cè)方法之前，存在對(duì)實(shí)測(cè)沉降數(shù)據(jù)進(jìn)行遴選及預(yù)處理的需求.

深度學(xué)習(xí)是近年來(lái)進(jìn)行數(shù)據(jù)處理的高效方法，在沉降預(yù)測(cè)等巖土領(lǐng)域中的應(yīng)用也較多[15-24]，但迄今為止，尚無(wú)文獻(xiàn)研究過(guò)使用深度學(xué)習(xí)對(duì)沉降數(shù)據(jù)進(jìn)行預(yù)處理. 本文結(jié)合以上研究，提出了一種利用深度學(xué)習(xí)作為沉降數(shù)據(jù)預(yù)處理的新方法. 由于深度學(xué)習(xí)是通過(guò)搭建神經(jīng)網(wǎng)絡(luò)來(lái)觀察數(shù)據(jù)并發(fā)現(xiàn)其內(nèi)在關(guān)聯(lián)，因此對(duì)于數(shù)據(jù)的處理能力要明顯優(yōu)于其他方法[25-27]. 其中，長(zhǎng)短期記憶網(wǎng)絡(luò)LSTM[28-31]尤其擅長(zhǎng)處理時(shí)間序列，這種帶有記憶功能的神經(jīng)網(wǎng)絡(luò)，能自動(dòng)地觀察符合沉降發(fā)展規(guī)律的測(cè)點(diǎn)數(shù)據(jù)，學(xué)習(xí)良好的實(shí)測(cè)曲線具有的模式，然后將學(xué)到的映射關(guān)系應(yīng)用到問(wèn)題測(cè)點(diǎn)來(lái)重新計(jì)算全過(guò)程沉降值.

由于深度學(xué)習(xí)一般由多個(gè)處理層來(lái)組成計(jì)算模型，可學(xué)習(xí)具有多個(gè)抽象級(jí)別的數(shù)據(jù)表示[25]，在經(jīng)過(guò)若干處理層的轉(zhuǎn)換之后，模型可以學(xué)到非精細(xì)的模式和特征[26]. 因此，本文基于深度學(xué)習(xí)中的長(zhǎng)短期記憶網(wǎng)絡(luò)LSTM，通過(guò)搭建Seq2Seq模型[32-33]，提出了對(duì)實(shí)測(cè)沉降數(shù)據(jù)進(jìn)行預(yù)處理的新方法. 在對(duì)比模型重新計(jì)算的全過(guò)程沉降值與對(duì)應(yīng)的實(shí)測(cè)值后，驗(yàn)證了該數(shù)據(jù)預(yù)處理方法的可行性. 最后，還對(duì)Seq2Seq模型的超參數(shù)與數(shù)據(jù)情況等主要影響因素進(jìn)行分析，探討了模型的具體應(yīng)用方法.

1? ?基于深度學(xué)習(xí)的沉降計(jì)算原理研究

如圖1所示，深度學(xué)習(xí)處理問(wèn)題的出發(fā)點(diǎn)與傳統(tǒng)思維完全不同. 傳統(tǒng)思維方法會(huì)事先建立從輸入到輸出的映射規(guī)則，而深度學(xué)習(xí)則首先通過(guò)輸入與已知的輸出標(biāo)簽來(lái)反向求解出這種映射關(guān)系，再對(duì)新的輸入數(shù)據(jù)應(yīng)用訓(xùn)練得到的模型來(lái)計(jì)算輸出.

對(duì)于沉降計(jì)算問(wèn)題，根據(jù)沉降計(jì)算理論，不論是式（1）的普通分層總和法還是式（2）的建筑地基基礎(chǔ)規(guī)范修正式，關(guān)鍵都在于經(jīng)驗(yàn)系數(shù)簇α的選取.

又對(duì)于式（3）太沙基一維固結(jié)理論，將其簡(jiǎn)化為式（4）. 若考慮非線性固結(jié)，則如式（5）（6）所示[34]，按應(yīng)力和應(yīng)變定義的固結(jié)度存在差異. 式（4）（5）（6）的重點(diǎn)在于函數(shù)簇f的選取. 因此，沉降計(jì)算在統(tǒng)計(jì)方法上可以看作對(duì)α和f分布的選取.

深度學(xué)習(xí)可通過(guò)多個(gè)處理層組成的神經(jīng)網(wǎng)絡(luò)模型，來(lái)學(xué)習(xí)沉降數(shù)據(jù)的發(fā)展規(guī)律，經(jīng)過(guò)多個(gè)處理層的轉(zhuǎn)換之后，理論上模型可以組合出任意函數(shù)分布[15]. 應(yīng)用在沉降計(jì)算過(guò)程中時(shí)，網(wǎng)絡(luò)參數(shù)會(huì)根據(jù)實(shí)測(cè)數(shù)據(jù)的輸入（即土體參數(shù)）和答案（即實(shí)測(cè)沉降值），不斷調(diào)整自身參數(shù)值，優(yōu)化出最符合此現(xiàn)場(chǎng)沉降發(fā)展規(guī)律的α和f函數(shù)簇的分布. 并且深度學(xué)習(xí)優(yōu)化出的α和f可以隨時(shí)間變化，表現(xiàn)出高度非線性，這也符合在不同沉降發(fā)展階段，α和f應(yīng)取不同值的理論依據(jù). 因而，深度學(xué)習(xí)契合沉降計(jì)算的要求.

深度學(xué)習(xí)最大的優(yōu)勢(shì)在于，除了經(jīng)驗(yàn)系數(shù)α和f的選取完全來(lái)自于對(duì)數(shù)據(jù)模式的高效識(shí)別外，還在最初就考慮了各種不可控噪聲對(duì)沉降的影響. 在數(shù)據(jù)量大的條件下，深度學(xué)習(xí)模型由于具有記憶和遺忘功能以及強(qiáng)大的學(xué)習(xí)能力，可以通過(guò)對(duì)多個(gè)良好測(cè)點(diǎn)沉降模式的學(xué)習(xí)來(lái)識(shí)別這些噪聲，從而在異常數(shù)據(jù)處理時(shí)，除了經(jīng)驗(yàn)系數(shù)之外還能考慮到噪聲的影響. 其中，處理沉降發(fā)展曲線這種時(shí)間序列尤其適合LSTM.

2? ?LSTM與Seq2Seq模型

2.1? ?LSTM神經(jīng)元內(nèi)部結(jié)構(gòu)

傳統(tǒng)深度神經(jīng)網(wǎng)絡(luò)雖然能對(duì)數(shù)據(jù)進(jìn)行逐層的特征提取，但無(wú)法考慮時(shí)間順序，沒(méi)有辦法對(duì)時(shí)間序列進(jìn)行有效的處理. 循環(huán)神經(jīng)網(wǎng)絡(luò)RNN正是為克服這個(gè)缺點(diǎn)而誕生的，也即RNN擁有一定的記憶功能. 具體的表現(xiàn)形式為循環(huán)神經(jīng)網(wǎng)絡(luò)會(huì)對(duì)前面的信息進(jìn)行記憶并應(yīng)用于當(dāng)前輸出的計(jì)算中，隱藏層之間的節(jié)點(diǎn)不再是無(wú)連接而是有連接的，并且隱藏層的輸入不僅包括輸入層的輸出，還包括上一時(shí)刻隱藏層的輸出.

長(zhǎng)短期記憶網(wǎng)絡(luò)LSTM是循環(huán)神經(jīng)網(wǎng)絡(luò)的主流實(shí)現(xiàn)，是一類用于處理時(shí)間序列的神經(jīng)網(wǎng)絡(luò)，其神經(jīng)元內(nèi)部結(jié)構(gòu)如圖2所示. 在t時(shí)刻，網(wǎng)絡(luò)的輸入有3個(gè)：當(dāng)前時(shí)刻的輸入值xt，上一時(shí)刻LSTM的輸出值ht-1，上一時(shí)刻的記憶單元ct-1;輸出有2個(gè)：當(dāng)前時(shí)刻的輸出值ht，當(dāng)前時(shí)刻的記憶單元ct.

LSTM的關(guān)鍵在于如何控制記憶單元c，為此，LSTM設(shè)計(jì)了3個(gè)開(kāi)關(guān)，即門控單元：輸入門、遺忘門和輸出門.

1）輸入與門控單元.

輸入：

at = tanh（Wa xt + Ua ht-1）? ? ? ? ? ? ? （7）

輸入門：

it = σ（Wi xt + Ui ht-1）? ? ? ? ? ? ? （8）

遺忘門：

f t = σ（Wf xt + Uf ht-1）? ? ? ? ? ? ? （9）

輸出門：

ot = σ（Wo xt + Uo ht-1）? ? ? ? ? ? ? （10）

其中，σ為sigmoid函數(shù).

2）記憶狀態(tài)單元的更新.

ct = it⊙a(bǔ)t + f? t⊙ct-1? ? ? ? ? ? ? （11）

3）輸出.

ht = ot⊙tanh（ct）? ? ? ? ? ? ? ?（12）

LSTM用遺忘門決定上一時(shí)刻的記憶單元ct-1有多少保留到當(dāng)前時(shí)刻ct，用輸入門決定當(dāng)前網(wǎng)絡(luò)的輸入xt有多少保留到當(dāng)前時(shí)刻ct，用輸出門控制當(dāng)前記憶單元ct有多少輸出到當(dāng)前ht.

2.2? ?全過(guò)程沉降重計(jì)算Seq2Seq模型

LSTM常常用來(lái)構(gòu)建Seq2Seq模型，如圖3所示. 在訓(xùn)練全過(guò)程沉降修正模型的過(guò)程中，輸入是每個(gè)時(shí)刻的施工參數(shù)、土層參數(shù)，輸出是每個(gè)時(shí)刻的沉降. 對(duì)于encoder部分，將訓(xùn)練數(shù)據(jù)按時(shí)序輸入，得到encoder部分的最終記憶單元值cn和最終輸出hn，再用cn和hn來(lái)初始化decoder最初的c0和h0. 訓(xùn)練的輸入包括1）施工參數(shù)：時(shí)間、加載和卸載等;2）土層參數(shù)：各土層的壓縮模量E、厚度h等.

對(duì)于decoder，再次將訓(xùn)練數(shù)據(jù)按時(shí)序輸入，在每個(gè)時(shí)間點(diǎn)t，輸入為xt，標(biāo)簽為yt . 訓(xùn)練標(biāo)簽為各時(shí)段對(duì)應(yīng)的實(shí)測(cè)沉降值. 訓(xùn)練網(wǎng)絡(luò)的目的是讓LSTM每個(gè)時(shí)刻輸出的ht與標(biāo)簽yt盡可能接近. 通過(guò)建立ht與相應(yīng)時(shí)刻yt的損失函數(shù)MAE，利用梯度下降法訓(xùn)練網(wǎng)絡(luò)，使損失逐步降低以達(dá)到預(yù)期值.

3? ?Seq2Seq模型的應(yīng)用與驗(yàn)證

深度學(xué)習(xí)需要首先根據(jù)實(shí)際數(shù)據(jù)反演輸入與輸出的映射關(guān)系，脫離實(shí)際數(shù)據(jù)來(lái)討論深度學(xué)習(xí)是無(wú)意義的，因此，直接將工程實(shí)測(cè)數(shù)據(jù)分析作為出發(fā)點(diǎn)是深度學(xué)習(xí)的必然要求.

3.1? ?工程背景

某大型機(jī)場(chǎng)填海面積26.0 km2，從某島礁地基處理一期工程中2 000余測(cè)點(diǎn)的實(shí)測(cè)沉降曲線中可以看到，由于觀測(cè)、儀器等誤差，測(cè)得的部分測(cè)點(diǎn)沉降曲線不符合沉降理論的預(yù)期，違背沉降發(fā)展規(guī)律，集中體現(xiàn)在出現(xiàn)大幅波動(dòng)的鋸齒狀曲線這一現(xiàn)象. 但從工程的實(shí)際情況來(lái)看，堆載測(cè)點(diǎn)并未卸載，應(yīng)只有下沉，不可能出現(xiàn)回彈. 這說(shuō)明測(cè)得的鋸齒狀曲線與測(cè)點(diǎn)實(shí)際的沉降發(fā)展曲線相比有很大的偏差. 除去觀測(cè)誤差的影響，現(xiàn)場(chǎng)實(shí)測(cè)曲線還存在某時(shí)間段數(shù)據(jù)缺失、測(cè)試員隨意寫入沉降數(shù)據(jù)等多種問(wèn)題. 由于機(jī)場(chǎng)建設(shè)非常關(guān)注全區(qū)域不均勻沉降帶來(lái)的影響，而問(wèn)題測(cè)點(diǎn)的數(shù)量較多，因此需要對(duì)這些異常測(cè)點(diǎn)數(shù)據(jù)進(jìn)行預(yù)處理.

3.2? ?模型的驗(yàn)證與應(yīng)用

Seq2Seq模型訓(xùn)練與驗(yàn)證過(guò)程如圖4所示. 首先需要人工對(duì)數(shù)據(jù)進(jìn)行遴選，挑出符合經(jīng)典沉降理論預(yù)期的優(yōu)良測(cè)點(diǎn)數(shù)據(jù)作為訓(xùn)練集和測(cè)試集;然后定義網(wǎng)絡(luò)超參數(shù)（非網(wǎng)絡(luò)參數(shù)），對(duì)于上述Seq2Seq模型，即選取神經(jīng)元數(shù)量;之后網(wǎng)絡(luò)參數(shù)的調(diào)整過(guò)程是模型根據(jù)反向傳播自動(dòng)進(jìn)行的，無(wú)需人為干預(yù);模型訓(xùn)練完成后，如在訓(xùn)練集和測(cè)試集上都收斂，則可應(yīng)用到異常測(cè)點(diǎn)數(shù)據(jù)處理，否則需要重新調(diào)整神經(jīng)網(wǎng)絡(luò)超參數(shù)或重新選取訓(xùn)練集與測(cè)試集，并再次訓(xùn)練網(wǎng)絡(luò).

模型訓(xùn)練完成后，在測(cè)試集所有測(cè)點(diǎn)上的全過(guò)程平均誤差為32 mm. 圖5為A區(qū)部分測(cè)點(diǎn)的實(shí)測(cè)與重計(jì)算對(duì)比圖，從圖5（a）（b）（c）曲線的前半段可以看到，由于前期的沉降過(guò)程差異較大，在數(shù)據(jù)不夠充足的情況下，模型很難精準(zhǔn)修正，所以前半段的平均誤差達(dá)到53 mm. 到曲線后半段，模型能夠發(fā)現(xiàn)沉降逐步偏向平穩(wěn)的趨勢(shì)，且精度提升明顯，后半段平均誤差為8 mm. 圖5（d）全過(guò)程平均誤差為9 mm，低于全部測(cè)試集測(cè)點(diǎn)的平均誤差值32 mm，且全過(guò)程都較為準(zhǔn)確. 圖5表明，深度學(xué)習(xí)模型對(duì)各種沉降發(fā)展模式，即各種形狀的實(shí)測(cè)曲線，都能做到較為精確的重新計(jì)算，而傳統(tǒng)方法很難處理突變等復(fù)雜狀況. 且深度學(xué)習(xí)模型計(jì)算后半段曲線的精確度明顯高于前段，對(duì)于預(yù)測(cè)工后沉降來(lái)說(shuō)，曲線后期的發(fā)展趨勢(shì)顯然更重要.

4? ?模型學(xué)習(xí)能力的影響因素

為探究模型學(xué)習(xí)能力的影響因素，也為證實(shí)前文所述深度學(xué)習(xí)的普適性，另選取該機(jī)場(chǎng)B區(qū)與C區(qū)的測(cè)點(diǎn)訓(xùn)練并測(cè)試模型，得到的結(jié)果與A區(qū)作為對(duì)比.

4.1? ?數(shù)據(jù)量

深度學(xué)習(xí)是數(shù)據(jù)驅(qū)動(dòng)的科學(xué)，模型能否取得優(yōu)異的表現(xiàn)，數(shù)據(jù)量的大小是決定因素之一.

如表1所示，模型在B區(qū)測(cè)試集上有91 mm的平均誤差. B區(qū)誤差偏大的原因是模型僅使用16個(gè)測(cè)點(diǎn)作為訓(xùn)練集數(shù)據(jù)，來(lái)重計(jì)算測(cè)試集的8個(gè)測(cè)點(diǎn). B區(qū)的數(shù)據(jù)較少，嚴(yán)重限制了模型的泛化能力. 逐漸增大數(shù)據(jù)量后，模型的精確程度有了很大的提高，在C區(qū)測(cè)試集上誤差縮小到22 mm. 從使用的數(shù)據(jù)量來(lái)看，B區(qū)與C區(qū)的結(jié)果均在合理范圍內(nèi)，這也反映了深度學(xué)習(xí)的普適性.

4.2? ?神經(jīng)元數(shù)量

LSTM神經(jīng)元的個(gè)數(shù)對(duì)模型的學(xué)習(xí)能力有很大影響. 神經(jīng)元選取的數(shù)量需要逐步調(diào)試，數(shù)量過(guò)少會(huì)導(dǎo)致欠擬合，模型在訓(xùn)練集上都無(wú)法做到收斂;數(shù)量過(guò)多模型會(huì)出現(xiàn)過(guò)擬合現(xiàn)象，在測(cè)試集上的表現(xiàn)明顯變差.

表2展示了神經(jīng)元數(shù)量選取16、32、64、128、256對(duì)模型計(jì)算沉降值與真實(shí)沉降值之間平均誤差的影響. 神經(jīng)元數(shù)量越多在訓(xùn)練集上的表現(xiàn)越好，因?yàn)榇藭r(shí)模型的學(xué)習(xí)能力變強(qiáng). 在測(cè)試集上則存在一個(gè)極值點(diǎn)，神經(jīng)元數(shù)量偏少時(shí)，模型學(xué)習(xí)能力不強(qiáng)，無(wú)法通過(guò)訓(xùn)練集數(shù)據(jù)學(xué)習(xí)到沉降發(fā)展的規(guī)律;數(shù)量偏多時(shí)，模型由于強(qiáng)大的擬合能力，開(kāi)始過(guò)度關(guān)注訓(xùn)練集數(shù)據(jù)，將其中的異常噪聲也進(jìn)行學(xué)習(xí). 模型在測(cè)試集上的表現(xiàn)是問(wèn)題的核心，對(duì)于A區(qū)測(cè)點(diǎn)數(shù)據(jù)選取64個(gè)神經(jīng)元，此時(shí)模型在測(cè)試集上表現(xiàn)最優(yōu).

4.3? ?數(shù)據(jù)分布

圖6為B區(qū)測(cè)試集8個(gè)測(cè)點(diǎn)的實(shí)測(cè)與重計(jì)算沉降對(duì)比圖. 圖6中的主要誤差都來(lái)源于測(cè)點(diǎn)B-52和B-53，而其他測(cè)點(diǎn)的重計(jì)算情況相對(duì)較好，這說(shuō)明除了數(shù)據(jù)量對(duì)模型誤差的影響外，還存在其他重要影響因素. B區(qū)訓(xùn)練集測(cè)點(diǎn)的淤泥層厚度、黏土層厚度見(jiàn)表3. 圖7由表3數(shù)據(jù)繪制而成.

表3最后兩行黑體字部分為測(cè)試集誤差主要來(lái)源B-52和B-53的參數(shù)值，其余為訓(xùn)練集測(cè)點(diǎn)的參數(shù)值. 從圖7可以看到，訓(xùn)練集測(cè)點(diǎn)的黏土層厚度大多數(shù)在10 m以上，而淤泥層的厚度在4 m以下，與B-52、B-53的土層厚度相差較大，由于訓(xùn)練集的數(shù)據(jù)分布與測(cè)試集差異很大，且數(shù)據(jù)量偏少，模型無(wú)法學(xué)習(xí)到淤泥層、黏土層厚度增大或減小造成的沉降具體增減量. 模型主要訓(xùn)練在黏土層厚而淤泥層薄的數(shù)據(jù)集上，B-52和B-53的黏土層厚度過(guò)小，因此計(jì)算出的最終沉降會(huì)偏小.

在數(shù)據(jù)較少的條件下，數(shù)據(jù)的分布會(huì)造成模型預(yù)測(cè)結(jié)果不夠精確. 劃分?jǐn)?shù)據(jù)集時(shí)，應(yīng)該盡量讓訓(xùn)練集和測(cè)試集具有相同的數(shù)據(jù)分布. 將B-52或B-53中的任意一點(diǎn)加入訓(xùn)練集可以部分彌補(bǔ)訓(xùn)練集和測(cè)試集分布的偏差，嘗試將B-52加入訓(xùn)練集后，模型在其余條件不變的情況下測(cè)試集誤差減小至57 mm，相較之前有明顯提升.

4.4? ?數(shù)據(jù)特征

圖8為測(cè)試集測(cè)點(diǎn)C-16、C-22的沉降曲線對(duì)比圖，其土層參數(shù)見(jiàn)表4.

C-16與C-22的土層參數(shù)相差不大，但C-16在沉降發(fā)展到350 d后誤差明顯變大. 這說(shuō)明施工條件僅考慮加載，土層參數(shù)僅考慮壓縮量較大的淤泥和黏土限制了模型學(xué)習(xí)能力. C-16顯然是受到如滲透系數(shù)、排水條件等其他因素的影響. 在數(shù)據(jù)偏多的情況下，應(yīng)該考慮更多的影響因素，加入更多的數(shù)據(jù)特征.

在加入滲透系數(shù)作為數(shù)據(jù)特征后，C-16的沉降對(duì)比曲線見(jiàn)圖9（a），誤差由之前的21 mm降低至10 mm，且曲線后段提升效果明顯. C-22在考慮了滲透系數(shù)后，計(jì)算誤差降低到2 mm.

5? ?結(jié)? ?論

通過(guò)搭建Seq2Seq模型，首次提出了深度學(xué)習(xí)在實(shí)測(cè)沉降數(shù)據(jù)預(yù)處理中的應(yīng)用方法. 在某機(jī)場(chǎng)不同典型區(qū)域A、B、C，通過(guò)對(duì)比模型在測(cè)試集上的重計(jì)算與實(shí)測(cè)沉降值，驗(yàn)證了深度學(xué)習(xí)對(duì)異常沉降數(shù)據(jù)進(jìn)行預(yù)處理的可行性. 其中，Seq2Seq模型在A、C區(qū)域沉降數(shù)據(jù)的預(yù)處理中，將全過(guò)程平均誤差分別控制在3 cm和2 cm，表明此方法對(duì)工程實(shí)測(cè)沉降數(shù)據(jù)預(yù)處理及后續(xù)預(yù)測(cè)具有較好的實(shí)用價(jià)值. 最后，還分析了超參數(shù)與數(shù)據(jù)集對(duì)模型學(xué)習(xí)能力的影響程度. 具體結(jié)論如下：

1）數(shù)據(jù)量對(duì)模型處理異常數(shù)據(jù)的能力起決定作用，模型輸出誤差隨數(shù)據(jù)量增大明顯變低. 樣本數(shù)量作為統(tǒng)計(jì)方法的重要參數(shù)，是深度學(xué)習(xí)在巖土工程中的應(yīng)用能否取得成功的基石. 增大樣本數(shù)量時(shí)，模型在B、C區(qū)域測(cè)試集上的誤差由91 mm降低至22 mm.

2）訓(xùn)練集與測(cè)試集的參數(shù)一致性對(duì)模型性能有很大影響. 在B區(qū)的測(cè)試過(guò)程中，B-52、B-53測(cè)點(diǎn)的淤泥層與黏土層厚度與訓(xùn)練集相差較大，導(dǎo)致模型測(cè)試與學(xué)習(xí)的內(nèi)容不一致，造成B區(qū)的重計(jì)算精度明顯偏低. 因此在劃分?jǐn)?shù)據(jù)集的過(guò)程中，應(yīng)盡量保證訓(xùn)練集與測(cè)試集的數(shù)據(jù)特征分布大致相同. 具體操作時(shí)，多次隨機(jī)選取訓(xùn)練集，分別訓(xùn)練完成后對(duì)測(cè)試集結(jié)果取均值，一般能弱化這種差異.

3）所選數(shù)據(jù)特征的代表性對(duì)模型輸出精度影響較大. 若模型反復(fù)調(diào)試后，依舊達(dá)不到精度要求，應(yīng)考慮所選輸入是否具有代表性. 此時(shí)可根據(jù)具體數(shù)據(jù)狀況逐步增加數(shù)據(jù)特征，直至模型的重計(jì)算值達(dá)到精度要求. 例如，相較于初次訓(xùn)練測(cè)試時(shí)僅考慮壓縮模量與各土層厚度，增加滲透系數(shù)作為輸入后，C區(qū)誤差明顯降低.

4）超參數(shù)的最優(yōu)解會(huì)隨具體數(shù)據(jù)集變化而不同，需根據(jù)具體的數(shù)據(jù)狀況進(jìn)行逐步調(diào)試，應(yīng)避免過(guò)擬合與欠擬合現(xiàn)象發(fā)生. 神經(jīng)元數(shù)量、學(xué)習(xí)率、優(yōu)化器、數(shù)據(jù)批次、網(wǎng)絡(luò)層數(shù)等是模型自身超參數(shù)，其調(diào)節(jié)一般都是試錯(cuò)的過(guò)程. 在算力充足的條件下，可對(duì)每個(gè)超參數(shù)設(shè)定一個(gè)數(shù)值或類型范圍，對(duì)它們的組合全部進(jìn)行訓(xùn)練. 訓(xùn)練完成后，在測(cè)試集上進(jìn)行驗(yàn)證并挑選合理結(jié)果. 若時(shí)間有限，在固定其他超參數(shù)為默認(rèn)值的條件下，可優(yōu)先調(diào)節(jié)神經(jīng)元數(shù)量與學(xué)習(xí)率，同樣能夠取得較為理想的結(jié)果.

參考文獻(xiàn)

[1]? ? 龔曉南，謝康和. 土力學(xué)[M]. 北京：中國(guó)建筑工業(yè)出版社，2018：110—127.

GONG X N，XIE K H. Soil mechanics[M]. Beijing：China Architecture & Building Press，2018：110—127. （In Chinese）

[2]? ? 劉波，楊偉紅，張功，等. 基于隧道不均勻變形的地表沉降隨機(jī)介質(zhì)理論預(yù)測(cè)模型[J]. 巖石力學(xué)與工程學(xué)報(bào)，2018，37（8）：1943—1952.

LIU B，YANG W H，ZHANG G，et al. A prediction model based on stochastic medium theory for ground surface settlement induced by non-uniform tunnel deformation[J]. Chinese Journal of Rock Mechanics and Engineering，2018，37（8）：1943—1952. （In Chinese）

[3]? ? WANG Y，LI J P，LI L. Settlement of jacked piles in clay：Theoretical analysis considering soil aging[J]. Computers and Geotechnics，2020，122：103504.

[4]? ? ZHOU Z，CHEN Y，LIU Z Z，et al. Theoretical prediction model for deformations caused by construction of new tunnels undercrossing existing tunnels based on the equivalent layered method[J]. Computers and Geotechnics，2020，123：103565.

[5]? ? 盧健，姚愛(ài)軍，鄭軒，等. 地鐵雙線隧道開(kāi)挖地表沉降規(guī)律及計(jì)算方法研究[J]. 巖石力學(xué)與工程學(xué)報(bào)，2019，38（S2）：3735—3747.

LU J，YAO A J，ZHENG X，et al. Study on the law and computational method of ground surface settlement induced by double-line tunnel excavation[J]. Chinese Journal of Rock Mechanics and Engineering，2019，38（S2）：3735—3747. （In Chinese）

[6]? ? KUMAR B，SAHOO J P. Support pressure for circular tunnels in two layered undrained clay[J]. Journal of Rock Mechanics and Geotechnical Engineering，2020，12（1）：135—148.

[7]? ? OBERHOLLENZER S，TSCHUCHNIGG F，SCHWEIGER H F. Finite element analyses of slope stability problems using non-associated plasticity[J]. Journal of Rock Mechanics and Geotechnical Engineering，2018，10（6）：1091—1101.

[8]? ? LESTER A M，KOURETZIS G P，SLOAN S W. Finite element modelling of prefabricated vertical drains using 1D drainage elements with attached smear zones[J]. Computers and Geotechnics，2019，107：235—254.

[9]? ? 冷伍明，陳琛，徐方，等. 深厚軟土區(qū)超長(zhǎng)樁基壓縮變形測(cè)試及分析[J]. 湖南大學(xué)學(xué)報(bào)（自然科學(xué)版），2019，46（11）：87—96.

LENG W M，CHEN C，XU F，et al. Measurement and analysis of compression deformation of a super-long pile foundation in deep soft deposit[J]. Journal of Hunan University （Natural Sciences），2019，46（11）：87—96. （In Chinese）

[10]? 潘林有，謝新宇. 用曲線擬合的方法預(yù)測(cè)軟土地基沉降[J]. 巖土力學(xué)，2004，25（7）：1053—1058.

PAN L Y，XIE X Y. Observational settlement prediction by curve fitting methods[J]. Rock and Soil Mechanics，2004，25（7）：1053—1058.（In Chinese）

[11]? 曾國(guó)熙，楊錫令.砂井地基沉陷分析[J].浙江大學(xué)學(xué)報(bào)，1959（3）：34—72.

ZENG G X，YANG X L. Analysis of sand well foundation subsidence[J]. Journal of Zhejiang University，1959（3）：34—72. （In Chinese）

[12]? SRIDHARAN A，MURTHY N S，PRAKASH K. Rectangular hyperbola method of consolidation analysis[J]. Géotechnique，1987，37（3）：355—368.

[13]? 宰金珉，梅國(guó)雄. 全過(guò)程的沉降量預(yù)測(cè)方法研究[J]. 巖土力學(xué)，2000，21（4）：322—325.

ZAI J M，MEI G X. Forecast method of settlement during the complete process of construction and operation[J]. Rock and Soil Mechanics，2000，21（4）：322—325. （In Chinese）

[14]? ASAOKA A. Observational procedure of settlement prediction[J]. Soils and Foundations，1978，18（4）：87—101.

[15]? ZHANG P，LI H，HA Q P，et al. Reinforcement learning based optimizer for improvement of predicting tunneling-induced ground responses[J]. Advanced Engineering Informatics，2020，45：101097.

[16]? YE X W，JIN T，YUN C B. A review on deep learning-based structural health monitoring of civil infrastructures[J].Smart Structures and Systems，2019，24（5）：567—586.

[17]? 薛亞?wèn)|，高健，李宜城，等. 基于深度學(xué)習(xí)的地鐵隧道襯砌病害檢測(cè)模型優(yōu)化[J]. 湖南大學(xué)學(xué)報(bào)（自然科學(xué)版），2020，47（7）：137—146.

XUE Y D，GAO J，LI Y C，et al. Optimization of shield tunnel lining defect detection model based on deep learning[J]. Journal of Hunan University （Natural Sciences），2020，47（7）：137—146. （In Chinese）

[18]? 張士勇，夏定輝，唐輝. 深度學(xué)習(xí)小波神經(jīng)網(wǎng)絡(luò)模型在地鐵沉降預(yù)測(cè)中的應(yīng)用[J]. 測(cè)繪通報(bào)，2018（S1）：250—253.

ZHANG S Y，XIA D H，TANG H. Application of deep learning wavelet neural network model in subway settlement prediction[J]. Bulletin of Surveying and Mapping，2018（S1）：250—253. （In Chinese）

[19]? POOY A NEJAD F，JAKSA M B. Load-settlement behavior modeling of single piles using artificial neural networks and CPT data[J]. Computers and Geotechnics，2017，89：9—21.

[20]? NAM K，WANG F W. An extreme rainfall-induced landslide susceptibility assessment using autoencoder combined with random forest in Shimane Prefecture，Japan[J]. Geoenvironmental Disasters，2020，7（1）：1—16.

[21]? MA Q W，LIU S H，F(xiàn)AN X Y，et al. A time series prediction model of foundation pit deformation based on empirical wavelet transform and NARX network[J]. Mathematics，2020，8（9）：15—35.

[22]? CHEN R P，ZHANG P，WU H N，et al. Prediction of shield tunneling-induced ground settlement using machine learning techniques[J]. Frontiers of Structural and Civil Engineering，2019，13（6）：1363—1378.

[23]? JEBUR A A，ATHERTON W，AL KHADDAR R M，et al. Settlement prediction of model piles embedded in sandy soil using the levenberg-marquardt （LM） training algorithm[J]. Geotechnical and Geological Engineering，2018，36（5）：2893—2906.

[24]? TANG Y Q，XIAO S Q，ZHAN Y J. Predicting settlement along railway due to excavation using empirical method and neural networks[J].Soils and Foundations，2019，59（4）：1037—1051.

[25]? LECUN Y，BENGIO Y，HINTON G. Deep learning[J]. Nature，2015，521（7553）：436—444.

[26]? NGUYEN T T，NGUYEN N D，NAHAVANDI S. Deep reinforcement learning for multiagent systems：a review of challenges，solutions，and applications[J]. IEEE Transactions on Cybernetics，2020，50（9）：3826—3839.

[27]? LUC P，COUPRIE C，LECUN Y，et al. Predicting future instance segmentation by forecasting convolutional features[C]//Proceedings of Computer Vision-ECCV 2018. Glasgow，United Kingdom，2018：593—608.

[28]? YU Y，SI X S，HU C H，et al. A review of recurrent neural networks：LSTM cells and network architectures[J]. Neural Computation，2019，31（7）：1235—1270.

[29]? GRAVES A，MOHAMED A R，HINTON G. Speech recognition with deep recurrent neural networks[C]//Proceedings of the 2013 IEEE International Conference on Acoustics，Speech and Signal Processing. Vancouver，BC，Canada：IEEE，2013：6645—6649.

[30]? WU X，DU Z K，GUO Y K，et al. Hierarchical attention based long short-term memory for Chinese lyric generation[J]. Applied Intelligence，2019，49（1）：44—52.

[31]? CHEN S，GE L. Exploring the attention mechanism in LSTM-based Hong Kong stock price movement prediction[J]. Quantitative Finance，2019，19（9）：1507—1515.

[32]? SUTSKEVER I，VINYALS O，LE Q V. Sequence to sequence learning with neural networks[C]// Proceedings of the 27th International Conference on Neural Information Processing Systems. Santa Fe，New Mexico，USA，2014：3104—3112.

[33]? WISEMAN S，RUSH A M. Sequence-to-sequence learning as beam search-optimization[C]//Proceedings of the 2016 Conference on Empirical Methods in Natural Language Processing. Stroudsburg，PA，USA：Association for Computational Linguistics，2016：1296—1306.

[34]? XIE K H，WANG K，CHEN G H，et al. One-dimensional consolidation of over-consolidated soil under time-dependent loading[J]. Frontiers of Architecture and Civil Engineering in China，2008，2（1）：67—72.