劉攀 鄭雅蓮 謝康 韓東陽 程潛
摘要:現(xiàn)代水文監(jiān)測技術(shù)的迅猛發(fā)展產(chǎn)生了海量的水雨情數(shù)據(jù),為深度學(xué)習(xí)理論助力水文水資源領(lǐng)域的研究和生產(chǎn)實踐帶來了機(jī)遇與挑戰(zhàn)。從水文模擬、水資源管理、水環(huán)境評價3個方面開展文獻(xiàn)調(diào)研,綜述了水文水資源領(lǐng)域的深度學(xué)習(xí)研究進(jìn)展。歸納了深度學(xué)習(xí)方法的優(yōu)勢及應(yīng)用難點:無需構(gòu)建物理模型并可深度挖掘數(shù)據(jù)特征,在物理機(jī)制不明晰的問題中具有顯著優(yōu)勢;但在應(yīng)用時存在模型訓(xùn)練數(shù)據(jù)缺乏、超參數(shù)確定具有主觀性、可解釋性不足、與物理規(guī)律不符及泛化能力不足等難點問題。展望了可通過有機(jī)結(jié)合深度學(xué)習(xí)與水文物理機(jī)制模型,以融合經(jīng)典水文規(guī)律,并開展遷移學(xué)習(xí)、強(qiáng)化學(xué)習(xí)以及對抗學(xué)習(xí)等應(yīng)用研究,以更好地在水文資源領(lǐng)域探索運(yùn)用深度學(xué)習(xí)方法。
關(guān)鍵詞:水文水資源; 深度學(xué)習(xí); 數(shù)據(jù)挖掘; 數(shù)據(jù)驅(qū)動模型; 物理機(jī)制模型
中圖法分類號: P33
文獻(xiàn)標(biāo)志碼: A
DOI:10.16232/j.cnki.1001-4179.2021.10.012
0引 言
水災(zāi)害頻發(fā)、水資源短缺、水環(huán)境污染是水文領(lǐng)域長期面臨的難題。為此,國際水文科學(xué)協(xié)會(IAHS)于2013年7月啟動了“Panta-Rhei”十年科學(xué)計劃,目標(biāo)是集成信息與經(jīng)驗以解決全球水資源所帶來的難題[1]。因此,如何利用現(xiàn)有數(shù)據(jù)信息為水文領(lǐng)域提供決策建議,已成為研究熱點問題。
近些年,隨著無人機(jī)、衛(wèi)星、雷達(dá)、無線傳感器等技術(shù)及安全監(jiān)控系統(tǒng)的發(fā)展,“空-天-地”一體化智能監(jiān)測信息系統(tǒng)逐步建立,水文領(lǐng)域擁有了海量的水雨情信息[2],通過建立輸入信息與輸出信息的映射關(guān)系,數(shù)據(jù)驅(qū)動模型逐漸成為物理模型的一種替代方法。數(shù)據(jù)驅(qū)動模型中的深度學(xué)習(xí)方法具有自動捕獲數(shù)據(jù)特征及分布的能力[3],在眾多領(lǐng)域的模擬、評價以及調(diào)控等方面廣泛應(yīng)用,但在水文水資源領(lǐng)域,深度學(xué)習(xí)的理論與技術(shù)應(yīng)用尚未系統(tǒng)總結(jié)。為此,本文概述了深度學(xué)習(xí)在水文水資源領(lǐng)域的研究進(jìn)展,辨析了深度學(xué)習(xí)在水文水資源領(lǐng)域的優(yōu)勢與難點,最后展望了應(yīng)用前景。
1深度學(xué)習(xí)的基本概念
1.1物理模型與數(shù)據(jù)驅(qū)動模型
基于對真實過程的認(rèn)知及假設(shè),物理模型已廣泛應(yīng)用于水文領(lǐng)域。由于真實過程在時間及空間尺度存在異質(zhì)性,物理模型模擬結(jié)果難以與真實過程相符,并且,物理模型結(jié)構(gòu)復(fù)雜、參數(shù)眾多,對建模者的專業(yè)知識要求較高。
基于統(tǒng)計分析的數(shù)據(jù)驅(qū)動模型對真實過程的假設(shè)較少,可從數(shù)據(jù)樣本提取物理過程的復(fù)雜關(guān)系,是傳統(tǒng)基于物理過程模型的有益補(bǔ)充。數(shù)據(jù)驅(qū)動模型可分為淺層學(xué)習(xí)模型與深度學(xué)習(xí)模型,20世紀(jì)80年代末期的人工神經(jīng)網(wǎng)絡(luò)[4]與90年代的傳統(tǒng)機(jī)器學(xué)習(xí)模型[5]均屬于淺層學(xué)習(xí)范疇。2006年,Hinton[3]提出的多隱含層深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)給出了深度學(xué)習(xí)算法的主要框架,“逐層初始化”方法使該網(wǎng)絡(luò)具有優(yōu)異的特征提取能力。
1.2深度學(xué)習(xí)
作為機(jī)器學(xué)習(xí)的重要分支,深度學(xué)習(xí)是一種基于概率論不斷遞歸進(jìn)而尋求最優(yōu)解的方法,其通過正反饋優(yōu)化網(wǎng)絡(luò)參數(shù),采用多個隱含層及非線性變換識別數(shù)據(jù)的特征。與傳統(tǒng)的淺層學(xué)習(xí)相比,深度學(xué)習(xí)的核心架構(gòu)在于其強(qiáng)調(diào)網(wǎng)絡(luò)的縱向深度。通過構(gòu)建包含多個非線性處理單元的隱含層,深度神經(jīng)網(wǎng)絡(luò)能通過分層學(xué)習(xí)從大量數(shù)據(jù)集中挖掘復(fù)雜特征[6],相比之下,傳統(tǒng)的機(jī)器學(xué)習(xí)方法只進(jìn)行一至兩層的數(shù)據(jù)轉(zhuǎn)換;在模型訓(xùn)練方式上,深度學(xué)習(xí)模型采用逐層調(diào)整的模型訓(xùn)練方法[6],從而更快地逼近最優(yōu)解;在特征提取上,深度學(xué)習(xí)模型無需人為篩選特征,只需將數(shù)據(jù)集輸入深度神經(jīng)網(wǎng)絡(luò),利用多隱含層結(jié)構(gòu)的逐層初始化方法便可提取淺層特征、中層特征、高層特征[7-8],進(jìn)而降低人為篩選特征的主觀影響。深度神經(jīng)網(wǎng)絡(luò)具體包括如下類別:全連接的深度神經(jīng)網(wǎng)絡(luò)(如堆棧自動編碼器、深度信念網(wǎng)絡(luò))、空間深度的卷積神經(jīng)網(wǎng)絡(luò)、時間深度的遞歸神經(jīng)網(wǎng)絡(luò)(如長短期記憶網(wǎng)絡(luò)、門控遞歸單元)等。
2水文水資源領(lǐng)域深度學(xué)習(xí)研究進(jìn)展
深度學(xué)習(xí)作為新一代人工智能技術(shù),在水文數(shù)據(jù)分析方面涵蓋時間分析及空間分析,通過挖掘序列數(shù)據(jù),可為水文行業(yè)決策智能化提供技術(shù)支撐。時空序列分析問題需將具有時間及空間深度的深度學(xué)習(xí)方法結(jié)合,如卷積-長短期記憶網(wǎng)絡(luò)模型,其卷積神經(jīng)網(wǎng)絡(luò)部分處理輸入數(shù)據(jù)的空間特征,長短期記憶網(wǎng)絡(luò)部分處理輸入數(shù)據(jù)的時間相關(guān)性;時間序列分析問題集中于對站點序列數(shù)據(jù)的回歸預(yù)測,主要應(yīng)用的深度學(xué)習(xí)方法有長短期記憶網(wǎng)絡(luò)模型、深度信念網(wǎng)絡(luò)模型等。
水文水資源領(lǐng)域的研究問題包含水循環(huán)、水災(zāi)害的形成及防治、水資源開發(fā)利用和保護(hù)等,既研究水量,又研究水質(zhì)。本文將深度學(xué)習(xí)方法在水文水資源領(lǐng)域的應(yīng)用按水文模擬、水資源管理、水環(huán)境評價3個部分劃分。
2.1深度學(xué)習(xí)在水文模擬中的應(yīng)用
2.1.1深度學(xué)習(xí)在地表水中的應(yīng)用
深度學(xué)習(xí)方法在地表水中的應(yīng)用包含降水預(yù)報、徑流預(yù)報、洪水預(yù)報以及水災(zāi)害預(yù)警等方面。
在降水預(yù)報問題中,研究主要集中于降水量的實時時空預(yù)報與定量降水量的估計,主要采用長短期記憶網(wǎng)絡(luò)、門控遞歸單元模型等。如Shi等[9]提出了降雨實時預(yù)報基準(zhǔn)及具有學(xué)習(xí)循環(huán)連接結(jié)構(gòu)能力的軌跡門控遞歸單元,以解決輸入和預(yù)報目標(biāo)均為雷達(dá)圖的時空序列預(yù)報問題;Zhang等[10]將無監(jiān)督學(xué)習(xí)與監(jiān)督學(xué)習(xí)結(jié)合,建立了基于深度信念網(wǎng)絡(luò)的7種環(huán)境特征因子與未來24 h降水量映射關(guān)系的模型;如Chen等[11]基于卷積-長短期記憶網(wǎng)絡(luò)模型,由規(guī)范化、星形橋?qū)印p失函數(shù)改進(jìn)等方法提升模型收斂性能,結(jié)果表明,該模型在處理降水預(yù)報的時空序列問題時優(yōu)于卷積-長短期記憶網(wǎng)絡(luò)模型;Kumar等[12]以月平均降雨量為隨機(jī)成分,建立長短期記憶網(wǎng)絡(luò)模型,結(jié)果表明,長短期記憶網(wǎng)絡(luò)模型具有數(shù)據(jù)分層預(yù)處理能力,且對訓(xùn)練數(shù)據(jù)集較少的研究區(qū)域,網(wǎng)絡(luò)架構(gòu)是影響模型穩(wěn)健性能的重要因素;Yen等[13]基于堆棧的深度回聲狀態(tài)網(wǎng)絡(luò),由小時氣象資料建立臺灣省南部地區(qū)降雨預(yù)報模型,通過改變輸入變量法檢驗輸入對輸出的影響,結(jié)果表明,降水量、氣壓和濕度是影響降水預(yù)報性能的關(guān)鍵參數(shù)。此外,有學(xué)者利用深度學(xué)習(xí)方法研究降水預(yù)報的降尺度及不確定性問題。如Scher和Messori[14]評估了深度學(xué)習(xí)方法描述降水預(yù)報不確定性的能力,基于卷積神經(jīng)網(wǎng)絡(luò),以確定性降水預(yù)報的誤差及集合預(yù)報結(jié)果為訓(xùn)練集,輸出降水預(yù)報不確定性的標(biāo)量值;Wang等[15]將遞歸神經(jīng)網(wǎng)絡(luò)與隨機(jī)極端降水耦合,提出基于深度學(xué)習(xí)的氣象要素降尺度方法,并運(yùn)用SWAT模型評估降尺度要素的水文響應(yīng),結(jié)果表明,該降尺度方法能使日尺度徑流和蒸散量的模擬精度顯著提高。
徑流預(yù)報相關(guān)研究以降雨徑流模擬和水庫入庫徑流模擬兩類為主。在降雨徑流模擬問題中,大部分學(xué)者聚焦于單流域或單站點的徑流模擬問題,少部分學(xué)者開展了區(qū)域尺度的降雨徑流模擬研究。對于單流域的徑流模擬,Xiang等[16]基于序列到序列的長短期記憶網(wǎng)絡(luò)模型,預(yù)測未來24 h逐時段徑流,結(jié)果表明,該模型可模擬屬性未知的流域降雨徑流過程;Kao等[17]提出了一種適用于多步預(yù)測的編碼器-解碼器長短期記憶網(wǎng)絡(luò)模型,能準(zhǔn)確預(yù)報多峰降雨引起的洪水事件。Liu等[18]將卷積核與注意力機(jī)制引入長短期記憶網(wǎng)絡(luò)模型,從模型組件、參數(shù)及輸入的角度分析模型在徑流模擬中的有效性,結(jié)果表明,卷積核的引入能促使模型學(xué)習(xí)數(shù)據(jù)的空間相關(guān)性,注意力機(jī)制能有效突出關(guān)鍵時間點的信息。在區(qū)域尺度的降雨徑流模擬研究中,Kratzert等[19]將長短期記憶網(wǎng)絡(luò)模型應(yīng)用于解決降雨徑流模擬問題,由于區(qū)域尺度模型考慮了流域平均氣象情況,其結(jié)果優(yōu)于物理模型SAC-SMA及Snow-17,結(jié)果表明,經(jīng)預(yù)訓(xùn)練的區(qū)域尺度深度學(xué)習(xí)模型能提高單流域模型的模擬性能;Kratzert等[20]建立了區(qū)域尺度的降雨徑流模型,基于實體感知的長短期記憶網(wǎng)絡(luò)模型,設(shè)置流域?qū)傩蕴卣鲗?,將流域特征與特定地點動態(tài)聯(lián)系,以此增強(qiáng)長短期記憶網(wǎng)絡(luò)模型在無資料地區(qū)的預(yù)測能力;Feng等[21]提出了一種數(shù)據(jù)集成方法,通過卷積神經(jīng)網(wǎng)絡(luò)降維方法,促使長短期記憶網(wǎng)絡(luò)模型吸納前期徑流數(shù)據(jù),提高了年內(nèi)徑流量變化較大流域的徑流模擬精度,結(jié)果表明,卷積神經(jīng)網(wǎng)絡(luò)降維方法有利于改善模型的過擬合問題。對于水庫入庫徑流模擬問題,Bai等[22]提出了一種基于深度學(xué)習(xí)的聚類融合框架,模型包含屬性域-深層域-綜合域三個部分。在屬性域,運(yùn)用變分模式分解法將水庫日入庫流量序列分解為多個模式,而后利用模糊C-均值聚類方法對多個模式進(jìn)行聚類;在深層域,由深度信念網(wǎng)絡(luò)得到每一類別的預(yù)測值;在綜合域,利用隨機(jī)森林方法將深層域每一類別的預(yù)測值融合為水庫入流預(yù)測值。Li等[23]基于深度信念網(wǎng)絡(luò)及堆棧自動編碼器網(wǎng)絡(luò),研究三峽水庫及葛洲壩水庫的日入庫流量預(yù)報問題,結(jié)果表明,深度學(xué)習(xí)模型優(yōu)于前饋神經(jīng)網(wǎng)絡(luò)、自回歸差分移動平均模型。此外,部分徑流預(yù)報研究對深度學(xué)習(xí)模型的輸入預(yù)處理、超參數(shù)優(yōu)化問題進(jìn)行了討論,如Zuo等[24]將3種結(jié)合不同輸入預(yù)處理方法(變分模式分解、集合經(jīng)驗?zāi)J椒纸夂碗x散小波變換)的長短期記憶網(wǎng)絡(luò)模型應(yīng)用于徑流預(yù)報問題;Yuan等[25]基于蟻群算法和粒子群算法,優(yōu)化了長短期記憶網(wǎng)絡(luò)模型超參數(shù)(隱含層神經(jīng)元數(shù)量及學(xué)習(xí)率),進(jìn)一步提升了模型性能。
洪水預(yù)報相關(guān)研究集中于對特定站點洪水水位、流量的時間序列模擬。如Indrastanti等[26]基于長短期記憶網(wǎng)絡(luò)模型,以河道上下游兩點降水及水位的時間序列為輸入,預(yù)報河道下游水位;Wang等[27]提出了基于擴(kuò)展因果關(guān)系的卷積神經(jīng)網(wǎng)絡(luò)模型,利用衛(wèi)星圖像預(yù)報臺風(fēng)期間警報系統(tǒng)的實時水位,結(jié)果表明,該模型能有效模擬洪峰水位,且能在較長的預(yù)見期內(nèi)提供水位預(yù)測值;Li等[28]基于序列到序列的長短期記憶網(wǎng)絡(luò),建立15 min尺度的城市徑流預(yù)測模型,該模型根據(jù)不同量級的降雨量輸入預(yù)測洪水來臨時的徑流,結(jié)果表明,當(dāng)輸入為流域部分雨量站數(shù)據(jù)而非全部的雨量站數(shù)據(jù)時,模型的納什效率系數(shù)顯著提升。
水災(zāi)害預(yù)警研究集中于災(zāi)害檢測及洪災(zāi)時空預(yù)警方面。災(zāi)害檢測研究如Amit等[29]運(yùn)用卷積神經(jīng)網(wǎng)絡(luò),開展基于衛(wèi)星圖像的災(zāi)害區(qū)域自動提取研究,訓(xùn)練數(shù)據(jù)集來自日本及泰國的滑坡及洪水災(zāi)害的災(zāi)前航空影像、災(zāi)后航空影像及災(zāi)害偵測地面真值。洪災(zāi)時空預(yù)警涉及洪水過程的時間及空間尺度的模擬,如Hu等[30]建立基于降階模型的長短期記憶網(wǎng)絡(luò),分析洪水時空分布的聚集性,從而預(yù)測海嘯的發(fā)生,確定誘發(fā)海嘯的不確定因素,研究采用的本征正交分解和奇異值分解方法能降低大型空間數(shù)據(jù)集的維數(shù);Alberto等[31]基于長短期記憶網(wǎng)絡(luò),提出全球預(yù)報系統(tǒng)與短期徑流預(yù)報的耦合模型,以全球預(yù)報系統(tǒng)的氣象變量時間序列及流域?qū)傩詾檩斎腩A(yù)測未來3 d逐小時的徑流,結(jié)果表明,該模型能有效模擬峰值流量,能滿足水文預(yù)警需求。
2.1.2深度學(xué)習(xí)在地下水中的應(yīng)用
地表以下土層分為非飽和帶(包氣帶)及飽和帶(飽水帶),包氣帶和飽水帶內(nèi)水體分別對應(yīng)土壤水及地下水。深度學(xué)習(xí)方法主要應(yīng)用于淺層土壤含水量的時空分布預(yù)測及深層地下水的水位及流量模擬問題。
在土壤含水量的時空分布預(yù)測問題上,Song等[32]提出深度信念網(wǎng)絡(luò)與宏觀元胞自動機(jī)結(jié)合的模型,解決土壤含水量的動態(tài)建模問題;Fang等[33-34]基于長短期記憶網(wǎng)絡(luò),由土壤水分衛(wèi)星產(chǎn)品學(xué)習(xí)土壤水分的動態(tài)變化,再現(xiàn)了根區(qū)土壤水分的多年趨勢;Cai等[35]由泰勒圖闡明解釋變量與預(yù)測變量的關(guān)系,基于深度回歸網(wǎng)絡(luò)建立土壤水分預(yù)測模型,結(jié)果表明,雙層的深度回歸模型具有良好的泛化能力和擴(kuò)展性;范嘉智等[36]基于長短期記憶網(wǎng)絡(luò)模型,結(jié)合隨機(jī)采樣學(xué)習(xí)方法,預(yù)測未來6,12,24,48 h的土壤水分,結(jié)果表明,長短期記憶網(wǎng)絡(luò)模型能精準(zhǔn)預(yù)測土壤水分動態(tài);Chen等[37]基于改進(jìn)的神經(jīng)網(wǎng)絡(luò)方法,對2003年以來公認(rèn)的11個微波遙感土壤水分衛(wèi)星產(chǎn)品進(jìn)行數(shù)據(jù)校正和數(shù)據(jù)融合,建立了2003~2018年的全球遙感土壤水分?jǐn)?shù)據(jù)集;Fang等[38]討論了水文時間序列在深度學(xué)習(xí)模型中的數(shù)據(jù)協(xié)同性,結(jié)果表明,由于輸入數(shù)據(jù)的多樣性,區(qū)域化模型比單一研究對象模型更具泛化能力,能學(xué)習(xí)不同研究對象的共性和差異。
對于地下水水位及流量預(yù)測問題,Zhang等[39]運(yùn)用長短期記憶網(wǎng)絡(luò)預(yù)測河套市14個干旱區(qū)的地下水位,結(jié)果表明,該模型對缺乏地質(zhì)資料地區(qū)的地下水位預(yù)測具有較好的峰值擬合效果;汪云等[40]采用多變量輸入的方式,以長短期記憶神經(jīng)網(wǎng)絡(luò)預(yù)測地下水位,結(jié)果表明,基于多變量輸入的長短期記憶網(wǎng)絡(luò)模型能通過少量歷史數(shù)據(jù)準(zhǔn)確預(yù)測未來地下水位的變化情況,并有效降低資料匱乏地區(qū)的預(yù)測誤差;梁澤華等[41]將氣溫、降水量、蒸發(fā)量及鄰近測站的地下水位作為影響因子,建立考慮空間影響的地下水位預(yù)測模型;Jeong等[42]針對地下水位數(shù)據(jù)的噪聲和異常值問題,在長短期記憶網(wǎng)絡(luò)模型的損失函數(shù)中應(yīng)用多種防止“過擬合”的技術(shù),結(jié)果表明,結(jié)合多種防止“過擬合”的長短期記憶網(wǎng)絡(luò)模型能對含有顯著噪聲和大量異常值的數(shù)據(jù)魯棒性進(jìn)行預(yù)測估計;Wang等[43]提出理論指導(dǎo)的深度神經(jīng)網(wǎng)絡(luò),由觀測數(shù)據(jù)及科學(xué)知識(如控制方程、物理約束、工程控制和專家知識)構(gòu)造損失函數(shù),結(jié)果表明,理論指導(dǎo)的神經(jīng)網(wǎng)絡(luò)可為物理模型的偏微分方程提供滿足物理及工程約束的參數(shù)估計結(jié)果。此外,Cromwell等[44]基于深度神經(jīng)網(wǎng)絡(luò),由流域出口站點的流量過程線估計流域地下土層的滲透性,結(jié)果表明,深度神經(jīng)網(wǎng)絡(luò)能通過改進(jìn)參數(shù)估計,準(zhǔn)確捕捉土層滲透率與流量過程線間的非線性關(guān)系,可作為流域地表水與地下水綜合建模的輔助方法。
2.2深度學(xué)習(xí)在水資源管理中的應(yīng)用
2.2.1深度學(xué)習(xí)在水庫調(diào)度中的應(yīng)用
深度學(xué)習(xí)方法在水庫調(diào)度中的應(yīng)用主要包含水庫蓄水和出庫流量決策2個方面。
利用深度學(xué)習(xí)方法研究水庫蓄水問題,主要通過預(yù)報湖泊或水庫的水位實現(xiàn)。如Hrnjica[45]采用長短期記憶網(wǎng)絡(luò)模型及前饋神經(jīng)網(wǎng)絡(luò),研究單個湖泊水位的預(yù)測問題,結(jié)果表明,在預(yù)測效果上,長短期記憶網(wǎng)絡(luò)模型優(yōu)于前饋神經(jīng)網(wǎng)絡(luò)及自回歸滑動平均模型;劉亞新等[46]基于長短期記憶網(wǎng)絡(luò)模型,以三峽水庫及葛洲壩水庫的前期水位及出力等監(jiān)測數(shù)據(jù),預(yù)測葛洲壩水庫的上下游水位,結(jié)果表明,該方法能實現(xiàn)未來3 h上游水位及未來6 h下游水位的準(zhǔn)確預(yù)測;Zhu等[47]基于長短期記憶網(wǎng)絡(luò)模型及前饋神經(jīng)網(wǎng)絡(luò),研究地區(qū)內(nèi)多個湖泊的水位預(yù)測問題,該研究表明,長短期記憶網(wǎng)絡(luò)模型及前饋神經(jīng)網(wǎng)絡(luò)模型均表現(xiàn)較好,兩類模型效果相差不大,可能是因為該數(shù)據(jù)集及模型結(jié)構(gòu)是特例所致。
利用深度學(xué)習(xí)方法研究水庫出庫流量決策問題,主要利用遞歸神經(jīng)網(wǎng)絡(luò)實現(xiàn)。如Zhang等[48]比較了人工神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)和長短期記憶網(wǎng)絡(luò)模型對葛洲壩水庫小時、日、月3個時間尺度的出庫流量模擬效果,總結(jié)了網(wǎng)絡(luò)參數(shù)設(shè)置對模型性能的影響,結(jié)果表明,對于長短期記憶模型,應(yīng)優(yōu)先考慮最大迭代次數(shù)對模型性能的影響,且該模型能較好模擬低值及峰值流量;Zhang等[49]探討了一般的遞歸神經(jīng)網(wǎng)絡(luò)、長短期記憶網(wǎng)絡(luò)、門控循環(huán)單元網(wǎng)絡(luò)對溪洛渡水庫出庫流量的模擬性能,總結(jié)了不同水文周期下出庫流量的影響因素;Yang等[50]利用分布式水文模型預(yù)報水庫入庫流量,并將此入庫流量作為遞歸神經(jīng)網(wǎng)絡(luò)的輸入,模擬不同調(diào)節(jié)能力水庫的出庫流量,討論了遞歸神經(jīng)網(wǎng)絡(luò)在極端入流情況下對多年調(diào)節(jié)水庫出庫流量模擬的適用性,結(jié)果表明,基于遺傳算法的非線性自回歸模型在極端洪水及極端干旱情況下模擬效果最佳,所構(gòu)建的實時調(diào)度系統(tǒng)能解決水庫的短期調(diào)度問題。
2.2.2深度學(xué)習(xí)在水資源配置中的應(yīng)用
水資源的合理配置需將供水管理與需水管理相結(jié)合,深度學(xué)習(xí)在水資源配置中的應(yīng)用主要包含需水預(yù)測及配水管網(wǎng)異常檢測2個方面。
需水預(yù)測研究主要集中于不考慮水文氣象影響的短期需水預(yù)報。如Guo等[51-52]為解決15 min尺度的短時需水預(yù)報問題,分別建立雙向長短期記憶網(wǎng)絡(luò)模型與包含累積誤差校正模塊的門控遞歸單元網(wǎng)絡(luò),考慮到15 min尺度需水量預(yù)測的水文氣象因素的影響較小,故以前期需水量作為模型的單一輸入,預(yù)測未來15 min和未來24 h逐時的需水量,結(jié)果表明,雙向長短期記憶神經(jīng)網(wǎng)絡(luò)模型與門控遞歸單元網(wǎng)絡(luò)模型具有較好的穩(wěn)定性與魯棒性。如Kuehnert等[53]將長短期記憶網(wǎng)絡(luò)模型用于未來24 h的逐時需水量預(yù)測,并對模型系統(tǒng)的在線學(xué)習(xí)及遷移學(xué)習(xí)能力進(jìn)行了評估,結(jié)果表明,由于長短期記憶網(wǎng)絡(luò)模型能夠利用日期信息,因而優(yōu)于一般回歸方法。
深度學(xué)習(xí)法在配水管網(wǎng)異常檢測中是將配水管網(wǎng)的壓力數(shù)據(jù)與管網(wǎng)異常情況建立映射關(guān)系,從而運(yùn)用深度學(xué)習(xí)模型探究管網(wǎng)的異常工況。如Fang等[54]運(yùn)用卷積神經(jīng)網(wǎng)絡(luò)模型解決配水管網(wǎng)的多位點滲漏檢測問題,以配水管網(wǎng)的歷史壓力數(shù)據(jù)為輸入來預(yù)測傳感器壓力,最終判別管網(wǎng)位點是否發(fā)生泄漏;Xu等[55]提出長短期記憶網(wǎng)絡(luò)與深度神經(jīng)網(wǎng)絡(luò)的集成模型,以測量點壓力、供水口壓力及流量的控制信息為輸入,檢測異常工況并預(yù)測供水管網(wǎng)壓力。
2.3深度學(xué)習(xí)在水環(huán)境評價中的應(yīng)用
2.3.1深度學(xué)習(xí)在水質(zhì)分析中的應(yīng)用
深度學(xué)習(xí)方法的提出進(jìn)一步推動了水質(zhì)分析預(yù)測的相關(guān)研究,具體研究問題包含水體特征分類及水質(zhì)指數(shù)預(yù)測問題。
針對水體特征分類問題,Yang等[56]基于堆棧稀疏自動編碼器模型,以水體遙感數(shù)據(jù)為輸入,提取研究區(qū)遙感圖像的像素特征矩陣,最終由特征擴(kuò)展算法識別遙感圖像水體特征;Yu等[57]基于光譜和遙感影像,建立基于logistic回歸分類器的卷積神經(jīng)網(wǎng)絡(luò)模型,對遙感圖像進(jìn)行光譜空間規(guī)律的分層特征提取,最終提高水體特征的分類準(zhǔn)確度。
針對水質(zhì)預(yù)測問題,Solanki等[58]運(yùn)用堆棧去噪自動編碼器及深度信念網(wǎng)絡(luò),進(jìn)行水質(zhì)指數(shù)(融合了pH、溶解氧和濁度等水質(zhì)參數(shù))的無監(jiān)督預(yù)測,結(jié)果表明,堆棧去噪自動編碼器及深度信念網(wǎng)絡(luò)能有效提高水質(zhì)參數(shù)預(yù)測的魯棒性,并且能有效處理數(shù)據(jù)的異常值;Liu等[59]基于長短期記憶網(wǎng)絡(luò),建立飲用水水質(zhì)預(yù)測模型,預(yù)測未來6個月逐月的水質(zhì)參數(shù)變化,結(jié)果表明,該模型能準(zhǔn)確揭示水質(zhì)變化趨勢,但模型只考慮水質(zhì)參數(shù)的一維輸入,沒有考慮水質(zhì)多維影響因素作用下的目標(biāo)參數(shù)變化;Yu等[60]基于小波閾值法去噪與小波均值融合方法,建立考慮數(shù)據(jù)降噪處理的長短期記憶網(wǎng)絡(luò)模型,模擬流域葉綠素a的歷史變化過程,預(yù)測其未來的變化趨勢,并利用地理空間分析法對葉綠素a的時空變化特征進(jìn)行了可視化展示;Liang等[61]基于長短期記憶網(wǎng)絡(luò)模型,以環(huán)境流體動力學(xué)方程生成的6個水質(zhì)變量時間序列為輸入,輸出未來一個月的葉綠素a濃度變化,結(jié)果表明,由于模型輸入與環(huán)境流體動力學(xué)方程有其內(nèi)在聯(lián)系,因此該長短期記憶網(wǎng)絡(luò)模型是帶有物理機(jī)制指導(dǎo)的深度學(xué)習(xí)模型;Zou等[62]基于雙向長短期記憶網(wǎng)絡(luò),提出了一種多時間尺度輸出變量融合的水質(zhì)預(yù)測方法,該方法將短、中、長期3個時間尺度的水質(zhì)指標(biāo)預(yù)測結(jié)果進(jìn)行加權(quán)融合,并采用響應(yīng)曲面(Box-Behnken)實驗設(shè)計方法對超參數(shù)進(jìn)行系統(tǒng)調(diào)整,結(jié)果表明,與單獨使用長短期記憶網(wǎng)絡(luò)或雙向長短期記憶網(wǎng)絡(luò)相比,該融合方法能有效提高水質(zhì)預(yù)測模型的性能;Zhi等[63]基于長短期記憶網(wǎng)絡(luò)模型,運(yùn)用水文氣象數(shù)據(jù)、流域?qū)傩约癈AMELS數(shù)據(jù)集的溶解氧濃度數(shù)據(jù),研究大陸尺度無資料地區(qū)的溶解氧預(yù)測問題,結(jié)果表明,流域水文氣象條件對溶解氧的水平具有主導(dǎo)控制作用,該模型在溶解氧變異性小、水流條件相對穩(wěn)定的地區(qū)表現(xiàn)較好,能克服CAMELS數(shù)據(jù)集中74%流域的溶解氧濃度預(yù)測問題;Song[64]基于卷積神經(jīng)網(wǎng)絡(luò),以土地覆蓋及土壤圖等空間數(shù)據(jù)、降雨及徑流等水文數(shù)據(jù)為輸入,輸出流域的污染物負(fù)荷(生化需氧量及總磷),結(jié)果表明,該模型能有效估算無資料流域的污染物負(fù)荷。
2.3.2深度學(xué)習(xí)在污水排放中的應(yīng)用
聯(lián)合污水管網(wǎng)系統(tǒng)是污水排放的重要輸送路徑,深度學(xué)習(xí)方法在污水排放中的應(yīng)用包含聯(lián)合污水管網(wǎng)的流量監(jiān)測、污水水位預(yù)測及故障檢測等。
針對污水管網(wǎng)的流量及水位預(yù)測問題,Zhang等[65-66]基于長短期記憶網(wǎng)絡(luò)和門控遞歸單元網(wǎng)絡(luò),建立挪威德拉門市Muusfiya污水處理廠的污水流量預(yù)測模型,結(jié)果表明,長短期記憶網(wǎng)絡(luò)模型能捕獲Muusfiya污水處理廠的進(jìn)水流量趨勢及峰值。另外,他還預(yù)測了未來多個預(yù)見期的管網(wǎng)污水水位,結(jié)果表明,長短期記憶和門控遞歸單元能捕捉污水水位的突變情況,并顯著緩解峰值預(yù)測的滯時問題,具有良好的多步預(yù)測能力。Karimi等[67]量化了地下水?dāng)?shù)據(jù)在污水處理系統(tǒng)進(jìn)水流量預(yù)測中的價值,基于長短期記憶網(wǎng)絡(luò)模型,構(gòu)建考慮城市不同空間位置信息的污水管網(wǎng)進(jìn)水流量預(yù)測,并基于重采樣方法應(yīng)對100 a一遇降雨情況的進(jìn)水流量樣本較少的問題,結(jié)果表明,在模型中結(jié)合地下水?dāng)?shù)據(jù)及重采樣方法能有效地提高模型預(yù)測性能。
此外,部分研究開展了污水處理廠的故障檢測工作,如Harrou等[68]構(gòu)建了深度信念網(wǎng)絡(luò)-支持向量機(jī)的無監(jiān)督學(xué)習(xí)模型,利用深度信念網(wǎng)絡(luò)對污水處理廠數(shù)據(jù)復(fù)雜特征進(jìn)行提取,利用支持向量機(jī)的預(yù)測能力分離正常特征和異常特征,從而檢測污水處理系統(tǒng)的故障,結(jié)果表明,該模型能夠?qū)ξ鬯幚韽S的異常情況進(jìn)行有效預(yù)警。
3難點與展望
目前,深度學(xué)習(xí)方法在水文領(lǐng)域已取得不少研究成果,但總體上還處于起步階段。由于水文監(jiān)測數(shù)據(jù)多為時間序列數(shù)據(jù),大部分研究集中于對單站點時間序列數(shù)據(jù)的預(yù)測與模擬,主要通過與傳統(tǒng)機(jī)器學(xué)習(xí)方法進(jìn)行效果對比,驗證深度學(xué)習(xí)方法在解決水文問題中的可行性,采用的深度神經(jīng)網(wǎng)絡(luò)主要是卷積神經(jīng)網(wǎng)絡(luò)與長短期記憶網(wǎng)絡(luò),對生成對抗網(wǎng)絡(luò)、門控遞歸單元網(wǎng)絡(luò)等架構(gòu)應(yīng)用較少。
為此,需要跟蹤深度學(xué)習(xí)技術(shù)的發(fā)展趨勢,根據(jù)水文領(lǐng)域存在問題的特點,完善和發(fā)展深度學(xué)習(xí)方法,逐步形成解決水文領(lǐng)域關(guān)鍵問題的深度學(xué)習(xí)方法。
3.1深度學(xué)習(xí)應(yīng)用難點
3.1.1模型訓(xùn)練數(shù)據(jù)方面
從本質(zhì)上來看,深度學(xué)習(xí)方法是“數(shù)據(jù)饑餓型”模型,研究依賴于大量精細(xì)數(shù)據(jù)。目前,水文領(lǐng)域缺乏統(tǒng)一的數(shù)據(jù)存儲與共享系統(tǒng)[2],故難以獲得高質(zhì)量的數(shù)據(jù)集。當(dāng)訓(xùn)練數(shù)據(jù)較少時,深度學(xué)習(xí)模型能被有限制條件及多參數(shù)的物理模型或結(jié)合變量先驗分布的傳統(tǒng)機(jī)器學(xué)習(xí)模型替代[47]。未來應(yīng)構(gòu)建大尺度的水文信息數(shù)據(jù)庫,通過實測數(shù)據(jù)及派生數(shù)據(jù)的收集,運(yùn)用各類深度學(xué)習(xí)算法,建立起基于深度學(xué)習(xí)算法的大數(shù)據(jù)水文預(yù)報模型,實現(xiàn)水文精準(zhǔn)預(yù)報。
3.1.2模型超參數(shù)優(yōu)化方面
在深度學(xué)習(xí)方法中,深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)(隱含層數(shù)量、隱含層節(jié)點數(shù)、學(xué)習(xí)率、最大訓(xùn)練次數(shù)等)的確定對模型的性能極為關(guān)鍵,如何確定最優(yōu)化的結(jié)構(gòu)是在當(dāng)前研究中需解決的問題[25]。
3.1.3模型可解釋性方面
從廣義上考慮,深度學(xué)習(xí)模型仍屬于“黑箱”模型,難以深入分析模型性能優(yōu)異的內(nèi)在原因,無法得知物理因子間的作用過程,進(jìn)而導(dǎo)致研究結(jié)果難以使人信服。目前,已有研究[19]通過分析長短期記憶網(wǎng)絡(luò)模型內(nèi)部單元的細(xì)胞狀態(tài)值變化來顯示深度學(xué)習(xí)模型與積雪融化等物理過程的內(nèi)在聯(lián)系,但如何進(jìn)一步分析模型與氣象因素、水文特征的關(guān)系,并完善可視化過程,以揭示模型本質(zhì),仍需要進(jìn)一步的探索。
3.1.4模型結(jié)果與物理規(guī)律不符方面
深度學(xué)習(xí)模型能建立解釋變量與響應(yīng)變量的映射關(guān)系,但僅基于歷史數(shù)據(jù),未考慮物理規(guī)律及過程,在某些特定科學(xué)問題的研究中,易導(dǎo)致模型結(jié)果出現(xiàn)異常值,難以與物理規(guī)律保持一致。已有研究[69]提出了幾種有機(jī)結(jié)合物理模型與數(shù)據(jù)驅(qū)動模型的方法,如在提供觀測數(shù)據(jù)標(biāo)簽時,加入理論知識(由物理模型提取的控制方程、邊界條件)限制解集空間,或基于物理模型模擬結(jié)果對深度神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)訓(xùn)練,從而建立物理指導(dǎo)的深度學(xué)習(xí)模型。在深度學(xué)習(xí)模型中引入對物理過程的理解,能增加模型的可解釋性,使計算更加高效,存儲更加穩(wěn)定,并與物理規(guī)律保持一致。
3.1.5模型泛化能力方面
針對特定研究對象構(gòu)建的深度學(xué)習(xí)模型泛化能力有限的問題,目前已衍生出遷移學(xué)習(xí)方法,以提升深度學(xué)習(xí)模型的泛化能力[70]。遷移學(xué)習(xí)方法能將預(yù)訓(xùn)練模型應(yīng)用到另一個相似的任務(wù)中,若能在數(shù)據(jù)豐富地區(qū)建立水文信息數(shù)據(jù)庫,應(yīng)用深度學(xué)習(xí)方法,自動化學(xué)習(xí)數(shù)據(jù)庫中多種研究對象的特征,并將此深度學(xué)習(xí)模型遷移應(yīng)用至少資料或無資料地區(qū),能夠給無資料地區(qū)的水文水資源分析計算提供新思路。
3.2展 望
在氣候變化及人類活動影響的背景下,水文過程的一致性受到影響,人類對水文物理過程的內(nèi)部結(jié)構(gòu)、邊界條件、影響因素尚未充分了解,因此,基于物理過程的模型難以處理非線性與多尺度、多因素作用的問題。深度學(xué)習(xí)模型未涉及與物理過程有關(guān)的參數(shù),但其僅基于數(shù)據(jù)開展模型訓(xùn)練,難以考慮物理過程及規(guī)律,因此,可考慮將深度學(xué)習(xí)與水文物理模型有機(jī)結(jié)合,以構(gòu)建適用于解決水文水資源問題的集成模型。此外,若能實現(xiàn)深度學(xué)習(xí)模型可視化并開展可解釋性研究,深度學(xué)習(xí)方法不失為一種可從結(jié)果推斷模型驅(qū)動力、量化物理因素未知相互作用的方法。深度學(xué)習(xí)方法可望在水文精準(zhǔn)預(yù)報、無資料地區(qū)水文研究等方面提供新途徑。深度學(xué)習(xí)并非機(jī)器學(xué)習(xí)發(fā)展的終點,為適應(yīng)不同的應(yīng)用場景,深度學(xué)習(xí)領(lǐng)域已衍生出小樣本元學(xué)習(xí)及遷移學(xué)習(xí)、強(qiáng)化學(xué)習(xí)、對抗學(xué)習(xí)等技術(shù),相信在未來,更多的研究將集中于水文領(lǐng)域的關(guān)鍵問題,以深度學(xué)習(xí)方法為動力促進(jìn)水文領(lǐng)域的建設(shè)與發(fā)展。
參考文獻(xiàn):
[1]MONTANARI A Y G S H."Panta Rhei—Everything Flows":Change in hydrology and society—The IAHS Scientific Decade 2013-2022[J].Hydrological Sciences Journal,2013,58(6):1256-1275.
[2]陳軍飛,鄧夢華,王慧敏.水利大數(shù)據(jù)研究綜述[J].水科學(xué)進(jìn)展,2017,28(4):622-631.
[3]HINTON G E,OSINDERO S,TEH Y.A fast learning algorithm for deep belief nets[J].Neural Computation,2006,18(7):1527-1554.
[4]RUSSELL,STUART J.人工智能[M].北京:清華大學(xué)出版社,2011.
[5]周志華.機(jī)器學(xué)習(xí)及其應(yīng)用-2007[M].北京:清華大學(xué)出版社,2007.
[6]LECUN Y,BENGIO Y,HINTON G.Deep learning[J].Nature,2015,521(7553):436-444.
[7]TADDY M.Distributed multinomial regression[J].Annals of Applied Statistics,2015,9(3):1394-1414.
[8]HAIGH P A,GHASSEMLOOY Z,RAJBHANDARI S,et al.Visible Light Communications:170 Mb/s Using an Artificial Neural Network Equalizer in a Low Bandwidth White Light Configuration[J].Journal of Lightwave Technology,2014,32(9):170-181.
[9]SHI X,GAO Z,LAUSEN L,et al.Deep Learning for Precipitation Nowcasting:A Benchmark and A New Model[M]∥Guyon I,Luxburg U V,Bengio S,et al.Advances in Neural Information Processing Systems,2017.
[10]ZHANG P,ZHANG L,LEUNG H,et al.A deep-learning based precipitation forecasting approach using multiple environmental factors[M]∥Karypis G,Zhang J.IEEE International Congress on Big Data.2017:193-200.
[11]CHEN L,CAO Y,MA L,et al.A deep learning-based methodology for precipitation nowcasting with radar[J].Earth and Space Science,2020,7.
[12]KUMAR D,SINGH A,SAMUI P,et al.Forecasting monthly precipitation using sequential modelling[J].Hydrological Sciences Journal-Journal DES Sciences Hydrologiques,2019,64(6):690-700.
[13]YEN M,LIU D,HSIN Y,et al.Application of the deep learning for the prediction of rainfall in Southern Taiwan[J].Scientific Reports,2019,9:12774.
[14]SCHER S,MESSORI G.Predicting weather forecast uncertainty with machine learning[J].Quarterly Journal of the Royal Meteorological Society,2018,144(717B):2830-2841.
[15]WANG Q,HUANG J,LIU R,et al.Sequence-based statistical downscaling and its application to hydrologic simulations based on machine learning and big data[J].Journal of Hydrology,2020,586:124875.
[16]XIANG Z,YAN J,DEMIR I.A rainfall-runoff model with LSTM-based sequence-to-sequence learning[J].Water Resources Research,2020,56(1):e2019WR025326.
[17]KAO I,ZHOU Y,CHANG L,et al.Exploring a long short-term memory based encoder-decoder framework for multi-step-ahead flood forecasting[J].Journal of Hydrology,2020,583.
[18]LIU Y,ZHANG T,KANG A,et al.Research on runoff simulations using deep-learning methods[J].Sustainability,2021,13(3):580-591.
[19]KRATZERT F,KLOTZ D,BRENNER C,et al.Rainfall-runoff modelling using Long Short-Term Memory(LSTM)networks[J].Hydrology and Earth System Sciences,2018,22(11):6005-6022.
[20]KRATZERT F,KLOTZ D,SHALEV G,et al.Towards learning universal,regional,and local hydrological behaviors via machine learning applied to large-sample datasets[J].Hydrology and Earth System Sciences,2019,23(12):5089-5110.
[21]FENG D,F(xiàn)ANG K,SHEN C.Enhancing streamflow forecast and extracting insights using long-short term memory networks with data integration at continental scales[J].Water Resources Research,2020,56.
[22]BAI Y,SUN Z,ZENG B,et al.Reservoir inflow forecast using a clustered random deep fusion approach in the Three Gorges Reservoir,China[J].Journal of Hydrologic Engineering,2018,23:970-981.
[23]LI C,BAI Y,ZENG B.Deep feature learning architectures for daily reservoir inflow forecasting[J].Water Resources Management,2016,30(14):5145-5161.
[24]ZUO G,LUO J,WANG N,et al.Decomposition ensemble model based on variational mode decomposition and long short-term memory for streamflow forecasting[J].Journal of Hydrology,2020,585.
[25]YUAN X,CHEN C,LEI X,et al.Monthly runoff forecasting based on LSTM-ALO model[J].Stochastic Environmental Research and Risk Assessment,2018,32(8):2199-2212.
[26]WIDIASARI I R,NUGOHO L E,WIDYAWAN,et al.Context-based Hydrology Time Series Data for A Flood Prediction Model Using LSTM[M]∥Facta M,Riyadi M A,Widianto E D,et al.2018:385-390.
[27]WANG J,LIN G,CHANG M,et al.Real-time water-level forecasting using dilated causal convolutional neural networks[J].Water Resources Management,2019,33(11):3759-3780.
[28]LI W,KIAGHADI A,DAWSON C.High temporal resolution rainfall-runoff modeling using long-short-term-memory(LSTM)networks[J].Neural Computing & Applications,2021,33(4):1261-1278.
[29]AMIT S N K B,SHIRAISHI S,INOSHITA T,et al.Analysis of satellite images for disaster detection[M]∥IEEE International Symposium on Geoscience and Remote Sensing IGARSS.2016:5189-5192.
[30]HU R,F(xiàn)ANG F,PAIN C C,et al.Rapid spatio-temporal flood prediction and uncertainty quantification using a deep learning method[J].Journal of Hydrology,2019,575:911-920.
[31]DE LA FUENTE A,MERUANE V,MERUANE C.Hydrological early warning system based on a deep learning runoff model coupled with a meteorological forecast[J].Water,2019,11:1808.
[32]SONG X,ZHANG G,LIU F,et al.Modeling spatio-temporal distribution of soil moisture by deep learning-based cellular automata model[J].Journal of Arid Land,2016,8(5):734-748.
[33]FANG K,SHEN C,KIFER D,et al.Prolongation of SMAP to Spatiotemporally Seamless Coverage of Continental US Using a Deep Learning Neural Network[J].Geophysical Research Letters,2017,44(21):11030-11039.
[34]FANG K,PAN M,SHEN C.The Value of SMAP for Long-Term Soil Moisture Estimation With the Help of Deep Learning[J].IEEE Transactions On Geoscience And Remote Sensing,2019,57(4):2221-2233.
[35]CAI Y,ZHENG W,ZHANG X,et al.Research on soil moisture prediction model based on deep learning[J].Plos One,2019,14.
[36]范嘉智,譚詩琪,羅宇,等.長短期記憶神經(jīng)網(wǎng)絡(luò)在多時次土壤水分動態(tài)預(yù)測中的應(yīng)用[J].土壤,2021,53(1):209-216.
[37]CHEN Y,F(xiàn)ENG X,F(xiàn)U B.An improved global remote-sensing-based surface soil moisture(RSSSM)dataset covering 2003-2018[J].Earth System Science Data,2021,13(1):1-31.
[38]FANG K,KIFER D,LAWSON K,et al.The data synergy effects of time-series deep learning models in hydrology[EB/OL].doi:10.1029/2019WR025326.
[39]ZHANG J,ZHU Y,ZHANG X,et al.Developing a Long Short-Term Memory(LSTM)based model for predicting water table depth in agricultural areas[J].Journal of Hydrology,2018,561:918-929.
[40]汪云,楊海博,徐建,等.基于長短期記憶神經(jīng)網(wǎng)絡(luò)模型的地下水水位預(yù)測研究[J].節(jié)水灌溉,2019(10):73-77.
[41]梁澤華,劉亞平,胡宏昌.基于LSTM神經(jīng)網(wǎng)絡(luò)的地下水位時空模擬[C]∥ 2020中國環(huán)境科學(xué)學(xué)會科學(xué)技術(shù)年會論文集(第三卷).南京,2020.
[42]JEONG J,PARK E,CHEN H,et al.Estimation of groundwater level based on the robust training of recurrent neural networks using corrupted data[J].Journal of Hydrology,2020,582:1170-1177.
[43]WANG N,ZHANG D,CHANG H,et al.Deep learning of subsurface flow via theory-guided neural network[J].Journal of Hydrology,2020,584:950-964.
[44]CROMWELL E,SHUAI P,JIANG P,et al.Estimating Watershed Subsurface Permeability From Stream Discharge Data Using Deep Neural Networks[J].Frontiers in Earth Science,2021,9:1120-1134.
[45]HRNJICA B,BONACCI O.Lake Level Prediction using Feed Forward and Recurrent Neural Networks[J].Water Resources Management,2019,33(7):2471-2484.
[46]劉亞新,樊啟祥,尚毅梓,等.基于LSTM神經(jīng)網(wǎng)絡(luò)的水電站短期水位預(yù)測方法[J].水利水電科技進(jìn)展,2019,39(2):56-60.
[47]ZHU S,HRNJICA B,PTAK M,et al.Forecasting of water level in multiple temperate lakes using machine learning models[J].Journal of Hydrology,2020,585.
[48]ZHANG D,LIN J,PENG Q,et al.Modeling and simulating of reservoir operation using the artificial neural network,support vector regression,deep learning algorithm[J].Journal of Hydrology,2018,565:720-736.
[49]ZHANG D,PENG Q,LIN J,et al.Simulating reservoir operation using a recurrent neural network algorithm[J].Water,2019,11:865.
[50]YANG S,YANG D,CHEN J,et al.Real-time reservoir operation using recurrent neural networks and inflow forecast from a distributed hydrological model[J].Journal of Hydrology,2019,579:124229.
[51]郭冠呈,劉書明,李俊禹,等.基于雙向長短時神經(jīng)網(wǎng)絡(luò)的水量預(yù)測方法研究[J].給水排水,2018,54(3):123-126.
[52]GUO G,LIU S,WU Y,et al.Short-Term Water Demand Forecast Based on Deep Learning Method[J].Journal of Water Resources Planning and Management,2018,144.
[53]KUEHNERT C,GONUGUNTLA N M,KRIEG H,et al.Application of LSTM networks for water demand prediction in optimal pump control[J].Water,2021,13:6445.
[54]FANG Q,ZHANG J,XIE C,et al.Detection of multiple leakage points in water distribution networks based on convolutional neural networks[J].Water Supply,2019,19(8):2231-2239.
[55]XU Z,YING Z,LI Y,et al.Pressure prediction and abnormal working conditions detection of water supply network based on LSTM[J].Water Supply,2020,20(3):963-974.
[56]YANG L,TIAN S,YU L,et al.Deep learning for extracting water body from landsat imagery[J].International Journal of Innovative Computing Information And Control,2015,11(6):1913-1929.
[57]YU L,WANG Z,TIAN S,et al.Convolutional neural networks for water body extraction from landsat imagery[J].International Journal of Computational Intelligence And Applications,2017,16.
[58]SOLANKI A,AGRAWAL H,KHARE K.Predictive analysis of water quality parameters using deep learning[J].International Journal of Computer Applications,2015,125(9):29-34.
[59]LIU P,WANG J,SANGAIAH A K,et al.Analysis and Prediction of Water Quality Using LSTM Deep Neural Networks in IoT Environment[J].Sustainability,2019,11.
[60]YU Z,YANG K,LUO Y,et al.Spatial-temporal process simulation and prediction of chlorophyll-a concentration in Dianchi Lake based on wavelet analysis and long-short term memory network[J].Journal of Hydrology,2020,582.
[61]LIANG Z,ZOU R,CHEN X,et al.Simulate the forecast capacity of a complicated water quality model using the long short-term memory approach[J].Journal of Hydrology,2020,581.
[62]ZOU Q,XIONG Q,LI Q,et al.A water quality prediction method based on the multi-time scale bidirectional long short-term memory network[J].Environmental Science and Pollution Research,2020,27(14):16853-16864.
[63]ZHI W,F(xiàn)ENG D,TSAI W,et al.From Hydrometeorology to River Water Quality:Can a Deep Learning Model Predict Dissolved Oxygen at the Continental Scale?[J].Environmental Science & Technology,2021,55(4):2357-2368.
[64]SONG C M.Application of Convolution Neural Networks and Hydrological Images for the Estimation of Pollutant Loads in Ungauged Watersheds[J].Water,2021,13(2):17-24.
[65]ZHANG D,HOLLAND E S,LINDHOLM G,et al.Hydraulic modeling and deep learning based flow forecasting for optimizing inter catchment wastewater transfer[J].Journal of Hydrology,2018,567:792-802.
[66]ZHANG D,LINDHOLM G,RATNAWEERA H.Use long short-term memory to enhance Internet of Things for combined sewer overflow monitoring[J].Journal of Hydrology,2018,556:409-418.
[67]KARIMI H S,NATARAJAN B,RAMSEY C L,et al.Comparison of learning-based wastewater flow prediction methodologies for smart sewer management[J].Journal of Hydrology,2019,577:701-714.
[68]HARROU F,DAIRI A,SUN Y,et al.Statistical monitoring of a wastewater treatment plant:A case study.[J].Journal of Environmental Management,2018,223:540-561.
[69]KARPATNE A,ATLURI G,F(xiàn)AGHMOUS J H,et al.Theory-Guided Data Science:A New Paradigm for Scientific Discovery from Data[J].IEEE Transactions on Knowledge & Data Engineering,2017,(99):1-15.
[70]MA K,F(xiàn)ENG D,LAWSON K,et al.Transferring hydrologic data across continents-leveraging US data to improve hydrologic prediction in other countries[EB/OL](2020-09-02).http:∥doi.org/10.1002/essoar.10504132.1
(編輯:鄭 毅)
Abstract:With the rapid development of modern hydrological monitoring technology,massive hydrological data are obtained,which brings opportunities and challenges for deep learning in hydrology and water resources.This paper summarizes the research progress of deep learning in hydrology and water resources from three aspects:hydrological simulation,water resources management and water environment evaluation.The advantages of deep learning methods and their application difficulties are:deep learning method does not need to construct a physical model and can automatically recognize data characteristics,and has significant advantages in the problems without a clear physical mechanism;however,it faces defects such as lacking model training data,subjectivity in super-parameter determination,insufficient interpretability,inconsistency with physics laws and lacking generalization ability.At last,we propose prospects of deep learning in hydrology and water resources filed:combining deep learning and hydro-physical mechanism model to integrate classical hydrological laws and doing application researches such as transfer learning,reinforcement learning and adversarial learning to better utilize the deep learning method.
Key words:hydrology and water resources;deep learning;data mining;data driving model;physical mechanism model