• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看

      ?

      基于門(mén)控循環(huán)單元和圖神經(jīng)網(wǎng)絡(luò)的PM2.5預(yù)測(cè)

      2022-05-12 09:25:22王彤彤張靜怡
      現(xiàn)代計(jì)算機(jī) 2022年5期
      關(guān)鍵詞:空間信息神經(jīng)網(wǎng)絡(luò)維度

      曹 旺,王彤彤,張靜怡

      (四川大學(xué)電子信息學(xué)院,成都 610065)

      0 引言

      隨著科學(xué)技術(shù)的迅速發(fā)展,人類創(chuàng)造了空前豐富的物質(zhì)財(cái)富。但與此同時(shí)也導(dǎo)致自然資源的過(guò)度消耗以及污染物的大量排放,致使空氣污染的問(wèn)題加劇。空氣污染對(duì)人體的身體健康有極大的危害,而空氣污染物中以PM2.5 為主。PM2.5 是指大氣中直徑小于或等于2.5 μm的顆粒物。

      雖然PM2.5 只是地球大氣成分中含量很少的組分,但它對(duì)空氣質(zhì)量和能見(jiàn)度等有重要的影響。與較粗的大氣顆粒物相比,PM2.5 粒徑小,面積大,活性強(qiáng),易附帶有毒有害物質(zhì),且在大氣中的停留時(shí)間長(zhǎng)、輸送距離遠(yuǎn),因而對(duì)人體健康和大氣環(huán)境質(zhì)量的影響很大。因此,實(shí)現(xiàn)對(duì)PM2.5 濃度進(jìn)行有效的預(yù)測(cè)已成為熱點(diǎn)研究方向。然而,空氣質(zhì)量的變化受多種復(fù)雜因素的影響,包括氣候變化、交通情況、城市空間分布等。因此,我們需要考慮相關(guān)的地理信息(如距離、海拔),大氣信息(如溫度、濕度、風(fēng)向),以及有相關(guān)產(chǎn)能結(jié)構(gòu)的城市區(qū)域。

      與已有的氣象預(yù)報(bào)相比,PM2.5的準(zhǔn)確預(yù)測(cè)較為困難。近幾年。國(guó)內(nèi)外對(duì)PM2.5 的預(yù)測(cè)進(jìn)行了許多嘗試。如Huang等使用基于經(jīng)驗(yàn)?zāi)B(tài)分解的GRU 神經(jīng)網(wǎng)絡(luò)對(duì)地面監(jiān)測(cè)點(diǎn)PM2.5 濃度預(yù)測(cè)。Zhou 等利用GRU 方法對(duì)大氣污染物濃度進(jìn)行預(yù)測(cè),通過(guò)GRU模型,根據(jù)春、夏、秋、冬四個(gè)季節(jié)訓(xùn)練4個(gè)模型,并利用相應(yīng)的測(cè)試集評(píng)價(jià)4個(gè)模型對(duì)相應(yīng)季節(jié)PM2.5的預(yù)測(cè)效果,通過(guò)反復(fù)實(shí)驗(yàn)和不斷調(diào)整模型參數(shù),分析比較了模型的預(yù)測(cè)誤差和預(yù)測(cè)精度,驗(yàn)證了該方法的可行性和優(yōu)越性。Tao 等利用一維卷積網(wǎng)絡(luò)和雙向GRU的深度學(xué)習(xí)模型對(duì)空氣污染進(jìn)行預(yù)測(cè),它結(jié)合了一維卷積神經(jīng)網(wǎng)絡(luò)和雙向GRU 神經(jīng)網(wǎng)絡(luò)。利用UCI機(jī)器學(xué)習(xí)庫(kù)中的北京PM2.5數(shù)據(jù)集進(jìn)行了案例分析。將CBGRU 模型的預(yù)測(cè)結(jié)果與傳統(tǒng)模型進(jìn)行了比較,結(jié)果表明CBGRU 模型的預(yù)測(cè)誤差更小,預(yù)測(cè)性能更好。

      Xie 等利用CNN-GRU 對(duì)PM2.5 進(jìn)行的預(yù)測(cè)研究,基于卷積神經(jīng)網(wǎng)絡(luò)(CNN)和門(mén)控循環(huán)單元(GRU),提出一種能夠自動(dòng)提取多站多模態(tài)空氣質(zhì)量數(shù)據(jù)時(shí)空特征的PM2.5 預(yù)測(cè)模型。并建立了基于該模型的PM2.5 預(yù)測(cè)系統(tǒng)。該系統(tǒng)模型首先以無(wú)錫城區(qū)不同監(jiān)測(cè)站的空氣質(zhì)量因子和天氣因子時(shí)間序列構(gòu)建的多個(gè)二維(2D)矩陣為輸入,自動(dòng)提取并融合具有CNN 結(jié)構(gòu)的多站多模態(tài)數(shù)據(jù)的局部變化趨勢(shì)和空間相關(guān)特征。從CNN 得到的結(jié)果輸入到GRU 網(wǎng)絡(luò),以進(jìn)一步捕獲空氣質(zhì)量數(shù)據(jù)的長(zhǎng)期依賴特征。分析比較與傳統(tǒng)模型的預(yù)測(cè)誤差,驗(yàn)證了該方法的可行性和優(yōu)越性。

      然而,現(xiàn)有的預(yù)測(cè)方法存在許多不足之處?;贕RU 的方法可以考慮一定程度的時(shí)間依賴性和空間依賴性,但無(wú)法精確捕捉測(cè)試站點(diǎn)之間的位置關(guān)系,因而無(wú)法精準(zhǔn)預(yù)測(cè)PM2.5 的傳輸擴(kuò)散。再如CNN-GRU,它只能處理基于圖像的輸入數(shù)據(jù),不能專門(mén)對(duì)于空間依賴性建模,因而無(wú)法綜合考慮到相關(guān)的地理信息和大氣信息。

      不同于以上的方法,較為有效的預(yù)測(cè)方式是利用氣象數(shù)據(jù)以及空間信息中城市的互相影響,因此建立有效的圖結(jié)構(gòu)作為輸入有著重大的意義。為了處理基于圖的數(shù)據(jù),我們構(gòu)建了圖神經(jīng)網(wǎng)絡(luò)與循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)合的方法,將城市間的風(fēng)向表征為圖的連邊。不僅能夠利用GNN 網(wǎng)絡(luò)學(xué)習(xí)城市之間空間信息的依賴關(guān)系,在利用GNN 網(wǎng)絡(luò)對(duì)節(jié)點(diǎn)空間信息進(jìn)行更新的基礎(chǔ)上,能夠利用GRU 網(wǎng)絡(luò)捕捉學(xué)習(xí)PM2.5 在時(shí)間維度上的長(zhǎng)期依賴特征。結(jié)合這兩個(gè)模塊的網(wǎng)絡(luò)模型有助于對(duì)數(shù)據(jù)時(shí)序上的特征和空間上的領(lǐng)域特征信息進(jìn)行訓(xùn)練學(xué)習(xí),以此實(shí)現(xiàn)有效的預(yù)測(cè)。

      但注意到GRU 中的輸入和之前的狀態(tài)只在門(mén)中進(jìn)行信息交互,而在進(jìn)入模塊之前缺少信息溝通,這可能會(huì)導(dǎo)致上下文信息在一定程度上的缺失。因此本文的工作在于對(duì)于傳統(tǒng)的GRU 網(wǎng)絡(luò),將輸入與上一步隱藏層的輸出進(jìn)行相互調(diào)制,使GRU 的輸入和之前的狀態(tài)在進(jìn)入模塊之前迭代一定的次數(shù)進(jìn)行信息交互,提升信息上下文的聯(lián)系,使GRU 的轉(zhuǎn)移函數(shù)受到上下文的影響作用,以期望加強(qiáng)網(wǎng)絡(luò)建模的性能以及泛化性。對(duì)于真實(shí)數(shù)據(jù)集,我們?cè)O(shè)置了改進(jìn)版網(wǎng)絡(luò)與原網(wǎng)絡(luò)的比較實(shí)驗(yàn),對(duì)于真實(shí)數(shù)據(jù)集進(jìn)行建模測(cè)試,證明了所提出的方法相比于先前網(wǎng)絡(luò)在預(yù)測(cè)準(zhǔn)確度方面獲得了顯著的提升,從而證明了改進(jìn)的GRU的有效性。

      1 圖神經(jīng)網(wǎng)絡(luò)

      圖神經(jīng)網(wǎng)絡(luò)是一種直接作用于圖結(jié)構(gòu)上的神經(jīng)網(wǎng)絡(luò)。由于其可以對(duì)圖節(jié)點(diǎn)之間依賴關(guān)系進(jìn)行建模的強(qiáng)大功能,得到了越來(lái)越廣泛的應(yīng)用。圖網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

      圖1 圖網(wǎng)絡(luò)結(jié)構(gòu)

      我們使用=(,,)表示圖結(jié)構(gòu),其中表示圖結(jié)構(gòu)中的城市節(jié)點(diǎn),表示城市節(jié)點(diǎn)之間相互作用的邊,表示城市節(jié)點(diǎn)之間的鄰接矩陣。我們將圖結(jié)構(gòu)的節(jié)點(diǎn)數(shù)據(jù)表示為∈R ,其中是圖網(wǎng)絡(luò)中的節(jié)點(diǎn)個(gè)數(shù),是節(jié)點(diǎn)的全部特征信息。包含節(jié)點(diǎn)的PM2.5數(shù)據(jù)和其他輔助信息,將的PM2.5 數(shù)據(jù)信息記作X∈R ,將的輔助信息記作X∈R ,所以= P+P。我們將時(shí)刻的圖數(shù)據(jù)表示為X,我們使用先前個(gè)小時(shí)的數(shù)據(jù)去預(yù)測(cè)未來(lái)個(gè)小時(shí)的數(shù)據(jù)。公式表述為:

      在每次的圖結(jié)構(gòu)數(shù)據(jù)更新迭代中,每個(gè)節(jié)點(diǎn)通過(guò)圖結(jié)構(gòu)聚合相鄰節(jié)點(diǎn)的信息進(jìn)行更新。通常聚合信息的方法包括求和、平均、最大值或基于注意力機(jī)制的方法。

      根據(jù)圖1 的結(jié)構(gòu),網(wǎng)絡(luò)的每次迭代過(guò)程中,圖結(jié)構(gòu)中的每個(gè)節(jié)點(diǎn)根據(jù)其鄰居的特征信息利用聚合函數(shù)更新自身的節(jié)點(diǎn)信息,處理過(guò)程參考圖2。與只考慮節(jié)點(diǎn)信息的GCN 不同,這里我們采用GNN 來(lái)傳遞城市節(jié)點(diǎn)之間的信息,考慮了任意相關(guān)節(jié)點(diǎn)對(duì)于目標(biāo)節(jié)點(diǎn)的影響,從而學(xué)習(xí)到了各個(gè)城市節(jié)點(diǎn)的PM2.5 在風(fēng)向影響下的相互傳輸,得到了城市之間的PM2.5 空間水平擴(kuò)散的情況。

      圖2 圖神經(jīng)網(wǎng)絡(luò)節(jié)點(diǎn)更新示意圖

      2 循環(huán)神經(jīng)網(wǎng)絡(luò)

      2.1 門(mén)控循環(huán)單元

      循環(huán)神經(jīng)網(wǎng)絡(luò)(recurrent neural network,RNN)是一種隨著時(shí)間維度方向重復(fù)調(diào)用的網(wǎng)絡(luò)結(jié)構(gòu),會(huì)記憶之前的信息,刻畫(huà)當(dāng)前輸出與之前信息的依賴性。在例如語(yǔ)音識(shí)別,文字翻譯等領(lǐng)域具有廣泛應(yīng)用。

      圖3 中,表示輸入層,表示隱藏層,表示輸出層。表示隱藏層和輸出層之間的權(quán)重矩陣,表示輸入層和隱藏層之間的權(quán)重矩陣,表示前一時(shí)刻的隱藏層和當(dāng)前時(shí)刻的隱藏層之間的權(quán)重矩陣。網(wǎng)絡(luò)在時(shí)刻接收到輸入x之后,隱藏層的值是s,輸出值是o。且s的值不僅僅取決于x,還取決于s。RNN 的計(jì)算方法如下:

      圖3 RNN網(wǎng)絡(luò)結(jié)構(gòu)示意圖

      其中,式(2)的g為隱藏層到輸出層的激活函數(shù),式(3)中的f為隱藏層到隱藏層的激活函數(shù)。

      雖然RNN可以獲取并處理時(shí)間序列的全部信息,但隨著訓(xùn)練層數(shù)的增加,對(duì)輸出起重要作用的還是最后輸入的信息,而更早的序列信息只能起到輔助作用,這也就是會(huì)出現(xiàn)遺忘早期信息的問(wèn)題。為了解決RNN 存在的問(wèn)題,人們引入了門(mén)控機(jī)制。

      Hochreiter 等于1997年首次提出了長(zhǎng)短記憶單元(long-short term memory,LSTM),LSTM解決了標(biāo)準(zhǔn)RNN 中的梯度消失以及梯度爆炸問(wèn)題,并同時(shí)保留序列的長(zhǎng)期信息,LSTM 在長(zhǎng)期的發(fā)展中也有了不少改進(jìn),如GRU,Peephole LSTM、 BI-LSTM、 ConvLSTM 以 及 Mogrifier LSTM 等。與LSTM 門(mén)控機(jī)制相似,門(mén)控循環(huán)單元(gated recurrent unit,GRU)也是循環(huán)神經(jīng)網(wǎng)絡(luò)中的一種門(mén)控機(jī)制,目的也在于解決RNN 的梯度消失以及梯度爆炸問(wèn)題,并同時(shí)對(duì)序列信息長(zhǎng)期記憶,是2014年由Cho 等提出的。GRU 在許多諸如語(yǔ)音識(shí)別的序列任務(wù)上與LSTM 相比同樣出色,不過(guò)它的參數(shù)比LSTM 少,僅包含重置門(mén)和更新門(mén)。在LSTM 的基礎(chǔ)上,減少了一個(gè)門(mén)控,在保證計(jì)算精度的同時(shí)減輕了硬件的計(jì)算量和計(jì)算時(shí)間成本。GRU 的網(wǎng)絡(luò)結(jié)構(gòu)如圖4所示。

      圖4 門(mén)控循環(huán)單元結(jié)構(gòu)

      圖4中的各個(gè)關(guān)鍵點(diǎn)的作用如下所述:

      2.2 具有信息交互的門(mén)控循環(huán)單元(MGRU)

      圖5 信息交互示意圖

      注意到在GRU 中,當(dāng)前的輸入x是和之前的狀態(tài)h相互獨(dú)立的,它們只在門(mén)中進(jìn)行交互,在這之前缺乏交互,這可能會(huì)導(dǎo)致上下文信息的丟失。為此,本文讓輸入和狀態(tài)首先進(jìn)行交互,增強(qiáng)上下文信息的顯著輸入特征并減少次要特征,期望增強(qiáng)網(wǎng)絡(luò)建模建模的泛化能力并提升訓(xùn)練效果。

      主要方法是,在原始GRU 計(jì)算之前,交替地讓xh相互調(diào)制,公式表達(dá)為

      這里式(8)中,x'h'xh經(jīng)過(guò)函數(shù)的信息相互調(diào)制之后得到的更新值。算法公式如下:

      3 基于信息交互的門(mén)控循環(huán)單元和圖卷積網(wǎng)絡(luò)的混合模型(MGRU-GNN)

      為了提高預(yù)測(cè)準(zhǔn)確性,我們通過(guò)圖結(jié)構(gòu)來(lái)學(xué)習(xí)PM2.5 信息在水平方向遷移和擴(kuò)散的過(guò)程。GNN 在提取數(shù)據(jù)的空間相關(guān)性上具有獨(dú)特優(yōu)勢(shì),選取各個(gè)城市作為圖結(jié)構(gòu)的節(jié)點(diǎn),利用GNN 來(lái)記錄PM2.5 從周圍城市到目標(biāo)城市的空間擴(kuò)散情況,匯總節(jié)點(diǎn)的相鄰節(jié)點(diǎn)對(duì)目標(biāo)節(jié)點(diǎn)的影響來(lái)計(jì)算節(jié)點(diǎn)之間的信息依賴關(guān)系權(quán)重。經(jīng)過(guò)圖網(wǎng)絡(luò)不斷的迭代學(xué)習(xí),目標(biāo)節(jié)點(diǎn)在不斷的更新過(guò)程中學(xué)習(xí)并獲取到了其他節(jié)點(diǎn)的信息。而后利用信息交互的門(mén)控循環(huán)單元網(wǎng)絡(luò)在聚合圖結(jié)構(gòu)空間信息的基礎(chǔ)上模擬PM2.5 在時(shí)間維度上的擴(kuò)散過(guò)程。

      我們選取了全國(guó)空氣污染較為嚴(yán)重的184個(gè)城市,預(yù)測(cè)時(shí)主要利用的信息有PM2.5 歷史數(shù)據(jù),降水情況,風(fēng)速,空氣濕度,城市地點(diǎn)信息等數(shù)據(jù),將數(shù)據(jù)抽象如圖6所示。

      圖6 城市數(shù)據(jù)信息示意圖

      將圖6的數(shù)據(jù)表示為具體的圖數(shù)據(jù)結(jié)構(gòu),如圖7的,,…,X所示,構(gòu)建MGRU-GNN 混合模型,網(wǎng)絡(luò)模型的整體結(jié)構(gòu)如圖7所示。

      圖7 信息交互的門(mén)控循環(huán)單元和圖卷積網(wǎng)絡(luò)的混合模型示意圖

      在MGRU-GNN 模型中,GNN通過(guò)在迭代訓(xùn)練過(guò)程中對(duì)節(jié)點(diǎn)之間的空間依賴關(guān)系進(jìn)行訓(xùn)練學(xué)習(xí)。根據(jù)學(xué)習(xí)到的節(jié)點(diǎn)之間的信息依賴程度設(shè)置鄰接矩陣的權(quán)重。由于MGRU模型輸入?yún)?shù)與GNN 的輸出存在差異,在GNN 網(wǎng)絡(luò)之后便設(shè)有全連接層進(jìn)行特征空間變換,在保留數(shù)據(jù)特征信息的同時(shí)調(diào)整數(shù)據(jù)維度來(lái)配合MGRU 網(wǎng)絡(luò)的使用。通過(guò)MGRU與GNN的配合作用,使得MGRU在獲得空間信息的更新同時(shí)也獲得了輸入序列的長(zhǎng)期依賴關(guān)系的學(xué)習(xí),實(shí)現(xiàn)了PM2.5的長(zhǎng)期預(yù)測(cè)。

      4 實(shí)驗(yàn)與分析

      4.1 數(shù)據(jù)集

      國(guó)家從13年開(kāi)始陸陸續(xù)續(xù)建立了在大大小小的城市建立了霧霾氣象監(jiān)測(cè)站,每隔3小時(shí)進(jìn)行一次采集,提供了大量的數(shù)據(jù)。數(shù)據(jù)集由生態(tài)環(huán)境部提供,生態(tài)環(huán)境部負(fù)責(zé)建立健全生態(tài)環(huán)境基本制度,環(huán)境污染防治的監(jiān)督管理,生態(tài)環(huán)境監(jiān)測(cè)等工作;氣象數(shù)據(jù)包括風(fēng)向、降雨、空氣濕度、溫度等數(shù)據(jù);空間地理信息是各個(gè)城市中監(jiān)測(cè)站的位置來(lái)表征城市的位置。

      為了檢驗(yàn)?zāi)P筒蹲介L(zhǎng)期依賴關(guān)系的能力,本文選擇了覆蓋中國(guó)污染嚴(yán)重地區(qū)的京津冀地區(qū)的184個(gè)城市作為研究對(duì)象。構(gòu)建選取區(qū)域范圍內(nèi)2016-9-1—2017-1-31 的秋冬季真實(shí)數(shù)據(jù)集,重點(diǎn)關(guān)注秋冬季節(jié)的原因在于秋冬季供暖系統(tǒng)的使用會(huì)增加空氣污染的情況。在構(gòu)造圖結(jié)構(gòu)的過(guò)程中我們使用圖結(jié)構(gòu),利用風(fēng)向構(gòu)建圖結(jié)構(gòu)的邊屬性,不僅關(guān)注節(jié)點(diǎn)的變化情況,也關(guān)注節(jié)點(diǎn)之間信息的流向,特別是城市之間的PM2.5 具有雙向傳輸?shù)奶攸c(diǎn),因此我們使用圖結(jié)構(gòu)GNN。

      我們使用了三種類型的數(shù)據(jù):PM2.5歷史數(shù)據(jù)和氣象數(shù)據(jù)和空間信息。數(shù)據(jù)集劃分為三個(gè)部分,選取50%為訓(xùn)練數(shù)據(jù),25%為驗(yàn)證數(shù)據(jù)、25%為測(cè)試數(shù)據(jù)。

      4.2 實(shí)驗(yàn)設(shè)置

      為驗(yàn)證網(wǎng)絡(luò)的有效性,我們將不同網(wǎng)絡(luò)在相同的數(shù)據(jù)集下進(jìn)行對(duì)比分析。為了公平比較,我們給每個(gè)比較的模型提供相同的參數(shù)輸入和硬件環(huán)境。本文的實(shí)驗(yàn)環(huán)境是在一臺(tái)操作系統(tǒng)為Ubuntu16.04 的工作站上,CPU 是一個(gè)Intel Xeon E5-1650 v4 六核處理器,主頻為3.6 GHz,內(nèi)存32 GB,GPU 為Nvidia Geforce GTX 1080 Ti,顯存11 GB。

      在本文的預(yù)測(cè)模型中,我們選擇一種最常用的回歸損失函數(shù),均方誤差(),為訓(xùn)練過(guò)程中的損失函數(shù),選擇自適應(yīng)學(xué)習(xí)率算法RMSprop 來(lái)作為網(wǎng)絡(luò)參數(shù)的優(yōu)化器。訓(xùn)練過(guò)程中的樣本數(shù)batch_size 為32,訓(xùn)練次數(shù)epochs 為150 次,并且添加提前停止機(jī)制Early Stoping,若連續(xù)多次迭代時(shí)的誤差不發(fā)生變化,則提前停止訓(xùn)練防止過(guò)擬合。

      本文采用均方根誤差()和平均絕對(duì)誤差()兩個(gè)評(píng)價(jià)指標(biāo),和通過(guò)反映模型預(yù)測(cè)值與真值之間的誤差來(lái)衡量預(yù)測(cè)精度。計(jì)算公式如下:

      4.3 結(jié)果分析

      在給定歷史PM2.5 濃度數(shù)據(jù)及和未來(lái)24 小時(shí)的天氣預(yù)報(bào)數(shù)據(jù)的情況下,預(yù)測(cè)未來(lái)24 小時(shí)的PM2.5 數(shù)據(jù),并計(jì)算各種模型的預(yù)測(cè)性能。我們對(duì)以下幾種網(wǎng)絡(luò)模型進(jìn)行測(cè)試對(duì)比:

      (1)多層感知器(multilayer perceptron,MLP),是一種前饋人工神經(jīng)網(wǎng)絡(luò)模型,典型的MLP 由多層神經(jīng)網(wǎng)絡(luò)構(gòu)成,其將輸入的多個(gè)數(shù)據(jù)集映射到單一的輸出的數(shù)據(jù)集上。

      (2)長(zhǎng)短期記憶網(wǎng)絡(luò)(long short-term memory,LSTM),主要針對(duì)序列的時(shí)間維度變化進(jìn)行建模。

      (3)圖卷積網(wǎng)絡(luò)和長(zhǎng)短期記憶網(wǎng)絡(luò)(GCNLSTM),是 圖卷 積網(wǎng) 絡(luò)(graph convolutional network,GCN)和LSTM 相結(jié)合,實(shí)現(xiàn)對(duì)時(shí)間維度和空間維度的情況進(jìn)行建模。但是GCN 沒(méi)有考慮到節(jié)點(diǎn)之間信息互相更新的過(guò)程,對(duì)PM2.5空間傳輸這一特性信息的利用受到限制。

      (4)門(mén)控循環(huán)單元和全連接層(GRU-FC),在GRU 之后連接一層全連接層(fully connected layers,F(xiàn)C)。

      (5)圖神經(jīng)網(wǎng)絡(luò)和門(mén)控循環(huán)單元(GNNGRU),使用圖網(wǎng)絡(luò)與原始GRU 的結(jié)合,對(duì)時(shí)間維度和空間維度的情況進(jìn)行建模,并且利用到了PM2.5在空間維度水平遷移的特性。

      各種網(wǎng)絡(luò)模型的預(yù)測(cè)結(jié)果如表1所示。

      表1 不同模型的預(yù)測(cè)結(jié)果對(duì)比

      通過(guò)預(yù)測(cè)結(jié)果的對(duì)比,可以看出MLP、LSTM、GRU 的效果是并不理想的,這是由于這三種網(wǎng)絡(luò)模型本身設(shè)計(jì)結(jié)構(gòu)的瓶頸,導(dǎo)致在學(xué)習(xí)節(jié)點(diǎn)之間的空間傳輸特性方面受到限制。其中MLP 網(wǎng)絡(luò)存在學(xué)習(xí)速度慢,容易陷入局部極值的缺點(diǎn),因此對(duì)于數(shù)據(jù)的學(xué)習(xí)可能會(huì)不夠充分;LSTM和GRU雖然在一定程度上緩解了梯度消失的情況,但對(duì)于太長(zhǎng)的序列學(xué)習(xí)能力還是略顯不足,另外對(duì)于空間傳輸特性學(xué)習(xí)能力的欠缺導(dǎo)致預(yù)測(cè)效果不佳;GCN-LSTM 雖然能實(shí)現(xiàn)對(duì)時(shí)間維度和空間維度的特征都進(jìn)行學(xué)習(xí)。但是GCN 只能抽取圖中節(jié)點(diǎn)的拓?fù)湫畔ⅲ瑢?duì)PM2.5 空間傳輸這一特性的信息使用受到限制,因此效果不佳;GRU-FC 是GRU 拼接全連接層,全連接層相當(dāng)于一個(gè)特征空間變換,可以把有用的信息提取整合,再加上激活函數(shù)的非線性映射,然而由于空間信息利用的不足,效果依然不佳;對(duì)比現(xiàn)有網(wǎng)絡(luò),可以發(fā)現(xiàn)我們的MGRU-GNN 在對(duì)時(shí)間維度的特征進(jìn)行長(zhǎng)期學(xué)習(xí)記憶的同時(shí)也利用空間信息更新了城市節(jié)點(diǎn)的信息,通過(guò)數(shù)據(jù)可以看出預(yù)測(cè)效果最佳。

      對(duì)于空間信息以及對(duì)MGRU 的利用,實(shí)驗(yàn)如下:

      表2 驗(yàn)證改進(jìn)的GRU對(duì)模型的影響

      上表以和分別為均方根誤差及平均絕對(duì)誤差衡量指標(biāo),記錄不同網(wǎng)絡(luò)在相同數(shù)據(jù)集以及相同硬件環(huán)境下的預(yù)測(cè)表現(xiàn)。通過(guò)上方圖表的記錄,可以看出,加入空間信息對(duì)于預(yù)測(cè)PM2.5濃度準(zhǔn)確性的作用。

      通 過(guò) 對(duì) 比GRU 與MGRU、GRU-GNN 與MGRU-GNN 的預(yù)測(cè)結(jié)果,可以看出,相比于使用原始GRU 模塊,替換為MGRU 模塊之后,預(yù)測(cè)能力更強(qiáng)、誤差更小。GRU-GNN 與MGRUGNN 的結(jié)果對(duì)比可以看出,RMSE 指數(shù)有6%~7%的進(jìn)步,MAE 指數(shù)5%~6%的進(jìn)步。因此可以證明,本文對(duì)于GRU 網(wǎng)絡(luò)的改進(jìn)相比原始網(wǎng)絡(luò)具有更好的優(yōu)越性。

      5 結(jié)語(yǔ)

      本文首先利用PM2.5 歷史數(shù)據(jù)以及氣象數(shù)據(jù)和空間信息,建立門(mén)控循環(huán)單元和圖神經(jīng)網(wǎng)絡(luò)模型混合模型。然后在此基礎(chǔ)上,提出了一種基于信息交互的門(mén)控循環(huán)單元和圖卷積網(wǎng)絡(luò)的混合模型,通過(guò)使GRU 的轉(zhuǎn)移函數(shù)依賴于上下文信息提升GRU 建模的泛化能力和性能。與現(xiàn)有的方法相比,本文的模型具有更好的預(yù)測(cè)準(zhǔn)確性。

      猜你喜歡
      空間信息神經(jīng)網(wǎng)絡(luò)維度
      結(jié)合多層特征及空間信息蒸餾的醫(yī)學(xué)影像分割
      淺論詩(shī)中“史”識(shí)的四個(gè)維度
      神經(jīng)網(wǎng)絡(luò)抑制無(wú)線通信干擾探究
      電子制作(2019年19期)2019-11-23 08:42:00
      《地理空間信息》協(xié)辦單位
      光的維度
      燈與照明(2016年4期)2016-06-05 09:01:45
      “五個(gè)維度”解有機(jī)化學(xué)推斷題
      基于神經(jīng)網(wǎng)絡(luò)的拉矯機(jī)控制模型建立
      復(fù)數(shù)神經(jīng)網(wǎng)絡(luò)在基于WiFi的室內(nèi)LBS應(yīng)用
      基于支持向量機(jī)回歸和RBF神經(jīng)網(wǎng)絡(luò)的PID整定
      人生三維度
      吐魯番(2014年2期)2014-02-28 16:54:43
      九寨沟县| 安庆市| 德阳市| 锡林郭勒盟| 冕宁县| 惠来县| 东乌珠穆沁旗| 沁阳市| 镇康县| 原平市| 将乐县| 巴南区| 吉木萨尔县| 保康县| 陆川县| 兰州市| 泰和县| 苍山县| 内乡县| 新乡市| 宁都县| 泰安市| 余姚市| 贡山| 乐至县| 康马县| 门头沟区| 格尔木市| 盈江县| 临桂县| 获嘉县| 乌兰县| 湖南省| 祁门县| 肃南| 安陆市| 互助| 长泰县| 喀什市| 上虞市| 西安市|