許飛，武志剛，張文倩

(華南理工大學(xué) 電力學(xué)院，廣東 廣州 510640)

0 引 言

電力系統(tǒng)負(fù)荷預(yù)測(cè)是保證電力系統(tǒng)安全穩(wěn)定經(jīng)濟(jì)運(yùn)行的重要基礎(chǔ)，按照時(shí)間尺度可以分為長(zhǎng)期負(fù)荷預(yù)測(cè)、中長(zhǎng)期負(fù)荷預(yù)測(cè)、短期負(fù)荷預(yù)測(cè)和超短期負(fù)荷預(yù)測(cè)。不同時(shí)間尺度的負(fù)荷預(yù)測(cè)對(duì)電力系統(tǒng)有不同的作用，其中短期負(fù)荷預(yù)測(cè)有利于提高發(fā)電設(shè)備的利用率和經(jīng)濟(jì)調(diào)度的有效性[1]，同時(shí)有利于幫助電力系統(tǒng)運(yùn)行人員制定更加合理的調(diào)度計(jì)劃，維持供需平衡和確保電網(wǎng)安全，減少資源浪費(fèi)和用電成本[2]。

國(guó)內(nèi)外對(duì)短期電力負(fù)荷預(yù)測(cè)方法已經(jīng)做了非常多的研究，可以達(dá)到一定的預(yù)測(cè)精度。目前的研究方法主要分為兩大類。一類是傳統(tǒng)的時(shí)間序列分析方法，包括回歸分析法、多元線性回歸法和自回歸積分滑動(dòng)平均模型等。文獻(xiàn)[3]基于人口、GDP和用電量的海量歷史負(fù)荷數(shù)據(jù)建立多元線性回歸模型，這種方法只能預(yù)測(cè)線性關(guān)系的模型，預(yù)測(cè)誤差較大。文獻(xiàn)[4]使用自回歸滑動(dòng)平均混合模型來(lái)研究季節(jié)性特征與負(fù)荷預(yù)測(cè)之間的關(guān)系，但是只考慮了單一影響因素，預(yù)測(cè)誤差較大。文獻(xiàn)[5]使用改進(jìn)的卡爾曼濾波算法能夠考慮包括日期和溫度等外界因素的存在使負(fù)荷產(chǎn)生很大的波動(dòng)，具有更高的預(yù)測(cè)精度、收斂速度和耗時(shí)短等優(yōu)點(diǎn)，但是仍然無(wú)法解決具有時(shí)序性特點(diǎn)的短期負(fù)荷預(yù)測(cè)問(wèn)題，同時(shí)無(wú)法擬合影響因素與負(fù)荷之間的高度非線性關(guān)系。另一類是人工智能分析方法，包括反向傳播算法、支持向量機(jī)、深度信念網(wǎng)絡(luò)以及長(zhǎng)短期記憶網(wǎng)絡(luò)等。文獻(xiàn)[6]使用基于改進(jìn)的BP反向傳播網(wǎng)絡(luò)進(jìn)行短期負(fù)荷預(yù)測(cè)，具有一定的預(yù)測(cè)精度，但是收斂速度慢，泛化能力差，易陷入局部最優(yōu)。文獻(xiàn)[7]將SVM算法、Elman以及BP神經(jīng)網(wǎng)絡(luò)相結(jié)合，分析溫度、濕度和氣壓等氣象因素對(duì)負(fù)荷的影響。文獻(xiàn)[8]使用深度信念網(wǎng)絡(luò)，通過(guò)逐層無(wú)監(jiān)督訓(xùn)練的方法得到網(wǎng)絡(luò)的初始權(quán)重，能夠有效地解決傳統(tǒng)神經(jīng)網(wǎng)絡(luò)中隨機(jī)初始化導(dǎo)致的一系列問(wèn)題，同時(shí)能夠很好地解決過(guò)擬合和欠擬合問(wèn)題，但是需要人工選擇負(fù)荷序列，破壞了負(fù)荷數(shù)據(jù)的時(shí)序性。文獻(xiàn)[9]使用長(zhǎng)短期記憶網(wǎng)絡(luò)并且引入Attention機(jī)制來(lái)突出對(duì)短期負(fù)荷預(yù)測(cè)起到關(guān)鍵作用的影響因素，在一定程度上能夠提高模型的魯棒性和穩(wěn)定性。文獻(xiàn)[10]將卷積神經(jīng)網(wǎng)絡(luò)與長(zhǎng)短期記憶網(wǎng)絡(luò)相結(jié)合，把大量的歷史負(fù)荷數(shù)據(jù)、氣象數(shù)據(jù)、日期信息以及電價(jià)信息按照時(shí)間滑動(dòng)窗口來(lái)構(gòu)造特征圖作為輸入量，然后通過(guò)卷積神經(jīng)網(wǎng)絡(luò)來(lái)提取特征向量，并作為長(zhǎng)短期記憶網(wǎng)絡(luò)的輸入數(shù)據(jù)進(jìn)行短期負(fù)荷預(yù)測(cè)，能夠有效地提高負(fù)荷預(yù)測(cè)精度。

為了進(jìn)一步提高短期負(fù)荷預(yù)測(cè)精度，并且在資源受限的場(chǎng)景中能夠快速地獲取預(yù)測(cè)結(jié)果，對(duì)標(biāo)準(zhǔn)的長(zhǎng)短期記憶網(wǎng)絡(luò)進(jìn)行簡(jiǎn)化，提出了一種簡(jiǎn)化模型，稱為JANET(just another network)網(wǎng)絡(luò)模型。JANET網(wǎng)絡(luò)只保留了標(biāo)準(zhǔn)LSTM網(wǎng)絡(luò)中的遺忘門(mén)，訓(xùn)練時(shí)間大大縮短，能夠在更短的時(shí)間內(nèi)獲得與LSTM網(wǎng)絡(luò)相當(dāng)精度的預(yù)測(cè)結(jié)果。

為此，本文首先對(duì)影響負(fù)荷的因素和歷史負(fù)荷數(shù)據(jù)進(jìn)行相關(guān)性分析，選取與負(fù)荷數(shù)據(jù)相關(guān)性最大的影響因素作為模型的輸入，然后使用JANET網(wǎng)絡(luò)進(jìn)行短期符合預(yù)測(cè)，將所得預(yù)測(cè)結(jié)果與標(biāo)準(zhǔn)LSTM網(wǎng)絡(luò)進(jìn)行對(duì)比。仿真結(jié)果表明，JANET網(wǎng)絡(luò)在資源受限和計(jì)算量較大的情況下，能夠保證一定的預(yù)測(cè)精度并且極大地縮短訓(xùn)練和預(yù)測(cè)的時(shí)間，為電網(wǎng)提供及時(shí)有效的負(fù)荷預(yù)測(cè)數(shù)據(jù)。

1 短期負(fù)荷預(yù)測(cè)影響因素分析

隨著配電側(cè)分布式電源以及電動(dòng)汽車(chē)的大規(guī)模接入，影響負(fù)荷的因素變得越來(lái)越復(fù)雜，除了傳統(tǒng)方法中考慮的歷史負(fù)荷、氣象信息和日期類型外，政府的調(diào)控以及用戶的行為習(xí)慣對(duì)負(fù)荷也會(huì)產(chǎn)生重要的影響。使用神經(jīng)網(wǎng)絡(luò)模型進(jìn)行短期負(fù)荷預(yù)測(cè)時(shí)一個(gè)非常重要的環(huán)節(jié)就是輸入特征的選取，影響因素選取的好壞將直接影響到預(yù)測(cè)結(jié)果的準(zhǔn)確度。研究的重點(diǎn)在于比較LSTM變體與傳統(tǒng)的RNN網(wǎng)絡(luò)以及標(biāo)準(zhǔn)的LSTM神經(jīng)網(wǎng)絡(luò)模型在短期負(fù)荷預(yù)測(cè)問(wèn)題上的有效性，因此本文將會(huì)選取相同的影響因素，包括歷史負(fù)荷數(shù)據(jù)、主要的氣象影響因素以及日類型作為神經(jīng)網(wǎng)絡(luò)的輸入變量。

氣象影響因素主要包括溫度、濕度和太陽(yáng)光照等。由于本文著眼于對(duì)比標(biāo)準(zhǔn)的LSTM網(wǎng)絡(luò)與改進(jìn)后的LSTM網(wǎng)絡(luò)的短期負(fù)荷預(yù)測(cè)效果，因此只需要考慮天氣因素中與負(fù)荷相關(guān)性最大的影響因素，確保在同等的條件下進(jìn)行對(duì)比試驗(yàn)。本文采用互信息理論分別計(jì)算各氣象因素與負(fù)荷之間的相關(guān)性，并且選取出相關(guān)性最強(qiáng)的影響因素最為預(yù)測(cè)模型的輸入。

1.1 互信息理論

互信息(mutual information)是一種信息度量，表示的是一個(gè)隨機(jī)變量中所包含的另外一個(gè)隨機(jī)變量的信息量，也可以看作是兩個(gè)隨機(jī)變量之間的非線性依賴程度。兩個(gè)離散隨機(jī)變量和的互信息如式(1)所示。

(1)

式中:p(x,y)為變量X和Y的聯(lián)合概率分布函數(shù)；p(x)和p(y)分別為X和Y的邊緣概率密度。本文通過(guò)計(jì)算影響因素與負(fù)荷之間的最大相關(guān)-最小冗余值mRMR(minimal redundancy maximal relevance)來(lái)確定相關(guān)性最大的影響因素，mRMR值如式(2)～式(4)所示。

(2)

(3)

(4)

式中:xi為影響因素；yi為歷史負(fù)荷；J為影響因素的總個(gè)數(shù)；D(J,y)為影響因素xi與歷史負(fù)荷yi之間的相關(guān)性；R(J)為影響因素之間的相關(guān)性。式(4)表示選擇與歷史負(fù)荷互信息量最大并且與其他影響因素之間冗余信息量最小的影響因素。

1.2 負(fù)荷與影響因素相關(guān)性分析

本文基于某電網(wǎng)歷史負(fù)荷數(shù)據(jù)集，計(jì)算影響因素與負(fù)荷數(shù)據(jù)之間的mRMR值。從溫度、日期類型和濕度等因素中選擇與負(fù)荷之間的mRMR值最大的影響因素，結(jié)果如表1所示。

歷史負(fù)荷數(shù)據(jù)的相關(guān)因數(shù)為0，說(shuō)明歷史負(fù)荷數(shù)據(jù)與負(fù)荷之間的相關(guān)程度最大，按照相關(guān)因數(shù)從小到大的排列順序，本文選擇歷史負(fù)荷數(shù)據(jù)、日期類型和溫度作為影響負(fù)荷預(yù)測(cè)精度的主要因素。

表1 負(fù)荷與影響因素的相關(guān)性分析

2 神經(jīng)網(wǎng)絡(luò)荷預(yù)測(cè)模型

2.1 傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型

傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型通常包含一層到多層的前向神經(jīng)網(wǎng)絡(luò)，又名BP神經(jīng)網(wǎng)絡(luò)。單隱含層的前向神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖如圖1所示。

圖1 單隱藏層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型當(dāng)隱藏層達(dá)到兩層或者兩層以上，理論上已證明可以擬合任意的非線性函數(shù)。但是前向神經(jīng)網(wǎng)絡(luò)前一個(gè)輸入對(duì)應(yīng)輸出與下一個(gè)輸入所對(duì)應(yīng)的輸出之間并不具有相關(guān)性，因此前向神經(jīng)網(wǎng)絡(luò)無(wú)法處理具有時(shí)序性的問(wèn)題。負(fù)荷預(yù)測(cè)具有時(shí)序性的特征，因此無(wú)法使用單純的前向神經(jīng)網(wǎng)絡(luò)來(lái)進(jìn)行有效的負(fù)荷預(yù)測(cè)。

2.2 長(zhǎng)短期記憶網(wǎng)絡(luò)模型

為了改善前向神經(jīng)網(wǎng)絡(luò)中輸入數(shù)據(jù)之間沒(méi)有任何的關(guān)聯(lián)信息的這一問(wèn)題，Elaman提出了RNN(recurrent neural network)神經(jīng)網(wǎng)絡(luò)模型。RNN模型中擁有循環(huán)神經(jīng)單元，并允許隱藏單元之間相互連接，能夠探索非線性數(shù)據(jù)之間的時(shí)間關(guān)系，使它更適用于處理具有時(shí)序性的數(shù)據(jù)[11]。RNN的這種網(wǎng)絡(luò)結(jié)構(gòu)被稱為循環(huán)神經(jīng)網(wǎng)絡(luò)，RNN神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示。

圖2 RNN神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

RNN網(wǎng)絡(luò)與普通的深層前向神經(jīng)網(wǎng)絡(luò)有相同的訓(xùn)練機(jī)制，在深層次的前向神經(jīng)網(wǎng)絡(luò)中，如果激活函數(shù)使用sigmoid函數(shù)將會(huì)導(dǎo)致在反向傳播的過(guò)程中梯度逐漸消失，從梯度消失的那一層神經(jīng)網(wǎng)絡(luò)開(kāi)始，參數(shù)將不再更新。而導(dǎo)致梯度消失的原因在于，循環(huán)神經(jīng)網(wǎng)絡(luò)中梯度在反向傳播的過(guò)程中采用的是連乘的方式，使得多個(gè)小于1的數(shù)連乘之后將會(huì)越來(lái)越小，甚至出現(xiàn)等于0的情況。

為了解決這一困難，神經(jīng)網(wǎng)絡(luò)工程師們對(duì)RNN網(wǎng)絡(luò)進(jìn)行改進(jìn)，增加了一個(gè)細(xì)胞單元，用來(lái)控制存儲(chǔ)器單元的輸入和輸出是否被接收。他們提出了具有LSTM(long short term memory network)長(zhǎng)短期記憶單元的循環(huán)神經(jīng)網(wǎng)絡(luò)，它具有乘法的輸入門(mén)和輸出門(mén)。這些門(mén)能夠保證輸入或者其他單元的輸出的無(wú)關(guān)信息的干擾，最大程度地減少信息更新沖突的問(wèn)題。標(biāo)準(zhǔn)LSTM網(wǎng)絡(luò)的細(xì)胞結(jié)構(gòu)如圖3所示，基本單元中包括遺忘門(mén)、輸入門(mén)和輸出門(mén)。遺忘門(mén)決定從上一個(gè)基本單元輸入的信息哪些被遺忘，輸入門(mén)決定狀態(tài)記憶單元中保留的向量、輸出門(mén)輸出信息到下一個(gè)基本單元。計(jì)算公式如式(5)～式(10)所示。

圖3 LSTM神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

ft=σ(Wf·[ht-1,xt]+bf)

(5)

it=σ(Wi·[ht-1,xt]+bi)

(6)

ot=σ(Wo·[ht-1,xt]+bo)

(7)

(8)

(9)

ht=ot×tanh(Ct)

(10)

式中：ft、it、ot、Ct分別為遺忘門(mén)、輸入門(mén)、輸出門(mén)和狀態(tài)單元的狀態(tài)；Wf、Wi、Wo、Wc分別為對(duì)應(yīng)門(mén)的權(quán)重；bf、bi、bo、bc為對(duì)應(yīng)門(mén)的偏置量；σ為sigmoid函數(shù)。

2.3 長(zhǎng)短期記憶網(wǎng)絡(luò)模型的簡(jiǎn)化

長(zhǎng)短期記憶網(wǎng)絡(luò)可以非常好地解決具有時(shí)序性的問(wèn)題，鑒于門(mén)控循環(huán)網(wǎng)絡(luò)的成功，下一步希望能夠設(shè)計(jì)一個(gè)網(wǎng)絡(luò)，在資源受限制的實(shí)際程序中不降低負(fù)荷預(yù)測(cè)的精度，同時(shí)需要更少的硬件資源。

最開(kāi)始的RNN循環(huán)神經(jīng)網(wǎng)絡(luò)記憶時(shí)間非常短，較為久遠(yuǎn)的輸入對(duì)當(dāng)前輸出不會(huì)產(chǎn)生影響，因此在最初的長(zhǎng)短期記憶網(wǎng)絡(luò)中增加了兩個(gè)門(mén)，具有乘法結(jié)構(gòu)的輸入門(mén)和輸出門(mén)，通過(guò)輸入和其他單元的輸出來(lái)排除無(wú)關(guān)信息對(duì)當(dāng)前信息的干擾，這是長(zhǎng)短期記憶網(wǎng)絡(luò)的第一個(gè)版本。Gers等人意識(shí)到LSTM網(wǎng)絡(luò)的第一個(gè)版本中沒(méi)有忘記信息的機(jī)制，它們可能會(huì)無(wú)限增長(zhǎng)并導(dǎo)致網(wǎng)絡(luò)奔潰。為了解決這一問(wèn)題，他們提出了另外一個(gè)乘法門(mén)，稱為遺忘門(mén)，完成了標(biāo)準(zhǔn)的LSTM網(wǎng)絡(luò)模型。

經(jīng)過(guò)多年的研究，Greff等人和Jozefowicz等人幾乎同時(shí)發(fā)現(xiàn)標(biāo)準(zhǔn)LSTM網(wǎng)絡(luò)中遺忘門(mén)是最重要的，同時(shí)隨著門(mén)控循環(huán)網(wǎng)絡(luò)的成功，Westhuizen等人開(kāi)始考慮標(biāo)準(zhǔn)LSTM網(wǎng)絡(luò)中是否只需要保留遺忘門(mén)，簡(jiǎn)化冗余的輸入門(mén)和輸出門(mén)。他們?cè)贛NIST、pMNIST和MIT-BIH心理失常數(shù)據(jù)集上進(jìn)行仿真，證明有更好的泛化效果。此外，該模型需要LSTM所需參數(shù)的一半以及元素乘法的三分之二，從而節(jié)約計(jì)算量，縮短計(jì)算時(shí)間。Westhuizen等人將只有一個(gè)遺忘門(mén)的LSTM網(wǎng)絡(luò)稱為JANET(just another network)網(wǎng)絡(luò)。

JANET網(wǎng)絡(luò)作為L(zhǎng)STM網(wǎng)絡(luò)的一種變體，是LSTM網(wǎng)絡(luò)的一種簡(jiǎn)化形式。相對(duì)于LSTM網(wǎng)絡(luò)來(lái)說(shuō)，JANET在盡可能保證記憶能力以及訓(xùn)練效率的基礎(chǔ)上，刪去了冗余的輸入門(mén)和輸出門(mén)，只保留了遺忘門(mén)，其他部分與標(biāo)準(zhǔn)的LSTM網(wǎng)絡(luò)完全一致。

JANET網(wǎng)絡(luò)的表達(dá)形式如下。

ft=σ(Ufht-1+Wfxt+bf)

(11)

Ct=ft×Ct-1+it×tanh(Ucht-1+Wcxt+bc)

(12)

ht=Ct

(13)

式中:ft和Ct分別為遺忘門(mén)和狀態(tài)單元的狀態(tài)；Uf、Wf、Uc、Wc分別為對(duì)應(yīng)門(mén)的權(quán)重值；bf、bc分別為對(duì)應(yīng)門(mén)的偏置值。

3 基于JANET網(wǎng)絡(luò)的負(fù)荷預(yù)測(cè)模型

3.1 輸入數(shù)據(jù)預(yù)處理

本文使用同一數(shù)據(jù)集分別建立BP神經(jīng)網(wǎng)絡(luò)、標(biāo)準(zhǔn)LSTM神經(jīng)網(wǎng)絡(luò)以及JANET神經(jīng)網(wǎng)絡(luò)模型，并進(jìn)行結(jié)果對(duì)比。三個(gè)模型的輸入特征保持一致，包括歷史負(fù)荷數(shù)據(jù)、溫度以及日期類型，將所有特征值組成輸入特征矩陣，在同等條件下比較三個(gè)模型的性能，保證試驗(yàn)的科學(xué)性和公平性。使用所提出的方法對(duì)某電網(wǎng)提供的歷史負(fù)荷數(shù)據(jù)進(jìn)行預(yù)測(cè)試驗(yàn)。由于不同的輸入量有不同的數(shù)量級(jí)和量綱，同時(shí)由于神經(jīng)網(wǎng)絡(luò)激活函數(shù)對(duì)[-1,1]之間的數(shù)值更敏感，因此需要對(duì)輸入數(shù)據(jù)進(jìn)行歸一化處理。使用minmax函數(shù)將歷史負(fù)荷數(shù)據(jù)歸一化到[-1,1]之間，將日期分為節(jié)假日和工作日兩種類型，節(jié)假日用0表示，工作日用1表示。歷史負(fù)荷數(shù)據(jù)的歸一化公式如下：

(14)

式中:x′為標(biāo)準(zhǔn)化之后的輸入量；max(x)和min(x)分別為待歸一化變量的最大和最小值。

3.2 JANET的結(jié)構(gòu)和訓(xùn)練

本文搭建的JANET含有兩個(gè)隱藏層和1個(gè)輸出層。預(yù)測(cè)未來(lái)24小時(shí)的48個(gè)負(fù)荷量，每30分鐘一個(gè)時(shí)間節(jié)點(diǎn)，因此，選擇JANET的時(shí)間步為48，特征數(shù)為2。

具體的流程如下所示。

步驟 1：對(duì)輸入數(shù)據(jù)進(jìn)行歸一化，假設(shè)一共n個(gè)訓(xùn)練樣本，因?yàn)閷?duì)于單個(gè)時(shí)刻的預(yù)測(cè)輸入量為2維，且時(shí)間步長(zhǎng)為48，即連續(xù)預(yù)測(cè)未來(lái)24小時(shí)負(fù)荷，所以輸入數(shù)據(jù)以(n×48×2)的3維張量形式存儲(chǔ)。

步驟 2：將訓(xùn)練集的輸入數(shù)據(jù)輸入到JANET中，得出預(yù)測(cè)值。

步驟 3：根據(jù)預(yù)測(cè)值和真實(shí)值以及選定的誤差函數(shù)計(jì)算誤差。

步驟 4：根據(jù)誤差通過(guò)反向傳播算法，本文的優(yōu)化算法為Adam，對(duì)JANET的權(quán)重進(jìn)行更新，實(shí)現(xiàn)JANET的監(jiān)督學(xué)習(xí)。

步驟 5：利用訓(xùn)練好的JANET神經(jīng)網(wǎng)絡(luò)，輸入測(cè)試集數(shù)據(jù)，對(duì)未來(lái)24小時(shí)的負(fù)荷進(jìn)行預(yù)測(cè)。

3.3 預(yù)測(cè)結(jié)果評(píng)價(jià)

使用均方根誤差(mean square error，MSE)和平均絕對(duì)值百分誤差(mean absolute percentage error，MAPE)作為評(píng)價(jià)各個(gè)模型預(yù)測(cè)結(jié)果的評(píng)價(jià)指標(biāo)，其中EMSE和EMAPE的表達(dá)式如下所示。

(15)

(16)

(17)

式中:yf為負(fù)荷預(yù)測(cè)值；yf為負(fù)荷實(shí)際值；n為負(fù)荷點(diǎn)總數(shù)。

4 算例分析

4.1 模型參數(shù)設(shè)置

本文著眼于全新的預(yù)測(cè)模型的提出，因此僅考慮單一天氣影響因素以及日期類型這一影響因素，未考慮包括濕度、光照強(qiáng)度以及電價(jià)等因素的影響。為了保證試驗(yàn)的可靠性，提高負(fù)荷預(yù)測(cè)的精度，本文采用完全相同的負(fù)荷數(shù)據(jù)和影響因素作為訓(xùn)練集?；诒疚牡念A(yù)測(cè)模型，對(duì)某電網(wǎng)歷史負(fù)荷數(shù)據(jù)集進(jìn)行進(jìn)行未來(lái)24小時(shí)的負(fù)荷預(yù)測(cè)。

本文中LSTM和JANET模型參數(shù)設(shè)置通過(guò)多次的仿真和調(diào)整尋優(yōu)，最終確定的基本參數(shù)如表2所示。

試驗(yàn)平臺(tái)是win10的64位操作系統(tǒng)的臺(tái)式電腦，使用python語(yǔ)言在spyder平臺(tái)實(shí)現(xiàn)所提出的方法，LSTM模型和JANET模型采用keras框架，由于JANET模型無(wú)法使用keras直接進(jìn)行調(diào)用，因此首先對(duì)LSTM模型代碼進(jìn)行簡(jiǎn)化處理，然后再用keras調(diào)用實(shí)現(xiàn)。

本文中使用基本庫(kù)版本如表3所示。所選版本可以調(diào)用臺(tái)式機(jī)所有可用資源用于計(jì)算，計(jì)算速度相對(duì)于其他版本組合有明顯提升。

表2 LSTM和JANET模型基本參數(shù)

表3 LSTM和JANET模型基本參數(shù)

4.2 算例結(jié)果

為了體現(xiàn)算法本身的差異性，本文使用前文所述數(shù)據(jù)集，分別建立LSTM神經(jīng)網(wǎng)絡(luò)模型以及JANET神經(jīng)網(wǎng)絡(luò)模型進(jìn)行短期負(fù)荷預(yù)測(cè)。預(yù)測(cè)2月份某天的負(fù)荷值，并將預(yù)測(cè)結(jié)果與當(dāng)天實(shí)際負(fù)荷值進(jìn)行對(duì)比，如圖4～圖7所示。

圖4和圖5為兩種網(wǎng)絡(luò)負(fù)荷預(yù)測(cè)所得到的MSE值，可以看出JANET網(wǎng)絡(luò)的MSE值減小更快，能夠更快達(dá)到收斂的狀態(tài)。

圖4 LSTM神經(jīng)網(wǎng)絡(luò)訓(xùn)練MSE值

圖5 JANET神經(jīng)網(wǎng)絡(luò)訓(xùn)練MSE值

圖6表示標(biāo)準(zhǔn)LSTM和JANET網(wǎng)絡(luò)在2018年某天的實(shí)際負(fù)荷值與預(yù)測(cè)值歸一化之后的對(duì)比圖。由圖6和圖7可以看出，JANET網(wǎng)絡(luò)和LSTM網(wǎng)絡(luò)在給出相同歷史數(shù)據(jù)的情況下，對(duì)同一天的預(yù)測(cè)精度基本相同，JANET網(wǎng)絡(luò)的預(yù)測(cè)精度在某些時(shí)刻甚至高于LSTM網(wǎng)絡(luò)。

圖6 LSTM神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)測(cè)結(jié)果

圖7 JANET神經(jīng)網(wǎng)絡(luò)負(fù)荷預(yù)測(cè)結(jié)果

此外，使用同樣的樣本大小和模型參數(shù)，JANET網(wǎng)絡(luò)預(yù)測(cè)未來(lái)一天所需要的計(jì)算時(shí)間大約是176 s，而LSTM所需要的計(jì)算時(shí)間大約是297 s。

5 結(jié)束語(yǔ)

本文提出了一種標(biāo)準(zhǔn)LSTM網(wǎng)絡(luò)的簡(jiǎn)化模型，保留了網(wǎng)絡(luò)中最重要的遺忘門(mén)，并且通過(guò)考慮影響短期負(fù)荷預(yù)測(cè)精度的溫度以及日期類型建立了短期負(fù)荷預(yù)測(cè)模型，有效地提高了預(yù)測(cè)精度，同時(shí)減少了模型得出預(yù)測(cè)結(jié)果所消耗的時(shí)間，使得模型的整體性能有較大提升。與RNN神經(jīng)網(wǎng)絡(luò)和標(biāo)準(zhǔn)的LSTM神經(jīng)網(wǎng)絡(luò)相比，本文使用的JANET神經(jīng)網(wǎng)絡(luò)能夠消耗更短的時(shí)間得到更高的預(yù)測(cè)精度。未來(lái)，在能夠得到更多氣象相關(guān)數(shù)據(jù)的基礎(chǔ)上，可以將JANET神經(jīng)網(wǎng)絡(luò)與其他數(shù)據(jù)處理的方法相結(jié)合，充分利用數(shù)據(jù)中蘊(yùn)藏的有效信息，進(jìn)一步提高預(yù)測(cè)的精度和效率。