孫慶凱，王小君，張義志，張 放，張 沛，高文忠，2

（1.北京交通大學(xué)電氣工程學(xué)院,北京市100044；2.丹佛大學(xué)電氣與計(jì)算機(jī)工程學(xué)院,丹佛80208,美國）

0 引言

傳統(tǒng)能源系統(tǒng)單獨(dú)規(guī)劃、設(shè)計(jì)和獨(dú)立運(yùn)行的模式人為割裂了不同類型能源間的耦合關(guān)系,限制了系統(tǒng)運(yùn)行可靠性和靈活性,不再適合社會(huì)發(fā)展。必然需要打破行業(yè)壁壘,由過去電、熱、冷分產(chǎn)分供發(fā)展模式轉(zhuǎn)變?yōu)槎嗄苈?lián)合規(guī)劃運(yùn)行模式［1-2］。在轉(zhuǎn)型過程中綜合能源系統(tǒng)（integrated energy system,IES）逐漸發(fā)展成為一種重要的能源利用方式［3］。其內(nèi)部耦合多種形式的供能、轉(zhuǎn)化和儲(chǔ)能設(shè)備,外部由能源服務(wù)商統(tǒng)一管理,在規(guī)劃、運(yùn)行上與傳統(tǒng)單一能源系統(tǒng)有較大區(qū)別［4-5］。負(fù)荷預(yù)測作為IES用能管理和優(yōu)化調(diào)度的首要前提,已不再局限于單一負(fù)荷,必須統(tǒng)籌兼顧多個(gè)能源系統(tǒng),這對IES多元負(fù)荷預(yù)測準(zhǔn)確性、實(shí)時(shí)性及可靠性提出了更高要求［6］。

短期負(fù)荷預(yù)測分為傳統(tǒng)方法和機(jī)器學(xué)習(xí)方法。傳統(tǒng)方法以時(shí)間序列法、回歸分析法為代表,文獻(xiàn)［7］利用混沌時(shí)間序列方法進(jìn)行短期電力負(fù)荷預(yù)測。文獻(xiàn)［8］通過稀疏懲罰分位數(shù)回歸分析預(yù)測短期電力負(fù)荷。傳統(tǒng)方法雖有一定成效,但隨著能源系統(tǒng)的不斷發(fā)展,用能需求同時(shí)受到多種因素的共同影響,致使無法建立精確的數(shù)學(xué)模型,難以獲得令人滿意的結(jié)果。機(jī)器學(xué)習(xí)方法以隨機(jī)森林、支持向量機(jī)為代表,文獻(xiàn)［9］在數(shù)據(jù)聚類基礎(chǔ)上構(gòu)造隨機(jī)森林進(jìn)行短期負(fù)荷預(yù)測。文獻(xiàn)［10］采用模糊信息?；ㄌ幚須v史數(shù)據(jù),并在此基礎(chǔ)上建立支持向量機(jī)進(jìn)行短期負(fù)荷預(yù)測。但隨著可再生能源接入、需求側(cè)響應(yīng)等新因素的加入,傳統(tǒng)機(jī)器學(xué)習(xí)方法也遭遇了瓶頸。

近些年來,以深度學(xué)習(xí)為代表的前沿機(jī)器學(xué)習(xí)方法在問題分析過程中無須建立精確的數(shù)學(xué)模型,可通過多層非線性映射逐層學(xué)習(xí)海量數(shù)據(jù)中隱藏的抽象特征,能較好地?cái)M合輸入與輸出之間的非線性關(guān)系［11］。其中長短時(shí)記憶（long short-term memory,LSTM）神經(jīng)網(wǎng)絡(luò)在電力負(fù)荷預(yù)測領(lǐng)域已有相關(guān)研究［12-14］,但相比于單一電力負(fù)荷預(yù)測,IES多元負(fù)荷預(yù)測相關(guān)工作仍處于初級(jí)階段,文獻(xiàn)［15］通過改進(jìn)粒子群算法,依據(jù)不同粒子慣性權(quán)重選擇小波神經(jīng)網(wǎng)絡(luò)尋優(yōu)策略進(jìn)行多元負(fù)荷預(yù)測。文獻(xiàn)［16］結(jié)合Kpca降維技術(shù)與徑向基神經(jīng)網(wǎng)絡(luò)進(jìn)行多元負(fù)荷預(yù)測。該方法普遍是對模型參數(shù)與結(jié)構(gòu)進(jìn)行優(yōu)化,在處理不同形式用能耦合問題上仍存在一定的局限。

IES中各用戶自身不同形式用能存在耦合,可依據(jù)內(nèi)部終端消耗以及外部因素采用不同策略進(jìn)行多能綜合優(yōu)化,因此針對用戶個(gè)體的多元負(fù)荷預(yù)測困難較大。本文構(gòu)建的多元負(fù)荷預(yù)測模型主要是面向IES能源服務(wù)商,利用多任務(wù)學(xué)習(xí)（multi-task learning,MTL）通過共享層對用戶總體多元負(fù)荷間的復(fù)雜耦合信息進(jìn)行學(xué)習(xí),以確保IES能源服務(wù)商能夠向用戶提供精確的多元負(fù)荷需求。該方法也適用于區(qū)域型IES電、熱、氣聯(lián)合預(yù)測。

本文在現(xiàn)有研究基礎(chǔ)上提出了一種LSTMMTL多元負(fù)荷預(yù)測方法,旨在利用LSTM時(shí)序記憶功能與MTL耦合信息共享學(xué)習(xí)特性來提升IES能源服務(wù)商多元負(fù)荷預(yù)測精度。

1 IES用能特性分析與MTL

1.1 IES用能特性分析

IES作為新一代能源系統(tǒng)的重要組成,是滿足不同用戶多類型用能需求的堅(jiān)實(shí)保障。其能源服務(wù)商可在匯總、分析不同用戶各類用能需求的基礎(chǔ)上準(zhǔn)確預(yù)測多元負(fù)荷需求,并協(xié)調(diào)IES內(nèi)部轉(zhuǎn)化、存儲(chǔ)、分配、消費(fèi)等環(huán)節(jié)以滿足不同用戶對能源的需求［17］,其交互結(jié)構(gòu)可簡化為圖1。

圖1 交互結(jié)構(gòu)簡化模型Fig.1 Simplified model of interactive structure

目前實(shí)際工業(yè)園區(qū)、商業(yè)中心、居民樓宇等典型IES的能源服務(wù)商普遍需要向其用戶提供電、熱、冷等多種用能需求,明顯受到氣象條件、人類活動(dòng)以及建筑特性等因素影響。在氣象條件方面,由于氣溫變化,南北方在冷熱負(fù)荷需求上表現(xiàn)出明顯的季節(jié)性、地域性差異。在人類活動(dòng)方面,不同的社會(huì)行為會(huì)對IES用能特性產(chǎn)生影響,例如居民樓宇I(lǐng)ES,工作日時(shí)居民普遍外出,系統(tǒng)負(fù)荷多為剛性負(fù)荷；而非工作日時(shí)居民活動(dòng)頻繁,致使用能設(shè)備靈活多樣,用能需求呈現(xiàn)出隨機(jī)性、不確定性。同時(shí)不同的系統(tǒng)功能定位也是影響用能特性的重要原因,工業(yè)區(qū)往往電力負(fù)荷占主導(dǎo)地位,冷熱負(fù)荷輔助,共同服從生產(chǎn)進(jìn)度安排；生活區(qū)電熱負(fù)荷則往往與人的活動(dòng)密切相關(guān),不同類型負(fù)荷間表現(xiàn)出一定的耦合特性。

IES用能特性決定了某一用能需求變化時(shí)必將引起能源服務(wù)商對其余類型用能需求的調(diào)整。負(fù)荷預(yù)測作為IES用能需求管理與優(yōu)化調(diào)度的首要前提,倘若仍采用傳統(tǒng)單一負(fù)荷預(yù)測方法則難以兼顧不同用能需求間的差異性、隨機(jī)性及耦合性,無法確保負(fù)荷預(yù)測精度。同時(shí)鑒于IES在長時(shí)間運(yùn)行過程中大量能量轉(zhuǎn)換耦合信息被保存于IES能源服務(wù)商數(shù)據(jù)庫中,但這些隱藏在數(shù)據(jù)中的能量轉(zhuǎn)換特性很難通過建立詳細(xì)的數(shù)學(xué)模型進(jìn)行特征提取與總結(jié)［18］。因此本文考慮借助MTL對復(fù)雜耦合信息進(jìn)行學(xué)習(xí),經(jīng)由共享機(jī)制并行訓(xùn)練多個(gè)負(fù)荷預(yù)測子任務(wù),共同完成IES多元負(fù)荷預(yù)測任務(wù)。

1.2 MTL

MTL在處理一個(gè)問題的過程中可以通過使用共享層來學(xué)習(xí)并獲得其他相關(guān)子任務(wù)所提供的輔助耦合信息,進(jìn)而達(dá)到提高模型輸出精度與增強(qiáng)泛化能力的目的［19］。

使用MTL構(gòu)建IES多元負(fù)荷預(yù)測模型的關(guān)鍵在于選擇模型結(jié)構(gòu)和構(gòu)建共享學(xué)習(xí)層。

1）MTL按特征共享表示方式可分為硬共享機(jī)制和軟共享機(jī)制。其中硬共享機(jī)制多個(gè)子任務(wù)共同使用同一特征共享層,特征參數(shù)完全相同；軟共享機(jī)制每一個(gè)子任務(wù)都有自己的特征參數(shù),不同子任務(wù)間需要進(jìn)行必要的正則化處理才能達(dá)到信息共享的目的。相比之下,硬共享機(jī)制在特征參數(shù)、模型結(jié)構(gòu)上更加簡單,針對所要構(gòu)建的IES多元負(fù)荷預(yù)測模型這種參數(shù)繁多、結(jié)構(gòu)復(fù)雜的情況更不易產(chǎn)生過擬合問題,模型泛化能力也更強(qiáng)。同時(shí)考慮到軟共享機(jī)制相較于硬共享機(jī)制的約束條件更加寬松,比較適用于不具有緊密關(guān)系的任務(wù),而并不適用于IES多元負(fù)荷預(yù)測這種具有復(fù)雜耦合性的問題［19-20］。因此本文采用硬共享機(jī)制進(jìn)行IES多元負(fù)荷預(yù)測模型網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì),硬共享機(jī)制網(wǎng)絡(luò)結(jié)構(gòu)如附錄A圖A1所示。

2）在共享學(xué)習(xí)層構(gòu)建過程中,考慮到研究對象IES多元負(fù)荷預(yù)測具有很強(qiáng)的時(shí)間序列特性,前一時(shí)刻負(fù)荷需求對下一時(shí)刻負(fù)荷預(yù)測具有較大影響,因此采用具有記憶特性的LSTM神經(jīng)網(wǎng)絡(luò)來搭建共享學(xué)習(xí)層。LSTM在每個(gè)神經(jīng)元內(nèi)部添加了遺忘門、輸入門和輸出門,并且增加了一條代表長期記憶的信息流,其LSTM神經(jīng)元內(nèi)部結(jié)構(gòu)如附錄A圖A2所示,具體計(jì)算過程如式（2）至式（7）所示。

遺忘門:

輸入門:

輸出門:

式（2）至式（7）中相關(guān)變量的含義詳見文獻(xiàn)［21］。

2 LSTM-MTL多元負(fù)荷預(yù)測模型的構(gòu)建

2.1 輸入/輸出特征集設(shè)置

輸入/輸出特征集是決定模型表現(xiàn)能力的關(guān)鍵。其中輸入特征往往是影響負(fù)荷預(yù)測的各種屬性,針對IES多元負(fù)荷預(yù)測問題設(shè)置輸入特征時(shí)首先需要確定各類負(fù)荷的組成以及必要的相關(guān)信息,如環(huán)境因子、節(jié)假日信息等。同時(shí)考慮到IES中多元負(fù)荷預(yù)測具有一定的周特性和日特性,即待預(yù)測時(shí)刻負(fù)荷數(shù)據(jù)與前一周、前一天負(fù)荷具有很大的相關(guān)性。因此本文選擇環(huán)境因子、日類型信息、多元負(fù)荷數(shù)據(jù)等共同作為輸入特征x。而輸出特征y則為待測時(shí)刻實(shí)際多元負(fù)荷數(shù)據(jù)。輸入特征x與輸出特征y共同構(gòu)成多元負(fù)荷預(yù)測問題的樣本{x,y}。具體的輸入/輸出特征集如附錄A表A1所示。

2.2 數(shù)據(jù)預(yù)處理

首先鑒于所選數(shù)據(jù)集是某實(shí)際IES全年運(yùn)行數(shù)據(jù),其在測量、傳輸、存儲(chǔ)過程中易出現(xiàn)異常情況,倘若直接舍棄該部分樣本,會(huì)大大削減建立預(yù)測模型的可用信息,降低模型預(yù)測性能。因此采用文獻(xiàn)［23］方法對其進(jìn)行缺失值填充和異常值辨識(shí),以保證數(shù)據(jù)集的完整性和優(yōu)質(zhì)性。

其次在確定輸入/輸出數(shù)據(jù)集后,需要對其進(jìn)行歸一化處理,以防止變量間數(shù)量級(jí)差異較大影響模型預(yù)測精度。區(qū)別于傳統(tǒng)方法,本文采用(x?xmin)/(xmax?xmin)+1的方式將數(shù)據(jù)歸一化至（1,2）之間,其中xmin為該輸入特征的最小值,xmax為該輸入特征的最大值,主要是為了避免后續(xù)計(jì)算平均絕對百分比誤差（mean absolute percentage error,MAPE）指標(biāo)LMAPE時(shí)出現(xiàn)無窮大的問題。日類型數(shù)據(jù)則以二進(jìn)制變量對其進(jìn)行標(biāo)注,其中0表示工作日,1表示非工作日。

2.3 多元負(fù)荷預(yù)測模型的構(gòu)建

鑒于深度學(xué)習(xí)模型構(gòu)建與訓(xùn)練需要大量的計(jì)算資源,宜采用高性能服務(wù)器,故本文采用“離線訓(xùn)練+在線應(yīng)用”的方式構(gòu)建IES電、熱、冷多元負(fù)荷預(yù)測神經(jīng)網(wǎng)絡(luò)模型,詳細(xì)流程如附錄A圖A4所示。首先通過高性能服務(wù)器對模型進(jìn)行離線構(gòu)建和訓(xùn)練,然后將訓(xùn)練好的模型復(fù)制到對應(yīng)的用戶側(cè)計(jì)算機(jī)或終端設(shè)備中進(jìn)行在線應(yīng)用。其中,離線訓(xùn)練階段主要是通過LSTM-MTL網(wǎng)絡(luò)學(xué)習(xí)多個(gè)輸入特征和多元負(fù)荷間的映射關(guān)系；在線應(yīng)用主要是將當(dāng)前時(shí)刻的特征輸入訓(xùn)練好的LSTM-MTL模型中快速得到下一時(shí)刻的多元負(fù)荷預(yù)測結(jié)果。

離線建模的具體步驟如下。

1）網(wǎng)絡(luò)結(jié)構(gòu)超參數(shù)選擇

網(wǎng)絡(luò)結(jié)構(gòu)超參數(shù)選擇直接決定了所建立模型的預(yù)測效果。首先依據(jù)所建立模型特征確定部分超參數(shù),然后對剩余超參數(shù)采用隨機(jī)追蹤法［24］,利用不同超參數(shù)子空間對網(wǎng)絡(luò)收斂速度影響程度不同,選擇不同的搜索范圍,以加快參數(shù)選擇效率。

2）網(wǎng)絡(luò)模型訓(xùn)練

將多維特征向量作為輸入,負(fù)荷預(yù)測數(shù)值作為輸出,自底向上訓(xùn)練網(wǎng)絡(luò),直至迭代到預(yù)設(shè)次數(shù)為止。通過多個(gè)隱含層逐層將原始數(shù)據(jù)集中的低維特征轉(zhuǎn)化為高維特征,使模型學(xué)習(xí)到隱含映射關(guān)系。

3）網(wǎng)絡(luò)參數(shù)調(diào)優(yōu)

采用Adam優(yōu)化算法將驗(yàn)證集特征量輸入訓(xùn)練后的LSTM-MTL網(wǎng)絡(luò)中,將輸出的多元負(fù)荷預(yù)測結(jié)果與真實(shí)值進(jìn)行對比并計(jì)算損失函數(shù),依據(jù)損失函數(shù)逐代調(diào)整網(wǎng)絡(luò)參數(shù)。

4）性能評估

鑒于所構(gòu)建多元負(fù)荷預(yù)測模型在同一時(shí)間需要對多個(gè)子任務(wù)進(jìn)行預(yù)測分析,因此本文選用LMAPE、平均精度（mean accuracy,MA）指標(biāo)LMA和權(quán)重平均精度（weighted mean accuracy,WMA）指標(biāo)LWMA為評價(jià)指標(biāo)。MAPE可體現(xiàn)預(yù)測模型對每種負(fù)荷的預(yù)測性能,WMA可從整體上體現(xiàn)模型對多元負(fù)荷預(yù)測的性能,其具體評價(jià)指標(biāo)表達(dá)式如下:

3 算例分析

3.1 算例描述

本文LSTM-MTL模型構(gòu)建及訓(xùn)練在TensorFlow深度學(xué)習(xí)框架下進(jìn)行,硬件平臺(tái)采用Intel Core i7 CPU和一塊NVDIA RTX 2070 GPU。算例數(shù)據(jù)來源于美國國家可再生能源實(shí)驗(yàn)室官網(wǎng)中的某實(shí)際樓宇I(lǐng)ES［26］,該系統(tǒng)由電、熱、冷系統(tǒng)組成,其中熱電聯(lián)產(chǎn)機(jī)組、電鍋爐、燃?xì)忮仩t及電制冷機(jī)等設(shè)備作為能量轉(zhuǎn)換設(shè)備滿足不同能源需求。采用1年的實(shí)際運(yùn)行數(shù)據(jù)進(jìn)行算例分析,具體數(shù)據(jù)如附錄A圖A5所示。訓(xùn)練集、驗(yàn)證集、測試集按照70%、15%、15%的比例進(jìn)行劃分,以1 h為步長對未來電、熱、冷負(fù)荷進(jìn)行預(yù)測。

3.2 超參數(shù)選擇與模型構(gòu)建

模型預(yù)測準(zhǔn)確度很大程度上取決于超參數(shù)選擇,本文模型涉及的超參數(shù)主要包括:網(wǎng)絡(luò)結(jié)構(gòu)超參數(shù)和優(yōu)化算法超參數(shù)。首先鑒于模型特點(diǎn)以及上文對輸入輸出特征集的設(shè)定,確定每個(gè)子輸入序列長度為27,每個(gè)子輸出序列長度為1。其次經(jīng)由大量文獻(xiàn)證實(shí)所采用的Adam算法可以確定學(xué)習(xí)率α初始值、平滑參數(shù)、子訓(xùn)練樣本集個(gè)數(shù)、最大訓(xùn)練次數(shù)等參數(shù),剩余參數(shù)則采用隨機(jī)追蹤法進(jìn)行尋優(yōu)。這樣做可減少神經(jīng)網(wǎng)絡(luò)參數(shù)的尋優(yōu)過程,明顯提高模型構(gòu)建和訓(xùn)練效率。多次試驗(yàn)記錄的模型最優(yōu)超參數(shù)如附錄A表A2所示。

在模型結(jié)構(gòu)上首先依據(jù)電、熱、冷3類負(fù)荷設(shè)置MTL中的3類子任務(wù),分別定義3個(gè)子輸入與3個(gè)子輸出。其次針對負(fù)荷預(yù)測數(shù)據(jù)的強(qiáng)時(shí)間序列特性,利用LSTM神經(jīng)網(wǎng)絡(luò)構(gòu)建模型共享層。最后依據(jù)所確定的最優(yōu)超參數(shù)實(shí)現(xiàn)LSTM-MTL模型的整體構(gòu)建并對其進(jìn)行訓(xùn)練,具體的模型結(jié)構(gòu)如附錄A圖A6所示。

3.3 離線訓(xùn)練結(jié)果分析

1）模型離線訓(xùn)練結(jié)果分析

模型構(gòu)建完畢后需對其進(jìn)行離線訓(xùn)練,在該過程中為了避免后期學(xué)習(xí)率過大導(dǎo)致模型在最優(yōu)解附近來回振蕩而無法收斂的問題,采用學(xué)習(xí)率倍數(shù)衰減方法,即在網(wǎng)絡(luò)訓(xùn)練過程中學(xué)習(xí)率能夠隨訓(xùn)練次數(shù)的增加而逐漸減少。學(xué)習(xí)率隨訓(xùn)練次數(shù)的變化情況如附錄A圖A7所示,由圖A7可知學(xué)習(xí)率初始值設(shè)定為0.01,衰減系數(shù)為0.5,在訓(xùn)練次數(shù)達(dá)到210次左右時(shí)學(xué)習(xí)率達(dá)到了預(yù)設(shè)的最小值0.000 1并穩(wěn)定于此值。

訓(xùn)練集和驗(yàn)證集預(yù)測精度隨訓(xùn)練次數(shù)變化的情況如附錄A圖A8所示。結(jié)合圖A7和圖A8分析可知,當(dāng)訓(xùn)練次數(shù)小于210次時(shí),由于學(xué)習(xí)率從初始值0.01開始逐漸減少,因此訓(xùn)練集和測試集上的預(yù)測精度也會(huì)隨之產(chǎn)生波動(dòng),但總體隨訓(xùn)練次數(shù)的增加而提高。當(dāng)訓(xùn)練次數(shù)達(dá)到210次后,訓(xùn)練集和測試集的精度基本趨于穩(wěn)定,因?yàn)榇藭r(shí)學(xué)習(xí)率穩(wěn)定于0.000 1,已能夠準(zhǔn)確找到最優(yōu)解,使模型預(yù)測精度趨于穩(wěn)定。同時(shí)還可知模型在訓(xùn)練集和驗(yàn)證集上的預(yù)測精度十分接近,驗(yàn)證集預(yù)測精度僅比訓(xùn)練集小約0.4%,說明模型在訓(xùn)練過程中并沒有出現(xiàn)過擬合現(xiàn)象,模型的訓(xùn)練結(jié)果較為合理,具有較強(qiáng)的泛化能力。

電、熱、冷負(fù)荷各自平均預(yù)測精度隨訓(xùn)練次數(shù)變化的情況如附錄A圖A9所示。以LMA作為評價(jià)指標(biāo),可知熱負(fù)荷與冷負(fù)荷平均預(yù)測精度隨訓(xùn)練次數(shù)變化情況大致相同且基本維持在96%附近。而電負(fù)荷平均預(yù)測精度較熱、冷負(fù)荷有一定的差距,主要是因?yàn)殡娯?fù)荷較熱、冷負(fù)荷來說實(shí)時(shí)性較強(qiáng),不具有熱、冷負(fù)荷較強(qiáng)的慣性,同時(shí)影響因素更多,因此預(yù)測難度更大。訓(xùn)練結(jié)果反映模型在處理多元負(fù)荷預(yù)測時(shí)與IES實(shí)際運(yùn)行數(shù)據(jù)較為相近,模型離線訓(xùn)練結(jié)果具有可信性。

2）模型耦合信息學(xué)習(xí)可視化解釋

為證實(shí)離線訓(xùn)練中LSTM-MTL模型可利用子任務(wù)提供的耦合信息來提升預(yù)測精度,本節(jié)采用附錄A中的沙普利加和解釋技術(shù)（Shapley additive explanation technology,SAET）對神經(jīng)網(wǎng)絡(luò)輸出結(jié)果進(jìn)行可視化解釋［27］。限于篇幅,僅以冬、夏季典型日電負(fù)荷預(yù)測為例進(jìn)行說明,各輸入特征對預(yù)測結(jié)果的貢獻(xiàn)度如附錄A圖A10所示,其中紅色和藍(lán)色部分分別表示特征對預(yù)測值具有正向促進(jìn)和反向作用；長度表示該特征對預(yù)測值的貢獻(xiàn)度大小。

由附錄A圖A10（a）可知冬季典型日模型預(yù)測平均基準(zhǔn)值為1 385.41 k W,從基準(zhǔn)值到預(yù)測值主要受太陽輻射、溫度、t時(shí)刻熱負(fù)荷預(yù)測值、t時(shí)刻冷負(fù)荷預(yù)測值以及前一日t時(shí)刻電負(fù)荷值等特征量影響。若不考慮熱、冷負(fù)荷對電負(fù)荷預(yù)測的影響,則模型預(yù)測值為1 423.62 kW,相較于真實(shí)值1 814.89 kW的誤差為21.56%。相比之下,采用LSTM-MTL模型后預(yù)測值為1 773.62 k W,誤差為2.32%,預(yù)測精度明顯提高。主要是因?yàn)樗芯縄ES在冬季時(shí)熱需求較大,而系統(tǒng)內(nèi)部熱量很大一部分來源于電制熱設(shè)備,致使電需求伴隨熱需求的提升而提升,在同一時(shí)刻熱負(fù)荷預(yù)測對電負(fù)荷預(yù)測起到很大程度的正向影響。相反冬季所需冷負(fù)荷量小,可直接通過吸收式制冷機(jī)滿足供應(yīng)需求,不需要電制冷設(shè)備進(jìn)行額外供應(yīng),對電負(fù)荷預(yù)測具有一定的反向作用。

由附錄A圖A10（b）可知,夏季大量的冷負(fù)荷需求致使電負(fù)荷需求在一定程度上增大；同時(shí)降雨量起到反向作用,因?yàn)橄募窘涤陼r(shí)刻明顯降低了氣溫,不再需要將大量電制冷設(shè)備投入使用。

通過上述分析可知,所構(gòu)建的LSTM-MTL模型在進(jìn)行負(fù)荷預(yù)測時(shí)確實(shí)能通過共享層利用其余子任務(wù)提供的耦合信息,隱式增加原任務(wù)數(shù)據(jù)量,進(jìn)而對原任務(wù)產(chǎn)生不同程度的影響,達(dá)到提高模型總體預(yù)測精度和泛化能力的目的。

3.4 不同預(yù)測模型在線應(yīng)用結(jié)果對比分析

1）LSTM-MTL模型與傳統(tǒng)多元負(fù)荷預(yù)測模型對比

為突出本文所構(gòu)建模型在IES多元負(fù)荷預(yù)測上的優(yōu)勢,本節(jié)將LSTM-MTL模型與現(xiàn)有預(yù)測模型進(jìn)行對比分析。目前,IES多元負(fù)荷預(yù)測方法主要有改進(jìn)粒子群-小波神經(jīng)網(wǎng)絡(luò)法（IPSO-WNN）［15］和核主成分分析-廣義回歸神經(jīng)網(wǎng)絡(luò)法（KPCAGRNN）［16］等。上 述2種 模 型 均 在Sklearn與TensorFlow環(huán)境下進(jìn)行復(fù)現(xiàn),預(yù)測數(shù)據(jù)選取測試集中某4天,其中1～48時(shí)段為工作日,49～96時(shí)段為非工作日。多次試驗(yàn)后記錄每種模型在測試數(shù)據(jù)上的預(yù)測結(jié)果如圖2和附錄A表A3所示,LSTMMTL模型針對電、熱、冷負(fù)荷的小時(shí)級(jí)MAPE值如圖3所示。

圖2 多元負(fù)荷預(yù)測模型的預(yù)測結(jié)果Fig.2 Forecast results of multiple load prediction model

圖3 小時(shí)級(jí)MAPE值分布Fig.3 Distribution of hourly MAPE values

在預(yù)測精度方面,由圖3和附錄A表A3可知LSTM-MTL模型對電、熱、冷負(fù)荷的MAPE預(yù)測誤差僅在個(gè)別時(shí)間超過3%,總體預(yù)測精度較高。對于WMA值,LSTM-MTL較IPSO-WNN提升4.22%,較KPCA-GRNN提升7.78%。同時(shí)經(jīng)圖2分析可知,3類模型的預(yù)測差距主要體現(xiàn)在峰時(shí)刻和谷時(shí)刻負(fù)荷附近,因?yàn)镮ES實(shí)際運(yùn)行過程中峰、谷時(shí)刻負(fù)荷波動(dòng)較大,波動(dòng)較為強(qiáng)烈的時(shí)刻預(yù)測難度要明顯高于其他時(shí)間段。相比之下,LSTM-MTL預(yù)測效果較好的原因主要表現(xiàn)在以下幾個(gè)方面。

①LSTM-MTL模型首先通過子任務(wù)學(xué)習(xí)單一負(fù)荷的特征,然后利用共享層學(xué)習(xí)其余子任務(wù)提供的輔助耦合信息,在單一負(fù)荷波動(dòng)較大時(shí)能夠有效利用學(xué)習(xí)到的輔助耦合特征來減少預(yù)測誤差,更好地?cái)M合出負(fù)荷變化趨勢。而其余2種模型在輸入層不做區(qū)分,所有特征集數(shù)據(jù)采用統(tǒng)一學(xué)習(xí)方式,致使模型需要更多次迭代,學(xué)習(xí)效率和預(yù)測精度較低。

②IPSO-WNN采用小波神經(jīng)網(wǎng)絡(luò),KPCAGRNN采用徑向基神經(jīng)網(wǎng)絡(luò),雖然有助于提高收斂速度與精度,但網(wǎng)絡(luò)結(jié)構(gòu)不具有記憶功能,在處理具有時(shí)序特性的負(fù)荷數(shù)據(jù)時(shí)相較于LSTM網(wǎng)絡(luò)仍有一定的劣勢。

③KPCA-GRNN對原始數(shù)據(jù)進(jìn)行降維處理,雖然在一定程度上減少了數(shù)據(jù)冗余,提高了模型效率,但卻致使隱藏的部分耦合信息被抹去,模型學(xué)習(xí)不充分。同時(shí)鑒于目前IES實(shí)際運(yùn)行數(shù)據(jù)較難獲得、數(shù)據(jù)降維后易出現(xiàn)訓(xùn)練數(shù)據(jù)匱乏等問題,受數(shù)據(jù)量限制,本節(jié)中的KPCA-GRNN預(yù)測精度最低。

在預(yù)測時(shí)間方面,由附錄A表A3可知離線訓(xùn)練上3類模型差異較大,其中IPSO-WNN時(shí)間最長,KPCA-GRNN時(shí)間最短,而在線預(yù)測上3類模型時(shí)間較為接近,主要原因如下。

①IPSO-WNN為避免傳統(tǒng)反向傳播（BP）算法易陷入局部最優(yōu)的問題,采用IPSO進(jìn)行權(quán)值和偏置的更新,但I(xiàn)PSO需要對粒子位置和速度反復(fù)迭代更新才能獲得最優(yōu)值,這明顯加大了模型訓(xùn)練時(shí)間,并不適用于離線訓(xùn)練模型。

②KPCA-GRNN通過降維人為簡化了輸入特征集,提高了模型運(yùn)算效率,因此離線訓(xùn)練時(shí)間最短,但卻存在受數(shù)據(jù)量限制預(yù)測精度降低的問題。

③3類模型在線預(yù)測均是在離線訓(xùn)練完畢基礎(chǔ)上進(jìn)行,雖然LSTM-MTL相較于其余2種模型,網(wǎng)絡(luò)結(jié)構(gòu)更加復(fù)雜,但三者均不屬于大型神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)模型,因此在現(xiàn)有硬件條件支撐下在線預(yù)測時(shí)間差距并不明顯。

2）LSTM-MTL模型與單一負(fù)荷預(yù)測模型對比

為驗(yàn)證所構(gòu)建LSTM-MTL模型能有效學(xué)習(xí)多元負(fù)荷間的耦合信息,提高負(fù)荷預(yù)測精度,本節(jié)將其與單一負(fù)荷預(yù)測模型（以LSTM網(wǎng)絡(luò)模型為例）進(jìn)行對比分析,結(jié)果如附錄A表A4所示?？芍狶STM-MTL模型進(jìn)行預(yù)測時(shí)能夠獲得更高的預(yù)測精度,其中電、熱、冷負(fù)荷提高的預(yù)測精度分別為2.5%、2.1%、3.4%。因?yàn)槟Ｐ徒?jīng)由共享層學(xué)習(xí)了不同輸入間的復(fù)雜耦合關(guān)系,在預(yù)測某一種負(fù)荷時(shí)能夠充分利用其余2種負(fù)荷提供的輔助信息。

除預(yù)測精度外,本節(jié)還在同樣的計(jì)算資源前提下對比兩者的計(jì)算量,并以累加時(shí)間長短來表征2類模型計(jì)算量的多少。2類模型負(fù)荷預(yù)測的耗用時(shí)間如附錄A表A5所示,可以看出多元負(fù)荷預(yù)測在模型訓(xùn)練、預(yù)測上的時(shí)間明顯小于單一負(fù)荷預(yù)測的累加。這表明多元負(fù)荷預(yù)測模型在實(shí)際預(yù)測過程中的計(jì)算量相對較少,可有效縮小訓(xùn)練、預(yù)測時(shí)間,具有更強(qiáng)的工程應(yīng)用價(jià)值。

4 結(jié)語

本文將LSTM神經(jīng)網(wǎng)絡(luò)與MTL方法應(yīng)用于IES電、熱、冷多元負(fù)荷預(yù)測中,通過“硬共享機(jī)制+LSTM共享層”方式構(gòu)建了多元負(fù)荷預(yù)測模型框架,通過“離線訓(xùn)練+在線應(yīng)用”方式建立了多元負(fù)荷預(yù)測模型,最后經(jīng)由算例分析得出如下結(jié)論。

1）基于LSTM-MTL的多元負(fù)荷預(yù)測模型可以通過共享層模擬多元負(fù)荷間的耦合特性,學(xué)習(xí)不同子任務(wù)提供的耦合信息,進(jìn)而達(dá)到提升負(fù)荷預(yù)測精度的目的。

2）與傳統(tǒng)預(yù)測模型相比,所構(gòu)建的LSTMMTL模型可兼顧IES多類型能源用能特性關(guān)系,在負(fù)荷預(yù)測精度和時(shí)間上具有更好的應(yīng)用效果。

隨著能源系統(tǒng)的日益交融和人工智能技術(shù)的不斷發(fā)展,使用人工智能進(jìn)行IES多元負(fù)荷預(yù)測必將得到越來越多的重視。鑒于目前國內(nèi)外IES的發(fā)展仍處于初期,其在能源利用和需求方面仍采用較為粗獷的經(jīng)營模式,并未完全考慮價(jià)格因素對其優(yōu)化調(diào)度和經(jīng)濟(jì)運(yùn)行的影響,在數(shù)據(jù)獲取上想要獲得與價(jià)格相關(guān)的運(yùn)行數(shù)據(jù)具有一定的難度,因此本文并未將價(jià)格因素考慮到負(fù)荷預(yù)測中,未來可在本文所提方法的基礎(chǔ)上進(jìn)一步研究價(jià)格因素對IES多元負(fù)荷預(yù)測的影響。