陳錦攀, 羅滇生, 周 勇, 賀 輝, 肖時(shí)勇
(1.湖南大學(xué)電氣與信息工程學(xué)院, 長(zhǎng)沙 410082;2.湖南省電力公司調(diào)度通信局, 長(zhǎng)沙 410007;3.湖南省電力公司婁底電業(yè)局, 婁底 417000)
改進(jìn)的時(shí)變非線性負(fù)荷預(yù)測(cè)組合算法
陳錦攀1, 羅滇生1, 周 勇2, 賀 輝2, 肖時(shí)勇3
(1.湖南大學(xué)電氣與信息工程學(xué)院, 長(zhǎng)沙 410082;2.湖南省電力公司調(diào)度通信局, 長(zhǎng)沙 410007;3.湖南省電力公司婁底電業(yè)局, 婁底 417000)
為了提高超短期負(fù)荷預(yù)測(cè)精度,提出了一種改進(jìn)的基于學(xué)習(xí)的時(shí)變非線性組合預(yù)測(cè)算法,該算法在基預(yù)測(cè)器中增加了基于最大Lyapunov指數(shù)的混沌時(shí)間序列預(yù)測(cè)模型,其中最大Lyapunov指數(shù)為序列特征屬性,在進(jìn)行組合預(yù)測(cè)時(shí)將序列的特征屬性和基預(yù)測(cè)器預(yù)測(cè)的結(jié)果形成元知識(shí),作為元預(yù)測(cè)器的輸入,從而發(fā)現(xiàn)并且糾正基預(yù)測(cè)器的系統(tǒng)偏差。在元預(yù)測(cè)器中,通過(guò)門(mén)控網(wǎng)絡(luò)確定各基預(yù)測(cè)器的權(quán)重,保證了權(quán)重的時(shí)變性和非負(fù)性。預(yù)測(cè)結(jié)果表明,該算法的預(yù)測(cè)精度較高,具有實(shí)際應(yīng)用價(jià)值。
組合預(yù)測(cè); 元學(xué)習(xí); 門(mén)控網(wǎng)絡(luò); 最大李雅普諾夫指數(shù); 超短期負(fù)荷預(yù)測(cè)
數(shù)學(xué)模型是理想的抽象,電力負(fù)荷發(fā)展的自然規(guī)律很難用單一數(shù)學(xué)模型加以描述。為了提高預(yù)測(cè)的準(zhǔn)確性,減少預(yù)測(cè)的偏差,預(yù)測(cè)者往往對(duì)同一問(wèn)題采用多種單一預(yù)測(cè)方法進(jìn)行組合,而不只采用一種方法進(jìn)行預(yù)測(cè)。組合預(yù)測(cè)就是綜合利用各種預(yù)測(cè)方法的預(yù)測(cè)結(jié)果,用適當(dāng)?shù)臋?quán)系數(shù)進(jìn)行加權(quán)平均,組合預(yù)測(cè)中關(guān)鍵問(wèn)題是如何篩選模型和求出各種預(yù)測(cè)模型的權(quán)系數(shù)。
考慮到不同的預(yù)測(cè)模型適合具有不同特征屬性的負(fù)荷序列預(yù)測(cè),文獻(xiàn)[1]提出了一種基于元學(xué)習(xí)的時(shí)變非線性組合預(yù)測(cè)算法,該算法將目前已用于分類(lèi)算法組合的元學(xué)習(xí)[2,3]思想引入到預(yù)測(cè)算法的信息融合過(guò)程中。在進(jìn)行組合預(yù)測(cè)時(shí)將負(fù)荷序列的特征屬性和基預(yù)測(cè)器預(yù)測(cè)的結(jié)果共同組成元知識(shí),作為元預(yù)測(cè)器的輸入,在元預(yù)測(cè)器中,使用門(mén)控網(wǎng)絡(luò)確定各基預(yù)測(cè)器的權(quán)重。但該算法中使用的各單一模型是簡(jiǎn)單的曲線擬合模型,且數(shù)量較少,不能滿足電力負(fù)荷序列的預(yù)測(cè)要求。本文將該算法進(jìn)行改進(jìn)并應(yīng)用于超短期負(fù)荷預(yù)測(cè)中,結(jié)果表明該算法的預(yù)測(cè)精度高于單一預(yù)測(cè)算法、目前常用的線性和非線性組合算法和基于元學(xué)習(xí)的時(shí)變非線性組合預(yù)測(cè)模型。
設(shè)f1,f2,…,fn為一組預(yù)測(cè)算法,共n個(gè);Xp=(xp(1),…,xp(M))是第p個(gè)原始輸入數(shù)據(jù),長(zhǎng)度為M。元預(yù)測(cè)器PM以f1,f2,…,fn在Xp上的預(yù)測(cè)結(jié)果f1(Xp),f2(Xp),…,fn(Xp)和Xp的特征屬性ap形成元知識(shí)作為輸入,輸出為組合預(yù)測(cè)的結(jié)果,即
F(Xp)=PM(f1(Xp),f2(Xp),…,
fn(Xp),ap)
(1)
式中,ap={ap(1),ap(2),…,ap(m)},m為特征屬性的個(gè)數(shù)。
當(dāng)元預(yù)測(cè)器PM輸入不考慮特征屬性ap時(shí),采用不同組合預(yù)測(cè)策略,式(1)退化為各種常用的組合預(yù)測(cè)方法。
基于元學(xué)習(xí)的組合預(yù)測(cè)器結(jié)構(gòu)如圖1所示。
圖1 基于元學(xué)習(xí)的組合預(yù)測(cè)器結(jié)構(gòu)
它由兩部分組成:由各種單一預(yù)測(cè)算法f1,f2,…,fn組成的基級(jí)預(yù)測(cè)器和以門(mén)控網(wǎng)絡(luò)[4]為核心的元預(yù)測(cè)器。原始輸入數(shù)據(jù)Xp輸入到多個(gè)基級(jí)預(yù)測(cè)器,得到基級(jí)預(yù)測(cè)結(jié)果f1(Xp),f2(Xp),…,fn(Xp)。將原始輸入數(shù)據(jù)特征向量ap作為門(mén)控網(wǎng)絡(luò)輸入,得到各基級(jí)預(yù)測(cè)器的權(quán)重c1(Xp)、c2(Xp),…,cn(Xp)。組合預(yù)測(cè)器最終預(yù)測(cè)結(jié)果為
(2)
門(mén)控網(wǎng)絡(luò)的結(jié)構(gòu)如圖2所示。
圖2 門(mén)控網(wǎng)絡(luò)的結(jié)構(gòu)
在門(mén)控網(wǎng)絡(luò)中使用softmax激活函數(shù),第i個(gè)基級(jí)預(yù)測(cè)器的權(quán)重ci(Xp)為
(3)
注意到由于Zi(ap)對(duì)ap的線性依賴,使得門(mén)控網(wǎng)絡(luò)的輸出是ap的一個(gè)非線性函數(shù)。同時(shí),將softmax激勵(lì)函數(shù)用作門(mén)控網(wǎng)絡(luò)的激活函數(shù)能確保滿足以下的要求,從而保證了組合預(yù)測(cè)權(quán)值的非負(fù)性。
(4)
元預(yù)測(cè)器的學(xué)習(xí)目的是確定門(mén)控網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù),使得組合預(yù)測(cè)結(jié)果F(Xp)與相應(yīng)的期望輸出yp兩序列擬合最優(yōu),可以通過(guò)保證訓(xùn)練樣本的整體均方誤差能量函數(shù)EF最小,得到
(5)
式中,P為訓(xùn)練樣本的個(gè)數(shù)。
具體的學(xué)習(xí)算法可采用常用的各種神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法或其改進(jìn)算法[5]。
本文將文獻(xiàn)[1]提出的基于元學(xué)習(xí)的時(shí)變非線性組合預(yù)測(cè)方法中加入基于最大Lyapunov指數(shù)的混沌時(shí)間序列預(yù)測(cè)模型[6,8]并應(yīng)用于電力負(fù)荷超短期預(yù)測(cè)中。改進(jìn)后算法增加了基預(yù)測(cè)器個(gè)數(shù),使各單一模型的權(quán)重更加優(yōu)化,提高了模型的自適應(yīng)性。
3.1 日典型曲線的選取
本文采用變權(quán)重灰色關(guān)聯(lián)分析法從歷史中選取典型日[9]。具體方法如下。
設(shè)x0、xi分別為預(yù)測(cè)日及歷史日各影響因素構(gòu)成的向量,i=1,2,…,m,則有
x0=[x0(1),x0(2),…,x0(n)]
(6)
xi=[xi(1),xi(2),…,xi(n)]
(7)
稱(chēng)
(8)
為x0與xi在第k點(diǎn)的關(guān)聯(lián)系數(shù)。其中,Δi(k)=x0(k)-xi(k),ρ分分辨系數(shù),是0到1之間的數(shù),一般取ρ=0.5。
綜合各點(diǎn)的關(guān)聯(lián)系數(shù),可得出整個(gè)x0與xi的關(guān)聯(lián)度ri為
(9)
由于各氣象因素影響負(fù)荷的程度不同,采用變權(quán)重的灰色關(guān)聯(lián)度方法確定關(guān)聯(lián)度。
(10)
式中,λk為第k個(gè)影響因素的權(quán)重,體現(xiàn)了不同的影響因素對(duì)負(fù)荷影響的程度。
當(dāng)選取了預(yù)測(cè)日的多條相似日曲線后,選取與預(yù)測(cè)日關(guān)聯(lián)度最大的歷史日為典型日。
3.2 基預(yù)測(cè)器的選取
考慮到電力負(fù)荷序列在局部可以用多項(xiàng)式曲線、指數(shù)曲線來(lái)近似并且電力負(fù)荷時(shí)間序列具有混沌特性,本研究選取了一次型多項(xiàng)式曲線、二次型多項(xiàng)式曲線型、三次型多項(xiàng)式曲線型、簡(jiǎn)單指數(shù)曲線模型、基于最大Lyapunov指數(shù)的混沌時(shí)間序列預(yù)測(cè)模型作為基預(yù)測(cè)器。
3.3 特征屬性的選取
在元預(yù)測(cè)器訓(xùn)練階段,特征屬性可直接獲得。在預(yù)測(cè)階段,由于預(yù)測(cè)曲線在預(yù)測(cè)時(shí)刻的特征屬性和預(yù)測(cè)日基預(yù)測(cè)器是未知的,因此分別采用日典型曲線在對(duì)應(yīng)時(shí)刻的特征屬性和基預(yù)測(cè)器代替。
由于日典型曲線XS在總體形態(tài)上是與預(yù)測(cè)日曲線Xp相似的,因此可以采用XS的特征屬性來(lái)近似表征預(yù)測(cè)日負(fù)荷曲線Xp的特征屬性。
對(duì)于給定的序列XS是否具有混沌時(shí)間序列趨勢(shì)可用序列的Lyapunov指數(shù)判斷并表征,如混沌時(shí)間序列預(yù)測(cè)模型的最大Lyapunov指數(shù)為常數(shù)。
因此,選擇以下5個(gè)特征屬性:
(1)預(yù)測(cè)時(shí)刻及其前后共T點(diǎn)的一階差分均方差ap(1);
(2)預(yù)測(cè)時(shí)刻及其前后共T點(diǎn)的二階差分均方差ap(2);
(3)預(yù)測(cè)時(shí)刻及其前后共T點(diǎn)的三階差分均方差ap(3);
(4)預(yù)測(cè)時(shí)刻及其前后共T點(diǎn)的環(huán)比系數(shù)均方差ap(4);
(5)預(yù)測(cè)時(shí)刻及其前后共T點(diǎn)序列的最大Lyapunov指數(shù)ap(5)。
分別采用一次曲線模型、二次曲線模型、三次曲線模型、簡(jiǎn)單指數(shù)曲線模型、基于Lyapunov指數(shù)的混沌時(shí)間序列預(yù)測(cè)模型、簡(jiǎn)單平均組合預(yù)測(cè)模型、神經(jīng)網(wǎng)絡(luò)組合預(yù)測(cè)模型、基于元學(xué)習(xí)的電力負(fù)荷組合預(yù)測(cè)模型和改進(jìn)的基于元學(xué)習(xí)的電力負(fù)荷組合預(yù)測(cè)模型對(duì)某區(qū)域電網(wǎng)2007年3月1日到3月10日,共2 880點(diǎn)的負(fù)荷進(jìn)行預(yù)測(cè)。神經(jīng)網(wǎng)絡(luò)組合預(yù)測(cè)模型和本文基于元學(xué)習(xí)的電力負(fù)荷組合預(yù)測(cè)模型訓(xùn)練過(guò)程中采用的訓(xùn)練樣本是2007年7月1日到7月31日的8 928個(gè)訓(xùn)練樣本。
元預(yù)測(cè)器的學(xué)習(xí)算法過(guò)程具體如下。
步驟1網(wǎng)絡(luò)參數(shù)的初始化:將ωki賦以隨機(jī)的初始值。其中:k=1,…,m;m為特征屬性的個(gè)數(shù);i=1,…,n;n為基級(jí)預(yù)測(cè)器個(gè)數(shù)。
步驟2輸入學(xué)習(xí)樣本Xp=(xp(1),…,xp(M))及相應(yīng)的期望輸出g(Xp)。其中:p=1,…,P;P為訓(xùn)練樣本數(shù)
步驟3網(wǎng)絡(luò)的自學(xué)習(xí):利用當(dāng)前網(wǎng)絡(luò)參數(shù)計(jì)算出網(wǎng)絡(luò)的輸出
(11)
步驟4計(jì)算瞬時(shí)梯度向量
[fi(Xp)-F(Xp)]·ap(k)}
(12)
步驟5修改網(wǎng)絡(luò)參數(shù)
(13)
神經(jīng)網(wǎng)絡(luò)組合預(yù)測(cè)模型中通過(guò)比較,采用了函數(shù)逼近能力較好的RBF網(wǎng)絡(luò)作為組合器。預(yù)測(cè)結(jié)果如表1所示。
表1 預(yù)測(cè)結(jié)果比較
由表中結(jié)果可見(jiàn),改進(jìn)的基于元學(xué)習(xí)的電力負(fù)荷組合預(yù)測(cè)模型的預(yù)測(cè)結(jié)果優(yōu)于各種單一預(yù)測(cè)模型的預(yù)測(cè)結(jié)果、目前常用的線性和非線性組合算法和基于元學(xué)習(xí)的電力負(fù)荷組合預(yù)測(cè)模型。
取2007年3月8日的預(yù)測(cè)結(jié)果,如圖3所示。由圖3可知,改進(jìn)的基于元學(xué)習(xí)的電力負(fù)荷組合預(yù)測(cè)模型的預(yù)測(cè)結(jié)果優(yōu)于神經(jīng)網(wǎng)絡(luò)組合預(yù)測(cè)模型的預(yù)測(cè)結(jié)果,這主要是因?yàn)樵撃P驮谶M(jìn)行組合預(yù)測(cè)時(shí)將負(fù)荷序列的特征屬性和基預(yù)測(cè)器預(yù)測(cè)的結(jié)果形成元知識(shí),可在一定程度上減少系統(tǒng)偏差,提高組合預(yù)測(cè)精度。同樣也優(yōu)于基于元學(xué)習(xí)的電力負(fù)荷組合預(yù)測(cè)模型。這主要是因?yàn)樵谠蟹椒ㄉ系幕A(yù)測(cè)器中增加了基于Lyapunov指數(shù)的混沌時(shí)間序列預(yù)測(cè)方法,有利于各單一模型權(quán)重優(yōu)化,提高了預(yù)測(cè)模型的自適應(yīng)性。
表2為圖3中三個(gè)預(yù)測(cè)時(shí)刻,采用改進(jìn)的基于元學(xué)習(xí)的電力負(fù)荷組合預(yù)測(cè)模型進(jìn)行預(yù)測(cè)時(shí),不同基預(yù)測(cè)模型的權(quán)重。從表2中可知,基于Lyapunov指數(shù)的混沌時(shí)間序列預(yù)測(cè)模型在該三個(gè)時(shí)刻的權(quán)重均高于其他模型,這說(shuō)明電力負(fù)荷時(shí)間序列具有混沌特性,將該模型作為基預(yù)測(cè)器在元預(yù)測(cè)器中使權(quán)重更加優(yōu)化,有利于提高電力負(fù)荷預(yù)測(cè)精度。
由表中可見(jiàn),對(duì)09:00時(shí)刻負(fù)荷進(jìn)行預(yù)測(cè)時(shí),相比于基于Lyapunov指數(shù)的混沌時(shí)間序列預(yù)測(cè)模型,二次曲線模型權(quán)重較高,是因?yàn)樵谠摃r(shí)刻為拐點(diǎn),且局部變化比較快,所以用二次曲線模型進(jìn)行預(yù)測(cè)效果要好;對(duì)12:30時(shí)刻和23:15時(shí)刻負(fù)荷進(jìn)行預(yù)測(cè)時(shí),相比于基于Lyapunov指數(shù)的混沌時(shí)間序列預(yù)測(cè)模型,一次曲線模型權(quán)重較高,是因?yàn)樵谠摃r(shí)刻為拐點(diǎn),且局部變化比較緩慢,所以用一次曲線模型進(jìn)行預(yù)測(cè)效果要好。因此,改進(jìn)的基于元學(xué)習(xí)的組合預(yù)測(cè)模型保證了組合預(yù)測(cè)的時(shí)變性。
圖3 改進(jìn)的基于元學(xué)習(xí)的組合預(yù)測(cè)模型與神經(jīng)網(wǎng)絡(luò)組合預(yù)測(cè)模型和基于元學(xué)習(xí)的組合預(yù)測(cè)模型預(yù)測(cè)結(jié)果比較
表2 不同時(shí)刻基預(yù)測(cè)器的權(quán)重
從表中可知,各權(quán)重都為非負(fù)數(shù),因此基于元學(xué)習(xí)的電力負(fù)荷組合預(yù)測(cè)模型保證了組合預(yù)測(cè)的非負(fù)性。同時(shí),從該表還可以看出簡(jiǎn)單指數(shù)曲線模型預(yù)測(cè)結(jié)果不良,因此在各時(shí)刻預(yù)測(cè)時(shí)所占的權(quán)重都不大。由此可見(jiàn)采用本文預(yù)測(cè)模型可有效剔除不良模型,實(shí)現(xiàn)模型的合理選擇。
改進(jìn)的時(shí)變非線性負(fù)荷預(yù)測(cè)組合算法的預(yù)測(cè)精度高于單一預(yù)測(cè)算法、常用的線性和非線性組合預(yù)測(cè)算法和基于元學(xué)習(xí)的時(shí)變非線性負(fù)荷預(yù)測(cè)組合模型。由于電力負(fù)荷時(shí)間序列具有混沌特性(結(jié)果分析中已經(jīng)證明),將基于Lyapunov指數(shù)的混沌時(shí)間序列預(yù)測(cè)模型作為基預(yù)測(cè)器,在元預(yù)測(cè)器中使權(quán)重更加優(yōu)化,比原有的基于元學(xué)習(xí)的時(shí)變非線性負(fù)荷預(yù)測(cè)組合算法的預(yù)測(cè)準(zhǔn)確率更高。同時(shí)根據(jù)各模型的權(quán)重,可以剔除權(quán)重較小模型,實(shí)現(xiàn)模型合理選擇。所以該方法對(duì)于電力負(fù)荷預(yù)測(cè)人員進(jìn)行準(zhǔn)確的電力超短期負(fù)荷預(yù)測(cè)有實(shí)際的指導(dǎo)意義。
[1] 羅滇生,肖偉,何洪英(Luo Diansheng, Xiao Wei,He Hongying). 基于元學(xué)習(xí)的時(shí)變非線性負(fù)荷預(yù)測(cè)組合算法(Time-varying nonlinear power load combined forecasting algorithm based on meta-learning)[J].繼電器(Relay),2007,35(17):12-16,21.
[2] Wang Xiaozhe, Smith-Miles K, Hyndman R. Rule induction for forecasting method selection: Meta-learning the characteristics of univariate time series [J]. Neurocomputing,2009,72 (10/11/12):2581-2594.
[3] Alexandros K, Melanie H. Model selection via meta-learning: a comparative study[J]. International Journal on Artificial Intelligence Tools, 2001,10(4): 406-413.
[4] Moerland P. Mixtures of experts estimate a posteriori probabilities [J]. Lecture Notes in Computer Science,1997,(1327): 499-504.
[5] 丁軍威,孫雅明(Ding Junwei, Sun Yaming).基于混沌學(xué)習(xí)算法的神經(jīng)網(wǎng)絡(luò)短期負(fù)荷預(yù)測(cè)(Short-term load forecasting using chaotic learning algorithm for neural network)[J].電力系統(tǒng)自動(dòng)化(Automation of Electric Power Systems),2000,24(2): 32-35.
[6] 鄭永康,陳維榮,蔣剛,等(Zheng Yongkang, Chen Weirong, Jiang Gang,etal).基于混沌理論的短期負(fù)荷局域多步預(yù)測(cè)法(Local-region multi-steps load forecasting model based on chaotic theory)[J].電力系統(tǒng)及其自動(dòng)化學(xué)報(bào)(Proceedings of the CSU-EPSA),2007,19(4): 76-79.
[7] 張智晟,馬龍,孫雅明(Zhang Zhisheng,Ma Long, Sun Yaming).混沌理論和支持向量機(jī)結(jié)合的負(fù)荷預(yù)測(cè)模型(Load forecasting model using chaos theory and support vector machine)[J]. 電力系統(tǒng)及其自動(dòng)化學(xué)報(bào)(Proceedings of the CSU-EPSA),2008,20(6): 31-35.
[8] Eckmann J P, Oliffson K S. Lyapunov exponents from time series [J].Physical Review A,1986,34(6):4971-4979.
[9] 李如琦,徐姣,魏立(Li Ruqi,Xu Jiao,Wei Li). 基于相似日和分時(shí)段分形插值的短期電力負(fù)荷預(yù)測(cè)(Short-term electric power load forecasting based on similar days and time-segment fractal interpolation)[J].現(xiàn)代電力(Modern Electric Power),2009,26(2): 37-41.
[10]康重慶, 夏清,劉梅. 電力系統(tǒng)負(fù)荷預(yù)測(cè)[M].北京:中國(guó)電力出版社,2007.
陳錦攀(1985-),男,碩士研究生,研究方向?yàn)樨?fù)荷預(yù)測(cè)、電網(wǎng)規(guī)劃、電力市場(chǎng)及其技術(shù)支持系統(tǒng)。Email:xu_19pan@163.com
羅滇生(1971-),男,博士,教授,研究方向?yàn)殡娏κ袌?chǎng)理論研究及應(yīng)用、電力系統(tǒng)在線監(jiān)測(cè)。Email:hhylds@sohu.com
周 勇(1971-),男,高級(jí)工程師,主要從事調(diào)度管理工作。Email:hncszy2345@sina.com
AnImprovedTime-varyingNonlinearPowerLoadCombinedForecastingAlgorithm
CHEN Jin-pan1, LUO Dian-sheng1, ZHOU Yong2, HE Hui2, XIAO Shi-yong3
(1.College of Electrical and Information Engineering, Hunan University,Changsha 410082, China;2.Electric Power Dispatching and Communication Bureau of Hunan Electric Power Corporation, Changsha 410007,China;3.Loudi Electric Power Bureau of Hunan Electric Power Corporation,Loudi 417000, China)
An improved combined algorithm of time-varying nonlinear forecasting is presented in order to improve the accuracy of ultra short-term power load forecasting. The algorithm increases chaotic time series prediction model based on the largest Lyapunov exponent in base predictors. The largest Lyapunov exponent is a kind of feature attributes of series. Meta knowledge formed by the results of base predictors and feature attributes of series is used as inputs of meta predictor when combined forecasting is applied. System bias can be founded and rectified. The weights of base predictors are calculated using gating network in metal predictor. Weights of base predictors are time-varying and non negative. The new algorithm is applied in ultra short-term load forecasting. Results show that forecasting precision of the proposed method is higher and it has practical application value.
combined forecasting; meta learning; gating network; the largest Lyapunov exponent; ultra short-term load forecasting
TM715
A
1003-8930(2012)01-0115-05
2010-06-29;
2010-07-14