宋瑋瓊，王立永，宋威，朱肖晶，穆毅凡，馮燕鈞

(1.國網(wǎng)北京市電力公司電力科學(xué)研究院，北京 100080;2.國網(wǎng)北京市電力公司門頭溝供電公司，北京 100080; 3.東南大學(xué)，南京 211189)

0 引言

非侵入負(fù)荷辨識( NILM) 技術(shù)是一種在用戶總進(jìn)線處通過智能電能表或其他信號采集分析設(shè)備使用各種信號處理或模式識別方法將總測量電量的分解為各個(gè)設(shè)備分項(xiàng)電量的過程。非侵入負(fù)荷辨識技術(shù)能夠高效低成本的獲得用戶分項(xiàng)電能情況，而分項(xiàng)負(fù)荷電量的提取能夠同時(shí)支撐多種具體業(yè)務(wù)。文獻(xiàn)［1］顯示向消費(fèi)者提供設(shè)備級能耗反饋可以為每個(gè)住宅節(jié)省多達(dá)12%的能源。文獻(xiàn)［2］通過畫像技術(shù)辨識具有特殊用電行為的弱勢群體，例如孤寡老人，針對特殊群體開展其他服務(wù)。由于分項(xiàng)負(fù)荷感知帶來的作用愈加重要，越來越多的學(xué)者開始進(jìn)一步研究并改善非侵入負(fù)荷辨識算法的精度。

非侵入負(fù)荷辨識的傳統(tǒng)實(shí)現(xiàn)基于事件檢測、匹配的辨識方案，最早由George W. Hart 于1992 年提出［3］，其依賴于正確檢測設(shè)備的“開關(guān)”事件，因其快速高效的特點(diǎn)受到大量學(xué)者的研究優(yōu)化［4-5］，但在小功率啟停、特征相似設(shè)備啟停、開關(guān)事件重疊等場景中存在事件匹配失效的局限性［6］。為解決上述問題，隱馬爾科夫模型( HMM) 被應(yīng)用到負(fù)荷辨識領(lǐng)域。通過對用戶設(shè)備使用規(guī)律的統(tǒng)計(jì)分析，HMM 模型能夠?qū)W習(xí)到用電負(fù)荷的時(shí)序特征，并在一定程度上解決上述問題，文獻(xiàn)［7］采用最大期望算法尋找最佳的隱狀態(tài)序列，但在用電設(shè)備較多場景下算法容易陷入局部最優(yōu)，文獻(xiàn)［8］提出了一種超狀態(tài)HMM 和稀疏維特比算法，可以分解具有大量狀態(tài)的用戶場景，但未詳細(xì)分析負(fù)荷連續(xù)變化型設(shè)備對算法的影響。

近年來，隨著神經(jīng)網(wǎng)絡(luò)在語音圖像識別領(lǐng)域的大量成功應(yīng)用，非侵入負(fù)荷辨識的算法研究領(lǐng)域因其問題本身與語音識別的相似性，也逐漸將神經(jīng)網(wǎng)絡(luò)引入到問題的分析中。文獻(xiàn)［9-10］提出基于多層長短記憶神經(jīng)網(wǎng)絡(luò)( LSTM) 深度神經(jīng)網(wǎng)絡(luò)，實(shí)現(xiàn)負(fù)荷功率時(shí)間關(guān)聯(lián)性的跟蹤。文獻(xiàn)［11］嘗試了卷積神經(jīng)網(wǎng)絡(luò)( CNN)串聯(lián)LSTM，通過引入CNN 提升模型特征提取能力，并改善了訓(xùn)練與預(yù)測效率。文獻(xiàn)［12］改進(jìn)了原本輸入序列輸出序列的網(wǎng)絡(luò)結(jié)構(gòu)，提出了序列到功率點(diǎn)的分解方法，成功提升了分解精度，但大大增加了計(jì)算時(shí)間。在研究者不斷提升優(yōu)化負(fù)荷功率分解模型準(zhǔn)確性的同時(shí)，也有學(xué)者提出對于負(fù)荷辨識某些應(yīng)用不需要準(zhǔn)確的功率信息，只需要準(zhǔn)確的設(shè)備運(yùn)行時(shí)間，因此聚焦在設(shè)備啟停狀態(tài)的辨識上，文獻(xiàn)［13］使用CNN 網(wǎng)絡(luò)對設(shè)備進(jìn)行分類，并輸出設(shè)備運(yùn)行的0/1 狀態(tài)，文獻(xiàn)［14］通過循環(huán)神經(jīng)網(wǎng)絡(luò)( RNN) 在實(shí)現(xiàn)設(shè)備是否運(yùn)行的同時(shí)，額外分辨了同一設(shè)備的不同種工作狀態(tài)。

盡管在通過神經(jīng)網(wǎng)絡(luò)進(jìn)行能量回歸后根據(jù)功率閾值可以進(jìn)行使用時(shí)間的判斷，但由于辨識結(jié)果的高噪聲，尤其在設(shè)備小功率運(yùn)行的判斷中容易錯(cuò)誤估計(jì)，因此有必要獨(dú)立的進(jìn)行運(yùn)行狀態(tài)估計(jì)。機(jī)器學(xué)習(xí)算法通常通過評估單個(gè)損失函數(shù)來針對一個(gè)任務(wù)進(jìn)行優(yōu)化，但如果存在多個(gè)相互關(guān)聯(lián)的任務(wù)，可以通過優(yōu)化多個(gè)損失函數(shù)來訓(xùn)練模型，而這樣的多任務(wù)學(xué)習(xí)模式可以提高每個(gè)任務(wù)的性能指標(biāo)［15］。負(fù)荷辨識中能量分解和設(shè)備狀態(tài)檢測是兩個(gè)緊密相關(guān)的任務(wù)，在它們之間共享訓(xùn)練參數(shù)可以進(jìn)一步提高NILM 的性能。

文中針對基于能量閾值估計(jì)設(shè)備運(yùn)行狀態(tài)的局限性以及能量分解過程中在設(shè)備未運(yùn)行處的噪聲污染，提出了基于能量分解與設(shè)備運(yùn)行狀態(tài)評估的多任務(wù)學(xué)習(xí)模型，以改善負(fù)荷辨識效果。論文首先對獨(dú)立使用能量分解網(wǎng)絡(luò)進(jìn)行負(fù)荷辨識的方法存在的局限性進(jìn)行分析，提出了狀態(tài)與能量同步估計(jì)的算法框架;隨后根據(jù)負(fù)荷能量分解與設(shè)備運(yùn)行狀態(tài)的強(qiáng)關(guān)聯(lián)特性選擇了硬參數(shù)共享的多任務(wù)學(xué)習(xí)框架，并針對不同任務(wù)中對輸入序列全局信息與局部信息的敏感度差異，提出基于多感受野融合的殘差網(wǎng)絡(luò);最后，實(shí)驗(yàn)結(jié)果表明文中提出的算法方案取得了預(yù)期的效果，尤其在洗衣機(jī)與洗碗機(jī)設(shè)備上的能量誤差相較傳統(tǒng)網(wǎng)絡(luò)取得了50%的性能提升。

1 問題建模

對于非侵入負(fù)荷辨識問題，最常見的描述方式即為，總進(jìn)線處有功功率序列等于各個(gè)分設(shè)備在不同時(shí)刻有功功率疊加的總和如式(1) 所示。

式中y(t) 為用戶電能表總進(jìn)線處t時(shí)刻的有功功率值;xi(t) 為第i個(gè)設(shè)備在t時(shí)刻的有功功率值; ε(t)為t時(shí)刻的線路損耗及其他誤差功率值。相對應(yīng)的，在進(jìn)行基于深度網(wǎng)絡(luò)的負(fù)荷辨識算法流程如圖1 所示，通過總功率序列及分設(shè)備功率序列進(jìn)行模型學(xué)習(xí)，在訓(xùn)練得到最終參數(shù)后，可進(jìn)行負(fù)荷的分離預(yù)測。

圖1 深度網(wǎng)絡(luò)算法學(xué)習(xí)分析過程Fig.1 Deep network algorithm learning and analysis process

在得到分項(xiàng)設(shè)備的功率數(shù)據(jù)后，即可通過設(shè)置閾值判斷設(shè)備的運(yùn)行狀態(tài)，如式(2) 所示。

式中si(t) 為用戶t時(shí)刻的第i個(gè)設(shè)備啟停狀態(tài)，1為啟動，0 為關(guān)閉;THRi為判斷第i個(gè)設(shè)備啟停狀態(tài)的功率閾值。

而對于洗衣機(jī)、洗碗機(jī)這些小型電機(jī)類設(shè)備，其非電加熱檔位時(shí)，運(yùn)行功率一般小于100 W，且運(yùn)行時(shí)阻力負(fù)載不穩(wěn)定，運(yùn)行時(shí)功率波動，另外電機(jī)水泵程間隔運(yùn)行特征，因此圖2( a) 中信號按照式(2) 分析后得到如圖2( b) 所示運(yùn)行狀態(tài)情況，這與圖2( c) 所示實(shí)際設(shè)備運(yùn)行狀態(tài)存在差異。對于這種狀態(tài)輸出的差異實(shí)際可以通過額外的算法進(jìn)行改進(jìn)，但由于神經(jīng)網(wǎng)絡(luò)在進(jìn)行信號分離時(shí)傾向在電器不工作的時(shí)段進(jìn)行噪聲估計(jì)，一方面影響整體的能量分解效果，另一方面估計(jì)的噪聲可能會影響此類小功率設(shè)備在使用閾值法判斷啟停的準(zhǔn)確性，因此同時(shí)評估設(shè)備的使用功率和運(yùn)行狀態(tài)能夠進(jìn)一步提升負(fù)荷辨識的準(zhǔn)確度。

圖2 洗衣機(jī)運(yùn)行功率與運(yùn)行狀態(tài)示意圖Fig.2 Schematic diagram of running power and running state of washing machine

因此當(dāng)可以同時(shí)評估出一個(gè)設(shè)備的運(yùn)行狀態(tài)和行狀態(tài)和運(yùn)行功率時(shí)，負(fù)荷辨識問題即可描述為式(3) :

式中xi(t) 為第i個(gè)設(shè)備在t時(shí)刻的有功功率值;si(t) 為用戶t時(shí)刻的第i個(gè)設(shè)備啟停狀態(tài)，每個(gè)設(shè)備的最終功率被表示為網(wǎng)絡(luò)輸出的功率信號與運(yùn)行狀態(tài)信號的乘積。此處可以通過兩個(gè)獨(dú)立的模型同時(shí)生成功率序列和時(shí)間序列，但由于功率序列和時(shí)間序列兩者本來存在著一定的相似性，因此可以通過一個(gè)網(wǎng)絡(luò)同時(shí)生成有功功率與運(yùn)行狀態(tài)的多任務(wù)學(xué)習(xí)模式進(jìn)行設(shè)計(jì)，下一節(jié)將詳細(xì)展開說明。

2 多任務(wù)學(xué)習(xí)模型

2.1 深度網(wǎng)絡(luò)多任務(wù)學(xué)習(xí)

多任務(wù)學(xué)習(xí)的先驗(yàn)出發(fā)點(diǎn)來自于為了學(xué)習(xí)一個(gè)新的任務(wù)時(shí)，通常會使用學(xué)習(xí)相關(guān)任務(wù)中所獲得的知識。從機(jī)器學(xué)習(xí)的角度來看，多任務(wù)學(xué)習(xí)是一種歸約遷移( inductive transfer) 。歸約遷移通過引入歸約偏置( inductive bias) 來改進(jìn)模型，使得模型更傾向于某些假設(shè)。在多任務(wù)學(xué)習(xí)場景中，歸約偏置是由輔助任務(wù)來提供的，這會導(dǎo)致模型更傾向于那些可以同時(shí)解釋多個(gè)任務(wù)的解［15］。

基于深度神經(jīng)網(wǎng)絡(luò)的多任務(wù)學(xué)習(xí)中常用兩種方法:隱層參數(shù)的硬共享與軟共享。以文中負(fù)荷辨識中能量回歸與運(yùn)行狀態(tài)評估的多任務(wù)學(xué)習(xí)為例進(jìn)行說明，如圖3 所示，其中參數(shù)硬共享機(jī)制中兩個(gè)子任務(wù)完全共享隱藏層參數(shù)，只在子任務(wù)相關(guān)的輸出層使用獨(dú)立的網(wǎng)絡(luò)參數(shù)，這種做法類似遷移學(xué)習(xí)中只在全連接輸出層進(jìn)行微調(diào)的方案，能夠降低過擬合的風(fēng)險(xiǎn);參數(shù)軟共享機(jī)制中，每個(gè)任務(wù)都有獨(dú)立的模型，獨(dú)立的參數(shù)，同時(shí)通過子任務(wù)模型參數(shù)的距離進(jìn)行正則化實(shí)現(xiàn)模型間參數(shù)的相似性以滿足規(guī)約偏置假設(shè)，常見的距離正則化有L2距離正則化，跡正則化等。

圖3 深度網(wǎng)絡(luò)多任務(wù)學(xué)習(xí)機(jī)制Fig.3 Deep network multi-task learning mechanism

文中選擇硬參數(shù)共享的模式進(jìn)行多任務(wù)學(xué)習(xí)，原因有如下兩點(diǎn):1) 功率序列與設(shè)備序列任務(wù)非常接近，通過隱藏層參數(shù)共享，兩個(gè)任務(wù)輸出全連接層參數(shù)獨(dú)立訓(xùn)練的模式能更大程度體現(xiàn)兩個(gè)任務(wù)的關(guān)聯(lián)性;2)硬參數(shù)共享模型能夠壓縮模型大小，提升模型訓(xùn)練和計(jì)算效率。

在進(jìn)行多任務(wù)訓(xùn)練時(shí)，損失函數(shù)需要同時(shí)考慮功率誤差與運(yùn)行狀態(tài)誤差，前者使用均方誤差，后者使用交叉熵，定義如式(4) 、式(5) 所示。

式中si(t) 和為用戶t時(shí)刻的第i個(gè)設(shè)備啟停標(biāo)簽狀態(tài)與預(yù)測狀態(tài);xi(t) 和分別為用戶t時(shí)刻的第i個(gè)設(shè)備功率標(biāo)簽信息和預(yù)測信息;為t時(shí)刻設(shè)備啟動的概率，取值為0 ～1 之間。

2.2 基于多感受野融合的殘差網(wǎng)絡(luò)

非侵入負(fù)荷辨識問題本質(zhì)上是時(shí)間序列問題的一種，在深度學(xué)習(xí)領(lǐng)域，用于分析和學(xué)習(xí)時(shí)間序列特征的常用網(wǎng)絡(luò)為RNN 循環(huán)神經(jīng)網(wǎng)絡(luò)與LSTM 長短時(shí)間記憶網(wǎng)絡(luò)，其兩者都能通過記憶的方式獲得序列的因果關(guān)系，但其在訓(xùn)練時(shí)與預(yù)測時(shí)缺乏并行性，一次只能處理一個(gè)時(shí)間步，極大程度地降低了網(wǎng)絡(luò)運(yùn)行的效率。此時(shí)時(shí)間卷積網(wǎng)絡(luò)TCN［16］成為了處理時(shí)間序列問題的另一種選擇，類似圖像處理中二維卷積核在二維輸入上滑動，依次提取數(shù)據(jù)中的抽象特征，在時(shí)間序列處理中同樣可以使用一維卷積核在序列輸入上進(jìn)行滑動，當(dāng)滑動順序按照時(shí)間先后關(guān)系即可得到因果關(guān)系，并且由于卷積網(wǎng)絡(luò)具有很好的并行性，并不固限于一次處理一個(gè)時(shí)間步，因?yàn)闀r(shí)間卷積網(wǎng)絡(luò)有著更快的訓(xùn)練與預(yù)測速度。文中以殘差結(jié)構(gòu)為基礎(chǔ)設(shè)計(jì)一種多感受野融合的時(shí)間膨脹卷積模型，通過不同感受野對設(shè)備啟停的粗粒度信息和功率細(xì)節(jié)信息進(jìn)行同步感受。

殘差結(jié)構(gòu)［17］可以保證網(wǎng)絡(luò)充分利用其深度，解決模型訓(xùn)練過程中梯度消失的問題，增強(qiáng)和提高模型整體學(xué)習(xí)性能，殘差塊的基本結(jié)構(gòu)如圖4 所示。

膨脹卷積為多層時(shí)間卷積的組合，但在卷積過程中進(jìn)行了一些輸入數(shù)據(jù)的選擇性跳過，從而得到更大的感受野，其在不改變參數(shù)數(shù)量的前提下擴(kuò)大了網(wǎng)絡(luò)感受野，如圖5 所示。圖中為卷積核大小為3 的三層非因果膨脹卷積結(jié)構(gòu)［18］，非因果意味著t時(shí)刻輸出與t時(shí)間前后的輸入都有關(guān)系，增大了信息的感受。網(wǎng)絡(luò)的第一層膨脹率為1，即普通卷積;第二層膨脹率為2，每兩個(gè)實(shí)際卷積的輸入之間跳過了一個(gè)值; 第三層膨脹率為4，實(shí)際卷積的輸入之間跳過了三個(gè)值。t時(shí)刻的輸出yt實(shí)際上由輸入層的15 個(gè)值決定，通過依次增大膨脹率的方法，網(wǎng)絡(luò)擴(kuò)大了感受野，使得對時(shí)間序列的特征提取更加完備、更具有優(yōu)勢。

圖5 非因果膨脹卷積結(jié)構(gòu)Fig.5 Non-causal dilated convolution structure

由殘差塊構(gòu)成的膨脹卷積網(wǎng)絡(luò)中，每一個(gè)殘差塊中的兩層非因果卷積層具有相同的膨脹率，而隨著網(wǎng)絡(luò)變深，殘差塊的膨脹率成倍數(shù)增加，當(dāng)最后一個(gè)殘差塊的膨脹率為2D時(shí)，最終輸出序列中的每一個(gè)值所具有的感受野S可用下式進(jìn)行計(jì)算:

式中k為卷積核大小( 設(shè)為奇數(shù)) ;2i為每一個(gè)殘差塊中兩層非因果卷積的膨脹率。需要注意的是，由于本次算法設(shè)計(jì)要求輸入與輸出具有相同的長度，因此每層網(wǎng)絡(luò)需要在序列兩側(cè)進(jìn)行填充零值( Padding) ，其數(shù)量為:

對于文中設(shè)計(jì)的非侵入負(fù)荷辨識多任務(wù)學(xué)習(xí)問題，既要分析全局的負(fù)荷運(yùn)行狀態(tài)和負(fù)荷功率趨勢，又要細(xì)致擬合設(shè)備不同工作模式下的細(xì)節(jié)功率數(shù)據(jù)，因此在模型設(shè)計(jì)時(shí)考慮將多個(gè)具有不同感受野的膨脹卷積進(jìn)行并行，分別提取不同粒度下的特征進(jìn)行融合，以獲得更好的辨識效果，整體設(shè)計(jì)模型如圖6 所示。

圖6 多感受野融合的網(wǎng)絡(luò)結(jié)構(gòu)Fig.6 Network structure of multi-receptive field fusion

3 實(shí)驗(yàn)與分析

3.1 樣本生成

文中選擇UK-Dale 數(shù)據(jù)集［19］作為實(shí)驗(yàn)數(shù)據(jù)集，UK-Dale 采自英國，在非侵入負(fù)荷辨識科研領(lǐng)域有著廣泛的應(yīng)用。其數(shù)據(jù)采樣頻率為1/6 Hz，錄有較多種類的電器，能滿足神經(jīng)網(wǎng)絡(luò)訓(xùn)練對數(shù)據(jù)量的要求。在這些電器中，文中選擇耗電量、運(yùn)行特征及普及程度都較突出的五種電器來進(jìn)行對比實(shí)驗(yàn): 電水壺，微波爐，冰箱，洗碗機(jī)，洗衣機(jī)。其中，電水壺為運(yùn)行穩(wěn)定的阻性負(fù)載，微波爐和冰箱為運(yùn)行穩(wěn)定的容性負(fù)載，洗碗機(jī)和洗衣機(jī)為持續(xù)性不規(guī)律電機(jī)負(fù)載疊加穩(wěn)定阻性加熱負(fù)載，這幾類設(shè)備的選擇能夠滿足文中對多任務(wù)學(xué)習(xí)模型在波動負(fù)荷及穩(wěn)定運(yùn)行負(fù)荷上不同改進(jìn)效果的分析。

如表1 所示，UK-Dale 數(shù)據(jù)集中，這五種電器都存在于至少三個(gè)用戶數(shù)據(jù)中，其分布情況如表1 所示。其中，微波爐和洗衣機(jī)在用戶4 中公用同一個(gè)分電能表，故文中將用戶4 中的這兩種電器的數(shù)據(jù)排除在外。文中將用戶5 統(tǒng)一用做測試集，其余用戶按照6 ∶1 的比例將數(shù)據(jù)劃分為訓(xùn)練集與驗(yàn)證集。

表1 辨識電器的分布情況Tab.1 Identifying the distribution of electrical appliances

不同類型的電器有不同范圍的運(yùn)行時(shí)長。而神經(jīng)網(wǎng)絡(luò)需要事前設(shè)定輸入樣本的長度，所以需要對以上五種電器確定不同的統(tǒng)一窗長。另外，每次輸入的樣本應(yīng)盡可能地包含目標(biāo)電器的一個(gè)完整工作周期，這方便神經(jīng)網(wǎng)絡(luò)去從宏觀學(xué)習(xí)到電器的工作特征，由于UK-Dale 的數(shù)據(jù)采集頻率為1/6 Hz，按照各個(gè)設(shè)備典型運(yùn)行時(shí)間進(jìn)行分析后，可得到表2 中各類設(shè)備樣本的窗長信息，折算為分鐘信息分別為6. 4 min、12. 8 min、51.2 min、102.4 min 和102.4 min，均能覆蓋其典型運(yùn)行時(shí)長。

表2 辨識電器的窗長大小Tab.2 Identifying the window size of electrical appliances

在進(jìn)行樣本生成時(shí)，需要對主電能表與分電能表中的數(shù)據(jù)進(jìn)行截取及標(biāo)注。對于某類目標(biāo)設(shè)備而言，其正樣本即為包含該類設(shè)備完整運(yùn)行信息的功率曲線，具體步驟如算法1 所示，算法首先根據(jù)分電能表數(shù)據(jù)分析正在運(yùn)行狀態(tài)，隨后對異常數(shù)據(jù)及實(shí)際同屬一次的運(yùn)行區(qū)間進(jìn)行合并，隨后將最終的運(yùn)行區(qū)間隨機(jī)存入窗長序列中，并得到對應(yīng)的樣本與標(biāo)注;同時(shí)，由于真實(shí)工況下并不只包含有目標(biāo)電器運(yùn)行的情況，為保證泛化性，需要在訓(xùn)練集和測試集中增加不包含有目標(biāo)電器運(yùn)行的樣本，使神經(jīng)網(wǎng)絡(luò)能夠分辨目標(biāo)電器運(yùn)行與否的工況，隨機(jī)選取目標(biāo)設(shè)備運(yùn)行后一段時(shí)間內(nèi)的數(shù)據(jù)，且不包含下一次該設(shè)備運(yùn)行區(qū)間，加入樣本空間。

算法1:樣本生成方法如下:

輸入:分電能表曲線X，總電能表曲線Y。

輸出:正樣本集φT，功率標(biāo)注集φP，啟停狀態(tài)標(biāo)注集φS。具體程序如下:

①:S= find(X＞Pmin) //根據(jù)設(shè)備最小運(yùn)行功率Pmin得到設(shè)備運(yùn)行狀態(tài)

②:記錄S 中每一段獨(dú)立的運(yùn)行區(qū)間Q={si|i=1，2…}

③:根據(jù)最短運(yùn)行時(shí)長duration從Q剔除異常區(qū)間＆

根據(jù)最短運(yùn)行間隔gap將Q中多個(gè)區(qū)間進(jìn)行合并

④:For allsiinQ

⑤:計(jì)算si運(yùn)行區(qū)間［start;end］及長度len

⑥:隨機(jī)生成t，并滿足t+len＜windowLen

⑦:seqA=Y［start －t:start－t+windowLen］/Pmax－ ＞φT//Pmax為用戶運(yùn)行最大功率，此處進(jìn)行歸一化操作

⑧:pA=X［start－t:start－t+windowLen］/Pmax－ ＞φP

⑨:stateA=zeros(windowLen)state(t:t+len－1) =1 －＞φs

⑩:隨機(jī)生成t，滿足end+t+windowLen＜si+1．start

3.2 實(shí)驗(yàn)?zāi)Ｐ徒Y(jié)構(gòu)

為驗(yàn)證本次實(shí)驗(yàn)效果的有效性，文中選取4 種網(wǎng)絡(luò)模型進(jìn)行結(jié)果比對，第一種為文獻(xiàn)［14］中提出的基礎(chǔ)卷積網(wǎng)絡(luò)，第二種網(wǎng)絡(luò)為文中提出的多感受野融合網(wǎng)絡(luò)，但是不進(jìn)行包含運(yùn)行狀態(tài)預(yù)測的功率單任務(wù)學(xué)習(xí)，第三種網(wǎng)絡(luò)為文中提出的多任務(wù)辨識深度殘差網(wǎng)絡(luò)，第四中為文獻(xiàn)［20］中提出的基于軟參數(shù)共享的多任務(wù)學(xué)習(xí)網(wǎng)絡(luò)，他們的具體參數(shù)分別如表3、表4 所示。

表3 卷積神經(jīng)網(wǎng)絡(luò)模型Tab.3 Convolutional neural network model

其中，網(wǎng)絡(luò)內(nèi)Bilstm 單元和Attention 單元采用TanH 激活函數(shù)，除輸出層外所有層均采用ReLU 激活函數(shù)，輸出層采用sigmoid 激活函數(shù)。文中對四種網(wǎng)絡(luò)均使用動量優(yōu)化器進(jìn)行訓(xùn)練，單任務(wù)學(xué)習(xí)的兩個(gè)網(wǎng)絡(luò)損失函數(shù)使用功率數(shù)據(jù)的均方誤差函數(shù)Lp，多任務(wù)學(xué)習(xí)的兩個(gè)網(wǎng)絡(luò)損失函數(shù)使用均方差誤差與交叉熵的組合函數(shù)，由于兩個(gè)任務(wù)在單獨(dú)訓(xùn)練時(shí)的損失函數(shù)在比例上存在偏差，因此如果直接線性相加可能發(fā)生多任務(wù)優(yōu)化時(shí)網(wǎng)絡(luò)更加側(cè)重某個(gè)子任務(wù)的優(yōu)化，因此本文根據(jù)啟停辨識單任務(wù)與能量回歸單任務(wù)學(xué)習(xí)時(shí)的兩個(gè)損失函數(shù)訓(xùn)練結(jié)束時(shí)的比例關(guān)系進(jìn)行多任務(wù)學(xué)習(xí)時(shí)的損失函數(shù)超參數(shù)，如下式所示:

式中，系數(shù)的選擇用以保持其與能量回歸單網(wǎng)絡(luò)的損失函數(shù)Lp數(shù)量級保持一致，方便下文進(jìn)行相關(guān)比較。

3.3 算例結(jié)果

文中的辨識結(jié)果需要從設(shè)備開關(guān)狀態(tài)與設(shè)備功率信息層面兩方面進(jìn)行評價(jià)，在本次實(shí)驗(yàn)中，兩個(gè)多任務(wù)學(xué)習(xí)網(wǎng)絡(luò)會輸出設(shè)備運(yùn)行狀態(tài)，可以直接用以評價(jià)，而兩個(gè)只進(jìn)行能量回歸的網(wǎng)絡(luò)可以參考算法1 中運(yùn)行狀態(tài)計(jì)算方法對分解后的能量曲線進(jìn)行啟停狀態(tài)計(jì)算。對于設(shè)備開關(guān)狀態(tài)的評價(jià)使用f1值進(jìn)行。在f1評價(jià)體系中，P代表設(shè)備運(yùn)行的時(shí)間點(diǎn)集合，N代表設(shè)備關(guān)停狀態(tài)的時(shí)間點(diǎn)集合，TP是預(yù)測正確的設(shè)備運(yùn)行時(shí)間點(diǎn)集合，TN是預(yù)測正確的設(shè)備關(guān)停狀態(tài)時(shí)間點(diǎn)集合; 同樣地，F(xiàn)P和FN代表預(yù)測錯(cuò)誤的設(shè)備運(yùn)行時(shí)間點(diǎn)集合和預(yù)測錯(cuò)誤的設(shè)備關(guān)停狀態(tài)時(shí)間點(diǎn)集合f1值可由下式進(jìn)行計(jì)算。

式中precisionk描述設(shè)備k被辨識為啟動狀態(tài)的正確率;recallk描述設(shè)備k實(shí)際為運(yùn)行狀態(tài)的時(shí)間點(diǎn)中判斷正確的比率。fk是一個(gè)介于0 到1 的值，fk值越大，證明模型的分類效果越好，若精確率與召回率有一方太小，都將影響到fk值。

對于設(shè)備功率信息的辨識準(zhǔn)確度，文中使用平均絕對誤差( Mean Absolute Error，MAE) 進(jìn)行評價(jià)，即:

式中T為樣本的長度;xt為t時(shí)刻實(shí)際的功率;(t) 為t時(shí)刻辨識得到的功率。

四個(gè)網(wǎng)絡(luò)在不同設(shè)備上的f1指標(biāo)如表5 所示，從表中可知，四個(gè)網(wǎng)絡(luò)在電水壺上的f1指標(biāo)接近，在洗碗機(jī)和洗衣機(jī)上文獻(xiàn)［15］所提多任務(wù)學(xué)習(xí)網(wǎng)絡(luò)與文中所提多任務(wù)學(xué)習(xí)網(wǎng)絡(luò)與單能量回歸網(wǎng)絡(luò)的差距最大，總體上文中所提網(wǎng)絡(luò)的f1指標(biāo)在所有設(shè)備上為最大值。

表5 四種網(wǎng)絡(luò)模型下各類設(shè)備辨識結(jié)果的f1指標(biāo)Tab.5 f1 index of identification results of various devices under four network models

四個(gè)網(wǎng)絡(luò)在不同設(shè)備上的MAE 指標(biāo)如圖7 所示。從圖7 中可以看到，MAE 指標(biāo)與f1指標(biāo)在不同網(wǎng)絡(luò)上的趨勢基本一致，文中所提網(wǎng)絡(luò)在所有網(wǎng)絡(luò)中取得了最小的能量誤差，同時(shí)在洗衣機(jī)與洗碗機(jī)這兩個(gè)負(fù)載波動型負(fù)荷上相較其他網(wǎng)絡(luò)取得了最優(yōu)提升，其中與基礎(chǔ)卷積網(wǎng)絡(luò)相比分別減少了60%和46%的能量誤差。而對于負(fù)載運(yùn)行相對穩(wěn)定的電水壺、微波爐和冰箱設(shè)備，多任務(wù)學(xué)習(xí)模型取得的性能提升遠(yuǎn)小于在負(fù)載波動型設(shè)備上取得的效果，這實(shí)際與多任務(wù)學(xué)習(xí)模型能夠更好的消除波動型負(fù)荷的辨識結(jié)果噪聲干擾機(jī)理保持了一致。

圖7 不同模型下各類設(shè)備辨識結(jié)果的MAE 指標(biāo)Fig.7 MAE index of identification results of various devices under different network models

圖8展示了多感受野殘差網(wǎng)絡(luò)單任務(wù)學(xué)習(xí)與多任務(wù)學(xué)習(xí)關(guān)于洗衣機(jī)設(shè)備的預(yù)測結(jié)果的細(xì)節(jié)比較，同樣從圖中可以看出，無論辨識準(zhǔn)確性還是小功率震動部分的細(xì)節(jié)預(yù)測上，后者都優(yōu)于前者。圖8( a) 下方虛線框所標(biāo)注位置與圖8( b) 相比，其辨識結(jié)果的波動趨勢與真實(shí)功率曲線的匹配度低，即多任務(wù)模型改善了負(fù)荷波動狀態(tài)下的辨識噪聲污染。同時(shí)，圖8( a) 左側(cè)虛線框標(biāo)注位置還存在部分錯(cuò)誤辨識，多任務(wù)學(xué)習(xí)機(jī)制的引入同樣整體提升了辨識效果。

圖8 洗衣機(jī)辨識結(jié)果示意Fig.8 Schematic diagram of identification results of washing machine

通過多感受野融合單任務(wù)網(wǎng)絡(luò)與多任務(wù)網(wǎng)絡(luò)模型的變量控制實(shí)驗(yàn)可知，本文所提的多任務(wù)學(xué)習(xí)機(jī)制對負(fù)荷辨識的精度進(jìn)行了提升。在實(shí)際進(jìn)行辨識應(yīng)用時(shí)，多任務(wù)學(xué)習(xí)模型的計(jì)算復(fù)雜度并未發(fā)生實(shí)質(zhì)變化，僅增加了一個(gè)全連接層的額外計(jì)算量，且在模型訓(xùn)練時(shí)相比單任務(wù)學(xué)習(xí)網(wǎng)絡(luò)僅增加了有限數(shù)量的輪次。如圖9 所示，多任務(wù)學(xué)習(xí)模型開始訓(xùn)練時(shí)損失函數(shù)值大于單任務(wù)學(xué)習(xí)模型，隨著訓(xùn)練輪次的增加，單任務(wù)模型有先達(dá)到收斂條件，多任務(wù)模型在額外的15 輪迭代后也達(dá)到了收斂條件，且最終損失函數(shù)值小于單任務(wù)模型。

圖9 每輪次模型損失函數(shù)變化趨勢( 洗衣機(jī))Fig.9 Change trend of model loss function in each epoch ( washing machine)

4 結(jié)束語

提出了一種基于能量分解與設(shè)備運(yùn)行狀態(tài)評估的多任務(wù)學(xué)習(xí)模型，以改善僅使用負(fù)荷辨識能量回歸單網(wǎng)絡(luò)結(jié)果評估設(shè)備運(yùn)行狀態(tài)的局限，通過狀態(tài)與能量同步估計(jì)并點(diǎn)乘輸出的算法框架，提升能量分解過程中在設(shè)備未運(yùn)行處的噪聲污染。文中針對設(shè)備能量回歸與狀態(tài)評估任務(wù)，對輸入序列全局信息與局部信息的敏感度差異，構(gòu)建了基于多感受野融合的殘差網(wǎng)絡(luò)。實(shí)驗(yàn)結(jié)果表明，基于能量分解與設(shè)備運(yùn)行狀態(tài)評估的多任務(wù)學(xué)習(xí)模型在未額外增加過多的訓(xùn)練和預(yù)測計(jì)算成本的基礎(chǔ)上，實(shí)現(xiàn)了辨識精度的提升，尤其在洗衣機(jī)等存在小功率波動運(yùn)行工況的設(shè)備上效果更為明顯。值得進(jìn)一步優(yōu)化的是，文中所設(shè)計(jì)的網(wǎng)絡(luò)仍然僅針對單個(gè)設(shè)備有效，不同設(shè)備需要獨(dú)立訓(xùn)練不同的參數(shù)，在后續(xù)的研究中將進(jìn)一步優(yōu)化為單個(gè)網(wǎng)絡(luò)同時(shí)支持多個(gè)設(shè)備的負(fù)荷辨識，以減少實(shí)際應(yīng)用時(shí)的參數(shù)存儲與計(jì)算時(shí)間成本。