基于Bi-GRU和自注意力的智能電網(wǎng)虛假數(shù)據(jù)注入攻擊檢測(cè)

陳 冰 唐永旺

1(河南工業(yè)大學(xué)漯河工學(xué)院 河南 漯河 462000) 2(中國人民解放軍戰(zhàn)略支援部隊(duì)信息工程大學(xué)信息系統(tǒng)工程學(xué)院 河南 鄭州 450001)

0 引 言

智能電網(wǎng)以其可靠、高效和經(jīng)濟(jì)的傳輸特點(diǎn)成為現(xiàn)代電力系統(tǒng)最重要的組成部分，然而智能電網(wǎng)嚴(yán)重依賴數(shù)據(jù)通信和大規(guī)模數(shù)據(jù)處理技術(shù)，容易遭到各種惡意網(wǎng)絡(luò)攻擊[1]。盡管已經(jīng)頒布了很多針對(duì)智能電網(wǎng)安全的通信標(biāo)準(zhǔn)、官方指南和監(jiān)管法律(如IEC 61850-90-5、NISTIR7628等)，惡意網(wǎng)絡(luò)攻擊仍活躍于智能電網(wǎng)中。

虛假數(shù)據(jù)注入攻擊FDIA是Liu[2]等提出的惡意網(wǎng)絡(luò)攻擊技術(shù)，被證明是一種對(duì)智能電網(wǎng)狀態(tài)估計(jì)產(chǎn)生嚴(yán)重影響的惡意網(wǎng)絡(luò)攻擊行為。其通過規(guī)避現(xiàn)有的數(shù)據(jù)注入監(jiān)測(cè)系統(tǒng)，篡改電網(wǎng)的狀態(tài)估計(jì)數(shù)據(jù)，誘導(dǎo)電網(wǎng)控制中心做出錯(cuò)誤決策，導(dǎo)致整個(gè)智能電網(wǎng)出現(xiàn)故障。如何高效地檢測(cè) FDIA，對(duì)于保障智能電網(wǎng)安全運(yùn)行具有重要意義。

傳統(tǒng)的FDIA檢測(cè)思路主要?dú)w為兩種[3-4]。一是策略性地保護(hù)部分關(guān)鍵基礎(chǔ)測(cè)量數(shù)據(jù)的安全，避免惡意數(shù)據(jù)注入的發(fā)生。如Kim等[5]提出兩種快速貪婪算法分別用于選擇待保護(hù)的測(cè)量子集數(shù)據(jù)和尋找存儲(chǔ)安全相量測(cè)量單元的位置；Bi等[6]利用圖形分析研究方法引入到FDIA檢測(cè)中，提出精確、低復(fù)雜度的近似算法來選擇保護(hù)系統(tǒng)中最小的數(shù)據(jù)測(cè)量值。二是通過獨(dú)立檢驗(yàn)每個(gè)狀態(tài)變量進(jìn)行FDIA檢測(cè)。如Liu等[7]考慮到電網(wǎng)狀態(tài)時(shí)間測(cè)量的內(nèi)在低維度以及FDIA的稀疏性質(zhì)，將FDIA檢測(cè)視為低秩矩陣分離問題，并提出核規(guī)范最小化和低秩矩陣分解兩種優(yōu)化方法來解決該問題；Ashok等[8]提出了一種在線FDIA檢測(cè)算法，該算法利用統(tǒng)計(jì)信息和狀態(tài)變量的預(yù)測(cè)來檢測(cè)量測(cè)異常。

近年來隨著智能電網(wǎng)通信數(shù)據(jù)量級(jí)的增加和FDIA方法的不斷升級(jí), 傳統(tǒng)方法在進(jìn)行FDIA檢測(cè)時(shí)越來越力不從心。機(jī)器學(xué)習(xí)以及深度學(xué)習(xí)算法逐漸應(yīng)用在智能電網(wǎng)惡意網(wǎng)絡(luò)攻擊檢測(cè)中，并較傳統(tǒng)檢測(cè)方法檢測(cè)性能有明顯提升[9-13]。Ozay等[14]利用監(jiān)督和半監(jiān)督機(jī)器學(xué)習(xí)方法完成對(duì)高斯分布式攻擊的分類。Esmalifalak等[15]設(shè)計(jì)了一種基于分布式支持向量機(jī)的標(biāo)簽數(shù)據(jù)模型和一種無監(jiān)督學(xué)習(xí)的統(tǒng)計(jì)異常檢測(cè)器。He等[16]采用條件深度信念網(wǎng)絡(luò)有效學(xué)習(xí)了FDIA的高維時(shí)間行為特征。Niu等[17]利用卷積神經(jīng)網(wǎng)絡(luò)提取和長短時(shí)記憶網(wǎng)絡(luò)(Long Short Term Memory Network, LSTM)學(xué)習(xí)量測(cè)狀態(tài)序列的時(shí)間和空間關(guān)系特征，進(jìn)而實(shí)現(xiàn)FDIA檢測(cè)。James等[18]基于小波變換和單向門控循環(huán)單元(Gated Recurrent Unit，GRU)進(jìn)行系統(tǒng)的狀態(tài)連續(xù)估計(jì)，檢測(cè)序列狀態(tài)中的FDIA。Wang等[19]利用3層LSTM作為序列編碼器，學(xué)習(xí)FDIA樣本的特征，在測(cè)試數(shù)據(jù)中準(zhǔn)確率達(dá)90%。深度學(xué)習(xí)算法可以自動(dòng)學(xué)習(xí)電網(wǎng)中各節(jié)點(diǎn)的狀態(tài)量測(cè)數(shù)據(jù)特征，發(fā)現(xiàn)異常狀態(tài)序列或?qū)Ξ惓Ｐ蛄蟹诸?，整個(gè)過程不需要人工設(shè)定特征。

然而，現(xiàn)有基于循環(huán)神經(jīng)網(wǎng)絡(luò)[17-19](Recurrent Neural Network, RNN)的FDIA檢測(cè)方法在訓(xùn)練量測(cè)值時(shí)僅使用了多層單向的RNN訓(xùn)練框架，單向的RNN模型在處理序列數(shù)據(jù)時(shí)只能利用已經(jīng)出現(xiàn)過的序列元素，忽略了未來的序列信息，導(dǎo)致模型性能下降，影響特征最終的提取效果。另外，這些方法中只選取RNN最后一個(gè)時(shí)刻的隱狀態(tài)或者各時(shí)刻隱狀態(tài)的拼接作為提取的特征，無法突出注入攻擊數(shù)據(jù)的特征。因?yàn)樽⑷牍粝蛄坎灰欢〞?huì)對(duì)狀態(tài)量測(cè)數(shù)據(jù)的每一維都均勻地注入攻擊，有可能只對(duì)一部分維數(shù)的數(shù)據(jù)進(jìn)行攻擊。自注意力機(jī)制[20]廣泛應(yīng)用在自然語言處理領(lǐng)域，用于挖掘與當(dāng)前預(yù)測(cè)詞關(guān)系緊密的上下文詞語。由此推斷可以通過自注意力機(jī)制關(guān)注量測(cè)數(shù)據(jù)中被注入攻擊的位置，從而在提取量測(cè)數(shù)據(jù)特征時(shí)對(duì)這些位置的隱狀態(tài)給予更高的權(quán)重。

綜上所述，在文獻(xiàn)[17-19]研究基礎(chǔ)上，本文提出一種基于Bi-GRU和自注意力的FDIA檢測(cè)方法，經(jīng)查閱文獻(xiàn)可知，在FDIA檢測(cè)領(lǐng)域引入自注意力機(jī)制尚屬首次。首先將樣本數(shù)據(jù)進(jìn)行去均值和歸一化處理，采用Bi-GRU對(duì)量測(cè)序列的前向和后向進(jìn)行建模，輸出各時(shí)間步的前向和后向隱狀態(tài)，將前后向隱狀態(tài)的拼接作為當(dāng)前元素包含上下文信息的特征。然后利用自注意力機(jī)制為被注入攻擊的時(shí)間步隱狀態(tài)分配更高的權(quán)重，將各隱狀態(tài)的線性加權(quán)和作為樣本序列的深層特征表示。最后，將該特征表示輸入到全連接神經(jīng)網(wǎng)絡(luò)層和Softmax層，輸出樣本的預(yù)測(cè)概率，完成FDIA檢測(cè)。

1 相關(guān)背景

1.1 虛假數(shù)據(jù)注入攻擊

在電力系統(tǒng)中，待估計(jì)的狀態(tài)變量包括電壓幅值V∈Rn和相位角θ∈([-π,π])n，n是總線數(shù)量。令z=[z1,z2,…,zm]T∈Rm表示量測(cè)向量，x=[x1,x2,…,x2n]T∈R2n代表狀態(tài)變量，e=[e1,e2,…,em]T∈Rm代表量測(cè)誤差向量。在標(biāo)準(zhǔn)直流系統(tǒng)下，可忽略電阻，電壓幅值均為1，僅考慮帶有相位角的狀態(tài)變量，量測(cè)值和狀態(tài)變量的關(guān)系為：

z=Tx+e

(1)

式中：T是m×n的拓展結(jié)構(gòu)雅可比矩陣。求使加權(quán)殘差平方和最小的狀態(tài)估計(jì)變量x，目標(biāo)函數(shù)為：

j(x)=(z-Tx)TR-1(z-Tx)

(2)

式中：R是協(xié)方差矩陣。利用加權(quán)最小二乘法求解式(2)的目標(biāo)函數(shù)：

(3)

1.2 GRU簡介

GRU和LSTM都是RNN的變種，性能在很多任務(wù)上不分伯仲，但是GRU少一個(gè)控制門，訓(xùn)練參數(shù)較少，訓(xùn)練時(shí)更容易收斂。因此，本文利用GRU[22]作為編碼器的基本組成單元，GRU的輸入輸出結(jié)構(gòu)如圖1所示。

圖1 GRU的輸入輸出結(jié)構(gòu)

圖1中，xt為當(dāng)前輸入，ht-1為上一個(gè)節(jié)點(diǎn)傳遞的隱狀態(tài)，其包含之前節(jié)點(diǎn)的相關(guān)信息。GRU通過xt和ht-1得到當(dāng)前隱藏節(jié)點(diǎn)的輸出yt和傳遞給下一個(gè)節(jié)點(diǎn)的隱狀態(tài)ht，其具體工作流程如圖2所示。

圖2 GRU內(nèi)部工作原理圖

1) 在t時(shí)刻，GRU通過ht-1和xt來獲取重置門r和更新門z的狀態(tài)，如下所示：

rt=σ(Wrxt+Urht-1)

(4)

zt=σ(Wzxt+Uzht-1)

(5)

2) 利用重置門“重置”ht-1包含的信息，得到ht-1′=ht-1⊙rt，與xt拼接后，通過tanh激活函數(shù)將數(shù)據(jù)映射到[-1,1]，得到ht′：

ht′=tanh(Wxt+rt⊙Uht-1)

(6)

式中：⊙表示矩陣對(duì)應(yīng)元素相乘。

3) 利用更新門“更新記憶”：

ht=zt⊙ht-1+(1-zt)⊙ht′

(7)

更新門范圍取值范圍為[0,1]，門控信號(hào)越接近1，代表“記憶”下來的數(shù)據(jù)越多；越接近0則代表“遺忘”的越多。

2 基于Bi-GRU和自注意力的智能電網(wǎng)虛假數(shù)據(jù)注入攻擊檢測(cè)

本文利用雙向GRU 網(wǎng)絡(luò)結(jié)合自注意力機(jī)制提取攻擊樣本的特征, 構(gòu)建了基于Bi-GRU和自注意力機(jī)制的 FDIA 檢測(cè)模型，其結(jié)構(gòu)如圖3所示。

圖3 本文提出的FDIA檢測(cè)模型框架

該模型主要分為Bi-GRU層、自注意力層以及全連接和Softmax層三大部分。

2.1 Bi-GRU層

Bi-GRU由前向GRU和后向GRU組合而成，其具體結(jié)構(gòu)如圖4所示。

圖4 Bi-GRU訓(xùn)練流程

(8)

(9)

2.2 自注意力層

自注意力層的作用就是在H上施加注意力，具體過程如圖5所示。

圖5 自注意力機(jī)制計(jì)算示意圖

自注意力層將Bi-GRU的隱狀態(tài)集合H作為輸入，輸出注意力向量a：

a=Softmax(ws2tanh(Ws1HT))

(10)

式中，Ws1是維數(shù)為da×2u的權(quán)重矩陣；ws2是維數(shù)為da的參數(shù)向量；da為一個(gè)超參數(shù)；a的維數(shù)是n。Softmax函數(shù)保證輸出的注意力向量的每個(gè)元素代表一個(gè)概率，且所有元素和為1。按照注意力權(quán)重分配向量a將H線性加權(quán)求和即可得到狀態(tài)測(cè)量序列的嵌入表示m。

然而，一個(gè)m通常只關(guān)注序列S某些維度的特征，F(xiàn)DIA可以對(duì)狀態(tài)量測(cè)序列的多個(gè)維度值進(jìn)行攻擊。因?yàn)橐粋€(gè)m并不能代表序列S的所有攻擊特征，所以需要增強(qiáng)注意力，計(jì)算多個(gè)代表不同維度特征的m作為序列S的嵌入表示。假設(shè)需要計(jì)算序列r個(gè)方面的特征，則ws2的維度擴(kuò)展為r×da并記作Ws2，a擴(kuò)展為注意力權(quán)重分配矩陣A：

A=Softmax(Ws2tanh(Ws1HT))

(11)

序列S的嵌入表示由m擴(kuò)展為維數(shù)是r×2u的M矩陣：

M=AH

(12)

隨后將M輸入全連接層和Softmax層，輸出識(shí)別概率，具體如下所示：

Y=Softmax(WfM+b)

(13)

式中：Wf是全連接層的權(quán)重矩陣；b為偏置；Y是Softmax層計(jì)算的概率結(jié)果。

3 實(shí) 驗(yàn)

3.1 實(shí)驗(yàn)數(shù)據(jù)

本文選擇該領(lǐng)域主流的IEEE 30-bus和IEEE 14-bus節(jié)點(diǎn)測(cè)試系統(tǒng)作為測(cè)試環(huán)境，系統(tǒng)網(wǎng)絡(luò)拓?fù)?、?jié)點(diǎn)數(shù)據(jù)、支路參數(shù)等均從 Matpower 中獲得。在每個(gè)環(huán)境中利用Matpower軟件仿真生成150 000個(gè)正常量測(cè)數(shù)據(jù)樣本，標(biāo)簽為-1。另外根據(jù)現(xiàn)有的FDIA種類[19]構(gòu)造了50 000個(gè)可以繞過傳統(tǒng)基于殘差不良數(shù)據(jù)檢測(cè)的FDIA樣本，標(biāo)簽為1。IEEE 30-bus中每個(gè)樣本包括112個(gè)量測(cè)值, IEEE 14-bus中每個(gè)樣本包括54個(gè)量測(cè)值。每個(gè)測(cè)試系統(tǒng)的量測(cè)值包括電壓幅值、總線相位角、總線注入有功功率和無功功率、各支路注入有功功率和無功功率等，將正常樣本和FDIA樣本進(jìn)行去均值和歸一化處理，分別按照7∶3的比例隨機(jī)抽取樣本制作訓(xùn)練集和測(cè)試集。

3.2 評(píng)測(cè)標(biāo)準(zhǔn)

本文采用準(zhǔn)確率、漏報(bào)率和誤報(bào)率三個(gè)FDIA檢測(cè)領(lǐng)域通用的評(píng)測(cè)指標(biāo)驗(yàn)證本文方法的可行性和有效性，首先定義以下變量：

真負(fù)類(Ture Negative) 表示將正常量測(cè)樣本正確地識(shí)別成正常量測(cè)樣本的數(shù)量, 記為Tn。

假負(fù)類(False Negative) 表示將正常量測(cè)樣本誤識(shí)別成FDIA樣本的數(shù)量, 記為Fn。

真正類(Ture Positve) 表示將FDIA樣本正確的識(shí)別成FDIA樣本的數(shù)量, 記為Tp。

假正類(False Positive) 表示將FDIA樣本誤識(shí)別成正常量測(cè)樣本的數(shù)量, 記為Fp。

(1) 準(zhǔn)確率(記為Ac)計(jì)算表達(dá)式為：

(14)

式(14)表示所有被正確判斷的樣本數(shù)量占所有樣本的百分比。準(zhǔn)確率越高，算法越好。

(2) 正報(bào)率計(jì)算表達(dá)式為：

(15)

式(15)表示在所有被檢測(cè)為FDIA樣本中，被正確預(yù)測(cè)FDIA樣本所占的百分比。正報(bào)率越高，算法越好。

(3) 誤報(bào)率計(jì)算表達(dá)式為：

(16)

式(16)表示在所有被檢測(cè)為正常樣本中，被錯(cuò)誤預(yù)測(cè)樣本所占百分比。誤報(bào)率越高，算法越差。

3.3 實(shí)驗(yàn)設(shè)置與結(jié)果分析

本文選取文獻(xiàn)[15]、文獻(xiàn)[19]的方法作為對(duì)比方法。文獻(xiàn)[15]利用標(biāo)簽數(shù)據(jù)的監(jiān)督學(xué)習(xí)訓(xùn)練分布式支持向量機(jī)對(duì)FDIA樣本檢測(cè)，測(cè)試結(jié)果記為SVM。文獻(xiàn)[19]基于兩層單向的LSTM模型學(xué)習(xí)狀態(tài)量測(cè)值序列的特征，測(cè)試結(jié)果記為LSTM。同等條件下，將LSTM替換為GRU，測(cè)試結(jié)果記為GRU。另外，僅利用雙向GRU模型學(xué)習(xí)狀態(tài)量測(cè)值序列的特征，利用該特征檢測(cè)FDIA樣本，測(cè)試結(jié)果記為Bi-GRU。

本文方法首先分別將兩個(gè)測(cè)試環(huán)境的樣本進(jìn)行去均值和歸一化處理為112維和54維的序列數(shù)據(jù)，提高訓(xùn)練速度。使用TensorFlow 深度學(xué)習(xí)框架構(gòu)造Bi-GRU和自注意力機(jī)制組合的模型結(jié)構(gòu)。根據(jù)訓(xùn)練模型的經(jīng)驗(yàn)，本文采用一個(gè)輸入層、3個(gè)Bi-GRU和自注意力機(jī)制組合層、一個(gè)全連接層和一個(gè)Softmax層的結(jié)構(gòu)。訓(xùn)練IEEE 30-bus量測(cè)數(shù)據(jù)時(shí)，每個(gè)單向GRU層有112個(gè)GRU單元，訓(xùn)練時(shí)間步長為112；訓(xùn)練IEEE 14-bus量測(cè)數(shù)據(jù)時(shí)，每個(gè)單向GRU層有54個(gè)GRU單元，訓(xùn)練時(shí)間步長為54。GRU單元的隱藏節(jié)點(diǎn)數(shù)為300，各單元之間共享訓(xùn)練參數(shù)，優(yōu)化算法選取Adam[23]，epochs設(shè)置為100，每批數(shù)據(jù)batch_size大小為256，學(xué)習(xí)速率為0.01，全連接層的隱藏節(jié)點(diǎn)為3 000，使用dropout技術(shù)，避免過擬合問題，dropout設(shè)置為0.7[24]，在測(cè)試集的評(píng)測(cè)結(jié)果記為Bi-GRU-SA。

實(shí)驗(yàn)硬件配置為Intel Xeon E5-2650，128 GB內(nèi)存的服務(wù)器，配備12 GB的雙GTX 1080Ti獨(dú)立顯卡進(jìn)行加速訓(xùn)練。

1) 綜合對(duì)比實(shí)驗(yàn) 本文方法和各對(duì)比方法測(cè)試結(jié)果如表1-表2所示。

表1 IEEE 30-bus綜合實(shí)驗(yàn)結(jié)果

表2 IEEE 14-bus綜合實(shí)驗(yàn)結(jié)果

從表1和表2可以看出：LSTM和GRU的測(cè)試結(jié)果優(yōu)于SVM，這是因?yàn)镽NN網(wǎng)絡(luò)在處理高維度序列數(shù)據(jù)方面比SVM更有優(yōu)勢(shì)。GRU和LSTM作為RNN的變種，三項(xiàng)評(píng)測(cè)指標(biāo)差別不大。Bi-GRU在計(jì)算時(shí)刻t的隱狀態(tài)時(shí)可以綜合利用量測(cè)序列前向t-1時(shí)刻和后向t+1時(shí)刻的隱狀態(tài)，而單向的LSTM和GRU僅利用t-1時(shí)刻的隱狀態(tài)，無法準(zhǔn)確預(yù)測(cè)當(dāng)前時(shí)刻的隱狀態(tài)，因此Bi-GRU三項(xiàng)的評(píng)測(cè)指標(biāo)優(yōu)于LSTM和GRU。在Bi-GRU的基礎(chǔ)上加入自注意力層，計(jì)算每個(gè)時(shí)刻隱狀態(tài)的注意力分配值，將注意力著重放在被虛假數(shù)據(jù)注入攻擊的隱狀態(tài)，進(jìn)而利用各時(shí)刻隱狀態(tài)的加權(quán)求和得出樣本最終的嵌入表示，該嵌入表示可以更加準(zhǔn)確地代表量測(cè)樣本。Bi-GRU-SA的測(cè)試結(jié)果與對(duì)比方法相比有較顯著的提升；與次優(yōu)結(jié)果相比，準(zhǔn)確率平均提升7.1%，正報(bào)率平均提升3.95%，誤報(bào)率平均降低38.85%。

2) 自注意力提升參數(shù)r的分析 注意力提升是自注意力機(jī)制的關(guān)鍵一步，因此需要分析r對(duì)FDIA檢測(cè)的影響。以IEEE 30-bus為例，令r在[0,40]內(nèi)取值，以5為步長訓(xùn)練FDIA檢測(cè)模型，在測(cè)試集進(jìn)行檢測(cè)任務(wù)，以評(píng)測(cè)指標(biāo)準(zhǔn)確率分析，結(jié)果如圖6所示。

圖6 準(zhǔn)確率隨著r的變化分析

由圖6可以看出，在[0,25]的區(qū)間內(nèi)，Ac隨著r的增加而增加，從FDIA樣本提取的特征也越來越全面，說明注意力提升對(duì)檢測(cè)性能有重要作用。當(dāng)r在[25,40]之間時(shí)，Ac趨于平穩(wěn)，且當(dāng)r為25時(shí)達(dá)到峰值，說明對(duì)于本文實(shí)驗(yàn)數(shù)據(jù)來說，25個(gè)矩陣m足以代表FDIA樣本的特征。

4 結(jié) 語

本文提出一種基于Bi-GRU和自注意力機(jī)制的FDIA檢測(cè)方法，解決了當(dāng)前基于單向多層RNN的FDIA檢測(cè)方法中無法綜合利用序列上下文隱狀態(tài)的問題。另外，本文首次將自注意力機(jī)制引入FDIA樣本的特征提取中，以各時(shí)間步隱狀態(tài)的注意力加權(quán)和作為樣本的嵌入表示，通過注意力的提升準(zhǔn)確地計(jì)算出樣本的深層特征表示，提升了FDIA檢測(cè)性能。GRU的結(jié)構(gòu)特性決定其只能順序訓(xùn)練序列的元素，在大規(guī)模的數(shù)據(jù)量下訓(xùn)練模型和利用模型檢測(cè)均需要消耗大量的時(shí)間，如何構(gòu)造一種可以并行訓(xùn)練序列元素的網(wǎng)絡(luò)結(jié)構(gòu)是下一步研究的重點(diǎn)方向。