范 鵬,馮萬興,周自強,趙 淳,周 盛,姚翔宇
(1.南瑞集團(國網(wǎng)電力科學(xué)研究院)有限公司,江蘇 南京 211106;2.國網(wǎng)電力科學(xué)研究院武漢南瑞有限責(zé)任公司,湖北 武漢 430074)
紅外成像具有非接觸直接測量輸變電設(shè)備狀態(tài)的特征,無需停電,在電力領(lǐng)域具有廣泛的應(yīng)用[1-3]。輸變電設(shè)備在野外嚴峻環(huán)境中長期運行,由于材料老化、污穢閃絡(luò)、機械受損等因素,常伴隨有局部放電、溫度增高等現(xiàn)象。絕緣子作為輸電線路重要部件,起到電氣隔離和機械支撐的作用,當紅外圖像顯示的溫度較高,表明其有異常缺陷,這是因為場強不均勻發(fā)生局部放電,嚴重時可能導(dǎo)致線路故障,甚至造成停電故障。文獻[4-5]開展了變壓器高壓套管的紅外診斷研究,通過熱像特征譜圖分析了故障原因。紅外圖像可應(yīng)用于交流濾波器的故障分析中,提取其跳閘的典型故障特征[6-8]。
輸變電設(shè)備紅外圖譜特征提取主要為圖像處理方法,諸如紋理、色彩、邊框等圖像特征[9-10]。隨著無人機航拍技術(shù)的發(fā)展,輸變電設(shè)備紅外圖譜呈現(xiàn)爆發(fā)式增長,深度學(xué)習(xí)提供了一種良好的手段[11-13],采用卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,CNN)的方法,對海量圖片進行訓(xùn)練學(xué)習(xí),提取特征進行測試和驗證。CNN 通過卷積層計算,輸入較深層的特征圖,對于小目標絕緣子、套管,權(quán)重值相對較少,無法實現(xiàn)小目標的有效提取[14-15]。針對這一缺點,本文對Faster R-CNN 方法進行改進,提高絕緣子紅外圖譜診斷的精度。
區(qū)別于普通的CNN,F(xiàn)aster R-CNN 增加了一個區(qū)域提取網(wǎng)絡(luò)(Region Proposal Network,RPN),即圖1 中的候選區(qū)域,摒棄傳統(tǒng)的滑動窗口,可在GPU直接運行計算,極大地加快了計算速度。RPN 判斷每個像素點對應(yīng)的多個不同尺度和寬高比的錨框是否為前景目標的二分類,形成候選區(qū)域。
圖1 Faster R-CNN 的算法流程Fig.1 Algorithm flow of Faster R-CNN
Faster R-CNN 一般采用隨機梯度下降法(Stochastic Gradient Descent,SGD)訓(xùn)練神經(jīng)網(wǎng)絡(luò),見式(1):
式中:X為輸入;W為權(quán)重;wi、xi分別表示第i個權(quán)重和輸入;h(x)為對應(yīng)的輸出。
損失函數(shù)S(W)基于平方誤差實現(xiàn),見式(2):
式中:yi為真實輸出。
W的更新函數(shù)見式(3):
式中:α為學(xué)習(xí)率,可設(shè)置步長。W通過梯度下降法進行求解,首先正向計算樣本輸出值,接著根據(jù)反向傳遞的誤差迭代計算,常用在CNN 訓(xùn)練中。
RPN 的選擇本質(zhì)是通過平移或者尺度變化的方法將合適的區(qū)域提取網(wǎng)絡(luò)R變成,從而接近實際的候選框C:
式中:(x,y)、(w,h)分別為矩形區(qū)域的中心坐標和寬、高。
令t*為矩形區(qū)域的平移和縮放量,則有:
式中:tx、ty為矩形區(qū)域的中心坐標平移量;tw、th分別為矩形區(qū)域的寬、高的縮放量。
預(yù)測值計算過程為:
式中:φ是最后一次卷積計算。
損失函數(shù)的目標值計算見式(7),通過調(diào)整平移和縮放的尺度,確定最終的候選區(qū)域[16]:
為了增強Faster R-CNN 的小目標特征提取能力,引入壓縮激勵結(jié)構(gòu),即壓縮和激勵兩大操作,設(shè)圖像的特征參數(shù)設(shè)置為(H,W,K),分別表示為長、寬和通道數(shù)。
壓縮操作Fsq(?)基于各個通道實現(xiàn)特征圖空間信息的壓縮,見式(8):
式中:kc表示第c個通道;hc表示經(jīng)過壓縮后輸出向量h的第c個元素。
激勵操作分為激勵Fex(?)和校準Fscale(?)兩個過程,分別見式(9)和式(10):
式中:σ是sigmoid 激活函數(shù);w1為的實數(shù)矩陣,表示通道的縮減,r為縮減因子;δ是ReLU 激活函數(shù),w2為的實數(shù)矩陣,表示通道的恢復(fù)。
式中:sc表示激活向量s的第c個元素;表示校準后的對應(yīng)元素。
本文基于改進的Faster R-CNN 方法,對平臺的環(huán)境搭建要求較高,具體配置見表1。操作系統(tǒng)為開源Linux,數(shù)據(jù)庫為MySQL;硬件配置較高,CPU 采用Intel 高端系列,內(nèi)存和硬盤容量均較大,保證大量數(shù)據(jù)的高效運算??蚣懿捎?018年初公開的目標檢測平臺Detectron,包含最具代表性的目標檢測、圖像分割、關(guān)鍵點檢測算法。
表1 軟硬件配置Table 1 Hardware and software configuration
圖像數(shù)據(jù)來源于多條輸電線路無人機拍攝的大量絕緣子照片。在神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程中,對正負樣本的判定見圖2,主要基于錨框映射圖與真實目標框的交并比(Intersection over Union,IoU)來進行計算分類。首先對 RPN 形成的錨框進行排序篩選形成錨框序列,接著利用邊框回歸參數(shù)向量修正錨框的位置形成候選區(qū)域集合,然后計算所有感興趣區(qū)域(Region of Interest,RoI)與真實目標框的IoU,求最大值,并判斷其是否大于0.5,若滿足,則為正樣本,否則為負樣本。
圖2 正負樣本判定Fig.2 Positive and negative sample decision
完成正負樣本的判定后,為了使樣本的采樣盡量均衡,保證雙方的訓(xùn)練集和驗證集數(shù)量一致,同時采用遷移學(xué)習(xí)的方法,經(jīng)過相關(guān)修正與補償,擴充樣本總量至2375,樣本信息配置見表2。
表2 樣本配置信息Table 2 Information of sample configuration
普通的CNN 方法,原始圖像經(jīng)過卷積層和池化層后,全鏈接層輸出結(jié)果,本文方法的結(jié)構(gòu)如圖3所示,引入壓縮激勵的過程,壓縮特征圖的空間信息,并通過激勵操作學(xué)習(xí)通道間的依賴關(guān)系,可自適應(yīng)分配每個通道的權(quán)重值,提取有利于任務(wù)的重要特征通道,最終能進一步增強網(wǎng)絡(luò)模型的特征提取能力,采用SE-DenseNet-169 框架的Faster R-CNN 模型。
改進模型主要完成絕緣子異常狀態(tài)的精準識別,首先對紅外原始圖像進行相關(guān)修正與補償實現(xiàn)樣本擴充,然后采用本文方法進行訓(xùn)練,收斂后,獲得最終的改進Faster R-CNN 模型。
圖3 改進的Faster R-CNN 結(jié)構(gòu)Fig.3 Structure of improved Faster R-CNN
CNN 學(xué)習(xí)中,精確度的衡量一般會采用準確率(Precision)和召回率(Recall),其計算過程分別見式(11)和式(12):
式中:TP 表示是實際值和預(yù)測值均是異常絕緣子的個數(shù);FP 表示預(yù)測值是異常絕緣子,實際值卻不是的個數(shù);FN 表示是實際值是異常絕緣子,預(yù)測值卻不是的個數(shù)。
為進一步衡量改進模型的優(yōu)劣,這里采用平均檢測精度(mean Average Precision,mAP),其中AP 等價于召回率和準確率形成曲線與橫軸包圍的幾何圖形的面積,對所有類別的AP 求平均值即可得到mAP。
基于樣本數(shù)據(jù),開展BP、FasterR-CNN以及本文方法的精確度和效率對比研究,不同方法的實驗結(jié)果統(tǒng)計見表3。Faster R-CNN和本文方法在Precision方面均明顯優(yōu)于BP 方法,本文方法的Recall 最高,mAP 也最高,相對于BP提高了近10%,這說明經(jīng)過改進的Faster R-CNN對于小目標的特征提取具有明顯的優(yōu)勢。本文方法通過壓縮激勵結(jié)果,減少了數(shù)據(jù)量的計算,所以相對于其他方法,有更高的效率。
表3 不同方法的實驗結(jié)果統(tǒng)計Table3Statisticsof experimental resultsbydifferent meth ods
繪制其準確率-召回率關(guān)系曲線,如圖4所示,可更加形象直觀地反映出本文方法對絕緣子異常特征的提取優(yōu)勢,因為另外兩種方法的曲線均被完整的覆蓋,說明本文方法改進效果明顯。
圖4 準確率-召回率關(guān)系曲線Fig.4 Relation curvesof precision and recall
常見絕緣子排列有單I型、雙I 型以及V型。本文開展這3類絕緣子的紅外圖像研究,比較不同排列方式的診斷準確率,如圖5所示。根據(jù)電力標準DL/T 664-2008[19],圖(b)和圖(c)絕緣子端部明顯發(fā)熱,屬于異常情況。
圖5 不同類型絕緣子的紅外圖像Fig.5 Infrared image of different typesof ins ulators
不同類型絕緣子的異常診斷準確率見表4,準確率均較高,均在90%以上;I 型和V型絕緣子的準確率明顯優(yōu)于雙I型絕緣子,這是因為雙I 型絕緣子會出現(xiàn)兩排絕緣子重疊的情況,對紅外圖像的研究造成一定的影響,為此無人機對于該種類型絕緣子的線路需開展多種角度的拍攝。
表4 絕緣子異常診斷的準確率Table4Accuracyof insulator anomaly diagnosis
本文提出一種改進的Faster R-CNN 方法,引入激勵壓縮環(huán)節(jié),搭建訓(xùn)練模型,完成絕緣子紅外圖像的異常診斷,并成功應(yīng)用于電力現(xiàn)場運維。本文方法可高效并精準地識別出絕緣子的異常缺陷,mAP 達到90.2%。研究結(jié)果可為輸電線路絕緣子缺陷識別研究提供一定的參考。