揚州萬方電子技術(shù)有限責(zé)任公司 朱洪斌 李 悅

隨著國產(chǎn)軟硬件技術(shù)的不斷成熟，目前已具備融合人工智能的應(yīng)用研究和設(shè)計能力，但仍處于起步階段。傳統(tǒng)的磁盤故障檢測具有滯后性，往往是已經(jīng)出現(xiàn)問題后才將其檢測出來，本文結(jié)合主動容錯技術(shù)——自我監(jiān)測、分析與報告技術(shù)(Self-Monitoring Analysis and Reporting Technology，SMART)和深度學(xué)習(xí)算法構(gòu)建了一種適應(yīng)于國產(chǎn)存儲設(shè)備的磁盤故障預(yù)測方法，實驗結(jié)果表明了預(yù)測的準(zhǔn)確性，與閾值判定方法監(jiān)測SMART屬性值的方法（故障檢測率為3%-10%）相比，故障檢測率有了極大的提升，驗證了國產(chǎn)人工智能平臺的應(yīng)用可行性。

1 國產(chǎn)人工智能平臺環(huán)境搭建

國產(chǎn)人工智能平臺是面向深度學(xué)習(xí)、智能分析等場景，融合國產(chǎn)環(huán)境和人工智能芯片，適配基礎(chǔ)層驅(qū)動和運行環(huán)境，打造的一個集數(shù)據(jù)處理、模型加工、訓(xùn)練推理、智能化應(yīng)用的基礎(chǔ)平臺，支持高效的模型訓(xùn)練、推理等開發(fā)框架，并支持多場景、集群式的部署運行，能夠為各類用戶提供初步的AI解決方案。

本文基于國產(chǎn)飛騰處理器和銀河麒麟操作系統(tǒng)，搭建了國產(chǎn)基礎(chǔ)軟硬件平臺，并部署適配Python、Cmake等基礎(chǔ)開發(fā)環(huán)境。人工智能芯片采用國產(chǎn)華為Atlas300，并開展了驅(qū)動適配、環(huán)境移植、框架適配、模型以及應(yīng)用開發(fā)等研制工作。

2 基于深度學(xué)習(xí)算法的磁盤故障預(yù)測

2.1 實驗數(shù)據(jù)

本文中使用的實驗數(shù)據(jù)來自BACKBLAZE官網(wǎng)的2018年四個季度的ST8000DM002型號的樣本，采集頻率為24h一次。除去含有空值以及采集天數(shù)小于兩天的樣本，最終選取了9954塊硬盤，其中故障硬盤為90塊，正常硬盤為9864塊。該型號樣本具有48個屬性，包含原始值（raw）和廠商根據(jù)一定規(guī)則轉(zhuǎn)換后的值（normalized）。所有樣本隨機分為60%的訓(xùn)練集、10%的驗證集和30%的測試集。由于SMART數(shù)據(jù)的取值范圍相差較大，為了減少對模型的影響，通過最大最小歸一化對數(shù)據(jù)進行了預(yù)處理。

2.2 特征選擇

SMART數(shù)據(jù)中的并非所有屬性都是有用的，其中會存在一些冗余屬性，不但不利于提高模型的準(zhǔn)確率，還會降低模型的效率。本文采用XGBoost算法對屬性進行了分析評估，各個屬性的重要性排序如圖2所示，圖中已按照從大到小的順序進行了排序。從圖1中可知，排在前面幾位的smart_242_raw（磁盤自出廠總共讀取的數(shù)據(jù)）、smart_241_raw（磁盤自出廠總共寫入的數(shù)據(jù)）、smart_9_raw（通電小時數(shù)）、smart_192_raw（斷電返回計數(shù)）的得分較高，對預(yù)測結(jié)果占有很大的比重，本文最終選擇了圖中的21個屬性作為模型的輸入。

圖1 特征重要性得分

圖2 FDR和FAR隨閾值變化曲線

2.3 模型建立

基于CNN搭建的故障預(yù)測模型，采用的是一維卷積窗，包含三個卷積層（卷積核分別為16、32、64個，長度均為3）、三個池化層（長度均為2，步長為1）、一個全連接層（節(jié)點數(shù)為128個）和一個輸出層（節(jié)點數(shù)為1），學(xué)習(xí)率設(shè)置為0.0001，為防止過度擬合，在最后一個池化層后以及全連接后增加了Dropout層（取值為0.2），輸出層采用“l(fā)inear”激活函數(shù)，其余均采用“relu”激活函數(shù)，模型訓(xùn)練時采用Adam優(yōu)化器。

采取故障檢測率（Failure Detection Rate,FDR）、誤報率（False Alarm Rate,FAR）以及準(zhǔn)確率（Accuracy）三個指標(biāo)對模型進行評價。故障檢測率指的是正確檢測出故障樣本個數(shù)和實際故障樣本個數(shù)的比值，誤報率指的是將原本為正常樣本卻誤檢為故障的個數(shù)和實際正常樣本個數(shù)的比值，準(zhǔn)確率指的是正確檢測出的樣本個數(shù)和總樣本數(shù)的比值。

2.4 結(jié)果分析

模型的輸出層包含1個神經(jīng)元，通過設(shè)定閾值的方式預(yù)測樣本未來是否會發(fā)生故障。將硬盤狀態(tài)采用“0”（正常樣本）和“1”（故障樣本）標(biāo)簽進行記錄。當(dāng)大于等于閾值時，視為即將發(fā)生故障，當(dāng)概率小于閾值時，視為正常。在確定閾值時，以CNN模型為例，訓(xùn)練集的FDR和FAR隨閾值大小變化的情況如圖2所示。

可知當(dāng)閾值在0.09時，故障檢測率較高，誤報率也較低，相對來說較為平衡，此時訓(xùn)練集的故障檢測率為92.86%，誤報率為0.64%，根據(jù)此閾值對測試集進行分類，測試集的故障檢測率為85.19%，誤報率為0.74%。其它模型的閾值選取方法與此類似。

本文將XGBoost+CNN和CNN、XGBoost+MLP模型進行了對比，如圖3和表1所示。圖3為FDR和FAR隨閾值變化的曲線圖，越靠近左上角，模型的誤報率越低，故障預(yù)測準(zhǔn)確率越高，可以看出XGBoost+CNN的模型相比其他兩個模型更接近左上角，當(dāng)閾值為0.05時，故障檢測率可達(dá)到96.30%，誤報率此時為1.15%。

圖3 各模型FDR和FAR對比圖

由表1可以看出，在相同F(xiàn)DR的情況下，其他兩個模型的誤報率與XGBoost+CNN模型相比略高，因此，XGBoost+CNN模型的準(zhǔn)確率也較高。CNN模型與XGBoost+MLP模型相比，其準(zhǔn)確率較高些，CNN雖未經(jīng)XGBoost算法進行特征選擇，但在訓(xùn)練過程中可自動完成特征的選擇和抽象。

表1 各模型精度對比結(jié)果

3 國產(chǎn)人工智能平臺磁盤故障預(yù)測

為了提高國產(chǎn)平臺人工智能應(yīng)用的運行效率，在國產(chǎn)平臺中適配了華為Atlas300的人工智能芯片，并利用其進行了磁盤故障預(yù)測。首先將完成訓(xùn)練的模型凍結(jié)為pb格式的模型，然后采用工具包中的ATC工具將*.pb格式模型轉(zhuǎn)換為適配Atlas300的*.om格式模型，最后通過ACL編程接口實現(xiàn)推理應(yīng)用程序。表2中給出了飛騰CPU和Atlas300的預(yù)測時間對比結(jié)果，可以看出，Atlas300的預(yù)測速度明顯高于CPU，并且不占用主機CPU計算資源。

表2 CPU與Atlas300預(yù)測時間對比結(jié)果

本文基于國產(chǎn)人工智能平臺，結(jié)合深度學(xué)習(xí)算法模型，為磁盤故障預(yù)測這一典型場景形成了一體化解決方案，并通過構(gòu)建異構(gòu)計算環(huán)境，提升了國產(chǎn)平臺計算能力，為國產(chǎn)數(shù)據(jù)中心的自動化運維提供了支撐。本文的國產(chǎn)環(huán)境和算法模型，經(jīng)過一定改造，也可應(yīng)用于工業(yè)、電子、衛(wèi)生等領(lǐng)域的檢驗檢測方向。