程 倩,伍忠東,鄭 禮,敏 捷
(1.蘭州交通大學(xué) 電子與信息工程學(xué)院,蘭州 730070;2.甘肅省無(wú)線電監(jiān)測(cè)及定位行業(yè)技術(shù)中心,蘭州 730070)
霧是在空氣中水氣達(dá)到一定含量時(shí),懸浮在地球表面附近空氣中的水滴將能見度降到1 km 以下的狀態(tài)[1]。 霧,尤其是能見度較低的濃霧,會(huì)嚴(yán)重影響人類的各種活動(dòng)。 據(jù)統(tǒng)計(jì),霧對(duì)航空、海洋和陸地運(yùn)輸?shù)目傮w經(jīng)濟(jì)影響可以比得上龍卷風(fēng)甚至颶風(fēng)的影響[2]。 因此,對(duì)大霧天氣進(jìn)行識(shí)別與實(shí)時(shí)監(jiān)測(cè)對(duì)防止因霧造成的事故和損失的發(fā)生具有重要意義。
目前,氣象業(yè)務(wù)中對(duì)霧及其能見度的探測(cè)方式主要有人工觀測(cè)[3]、霧滴譜儀[4]、能見度儀[5]、微波輻射計(jì)[6]、氣象衛(wèi)星[7]等。 然而,人工觀測(cè)依賴于觀察員的主觀判斷,誤差較大。 其他監(jiān)測(cè)方法雖然能夠在大多數(shù)情況下提供可靠的監(jiān)測(cè)結(jié)果,但它們所能覆蓋的空間范圍小、安裝成本高、需要定期維護(hù)且對(duì)安裝環(huán)境的要求高。
隨著5G 時(shí)代的到來(lái),無(wú)線電技術(shù)的應(yīng)用也更加廣泛,而較高頻段的電磁波在通過(guò)雨霧等傳播介質(zhì)時(shí)會(huì)受到影響使得電磁波產(chǎn)生衰減[8],并且當(dāng)電磁波通過(guò)的霧區(qū)中含水量越大時(shí),產(chǎn)生的衰減也會(huì)隨之增大[9,10]。 Noam David[11-15]根據(jù)霧對(duì)無(wú)線通信鏈路產(chǎn)生的衰減,研究了使用通信網(wǎng)絡(luò)進(jìn)行霧監(jiān)測(cè)的新方法。 由于霧對(duì)毫米波通信系統(tǒng)有較大影響,Hitesh Singh 等[16]提出了一種計(jì)算毫米波霧衰減的模型。 雖然有研究者提出當(dāng)電磁波頻率是10GHz 以下的較低頻率時(shí),傳輸過(guò)程中的雨霧等傳播介質(zhì)對(duì)信號(hào)影響較?。?7],但是通過(guò)實(shí)驗(yàn)發(fā)現(xiàn)雨霧等傳播介質(zhì)對(duì)于10 GHz 以下的信號(hào)產(chǎn)生的衰減雖然沒(méi)有表現(xiàn)為信號(hào)幅度的變化,在接收到的IQ 數(shù)據(jù)中還是留有了傳輸鏈路中的雨霧等傳播介質(zhì)的特征。 因此,可以通過(guò)提取分析不同傳播介質(zhì)下接收到的無(wú)線電信號(hào)IQ 數(shù)據(jù)的特征達(dá)到監(jiān)測(cè)不同傳播介質(zhì)的目的。
卷積神經(jīng)網(wǎng)絡(luò)[18]可以通過(guò)卷積核不斷地提取特征。 因此,采用深度神經(jīng)網(wǎng)絡(luò)提取接收到的無(wú)線電信號(hào)中留有的傳播介質(zhì)的特征。 由于殘差網(wǎng)絡(luò)[19]可以改變因加深網(wǎng)絡(luò)層數(shù)導(dǎo)致的梯度消失問(wèn)題,且不會(huì)產(chǎn)生過(guò)擬合的現(xiàn)象。 所以,選擇ResNet50網(wǎng)絡(luò)作為基本網(wǎng)絡(luò)來(lái)提取特征,并且引入了注意力機(jī)制[20,21],減少模型對(duì)背景等干擾信息的學(xué)習(xí);其次,在模型中使用了特征融合[22],使其能夠提取到不同的特征。 最終得到了改進(jìn)后的網(wǎng)絡(luò)模型。 然后將不同濃度霧的環(huán)境中采集到的無(wú)線電信號(hào)放入改進(jìn)后的神經(jīng)網(wǎng)絡(luò)中進(jìn)行訓(xùn)練,捕捉不同濃度霧的環(huán)境在無(wú)線電信號(hào)中留有的不同特征,進(jìn)而根據(jù)這種特征對(duì)霧的有無(wú)以及不同濃度的霧進(jìn)行判斷,這樣,就可以直接通過(guò)接收到的無(wú)線電信號(hào)進(jìn)行大霧天氣的實(shí)時(shí)監(jiān)測(cè),而且監(jiān)測(cè)所用到的無(wú)線電信號(hào)數(shù)據(jù)可以來(lái)源于現(xiàn)有的商用無(wú)線基站。 這些數(shù)據(jù)具有高時(shí)空分辨率,無(wú)需安裝任何設(shè)備等特點(diǎn),所以相比傳統(tǒng)監(jiān)測(cè)方法,這種方法不存在成本高、維護(hù)困難等問(wèn)題,節(jié)省了大量的人力、物力,并且具有重要的軍事和民用意義。
國(guó)際電聯(lián)(ITU)所提出的云霧衰減預(yù)測(cè)模式[23]中,云霧的具體衰減量可表示為式(1):
式中:γc——云中比衰減量,dB/km;Kl——云中液態(tài)水比衰減系數(shù),(dB/km)(g/m3);M——云或霧中的液態(tài)水密度,g/m3;f——頻率,GHz;T——云中液態(tài)水溫度,K。
對(duì)于中等霧,霧中液態(tài)水密度通常約為0.05 g/m3,濃霧則為0.5 g/m3。
云中液態(tài)比衰減系數(shù)Kl值可以通過(guò)式(2)計(jì)算:
I(in?phase)表示同相,Q(quadrature)表示正交,其與I的相位相差90°。I和Q是完全正交的,利用正交數(shù)字下變頻技術(shù)將接收到的信號(hào)轉(zhuǎn)換成IQ 信號(hào)。 對(duì)接收信號(hào)的轉(zhuǎn)換如式(8)和式(9)所示:
式中:s(t)——接收到的信號(hào);f——傳輸信號(hào)的載波頻率;hLP——低通濾波器的系統(tǒng)功能。
本節(jié)將詳細(xì)介紹利用無(wú)線通信鏈路進(jìn)行基于深度學(xué)習(xí)的大霧天氣監(jiān)測(cè)方法中的深度學(xué)習(xí)網(wǎng)絡(luò)模型。 網(wǎng)絡(luò)模型的整體框架如圖1 所示。 在該方法中,首先在傳統(tǒng)的ResNet50 網(wǎng)絡(luò)中的輸入部分增加一個(gè)卷積層并且在網(wǎng)絡(luò)最后一層中使用多頭自注意力機(jī)制替換掉3 × 3 卷積形成A?ResNet50(Attention?ResNet50),然后將在不同濃度霧的環(huán)境下接收到的無(wú)線電信號(hào)轉(zhuǎn)換為IQ 信號(hào)輸入A?ResNet50 網(wǎng)絡(luò)中。 由A?ResNet50 提取的IQ 信號(hào)的特征作為局部特征a,將其進(jìn)行全局平均池化得到全局特征b。 同時(shí),利用CBAM(Convolutional Block Attention Module)[24]對(duì)由A?ResNet50 提取的局部特征a 進(jìn)行處理,得到局部特征c。 最后,融合特征b 和c,得到最后的特征d。 然后輸入后續(xù)網(wǎng)絡(luò)中,采用全連接層以及Softmax 激活函數(shù)對(duì)有無(wú)霧以及不同濃度的大霧天氣進(jìn)行分類,Softmax 分類器將各個(gè)類別的概率表示出來(lái),取概率值最大者作為一組數(shù)據(jù)的最終類別,進(jìn)行分類。
圖1 網(wǎng)絡(luò)模型整體框架圖Fig.1 Overall framework of the network model
3.1.1 在網(wǎng)絡(luò)輸入部分增加一個(gè)卷積層
由于本次實(shí)驗(yàn)的輸入數(shù)據(jù)是IQ 信號(hào),因此,它的通道數(shù)是一維的,而傳統(tǒng)的ResNet50 的輸入通道數(shù)是三通道的,但是如果直接在ResNet50 的輸入部分第一組卷積中將輸入通道數(shù)改為1,這樣網(wǎng)絡(luò)的計(jì)算量會(huì)由0.3GFLOPs 變?yōu)?.04GFLOPs,網(wǎng)絡(luò)的計(jì)算量增大,所以會(huì)增加網(wǎng)絡(luò)負(fù)擔(dān),拖慢網(wǎng)絡(luò)訓(xùn)練速度,增加網(wǎng)絡(luò)的訓(xùn)練時(shí)長(zhǎng)。 因此,在ResNet50 網(wǎng)絡(luò)的輸入部分又加入了一個(gè)卷積層,包括輸入、卷積、最大池化、輸出。 這一層的輸入通道數(shù)為1,輸出通道數(shù)為3。 這樣會(huì)減輕網(wǎng)絡(luò)運(yùn)行負(fù)擔(dān),加快運(yùn)行速度。
3.1.2 加入多頭自注意力機(jī)制(MHSA)
注意力機(jī)制可以不受順序方式的限制從全局捕獲相關(guān)的信息,這樣,就可以從多方面捕獲到更多有效的信息。 而且,ResNet50 網(wǎng)絡(luò)前面幾個(gè)卷積層的參數(shù)量很大,而自注意力機(jī)制消耗的顯存和計(jì)算量與輸入成倍增長(zhǎng),因此,為了學(xué)習(xí)多樣化的特征并且不讓網(wǎng)絡(luò)變得復(fù)雜,Aravind Srinivas 等[25]提出了一種BotNet(Bottleneck Transformer)網(wǎng)絡(luò),只在ResNet50 網(wǎng)絡(luò)的最后一個(gè)卷積層中使用全局多頭自注意力機(jī)制(Multi?Head Self?Attention,MHSA)[26]替換掉3 ×3 的卷積。
MHSA 首先使用縮放點(diǎn)積注意力(Scaled Dot?product Attention,SDA)通過(guò)向量點(diǎn)積進(jìn)行相似度計(jì)算,得到Attention 值。 如式(10)所示:
式中:Q——查詢向量序列;K——鍵向量序列;V——值向量序列;dK——縮放因子。
然后,把Q,K,V通過(guò)參數(shù)矩陣進(jìn)行線性變換,每個(gè)head 都進(jìn)行變換,且每個(gè)head 的參數(shù)矩陣不共享,再做Attention 運(yùn)算。 重復(fù)h次Attention 運(yùn)算后將結(jié)果拼接并進(jìn)行線性變換。 如式(11)和式(12)所示:
式中:X——輸入序列。
多頭自注意力機(jī)制中Q=K=V=X,其結(jié)構(gòu)如圖2 所示。
圖2 多頭自注意力機(jī)制結(jié)構(gòu)圖Fig.2 Structure of multi head self attention mechanism
改進(jìn)后的ResNet50 網(wǎng)絡(luò)配置如表1 所示。
表1 改進(jìn)后的ResNet50 網(wǎng)絡(luò)配置Tab.1 Improved resnet50 network configuration
將經(jīng)過(guò)改進(jìn)后的ResNet50 提取的特征進(jìn)一步細(xì)化,以得到更加精細(xì)的特征。 使用CBAM 模塊對(duì)局部特征進(jìn)一步細(xì)化,得到細(xì)化后的局部特征c。
CBAM 注意力機(jī)制中包括了空間注意力模塊MSpatial和通道注意力模塊MChannel。 通道注意力模塊如圖3 所示,首先,輸入特征經(jīng)過(guò)最大池化層和平均池化層,然后將得到的結(jié)果分別經(jīng)過(guò)共享的全連接層,將得到的兩個(gè)輸出結(jié)果進(jìn)行加和,再經(jīng)過(guò)sigmoid 函數(shù)就可以得到通道注意力權(quán)值。 空間注意力模塊的輸入是將通道注意力模塊得到的通道注意力權(quán)值與原始輸入特征進(jìn)行乘法操作得到的,然后將該輸入進(jìn)行全局最大池化操作和全局平均池化操作,其得到的結(jié)果再進(jìn)行基于通道的加和操作。 將加和操作后的結(jié)果再進(jìn)行一次卷積操作,然后經(jīng)過(guò)sigmoid 之后就可以得到空間注意力模塊的權(quán)值,如圖4 所示。 最后將該權(quán)值與輸入特征做乘法,得到最終生成的特征,其結(jié)構(gòu)如圖5 所示。
圖3 通道注意力模塊框圖Fig.3 Block diagram of channel attention module
圖4 空間注意力模塊圖Fig.4 Module of spatial attention
圖5 CBAM 結(jié)構(gòu)圖Fig.5 Structure of CBAM
最終輸出結(jié)果的計(jì)算公式如式(13)和式(14)所示:
式中:a——輸入的由改進(jìn)的ResNet50 網(wǎng)絡(luò)提取的局部特征;a′CBAM——通道注意力模塊輸出的結(jié)果;c——經(jīng)過(guò)CBAM 處理后最終的輸出結(jié)果;?——數(shù)組元素依次相乘。
采用加和方法將CBAM 處理后的局部特征c和全局特征b融合,最終形成融合特征d如式(15)所示:
所用實(shí)驗(yàn)數(shù)據(jù)均為實(shí)測(cè)數(shù)據(jù),無(wú)線電信號(hào)接收機(jī)采用的是AV-3900A 無(wú)線電監(jiān)測(cè)接收機(jī)。 由于民用廣播信號(hào)具有易接收、應(yīng)用廣泛等特點(diǎn)。 因此,實(shí)驗(yàn)采集了相對(duì)濕度21 %天線干燥環(huán)境無(wú)霧、相對(duì)濕度21 %天線濕潤(rùn)環(huán)境無(wú)霧、相對(duì)濕度85 %天線濕潤(rùn)環(huán)境有霧、飽和狀態(tài)下天線濕潤(rùn)環(huán)境有霧這樣4 種不同濃度大霧天氣下的88.3 MHz,93.4 MHz,96.0 MHz,102.2 MHz,103.5 MHz,104.8 MHz 這6個(gè)民用廣播信號(hào)頻點(diǎn)下的數(shù)據(jù)。 將所采集的數(shù)據(jù)分為四類:21 %相對(duì)濕度下天線干燥環(huán)境無(wú)霧、21 %相對(duì)濕度下天線濕潤(rùn)環(huán)境無(wú)霧、85 %相對(duì)濕度下天線濕潤(rùn)環(huán)境有霧、飽和狀態(tài)下的天線濕潤(rùn)環(huán)境有霧[27]。 每個(gè)分類中包括這6 個(gè)頻點(diǎn)的數(shù)據(jù)。
數(shù)據(jù)采集過(guò)程如圖6 所示。
圖6 數(shù)據(jù)采集過(guò)程圖Fig.6 Process of data collection
在劃分訓(xùn)練集、驗(yàn)證集和測(cè)試集時(shí),是將采集到的數(shù)據(jù)按照8 ∶1 ∶1 的比例進(jìn)行劃分的。 在劃分?jǐn)?shù)據(jù)時(shí),對(duì)數(shù)據(jù)進(jìn)行歸一化,保證數(shù)據(jù)集中在一個(gè)共同的范圍。 然后放入前文所提到的網(wǎng)絡(luò)中訓(xùn)練。
本實(shí)驗(yàn)環(huán)境為Windows 系統(tǒng),使用Pytorch 框架實(shí)現(xiàn)。 硬件配置為GPU:NVIDIA GeForce RTX 2080 Ti, Intel(R) CoreTMi9-9820X CPU@3.30 GHz 的CPU。 實(shí)驗(yàn)數(shù)據(jù)為實(shí)際采集的四類不同濃度霧的情況下的IQ 數(shù)據(jù)。 實(shí)驗(yàn)采用的評(píng)價(jià)指標(biāo)是準(zhǔn)確率(Accuracy)、損失函數(shù)(Loss),準(zhǔn)確率計(jì)算公式如式(16)所示:
式中:x——網(wǎng)絡(luò)的輸出;class——對(duì)應(yīng)的標(biāo)簽。
4.3.1 有無(wú)霧的監(jiān)測(cè)
首先,對(duì)無(wú)線通信鏈路中霧的有無(wú)進(jìn)行監(jiān)測(cè),使用本方法對(duì)采集的相對(duì)濕度21 %天線濕潤(rùn)環(huán)境無(wú)霧、飽和狀態(tài)下天線濕潤(rùn)環(huán)境有霧兩個(gè)類別中的信號(hào)數(shù)據(jù)進(jìn)行分類識(shí)別。 其混淆矩陣如圖7 所示。
圖7 有無(wú)霧監(jiān)測(cè)的混淆矩陣圖Fig.7 Confusion matrix for fog monitoring
其中,橫坐標(biāo)表示的是真實(shí)類別,縱坐標(biāo)表示的是預(yù)測(cè)類別。 0 代表相對(duì)濕度21 %天線濕潤(rùn)環(huán)境無(wú)霧,1 代表飽和狀態(tài)下天線濕潤(rùn)環(huán)境有霧。 從混淆矩陣可以看出,基本能夠分類正確,說(shuō)明了本方法對(duì)有無(wú)霧監(jiān)測(cè)的有效性。
對(duì)有無(wú)霧進(jìn)行監(jiān)測(cè)訓(xùn)練過(guò)程中的準(zhǔn)確率和損失值變化曲線如圖8 和圖9 所示。 最終達(dá)到了95.28 %的識(shí)別準(zhǔn)確率,損失函數(shù)值為0.008 9。
圖8 訓(xùn)練過(guò)程準(zhǔn)確率折線圖Fig.8 Line chart of accuracy in training process
圖9 訓(xùn)練過(guò)程損失函數(shù)值變化折線圖Fig.9 Line chart of loss in training process
提出網(wǎng)絡(luò)模型與傳統(tǒng)ResNet50 網(wǎng)絡(luò)、ResNet152
4.3.2 不同濃度霧的監(jiān)測(cè)
為了進(jìn)一步測(cè)試本算法對(duì)構(gòu)建數(shù)據(jù)集中的不同濃度霧的識(shí)別性能,分別使用傳統(tǒng)的ResNet50 網(wǎng)絡(luò)、ResNet152 和VGG16 與本網(wǎng)絡(luò)模型對(duì)采集到的21 %相對(duì)濕度下天線干燥環(huán)境無(wú)霧相對(duì)濕度21 %有水無(wú)霧、相對(duì)濕度85 %有水有霧、飽和狀態(tài)下有水有霧這4 個(gè)分類下的信號(hào)的識(shí)別進(jìn)行對(duì)比分析。表2 中比較了這四個(gè)模型的準(zhǔn)確率、損失函數(shù)值以及計(jì)算量大小,從表中可以看出,本網(wǎng)絡(luò)模型的分類效果明顯優(yōu)于其他幾個(gè)模型,其準(zhǔn)確率達(dá)到86.18 %,損失函數(shù)值為0.052,且計(jì)算量也最小。和VGG16[28]、VGG19 這些近幾年被廣泛研究的深度神經(jīng)網(wǎng)絡(luò)模型分別用于對(duì)所采集數(shù)據(jù)集進(jìn)行分類的對(duì)比分析,如圖10 所示。 結(jié)果顯示,本模型的準(zhǔn)確率最高,實(shí)驗(yàn)結(jié)果表明了本方法對(duì)霧的有無(wú)監(jiān)測(cè)的有效性。
表2 不同模型識(shí)別結(jié)果對(duì)比Tab.2 Comparison of different model
圖10 不同網(wǎng)絡(luò)識(shí)別性能對(duì)比圖Fig.10 Performance comparison of different models
對(duì)無(wú)線通信鏈路中4 種不同濃度的霧進(jìn)行識(shí)別的混淆矩陣如圖11 所示。 其中,橫坐標(biāo)表示的是預(yù)測(cè)類別,縱坐標(biāo)表示的是真實(shí)類別。 0 代表相對(duì)濕度21 %天線干燥環(huán)境無(wú)霧,1 代表相對(duì)濕度21 %天線濕潤(rùn)環(huán)境無(wú)霧,2 代表相對(duì)濕度85 %天線濕潤(rùn)環(huán)境有霧、3 代表飽和狀態(tài)下天線濕潤(rùn)環(huán)境有霧。 從混淆矩陣可以看出,基本能夠分類正確,說(shuō)明了本方法對(duì)不同濃度霧進(jìn)行監(jiān)測(cè)的有效性。
圖11 四種不同濃度霧監(jiān)測(cè)的混淆矩陣圖Fig.11 Confusion matrix for four different concentrations of fog monitoring
利用無(wú)線信號(hào)在通過(guò)不同傳播介質(zhì)時(shí)會(huì)留有傳播介質(zhì)特征這一特點(diǎn),通過(guò)改進(jìn)的ResNet50 網(wǎng)絡(luò)提取在充滿不同濃度霧的信道中接收到的IQ 數(shù)據(jù)中留有傳播介質(zhì)的特征,然后使用注意力機(jī)制處理特征,最后將不同特征融合起來(lái)作為最終提取到的特征來(lái)進(jìn)行不同濃度霧的識(shí)別。 應(yīng)用本霧的監(jiān)測(cè)方法,不僅可以作為傳統(tǒng)氣象監(jiān)測(cè)設(shè)備的補(bǔ)充方法對(duì)霧進(jìn)行有效監(jiān)測(cè),還能協(xié)助交通部門做好道路大霧天氣監(jiān)測(cè)與預(yù)警工作。 可以應(yīng)用在氣象部門、交通部門等領(lǐng)域,具有較高的研究?jī)r(jià)值。 研究中使用實(shí)測(cè)數(shù)據(jù)集,然后基于ResNet50 模型提出了改進(jìn)的深度學(xué)習(xí)算法,與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型在采集數(shù)據(jù)集上的準(zhǔn)確率相比,改進(jìn)的ResNet50 網(wǎng)絡(luò)模型的分類準(zhǔn)確率提升了4.01 %,取得了最高86.18 %的分類精度。 實(shí)驗(yàn)結(jié)果表明,本方法能夠較準(zhǔn)確地監(jiān)測(cè)大霧天氣,為該方向的進(jìn)一步研究提供了思路。
由于一個(gè)高質(zhì)量的大樣本數(shù)據(jù)集對(duì)深度學(xué)習(xí)算法非常重要,因此,在后續(xù)數(shù)據(jù)集方面的研究工作中,將實(shí)際采集更大樣本、更高質(zhì)量的數(shù)據(jù)集。在深度學(xué)習(xí)網(wǎng)絡(luò)模型方面,將使用更先進(jìn)的算法對(duì)模型進(jìn)行不斷改進(jìn)和優(yōu)化。 提高算法的泛化能力,爭(zhēng)取能夠進(jìn)一步提升監(jiān)測(cè)準(zhǔn)確率。