基于改進VGG16的超短波時頻譜圖分類方法

馬博昂，張海瑛

(1.中國電子科技集團公司 第54研究所，石家莊 050081;2.河北省電磁頻譜認知與管控重點實驗室，石家莊 050011)

0 引言

現(xiàn)代戰(zhàn)場電磁環(huán)境日益復雜，戰(zhàn)術(shù)通信網(wǎng)臺主要集中在超短波頻段，常規(guī)信號、跳頻、擴頻信號普遍存在。我軍需要針對目標區(qū)域進行例行性偵察監(jiān)視，重點對當面機場和空軍基地進行偵察監(jiān)視，截獲其電磁信號，對重控信號進行通信組網(wǎng)特征提取和分析，提升對作戰(zhàn)目標的內(nèi)涵情報獲取以及信息作戰(zhàn)支援能力。

超短波(ultra-short wave)是一種頻率范圍由30 MHz到300 MHz的無線電波，其波長在1至10米之間，也叫做甚高頻(VHF,very high frequency)、米波。超短波寬帶信號偵察包括信號搜索、跳頻信號檢測、超短波頻段信號的采集、分選、檢測以及信號分析等技術(shù)。傳統(tǒng)的超短波信號分類已知信號的相關(guān)先驗信息，多以告知偵察對象及任務范圍為主。針對超短波頻譜資源的利用問題，文獻[1]將采集到的信號進行時、頻域特征分析，通過對獲取的寬帶信號進行時頻分析，并采用相關(guān)匹配的算法，實現(xiàn)了在復雜電磁環(huán)境下對截獲的寬帶信號的檢測和自動分選。文獻[2]提出了一種利用峰度和小波變換對超短波信號進行分類識別方法。該方法通過決策樹的分類方法,完成了FM、MSK、QPSK等三類不同調(diào)制方式的信號的識別。文獻[3]針對不同頻段的超短波通信信號調(diào)制識別的問題,提出決策樹分類的方法。利用瞬時幅度、瞬時相位以及構(gòu)造的瞬時特征實現(xiàn)了十種調(diào)制信號有效的識別。

但此類方法都是對特定目標信號進行仿真，諸如信號類型、調(diào)制方式、符號速率等，已有較多的先驗信息?，F(xiàn)行的超短波通信偵察系統(tǒng)中戰(zhàn)場測量較為宏觀粗放，偵控細節(jié)都是由執(zhí)行者依據(jù)對象、任務以及工作慣性，理解性地在工作過程中落實傳承。如今，在基于元數(shù)據(jù)協(xié)同的偵察活動中，大量的元數(shù)據(jù)活躍在每一個信號感知的細節(jié)里，如何應對戰(zhàn)場環(huán)境下各類目標信號測量特征的精確獲取需求，設(shè)計與之匹配的元數(shù)據(jù)測量特征，精細化地描述戰(zhàn)場測量特征情報，設(shè)計完備簡約的偵察策略是現(xiàn)代技偵工作的必然要求。未來的技術(shù)偵察情報生產(chǎn)，對智能化、大數(shù)據(jù)信息處理的需求越來越強烈，依托智能化技術(shù)的發(fā)展，提升情報生產(chǎn)能力，已成為技偵發(fā)展的必由之路。

近幾年里，深度學習在圖像識別領(lǐng)域取得了巨大的成果。文獻[4]利用最新的人工智能框架pytorch以及算力強大的GPU,對動物的圖像進行分類識別。雖然在圖像的預處理以及代碼遷移問題上需進一步優(yōu)化和改進。但也證明了VGG16網(wǎng)絡(luò)模型識別準確率非常高,驗證了VGG16在圖像識別問題上的有效性。文獻[5]提出了一種基于改進VGG16和遷移學習的圖像分類方法。通過遷移學習傳統(tǒng)VGG16模型并進行了改進，該方法能將已學習到的特征和性能用到待解決的任務中，極大地節(jié)省了訓練時間。該方法針對選定的數(shù)據(jù)集，分別對激活函數(shù)、損失函數(shù)、優(yōu)化器進行調(diào)整，最終完成了了對十種不同猴子圖像的識別。但其在細粒度圖像的識別上還需對模型進行完善，且當遷移學習到超短波盲信號的時頻圖時需要進一步優(yōu)化。文獻[6]在超短波通信中Link11、Link4A、DQPSK、SOQPSK信號的識別問題上，將超短波信號的時頻譜圖和卷積神經(jīng)網(wǎng)絡(luò)相結(jié)合。該方法需要先得到信號的時頻譜圖，然后使用得到的信號時頻譜圖對優(yōu)化后的卷積神經(jīng)網(wǎng)絡(luò)模型進行訓練，最后實現(xiàn)了超短波特定信號的識別。對于時頻譜圖的變換有時域分析法[7]。時域分析法是把信號按照時間序列劃分為許多子序列，分別分析其時域特性?？焖俑道锶~變換[8](FFT,fast fourier transform)在復雜度上雖有所降低，但僅適用于平穩(wěn)信號，對非平穩(wěn)信號和跳變信號不再適用。此外還有短時傅里葉變換(STFT,short-time fourier transform)、小波變換[9](WT,wavelet transform)和S變換[10]。本文選定STFT進行超短波盲信號時頻譜圖的獲取。是因為STFT常用于緩慢時變信號的頻譜分析，符合超短波盲信號的信號特征。此外，經(jīng)STFT處理后的信號具有時域和頻域的局部化特性，可以借助其分析信號的時頻特性。先驗信息不足，信號特征缺失，難以滿足對作戰(zhàn)目標的內(nèi)涵情報獲取需要是當下電磁作戰(zhàn)面臨的最大問題。且當前對超短波盲信號的研究主要在盲信號的分離方法[11]及準則的優(yōu)化上[12]，因此實現(xiàn)盲信號的智能化分類對于電磁環(huán)境日益復雜現(xiàn)代戰(zhàn)場具有重要意義。

隨著深度學習在圖像分類識別領(lǐng)域的飛速進步,運用卷積神經(jīng)網(wǎng)絡(luò)對圖像分類相較于傳統(tǒng)的圖像處理方法更加高效與方便。研究人員們針對圖像分類等問題提出了很多特征維度提取更深的神經(jīng)網(wǎng)絡(luò)模型。模型復雜的神經(jīng)網(wǎng)絡(luò)雖然會有較高的準確率，但是會出現(xiàn)過擬合的問題，具有效率不高、訓練時間長等不可忽視的短板。因此輕量化卷積神經(jīng)網(wǎng)絡(luò)的研究具有深遠的意義和影響。文獻[13]提出輕量化卷積神經(jīng)網(wǎng)絡(luò)，在保證準確率的同時能夠提高圖像分類的效率，降低參數(shù)量，并且可以用于小型終端設(shè)備中。文獻[14]將優(yōu)化后的空洞卷積與普通卷積相結(jié)合，提出一種將融合型空洞卷引入神經(jīng)網(wǎng)絡(luò)中的方法。該方法利用空洞卷積可以增大特征映射與擴大感受野的結(jié)構(gòu)特性，可實現(xiàn)模型計算復雜度的降低，實現(xiàn)了對訓練效率與準確率的權(quán)衡。但由于遷移學習到新的網(wǎng)絡(luò)，將基本空洞卷積直接應用于超短波盲信號時頻譜圖的分類，雖準確率會有所降低，但是整體上來看仍具有輕量化效果好的特點，可以解決超短波音信號時頻譜圖像學習過程時間過長的問題。

基于以上，本文提出了一種將超短波盲信號的時頻譜圖與VGG16相結(jié)合的識別方法，并通過引入空洞卷積減少網(wǎng)絡(luò)的訓練時長。該方法首先用STFT將電磁戰(zhàn)場中實際采集到的盲信號轉(zhuǎn)換為時頻譜圖，然后將其與優(yōu)化的VGG16卷積神經(jīng)網(wǎng)絡(luò)結(jié)合起來。通過仿真實現(xiàn)了在先驗信息不足的條件下超短波信號的分類。將空洞卷積引入優(yōu)化后的網(wǎng)絡(luò)，在保證較高分類準確率的條件下，最大程度的減少了訓練時長，驗證了空洞卷積在盲信號分類上的實用性，增強電磁戰(zhàn)場作戰(zhàn)目標的內(nèi)涵情報獲取以及信息作戰(zhàn)支援能力。

1 時頻譜圖提取

本文對超短波盲信號的時頻譜圖通過STFT[15]方法得到。STFT常用于緩慢時變信號的頻譜分析，與超短波盲信號的特征相匹配，如圖1所示，不同信號的時頻譜圖存在明顯差異。且經(jīng)STFT處理后的超短波盲信號的時頻譜圖具有時頻域的雙重特征，可以作為深度學習的輸入。

圖1 兩種信號的短時傅立葉變換譜圖對比

STFT本質(zhì)上是對超短波盲信號時域上的局部處理，在信號進行傅里葉變換(FFT，fourier transform)之前,對信號乘以一個時間極短的窗函數(shù)，用窗函數(shù)截取信號，原本非平穩(wěn)的信號就可以采用平穩(wěn)信號的手段進行分析。最后將時間窗口滑動，各個窗函數(shù)信號的頻譜組合就是整個超短波盲信號的時頻譜圖。

STFT的定義為：

(1)

其功率譜為：

SPEC(t,f)=|STFT(t,f)|2

(2)

對于STFT窗函數(shù)的選擇，設(shè)窗函數(shù)g(t)的有效時寬為Δt，帶寬為Δf，則它們二者的乘積服從Heisenberg不等式[16]：

(3)

從上式可以看出，需要根據(jù)需求權(quán)衡窗函數(shù)的有效時寬Δt和帶寬Δf的數(shù)值。為了局部頻譜清晰可辨，窗的長度應該足夠?qū)挕?/p>

STFT最重要的還是窗口函數(shù)長度的選取。窗口較長，頻域刻度和平移步長足夠密時，頻率能夠清晰的顯示出來，但是時間上有些模糊。窗口較短，時間上的分界線能夠清晰顯示，但是頻率的值會很模糊。

選擇合適的窗函數(shù)及長度，是影響后續(xù)深度學習準確率的關(guān)鍵。針對本文選定的超短波盲信號，最終進行的STFT變換參數(shù)如表1所示。

表1 變換參數(shù)

2 空洞卷積

空洞卷積核[17]是由Yu等人進行系統(tǒng)研究的。從特征提取的原理上來看，空洞卷積與傳統(tǒng)卷積核的結(jié)構(gòu)相似。但是通過添加空洞元素，實現(xiàn)了輸入層和輸出層特征映射的擴張?？斩淳矸e的引入可以大大減少卷積網(wǎng)絡(luò)的訓練時長。部分學者已經(jīng)將空洞卷積應用在目標檢測與語義分割中的空洞卷積池化金字塔[18]、ESPNet[19]等多個領(lǐng)域中。

空洞卷積可以認為是基于卷積操作的一種變形，空洞卷積在卷積核中添加空洞元素，增大感受野，實現(xiàn)了獲取更多的信息的目的。感受野是輸入層到輸出層的特征映射，決定著輸出層中元素對應的輸入層的區(qū)域大小。在圖像分類和目標識別上，感受野的選擇直接影響任務效果。

感受野的計算公式如下：

(4)

spn代表第n層的感受野，spn-1表示第n-1層的感受野，nk是第n層卷積核的尺寸，ri表示n層前第i層卷積的步長。

如圖2所示，圖像的像素為25，以5×5卷積核對一個5×5的圖像進行一次卷積操作。輸入層經(jīng)過卷積操作后，得到1×1的輸出，即輸出層對應的整個特征映射為輸入層。

圖2 普通5×5卷積核一次卷積過程

如圖3所示，步長為1的3×3的空洞卷積與普通5×5卷積核的感受野相同。只不過在卷積元素之間添加了一個空洞，可以理解為此位置的特征值與0相乘。該空洞卷積對一個輸入圖像進行一次卷積操作，同樣得到了與普通卷積后相同大小的結(jié)果。

圖3 步長為1的3×3卷積核一次卷積過程

由于增加了空洞元素，空洞卷積利用較小的參數(shù)量實現(xiàn)較大的感受野，在神經(jīng)網(wǎng)絡(luò)的訓練過程中可以減少參數(shù)量，減少訓練時長，提升模型的訓練效率。

2.1 盲信號的選取

當前對超短波盲信號的研究主要在盲信號的分離方法及準則的優(yōu)化上。本文選則超短波盲信號分類識別是為了減少信號的先驗信息，在不知道信號調(diào)制方式、符號速率參數(shù)的情況下,僅根據(jù)輸入信號的特性,通過時頻譜圖實現(xiàn)盲信號的分類，可以增加網(wǎng)絡(luò)的魯棒性和應用價值。

本文首先對已采集到的寬帶信號進行離線分析得到瀑布圖，然后對信號進行短時傅立葉變換得到對應的時頻譜圖，由于盲信號的頻譜樣本的選取需要滿足一定的視覺差異，同時需要滿足細粒度圖像[20]的要求?；诖吮疚倪x擇以下四種盲信號作為分類數(shù)據(jù)集。

由圖4可以看出，信號(a)的譜圖呈雙帶寬形式，信號(b)的譜圖具有突發(fā)的特點，信號(c)和信號(d)的譜圖呈現(xiàn)包絡(luò)差異明顯的鋸齒狀。

圖4 特定信號的譜圖

四種盲信號的中心頻率及帶寬如表2所示。

表2 四種盲信號的頻率參數(shù) Hz

2.2 數(shù)據(jù)集的預處理

數(shù)據(jù)增強[21](data augmentation)技術(shù)通常用于深度學習中。在圖像識別領(lǐng)域，在不改變圖像標簽的情況下，通過對圖像進行不同的變換操作，達到擴充原來的數(shù)據(jù)集的目的。而且卷積神經(jīng)網(wǎng)絡(luò)具有尺度、平移不變性，成為圖像數(shù)據(jù)增強的理論支撐。常見的數(shù)據(jù)增強方法有旋轉(zhuǎn)、翻轉(zhuǎn)、縮放等[22]。即這些變換經(jīng)過卷積操作也不會改變圖像的分類特征。

本文針對盲信號的特點，對輸入的時頻譜圖進行平移變換、縮減和中心裁剪處理。讀取圖像時，首先把圖像的短邊分辨率裁剪為256。然后對圖像進行中心切割，得到大小為分辨率為224*224的圖像。再將形狀為[H,W,C]的數(shù)據(jù)轉(zhuǎn)換為[C,H,W]的張量后，然后對圖像進行歸一化處理，每類盲信號有2 000個時頻譜圖用來作為后續(xù)網(wǎng)絡(luò)的輸入。

圖5 處理后訓練batch的圖像

3 遷移學習卷積網(wǎng)絡(luò)模型

3.1 VGG16模型

VGG16卷積神經(jīng)網(wǎng)絡(luò)通過組合與堆疊多個3*3卷積核，可以提取輸入鄰域內(nèi)更多細小的特征。通過構(gòu)建和組合多個3*3卷積核：2個3*3卷積核可代替5*5卷積核，3個3*3卷積核可代替7*7卷積核。多個小尺寸卷積核的組合比單個大的卷積核具有更好的非線性，增加了網(wǎng)絡(luò)的魯棒性和判決力。

VGG16卷積神經(jīng)網(wǎng)絡(luò)通過卷積核對輸入的圖像進行卷積操作，最大池化進行圖像降維，提取主要特征，全連接層進一步降低參數(shù)量并與分類器softmax配合達到分類的目的。并且利用小尺寸卷積核代替大尺寸的卷積核，可以大幅減少由于深度增加所帶來的參數(shù)量。

3.2 損失函數(shù)的改進

損失函數(shù)(loss)用來表征實際值與預期值之間的偏移，損失函數(shù)越小代表模型的置信度越強。分類識別中常用softmax函數(shù)將多個神經(jīng)元的輸出進行標準化，通過歸一化指數(shù)函數(shù)，可以使每一個元素的范圍映射到0～1之間，大大減少因為輸出結(jié)果不均勻引起的誤差。若卷積神經(jīng)網(wǎng)絡(luò)的輸出為xi，經(jīng)過softmax處理后變?yōu)椋?/p>

(7)

采用softmax函數(shù)在于此函數(shù)特性的優(yōu)勢，可以高效完成類間的信號識別，但是應用在盲信號的時頻譜圖識別問題上時，由于類內(nèi)的間距還是比較大，識別任務會出現(xiàn)準確率降低的情況。因此為了縮小類內(nèi)間的殘差，引入了中心損失函數(shù)(center loss)。中心損失函數(shù)的意義是在完成分類任務時，對于每一類特征都維持在一個中心點，即該類所有樣本的特征平均值，當輸入層的數(shù)據(jù)過于偏離平均值就要剔除或者取舍，從而更接近類內(nèi)的特性表征。并且如果只替換為center loss函數(shù)，效果并不是很好，無法有效類間的特性有效區(qū)分。

Center loss的定義：

(8)

令Centerloss=Lc。

Softmax loss的定義：

(9)

其中:cyi代表每類樣本特征的平均值。將式(8)～(9)結(jié)合得到損失函數(shù)為：

L=LS+λLC=

(10)

而采用將以上兩種損失函數(shù)相結(jié)合的辦法，優(yōu)勢相結(jié)合能夠有效完成盲信號的分類任務。將softmax loss與center loss相結(jié)合的方法增加損失函數(shù)的價值，從而提升分類任務的識別準確率。

3.3 Swish激活函數(shù)

在深度學習中輸入與輸出的關(guān)系復雜，用普通的線性函數(shù)無法表征學習到的特征，在學習的過程中會出現(xiàn)梯度消失的問題，因此激活層用來引入非線性因素從而提高整個模型的表征能力。

ReLU函數(shù)的定義為：

f(x)=max(0,x)

(11)

盡管ReLU僅在取值為正數(shù)時傳輸，具有單調(diào)、分散性等優(yōu)點。但仍存在不足：當取值大于0時，輸出可能會無限大，出現(xiàn)梯度爆炸的問題。

Swish[23]函數(shù)則解決了這一缺陷，并且它非飽和、且不是單調(diào)函數(shù)。適用于神經(jīng)網(wǎng)絡(luò)學習，且在多個數(shù)據(jù)集上使用Swish激活函數(shù)時，識別率均較高。

Swish的定義為:

(12)

將VGG13、VGG16和AleNet模型分別在手寫數(shù)據(jù)集上進行學習。學習結(jié)果如表3，證明了Swich函數(shù)具有更大優(yōu)勢。因此，在針對超短波盲信的識別問題上，將原網(wǎng)絡(luò)的激活函數(shù)替換為Swich函數(shù)。

表3 Swish與ReLU在不同的模型結(jié)構(gòu)學習結(jié)果 %

4 深度學習結(jié)果及分析

4.1 VGG16優(yōu)化模型的盲信號分類

本文模型的訓練是在pycharm平臺下，調(diào)用pytorch深度學習庫來完成的。對VGG16原模型進行了如下調(diào)整：激活函數(shù)改為Swish激活函數(shù)，損失函數(shù)改為softmax loss與center loss結(jié)合的復合函數(shù)。優(yōu)化后的模型用VGG16_U表示。采用前向傳播算法，學習率為0.03，每類盲信號的時頻圖有2 000個，四類盲信號共有8 000個樣本，訓練的batch為64。分別將四種盲信號的時頻譜圖送入網(wǎng)絡(luò)進行分類學習。圖像在VGG16原模型與VGG16_U模型上的訓練結(jié)果如圖6所示。

圖6 訓練結(jié)果

由結(jié)果可以看出，當訓練輪數(shù)達到10輪時，網(wǎng)絡(luò)模型和準確率已經(jīng)基本穩(wěn)定。VGG16_U的識別準確率比原模型有明顯提高，且VGG16_U最高識別率為93.1%，說明遷移學習后的卷積神經(jīng)網(wǎng)絡(luò)對盲信號分類識別的有效性。

4.2 引入空洞卷積的網(wǎng)絡(luò)模型

為驗證空洞卷積核對VGG16_U模型性能的影響，訓練集選取的盲信號的時譜圖保持不變，網(wǎng)絡(luò)學習率調(diào)整為0.001，訓練的epoch為10，對VGG16_U模型中的卷積層調(diào)整為步幅為2的3*3空洞卷積層。VGG16_U網(wǎng)絡(luò)的第4層，第7層，第10層均為卷積層，分別將不同層數(shù)的卷積層替換進行了測試，得到八組訓練結(jié)果。

表4 訓練的參數(shù)配置

訓練結(jié)果如圖7所示，由圖中的折線可知，引入空洞卷積會大大減小模型的訓練時長，訓練時長與空洞卷積核的位置無關(guān)而與空洞卷積核的數(shù)量呈正相關(guān)：卷積核的數(shù)量越多，模型的訓練時間越短。同時，識別準確率與空洞卷積的位置和數(shù)量均有關(guān)，且引入空洞卷積，整體的識別率皆有所降低。

圖7 引入空洞卷積后的模型對比

VGG16_U未引入空洞卷積時訓練時間為58分33秒，識別準確率為93.1%。經(jīng)過分析，當將VGG16_U的第4層和第10層的卷積核同時替換成空洞卷積時，此時的識別準確率為92.2%，雖比無空洞卷積時有所降低，但仍維持在較高的水平，且訓練時長為38分35秒，訓練時長減少了34.1%，大大降低了訓練時長，證明了空洞卷積在模型識別上的有效性，提升對作戰(zhàn)目標的內(nèi)涵情報獲取以及信息作戰(zhàn)支援能力。

5 結(jié)束語

在電磁戰(zhàn)場目標識別問題上，以往的仿真都是針對特定的目標信號，諸如信號類型、調(diào)制方式等，已有較多的先驗信息。當先驗信息不足時，信號特征缺失，難以滿足對作戰(zhàn)目標的內(nèi)涵情報獲取需要，因此，對盲信號的分類識別具有突出意義。

在人工智能領(lǐng)域，對于不同的目標任務通常需要重新構(gòu)造網(wǎng)絡(luò)，并采用新的源數(shù)據(jù)重新學習調(diào)整權(quán)重參數(shù)，任務工作量高且耗時較長。而遷移學習可以將原任務中所學到的知識運用到新任務中，對網(wǎng)絡(luò)進行調(diào)整從而構(gòu)造出魯棒性更好的模型。不但降低了訓練時長，基于以前的參數(shù)信息也可以完成更優(yōu)化的識別任務?？斩淳矸e核具有增大輸入層和輸出層的特征映射特性，可以大大減少網(wǎng)絡(luò)參數(shù)的數(shù)量。在保證較高的識別準確率的條件下，最大程度減少任務時長，在電磁環(huán)境日益復雜的戰(zhàn)場中的高效率完成任務有重要的意義。下一步的工作可以繼續(xù)增加超短波盲信號的種類、增大數(shù)據(jù)量。優(yōu)化空洞卷積核與網(wǎng)絡(luò)模型，進一步提高識別率并降低訓練時長。