新型的基于堆棧式ELM的時(shí)變信道預(yù)測(cè)方法

張 捷, 楊麗花, 聶 倩

(1. 南京郵電大學(xué)通信與信息工程學(xué)院, 江蘇 南京 210032; 2. 江蘇省無線通信重點(diǎn)實(shí)驗(yàn)室, 江蘇 南京 210003)

0 引 言

高速鐵路(high speed railway, HSR)因其高效安全的特點(diǎn)被廣泛部署,目前針對(duì)HSR場(chǎng)景下的無線通信已開展了大量的研究。在HSR場(chǎng)景下,列車時(shí)速將超過300 km,如此高的移動(dòng)速度將會(huì)產(chǎn)生嚴(yán)重的多普勒頻移,造成信道發(fā)生快速隨機(jī)變化,使得此場(chǎng)景下的信道獲取更具挑戰(zhàn)性。傳統(tǒng)獲取信道狀態(tài)信息(channel state information, CSI)的方法是采用信道估計(jì)技術(shù),然而信道估計(jì)技術(shù)在處理過程中存在一定的時(shí)延,通過其獲取的CSI對(duì)于快速時(shí)變信道而言會(huì)出現(xiàn)嚴(yán)重的老化現(xiàn)象,此時(shí)的CSI已不能準(zhǔn)確表征當(dāng)前信道的真實(shí)情況。為了減少信道老化引起的系統(tǒng)性能損失,信道預(yù)測(cè)技術(shù)被提出,其基本的思想是根據(jù)歷史時(shí)刻的CSI來提前預(yù)測(cè)未來的信道信息,并且目前針對(duì)HSR環(huán)境已開展了大量信道預(yù)測(cè)技術(shù)的研究。

傳統(tǒng)的信道預(yù)測(cè)方法主要是將當(dāng)前時(shí)刻的信道和過去時(shí)刻的信道以一種線性組合的方式來預(yù)測(cè)未來時(shí)刻的信道,即線性預(yù)測(cè)方法,其中最為常用的方法是基于二階自回歸(autoregressive, AR)模型的信道預(yù)測(cè)方法。線性預(yù)測(cè)方法在慢時(shí)變信道中能夠取得較好的性能,但是在HSR場(chǎng)景下信道的快速時(shí)變使得該場(chǎng)景的信道具有很強(qiáng)的非線性特性,在此場(chǎng)景下采用線性預(yù)測(cè)方法將使得預(yù)測(cè)性能出現(xiàn)惡化。因此,需要建立非線性預(yù)測(cè)模型,通過非線性預(yù)測(cè)來提高信道預(yù)測(cè)的精度,更好地適應(yīng)快速時(shí)變信道。

目前,常用的非線性信道預(yù)測(cè)方法主要包括支持向量機(jī)(support vector machine, SVM)方法和深度學(xué)習(xí)方法,其中深度學(xué)習(xí)方法對(duì)于快速時(shí)變信道具有較好的預(yù)測(cè)性能,文獻(xiàn)[13]給出了利用遞歸神經(jīng)網(wǎng)絡(luò)(recurrent neural network, RNN)實(shí)現(xiàn)信道預(yù)測(cè)的方法,文獻(xiàn)[14-16]給出了基于長(zhǎng)短期記憶(long short-term memory, LSTM)的信道預(yù)測(cè)方法,但是這兩類信道預(yù)測(cè)方法復(fù)雜度較高。文獻(xiàn)[17]給出了一種基于反向傳播(back propagation, BP)神經(jīng)網(wǎng)絡(luò)的瑞利衰落信道預(yù)測(cè)方法,該方法首先構(gòu)造稀疏信道樣本進(jìn)行訓(xùn)練網(wǎng)絡(luò),其次基于早期停止策略來防止訓(xùn)練過程中出現(xiàn)過擬合現(xiàn)象,因此該方法取得了較好的預(yù)測(cè)性能。然而,BP算法存在學(xué)習(xí)速度較慢、泛化能力不強(qiáng)以及局部最優(yōu)等缺陷。為此,文獻(xiàn)[18]給出了一種基于單隱藏層前饋神經(jīng)網(wǎng)絡(luò)的極限學(xué)習(xí)機(jī)(extreme learning machine, ELM)信道預(yù)測(cè)方法,該方法首先隨機(jī)產(chǎn)生隱藏層權(quán)值,且計(jì)算得到隱藏層的輸出,然后通過求解最小二乘問題得到網(wǎng)絡(luò)的輸出權(quán)值,從而獲得最終的預(yù)測(cè)網(wǎng)絡(luò),該方法不僅學(xué)習(xí)速度快,而且泛化性能較好。但是ELM作為一種淺層結(jié)構(gòu),在處理擁有復(fù)雜特征的原始數(shù)據(jù)時(shí)存在一定的局限性。文獻(xiàn)[19]給出了一種基于堆疊泛化原理的預(yù)測(cè)模型,稱為堆棧式ELM方法,該方法結(jié)合ELM方法得到的預(yù)測(cè)結(jié)果,對(duì)原始輸入樣本進(jìn)行隨機(jī)偏移,然后作用于一個(gè)核函數(shù)上以實(shí)現(xiàn)對(duì)偏移后特征矩陣的再次變化,從而得到新的特征,因此該方法是一種深層ELM模型,其能夠從原始輸入中提取有效的深層特征,具有較好的預(yù)測(cè)性能。然而,文獻(xiàn)[17-19]給出的方法均未充分考慮歷史信道與當(dāng)前信道之間的變化,在線上預(yù)測(cè)時(shí)均采用固定的網(wǎng)絡(luò)模型,這將導(dǎo)致信道預(yù)測(cè)精度受限。

文獻(xiàn)[20]給出了一種在線序列極限學(xué)習(xí)機(jī)(online sequential ELM, OS-ELM)方法,該方法首先利用ELM方法獲得網(wǎng)絡(luò)輸出權(quán)值,并利用順序到達(dá)的數(shù)據(jù)采用遞推的方法來對(duì)網(wǎng)絡(luò)的輸出權(quán)值進(jìn)行更新,該方法在時(shí)間序列預(yù)測(cè)領(lǐng)域具有優(yōu)越性能。信道預(yù)測(cè)技術(shù)屬于時(shí)間序列預(yù)測(cè)的范疇,因此,若利用OS-ELM方法來實(shí)時(shí)更新線下訓(xùn)練時(shí)獲取的網(wǎng)絡(luò)初始輸出權(quán)值,可以充分地利用最新到來的歷史信道信息,更好地適應(yīng)信道的變化,獲得較好的預(yù)測(cè)性能。但是,OS-ELM方法采用的是淺層ELM,不能從原始數(shù)據(jù)中提取有用的更深層特征,為此利用其獲取的信道精度需要提高。

為此,針對(duì)HSR環(huán)境,本文提出了一種新型基于堆棧式ELM模型的信道預(yù)測(cè)方法。線下訓(xùn)練時(shí),新方法利用堆棧式ELM模型從歷史信道中提取有用的深層特征與網(wǎng)絡(luò)輸出權(quán)值;線上預(yù)測(cè)時(shí),新方法首先利用新的歷史信道訓(xùn)練樣本對(duì)網(wǎng)絡(luò)輸出權(quán)值進(jìn)行更新,然后基于更新后的輸出權(quán)值獲取當(dāng)前時(shí)刻的信道信息。研究結(jié)果表明,新方法較現(xiàn)有方法能夠取得更高的預(yù)測(cè)精度,適用于高速移動(dòng)場(chǎng)景中時(shí)變信道的獲取。

1 信號(hào)模型

考慮一個(gè)單輸入單輸出正交頻分復(fù)用(orthogonal frequency division multiplexing, OFDM)系統(tǒng),假設(shè)為頻域第個(gè)發(fā)送的OFDM符號(hào),且=[(,0),(,1),…,(,-1)],其中(,)為第個(gè)OFDM符號(hào)上第個(gè)載波上的調(diào)制后的發(fā)送信號(hào),是一個(gè)OFDM符號(hào)具有的子載波數(shù)。信號(hào)進(jìn)行點(diǎn)快速傅里葉逆變換(inverse fast Fourier transform, IFFT)后,則時(shí)域發(fā)送信號(hào)為

(1)

在HSR環(huán)境中,基站普遍建立在鐵軌沿線,這樣的部署方式使得基站與列車之間通信的無線信道中存在一個(gè)極其強(qiáng)的直射(line-of-sight, LOS)分量,故在此場(chǎng)景下,采用的信道模型通常是萊斯信道,即

(2)

在接收端,假設(shè)理想定時(shí)同步,則第個(gè)接收到的OFDM符號(hào)可以表示為

(3)

2 新型的信道預(yù)測(cè)方法

新方法包括線下訓(xùn)練和線上預(yù)測(cè)兩部分。由于堆棧式ELM是一種深度ELM,其可以從復(fù)雜的原始數(shù)據(jù)中提取深層特征,并且其學(xué)習(xí)速度快、泛化性能好。因此,新方法在線下訓(xùn)練中將采用堆棧式ELM從歷史信道信息中獲取信道的深層特征,以提高線上信道預(yù)測(cè)的精度。下面將對(duì)堆棧式ELM及新方法原理進(jìn)行詳細(xì)介紹。

2.1 堆棧式ELM算法

圖1給出了堆棧式ELM的基本原理圖,作為一種堆疊式的模型,堆棧式ELM由多個(gè)ELM堆疊而成,在每一個(gè)ELM模塊中,首先基于原始特征矩陣,使用ELM方法得到對(duì)應(yīng)輸出,然后基于該輸出對(duì)原始特征矩陣做一次隨機(jī)偏移,并利用一個(gè)核函數(shù)生成新的特征矩陣,作為下一個(gè)ELM模塊的輸入,以此類推。

圖1 堆棧式ELM的原理圖Fig.1 Schematic diagram of stacked ELM

ELM基于單隱藏層前饋神經(jīng)網(wǎng)絡(luò),隨機(jī)生成輸入層和隱藏層之間的權(quán)值,并利用隱藏層的輸出矩陣與最小二乘方法獲得網(wǎng)絡(luò)的輸出權(quán)值,即

(4)

(5)

利用式(4)可以得到網(wǎng)絡(luò)的輸出為

(6)

由于此時(shí)利用式(6)獲得的結(jié)果可能并不理想,因此利用該結(jié)果對(duì)原始特征矩陣進(jìn)行隨機(jī)偏移,然后作用于一個(gè)核函數(shù)以實(shí)現(xiàn)對(duì)偏移后特征矩陣的再次變化,則可以獲得新的特征矩陣。為此,獲得的新特征矩陣+1為

+1=(+λ)

(7)

式中:(·)是Sigmoid函數(shù);投影矩陣∈×隨機(jī)取樣于正態(tài)分布(0,1);是權(quán)重參數(shù),用來控制隨機(jī)偏移的程度。

2.2 基于堆棧式ELM的時(shí)變信道預(yù)測(cè)方法

新方法基于堆棧式ELM方法挖掘歷史信道的深層特征,獲得網(wǎng)絡(luò)初始輸出權(quán)值,再利用遞推公式實(shí)現(xiàn)輸出權(quán)值的更新,從而實(shí)現(xiàn)時(shí)變信道的預(yù)測(cè)。新方法主要由線下訓(xùn)練與線上預(yù)測(cè)兩部分組成,其中線下訓(xùn)練階段的主要作用是從歷史信道中提取信道的深層特征,并基于該深層特征,通過求解一個(gè)最小二乘問題,獲得網(wǎng)絡(luò)的初始輸出權(quán)值;在線上預(yù)測(cè)階段,為了適應(yīng)信道的變化,首先基于新構(gòu)造的歷史信道樣本與初始的輸出權(quán)值對(duì)網(wǎng)絡(luò)輸出權(quán)值進(jìn)行更新,并基于更新后的輸出權(quán)值獲取當(dāng)前時(shí)刻的信道。

新方法是時(shí)域信道預(yù)測(cè)方法,對(duì)于多徑信道而言,需要逐徑進(jìn)行預(yù)測(cè)。由于每一徑的信道預(yù)測(cè)方法是一樣的,因此在下面的論述中將省略信道徑數(shù)的標(biāo)識(shí)。

2.2.1 線下訓(xùn)練階段

在新方法中,線下訓(xùn)練的主要目的是基于堆棧式ELM方法提取原始輸入樣本的深層特征表示,并利用深層特征與最小二乘方法獲取網(wǎng)絡(luò)的初始輸出權(quán)值。

假設(shè)是由個(gè)樣本組成訓(xùn)練樣本集,其可以表示為

={(,),(,)，…,(,),…,(,)}

(8)

式中:(,)表示為第個(gè)訓(xùn)練樣本,為輸入樣本,為理想信道,其可以表示為

(9)

(())=[Re(()),Im(())]

(10)

式中:Re(·)和Im(·)分別為取實(shí)部和虛部操作。

輸入樣本經(jīng)過深度為的堆棧式ELM方法得到最終的特征矩陣,并利用式(5)得到隱藏層的輸出矩陣,然后根據(jù)式(4)得到網(wǎng)絡(luò)的初始輸出權(quán)值,即

(11)

在線下訓(xùn)練階段,采用堆棧式ELM方法從歷史信道中提取信道的深層特征,能夠有效地處理擁有復(fù)雜特征的原始數(shù)據(jù),有利于提取出更多有用的信息,基于歷史信道的深層特征矩陣來獲得網(wǎng)絡(luò)的初始輸出權(quán)值,可以提高預(yù)測(cè)的準(zhǔn)確性。

2.2.2 線上預(yù)測(cè)

在線上預(yù)測(cè)階段,基于線下訓(xùn)練的具有初始輸出權(quán)值的網(wǎng)絡(luò),只需輸入前個(gè)時(shí)刻的歷史信道估計(jì)來實(shí)時(shí)更新網(wǎng)絡(luò)的輸出權(quán)值,然后基于更新后的輸出權(quán)值預(yù)測(cè)得到當(dāng)前時(shí)刻的信道。

假設(shè)線上預(yù)測(cè)階段網(wǎng)絡(luò)輸入樣本為前個(gè)時(shí)刻的歷史信道信息,基于堆棧式ELM方法可獲得式(7)的特征矩陣,再根據(jù)式(5)計(jì)算隱藏層的輸出矩陣,然后采用式(12)中的遞推公式對(duì)線下訓(xùn)練后的網(wǎng)絡(luò)的輸出權(quán)值進(jìn)行更新處理,從而獲得最終的網(wǎng)絡(luò)輸出權(quán)重。

(12)

基于更新后的輸出權(quán)重,根據(jù)網(wǎng)絡(luò)輸出權(quán)重與輸出之間的關(guān)系,可以獲得網(wǎng)絡(luò)的輸出為

(13)

式中:為第個(gè)ELM模塊中網(wǎng)絡(luò)的輸入層與隱藏層之間隨機(jī)產(chǎn)生的權(quán)值矩陣,且=[,,…,],為第個(gè)ELM模塊中隨機(jī)生成的隱藏層偏置矩陣；(·)為實(shí)數(shù)轉(zhuǎn)復(fù)數(shù)的運(yùn)算。

3 性能仿真與復(fù)雜度分析

3.1 性能仿真

本節(jié)將對(duì)新方法進(jìn)行計(jì)算機(jī)仿真與分析。仿真中采用的是長(zhǎng)度為128的OFDM符號(hào),導(dǎo)頻結(jié)構(gòu)為均勻分布的數(shù)目為32的梳狀導(dǎo)頻。車載速度考慮500 km/h,采用5徑的萊斯信道。載波頻率為2.35 GHz和3.5 GHz,子載波間隔為15 kHz。網(wǎng)絡(luò)的輸入神經(jīng)元數(shù)目=10,隱藏層神經(jīng)元數(shù)目=10,輸出層神經(jīng)元=1。仿真中,訓(xùn)練樣本數(shù)為=2 000。為了與新方法性能進(jìn)行對(duì)比,仿真中給出了文獻(xiàn)[18-20]中方法的性能,其中文獻(xiàn)[18]為基于ELM的預(yù)測(cè)方法,文獻(xiàn)[19]為基于堆棧式ELM的預(yù)測(cè)方法,文獻(xiàn)[20]為基于OS-ELM的預(yù)測(cè)方法。

圖2給出了載波頻率為2.35 GHz時(shí)新方法與文獻(xiàn)[19]采用不同堆棧ELM深度時(shí)的均方誤差(mean square error, MSE)性能曲線。從圖2中可以看出,新方法與文獻(xiàn)[19]的預(yù)測(cè)性能均會(huì)隨著信噪比(signal to noise ratio, SNR)的增加而逐漸提高。在同一方法下,尤其是低SNR時(shí),堆棧深度的增大可以提高預(yù)測(cè)性能,這是因?yàn)殡S著堆棧深度的增加,可以更好地從原始數(shù)據(jù)中提取出更多有用的信道特征。在相同堆棧深度時(shí),新方法的性能要優(yōu)于文獻(xiàn)[19],這是因?yàn)樾路椒ǔ浞掷昧诵碌絹淼臍v史信道數(shù)據(jù)對(duì)預(yù)測(cè)網(wǎng)絡(luò)輸出權(quán)值的實(shí)時(shí)更新,使其更接近預(yù)測(cè)的信道環(huán)境。

圖2 不同堆棧深度下本文方法與文獻(xiàn)[19]的MSE性能 (fc=2.35 GHz,萊斯因子為5)Fig.2 MSE performance of the proposed method and reference [19] under different stack depths (fc=2.35 GHz, Ricean factor is 5)

圖3給出了載波頻率為3.5 GHz時(shí)新方法與文獻(xiàn)[19]采用不同深度的堆棧式ELM方法下的MSE性能。與圖2相比,2種方法的預(yù)測(cè)精度均會(huì)降低,這是由于載波頻率增大會(huì)使得對(duì)應(yīng)的多普勒頻移變大,從而使得信道的時(shí)變性更強(qiáng),這將導(dǎo)致信道預(yù)測(cè)精度的降低但是新方法的性能仍優(yōu)于文獻(xiàn)[19]?？紤]堆棧深度越大,預(yù)測(cè)方法的計(jì)算復(fù)雜度將越高,因此,選擇合適的堆棧深度應(yīng)綜合考慮預(yù)測(cè)性能與計(jì)算復(fù)雜度。在后面的仿真中,本文考慮堆棧深度為2。

圖3 不同堆棧深度下本文方法與文獻(xiàn)[19]的MSE性能(fc=3.5 GHz,萊斯因子為5)Fig.3 MSE performance of the proposed method and reference [19] under different stack depths (fc=3.5 GHz, Ricean factor is 5)

圖4給出了新方法采用不同數(shù)目的訓(xùn)練樣本時(shí)的MSE性能。仿真中萊斯因子為10,載波頻率3.5 GHz,堆棧深度為2。從圖4可以看出,新方法隨著訓(xùn)練樣本數(shù)的增加,其MSE性能也越來越好,尤其是在低SNR時(shí),由于訓(xùn)練樣本數(shù)越多越有利于數(shù)據(jù)深層特征的提取。然而,訓(xùn)練樣本數(shù)越多,線下訓(xùn)練網(wǎng)絡(luò)的計(jì)算復(fù)雜度越高。因此,訓(xùn)練樣本數(shù)的選擇至關(guān)重要。

圖4 本文方法采用不同訓(xùn)練樣本數(shù)時(shí)的MSE性能(fc=3.5 GHz,萊斯因子為10)Fig.4 MSE performance of the proposed method with different numbers of training samples (fc=3.5 GHz, Ricean factor is 10)

不同信道預(yù)測(cè)方法的MSE性能比較如圖5所示。仿真中萊斯因子為5,載波頻率3.5 GHz,堆棧深度為2,訓(xùn)練樣本數(shù)為2 000。

圖5 本文方法與現(xiàn)有信道預(yù)測(cè)方法的MSE性能比較(fc=3.5 GHz,萊斯因子為5)Fig.5 Comparison of MSE performance between the proposed method and existing channel prediction methods (fc=3.5 GHz, Ricean factor is 5)

從圖5可以看出,隨著SNR的增大,各種預(yù)測(cè)方法的性能均有提高。相比于文獻(xiàn)[18]的預(yù)測(cè)方法,文獻(xiàn)[19]采用了深層ELM模型,有利于提取復(fù)雜的數(shù)據(jù)特征,因此取得了較好的性能。文獻(xiàn)[20]利用新的歷史信道訓(xùn)練樣本,采用了遞推算法更新網(wǎng)絡(luò)的輸出權(quán)值,具有更強(qiáng)的適應(yīng)性,因此性能得到改善。本文方法由于采用深層ELM模型,利用新到來的歷史信道實(shí)時(shí)更新預(yù)測(cè)網(wǎng)絡(luò)的輸出權(quán)值,不僅可以從原始數(shù)據(jù)中提取出有用的特征表示,還充分利用歷史信道,實(shí)現(xiàn)了預(yù)測(cè)網(wǎng)絡(luò)輸出權(quán)重的更新調(diào)整,因此新方法具有更好的性能。

3.2 計(jì)算復(fù)雜度

本節(jié)主要對(duì)比分析不同信道預(yù)測(cè)方法的計(jì)算復(fù)雜度,如表1所示?？梢钥闯?文獻(xiàn)[18]方法具有較低的計(jì)算復(fù)雜度,但是其MSE性能最差。文獻(xiàn)[19]方法在線下訓(xùn)練中的復(fù)雜度要高于文獻(xiàn)[20],這是因?yàn)槲墨I(xiàn)[19]線下采用的是深層ELM來訓(xùn)練網(wǎng)絡(luò),增加了復(fù)雜度,而在線上預(yù)測(cè)中,由于文獻(xiàn)[20]對(duì)初始輸出權(quán)值進(jìn)行了遞推更新處理,故文獻(xiàn)[19]的線上預(yù)測(cè)復(fù)雜度要低于文獻(xiàn)[20],但是文獻(xiàn)[20]的預(yù)測(cè)性能要優(yōu)于文獻(xiàn)[19]。新方法的計(jì)算復(fù)雜度略高于現(xiàn)有信道預(yù)測(cè)方法,但是新方法在線下訓(xùn)練采用了深層ELM訓(xùn)練網(wǎng)絡(luò),線上預(yù)測(cè)利用新到來的信道信息來實(shí)時(shí)更新網(wǎng)絡(luò)的輸出權(quán)值,能夠獲得優(yōu)于現(xiàn)有方法的預(yù)測(cè)性能,可以更好地適應(yīng)信道的變化。

表1 不同信道預(yù)測(cè)方法的復(fù)雜度比較

4 結(jié) 論

針對(duì)HSR環(huán)境,本文提出了一種新型時(shí)變信道預(yù)測(cè)方法?；趩坞[藏層神經(jīng)網(wǎng)絡(luò),新方法采用了堆棧式ELM來提取原始信道的深層特征,提高了預(yù)測(cè)的精度。此外,本文方法基于歷史信道樣本與初始的輸出權(quán)值來更新網(wǎng)絡(luò)的輸出權(quán)值,充分利用歷史信道信息,更新調(diào)整預(yù)測(cè)網(wǎng)絡(luò)的輸出權(quán)值,以使其更貼近當(dāng)前的信道狀態(tài),其進(jìn)一步提高了信道預(yù)測(cè)的精度,適用于高速移動(dòng)場(chǎng)景中時(shí)變信道信息的獲取。