阮慕瑤,葛曉虎

(1. 華中科技大學(xué) 電子信息與通信學(xué)院,武漢 430074;2. 國(guó)家綠色通信與網(wǎng)絡(luò)國(guó)際聯(lián)合研究中心,武漢 430074)

0 引 言

信息論自從誕生以來(lái)就和熱力學(xué)有著密不可分的關(guān)系。1948年香農(nóng)開(kāi)創(chuàng)性地提出信息熵這一概念,實(shí)際上也是從熱力學(xué)中熵的概念引申而來(lái)。信息熵用來(lái)描述信源的不確定度,熱力學(xué)中的熱力學(xué)熵則表示分子狀態(tài)混亂程度的物理量,如馮諾依曼熵描述的是物理系統(tǒng)中粒子不同的狀態(tài)。如今信息論在熱力學(xué)的多分支領(lǐng)域均有應(yīng)用[1];另一方面也帶來(lái)了如何將熱力學(xué)應(yīng)用到通信系統(tǒng)中的思考。

一直以來(lái),人們認(rèn)為在非理想環(huán)境下通信過(guò)程一定伴隨著能量的耗散。物理系統(tǒng)中發(fā)射端通過(guò)通信信道和接收端相連,被編碼的粒子狀態(tài)信息在信道中的傳輸被稱為信息傳輸[2],同樣需要能量的耗散?，F(xiàn)實(shí)中非理想熱機(jī)由于不可逆的耗散不能達(dá)到卡諾熱機(jī)效率極限。因此,如何在有限的條件下傳輸信息而使耗散能量最低成為眾多領(lǐng)域的研究熱點(diǎn)。Ganesh等[3]用物理分析方法提出了前饋神經(jīng)網(wǎng)絡(luò)耗散的基本下界。Kostina等[4]研究了在無(wú)記憶高斯信道中在一定錯(cuò)誤率的限制下傳輸指定符號(hào)數(shù)所需最小傳輸能量。這引發(fā)了進(jìn)一步的思考,即現(xiàn)實(shí)通信系統(tǒng)中的熱力學(xué)物理限制和信息傳輸效率之間的內(nèi)在關(guān)系。

卡諾熱機(jī)定理給出了熱力學(xué)約束下的熱機(jī)最大工作效率η=1-TLO/THI,其中,THI和TLO分別是高溫?zé)嵩礈囟群偷蜏責(zé)嵩礈囟取Ｏ戕r(nóng)定理給出了一定約束條件下的物理信道最大傳輸數(shù)據(jù)速率,卡諾熱機(jī)效率衡量了熱能轉(zhuǎn)化為有用功的最大效率,其背后原理是熱力學(xué)定律。高斯信道可以被看作一個(gè)被熱力學(xué)定律所約束的物理信息系統(tǒng)[5-6],并且已有研究表明信道容量可以被重新表述為熱力學(xué)定律的結(jié)果,其中對(duì)高斯噪聲信道和二進(jìn)制對(duì)稱信道的推論都進(jìn)行了例證[7]。通過(guò)熱力學(xué)這一橋梁,卡諾熱機(jī)定理和香農(nóng)信道定理展示出本質(zhì)上的共通性[8]。近年來(lái)在信息熱力學(xué)領(lǐng)域,將信息論和熱機(jī)概念結(jié)合分析通信系統(tǒng)的研究逐漸涌現(xiàn)。Kanter等[9]運(yùn)用哈密頓量將通信信道建模為信息熱機(jī),討論高斯信道的互信息等特性。Parker等[10]利用經(jīng)典卡諾定理分析了蘭道爾原理和香農(nóng)極限的一致性,并推導(dǎo)了包含非高斯噪聲統(tǒng)計(jì)量的廣義香農(nóng)信道容量定理。Chen等[11]提出的一個(gè)廣義不可逆卡諾熱機(jī)模型分析了最大輸出功率和最大效率之間的關(guān)系。

此外,大多數(shù)文章只是建立在端到端的通信系統(tǒng)模型上分析,著重于對(duì)廣義通信和熱力學(xué)之間關(guān)系的闡述與推導(dǎo)[9-11],而未基于現(xiàn)有的多天線通信系統(tǒng)場(chǎng)景下結(jié)合熱力學(xué)對(duì)信道容量進(jìn)行分析推導(dǎo),從而進(jìn)一步驗(yàn)證通信和熱力學(xué)的內(nèi)在關(guān)聯(lián)。本文更加詳細(xì)地研究5G(5th generation,5G)大規(guī)模多輸入多輸出(multiple input multiple output,MIMO)多天線場(chǎng)景[12-13],從分析能量流動(dòng)的普遍適用工具——熱力學(xué)第二定律出發(fā),以全新的物理信息角度分析了大規(guī)模MIMO通信系統(tǒng)信息流的傳輸和處理過(guò)程。結(jié)合卡諾熱機(jī)定理和信息論,引入自由度、溫度、能量、熵等熱力學(xué)參數(shù)構(gòu)建了大規(guī)模MIMO場(chǎng)景下的信道容量,揭示了無(wú)線通信系統(tǒng)中信息、熵與能量之間的本征關(guān)系。

1 系統(tǒng)模型

1.1 信息熱機(jī)中能量的流動(dòng)形式

熱力學(xué)理論,特別是熱力學(xué)第二定律,是分析能量流動(dòng)的普遍適用工具[14]。本節(jié)將介紹信息熱機(jī)和傳統(tǒng)卡諾機(jī)的相似性,在卡諾熱機(jī)模型基礎(chǔ)上結(jié)合熱力學(xué)理論對(duì)MIMO通信系統(tǒng)中的能量流和信息流進(jìn)行建模分析。

三種熱機(jī)的原理如圖1所示。圖1a中,熱機(jī)進(jìn)行卡諾循環(huán)從一個(gè)高溫?zé)釒?kù)THI吸取熱量QH,轉(zhuǎn)化為一部分功W,剩余熱量QL=QH-W排入低溫?zé)釒?kù)TLO。圖1b中,當(dāng)熵被視作為一種做功潛力的度量時(shí)[10],低熵代表系統(tǒng)更加有序[15],有序系統(tǒng)比無(wú)序系統(tǒng)的做功潛力更高。低熵庫(kù)HLO的熵流入熱機(jī)被轉(zhuǎn)換為輸出熵流HOUT,剩余熵流入高熵庫(kù)HHI。本文中熵流被表示為熱量與相應(yīng)溫度的比值,見(jiàn)圖1b中的ΔHHI和ΔHLO。其中,ΔHHI=ΔU/THI,ΔHLO=(ΔU-W)/TLO,ΔU是從低熵庫(kù)吸收的能量,W是對(duì)外所做功。圖1c是信息熱機(jī)原理圖,熱機(jī)可以對(duì)應(yīng)通信過(guò)程中的信息處理模塊甚至是信道,熱機(jī)從高信息庫(kù)獲得的信息IHI轉(zhuǎn)化為一部分輸出有用信息IOUT,剩余的信息ILO被排入低信息庫(kù),例如現(xiàn)實(shí)中的算法對(duì)輸入數(shù)據(jù)進(jìn)行處理后輸出想要的計(jì)算結(jié)果,但是總會(huì)丟棄一部分冗余或者不需要的額外信息(變量)。我們將信息熱機(jī)的效率定義為η=IOUT/IHI。根據(jù)以上信息熱機(jī)模型構(gòu)建一個(gè)具體的大規(guī)模MIMO通信系統(tǒng),進(jìn)而對(duì)各部分進(jìn)行詳細(xì)分析。在此之前,我們認(rèn)為有必要介紹一下信息的物理表達(dá)形式。

1.2 信息的物理表達(dá)形式

系統(tǒng)的宏觀狀態(tài)以微觀狀態(tài)的分布為特征,這個(gè)分布的熵由Gibbs熵公式給出。對(duì)于一串由脈沖組成的信息序列,不同碼字對(duì)應(yīng)著不同微觀態(tài)。在二進(jìn)制場(chǎng)景下對(duì)應(yīng)的微觀態(tài)表示為0或1。則單個(gè)碼字的Gibbs混合熵為[16]

(1)

(1)式中:Ω是信息碼元種類集合數(shù);kB是玻爾茲曼常數(shù)(kB=1.38×10-23);pj為每種狀態(tài)出現(xiàn)的概率。假設(shè)一串長(zhǎng)度為M比特的二進(jìn)制序列,其中,符號(hào)之間相互獨(dú)立且服從Pr(X=1)=Pr(X=0)=1/2的伯努利分布,Pr表示概率。則序列的Gibbs總熵為

(2)

在眾多領(lǐng)域中,熵是一種度量系統(tǒng)不確定性狀態(tài)的量,同時(shí)熵也可以度量系統(tǒng)的自由度數(shù)量[17]。信息序列的熵越大,表示它所攜帶的信息量越大,系統(tǒng)的自由度也更大。例如,1 bit指一位二進(jìn)制符號(hào)所攜帶的信息量,或者是從0,1兩種狀態(tài)選擇其一的自由度,也是下一時(shí)刻選擇何種符號(hào)發(fā)送的自由度。在這里我們引入自由度這一概念來(lái)表征信息序列。根據(jù)(2)式,信息序列的Gibbs熵H和自由度M之間的關(guān)系為

H=kBMln2

(3)

(4)

圖1 三種熱機(jī)的原理示意圖Fig.1 Schematic diagrams of three heat engines

1.3 大規(guī)模MIMO通信系統(tǒng)模型

MIMO通信系統(tǒng)的熱力學(xué)模型示意圖如圖2所示。這是一個(gè)nt×nr的大規(guī)模MIMO通信系統(tǒng),nt為發(fā)射端天線數(shù);nr為接收端天線數(shù),通常在大規(guī)模MIMO通信場(chǎng)景下nt?nr。每條支路上原始自由度為MS的信息序列增加冗余檢錯(cuò)碼后被映射為自由度為MS+MFEC的碼字(MFEC為冗余糾錯(cuò)碼的自由度),再經(jīng)由多根天線發(fā)送出去。信道噪聲將每個(gè)碼字隨機(jī)地轉(zhuǎn)換為多個(gè)序列的統(tǒng)計(jì)混合,然后通過(guò)接收端的譯碼操作將每個(gè)序列映射成原始信息中的對(duì)應(yīng)碼字。在這里冗余糾錯(cuò)位為前向糾錯(cuò)碼(forward error correction, FEC),前向糾錯(cuò)碼通過(guò)在已編碼的消息中構(gòu)建冗余來(lái)提供噪聲抗擾性。在接收端通過(guò)不可逆轉(zhuǎn)(即邏輯上不可逆)解碼操作將冗余從信道損壞的碼字中移除從而大概率地恢復(fù)出原始信息,剩余的冗余信息將流入圖2中的噪聲池。這種邏輯上的不可逆解碼操作將冗余從信道損壞的碼字中移除的過(guò)程,對(duì)應(yīng)的物理實(shí)現(xiàn)過(guò)程也會(huì)不可避免地導(dǎo)致熱量耗散。正如Landauer等[19-20]提出的,“解碼本質(zhì)上是能量耗散的”。

(5)

有噪信道中引入的各支路噪聲自由度之和為

(6)

(5)—(6)式中:上標(biāo)N表示與噪聲有關(guān)的參量,上標(biāo)FEC表示與前向糾錯(cuò)碼有關(guān)的參量;下標(biāo)i(j)表示第i(j)根發(fā)射(接收)天線端信號(hào)有關(guān)的參量;Ti為第i根天線發(fā)射信號(hào)的溫度;Ui為第i根天線發(fā)射信號(hào)的能量,1≤i≤nt,1≤j≤nr。

假設(shè)整個(gè)信息過(guò)程中的自由度守恒,即經(jīng)由所有發(fā)送天線的自由度與信道中引入的噪聲自由度之和等于到達(dá)接收端探測(cè)器的所有自由度,探測(cè)器端的自由度表示為

(7)

(7)式中:U表示接收端探測(cè)器接收到的總能量;THI為探測(cè)器的溫度。結(jié)合(5)—(7)式,得

(8)

(8)式中的THI可進(jìn)一步表示成

(9)

圖2 MIMO通信系統(tǒng)的熱力學(xué)模型示意圖Fig.2 Schematic diagram of thermodynamic model of MIMO communication system

1.4 傳輸每比特需要耗散的能量

對(duì)于圖2中虛線框內(nèi)的解碼模塊,探測(cè)器(如天線系統(tǒng))將接收到的所有支路信號(hào)經(jīng)由信息處理器(可理解為譯碼)恢復(fù)出原始信號(hào)流,從信道中攜帶的一部分噪聲以及最初的前向糾錯(cuò)碼所攜帶的自由度流入噪聲池,如圖3所示。

圖3 接收端進(jìn)行信息譯碼操作的熵變過(guò)程Fig.3 Entropy evolution during information decoding operation

在這個(gè)過(guò)程中,熵是守恒的,即

HU=HO+HNS

(10)

(10)式中:HU是接收端所有接收信號(hào)的熵;HO是經(jīng)過(guò)解碼模塊后(對(duì)應(yīng)圖3中的信息熱機(jī))的信息序列所攜帶的熵;HNS是流入噪聲池(noise sink,NS)的熵。由(4)式和(10)式得

(11)

kBTLOln2

(12)

min(Eper_bit)=kBTLOln2

(13)

這表示傳輸1 bit所需要耗散的最小熱量為kBTLOln2,這也是Eper_bit的下界。這個(gè)結(jié)論在一定程度上符合Landauer提出的“擦除1 bit信息所需的能耗下限為kBTln2”,即Landauer原理[21]。對(duì)于流入噪聲池中的殘余信息流的表達(dá)式為

(14)

(15)

(15)式表明最終得到的信號(hào)自由度和流入噪聲池的所有自由度之間的比例關(guān)系,而系數(shù)為卡諾效率ηc。當(dāng)高溫?zé)岢豑HI和低溫噪聲池TLO之間的溫度差dT越大,卡諾效率越高,實(shí)際最終得到的信息量也越多,即信息傳輸效率越高。

2 信道容量模型

利用信道矩陣數(shù)學(xué)方法計(jì)算出m×mMIMO通信系統(tǒng)的香農(nóng)信道容量為

(16)

(16)式中:B為信道帶寬;ρi為第i個(gè)子信道的信噪比;λi為第i個(gè)子信道的功率增益。利用熱力學(xué)參量推導(dǎo)出廣義熱力學(xué)信道容量,并說(shuō)明其與(16)式的不同之處。

假設(shè)噪聲功率定義為PN=kBTB,T為環(huán)境溫度。則單位時(shí)間τ內(nèi)流入噪聲池內(nèi)的能量UNS=PNτ=kBMNSTLOln2,進(jìn)一步得到在接收端解碼過(guò)程的第j條支路流入噪聲池的自由度近似為

(17)

將(17)式代入(15)式,并對(duì)等式兩邊同時(shí)微分得

(18)

(19)

(20)

(21)

CLO≤C≤CHI

(22)

(22)式中:

3 仿真分析

部分仿真參數(shù)設(shè)置如表1所示。

表1 仿真的主要參數(shù)

圖4展示了熱力學(xué)信道容量隨噪聲自由度變化的關(guān)系圖。隨著噪聲自由度的增大,MN?MS+MFEC,熱力學(xué)信道容量將越來(lái)越逼近香農(nóng)信道容量,(21)式在這種情況下退化為(23)式。從圖4可以看出,相對(duì)來(lái)說(shuō),高斯噪聲對(duì)熱力學(xué)信道容量來(lái)說(shuō)是“有益”的噪聲,而脈沖噪聲的影響相比之下要“惡劣”得多,因?yàn)樵谶@種情況下,噪聲的自由度為1。

(23)

圖4 熱力學(xué)信道容量隨噪聲自由度變化的關(guān)系圖Fig.4 Relationship between the channel capacity and the degrees of freedom of noise

圖5 熱力學(xué)信道容量隨編碼開(kāi)銷變化的關(guān)系圖Fig.5 Diagram of the relationship between channel capacity and coding overhead

4 結(jié) 論

熱力學(xué)理論是分析能量流動(dòng)的普遍適用的工具。與許多其他自然過(guò)程和系統(tǒng)類似,我們將通信系統(tǒng)和環(huán)境交互的過(guò)程看作是耗散轉(zhuǎn)換過(guò)程,這是由于參與系統(tǒng)與其周圍環(huán)境之間存在著能量的交互。本文介紹了如何基于熱力學(xué)聯(lián)合傳統(tǒng)卡諾熱機(jī)對(duì)大規(guī)模MIMO通信網(wǎng)絡(luò)的信息流與能量流進(jìn)行建模,引入熱力學(xué)參量對(duì)通信系統(tǒng)各部分進(jìn)行表征與模型推導(dǎo),最終得到了基于熱力學(xué)的廣義信道容量表達(dá)式。仿真結(jié)果展示了熱力學(xué)信道容量和香農(nóng)容量之間的一定差距,并給出了解釋。在未來(lái)5G通信能效優(yōu)化場(chǎng)景中[22-23],結(jié)合熱力學(xué)分析理論和傳統(tǒng)信息論構(gòu)建優(yōu)化模型是一個(gè)有意義的開(kāi)放性問(wèn)題,而該問(wèn)題的解決將推動(dòng)新一代通信技術(shù)革命。