吳賢東,汪加梅,李婉晴

(安徽工業(yè)大學(xué)數(shù)理科學(xué)與工程學(xué)院,安徽 馬鞍山 243032)

1 引言

在統(tǒng)計(jì)物理學(xué)中,香農(nóng)熵是最基本的概念,刻畫(huà)了系統(tǒng)無(wú)序性.Tsallis熵是香農(nóng)熵的一個(gè)典型的不可加延伸,在非廣延的統(tǒng)計(jì)學(xué)中扮演了至關(guān)重要的角色.

對(duì)于隨機(jī)變量X的概率分布p(x)=p(X=x),Tsallis熵[1]定義為

同時(shí),其他的廣義熵,如(r,s)-熵、Rényi熵、類(lèi)型r的熵,統(tǒng)一 (r,s)-熵以及相應(yīng)的相對(duì)熵被引進(jìn)各種領(lǐng)域,并且對(duì)它們的性質(zhì)進(jìn)行了深入的研究[2-5].最大熵原理是1957年由文獻(xiàn)[6]提出的,它建立了熱動(dòng)力學(xué)熵和信息理論熵之間的一個(gè)自然對(duì)應(yīng).由最大熵原理,一些普通的概率分布可以獲得,但是一些系統(tǒng)即使是利用一些廣義熵的最大熵原理也無(wú)法獲得.后來(lái),劉成仕通過(guò)引進(jìn)一個(gè)輔助參數(shù)定義了非對(duì)稱(chēng)熵,該熵定義為

該熵在獲得概率分布及冪律方面比起其他的熵更方便[7-8].文獻(xiàn)[9-10]研究了最大熵方法的逆問(wèn)題,就是假設(shè)某個(gè)概率密度在某種約束下使得熵最大,求這個(gè)約束條件.

本文首先定義了Tsallis型非對(duì)稱(chēng)熵,該熵包含Tsallis熵Tsallis相對(duì)熵,并且非對(duì)稱(chēng)熵是該熵的極限情形.因而,非對(duì)稱(chēng)熵可以看成是Tsallis型非對(duì)稱(chēng)熵的特例.其次討論了離散情形和連續(xù)情形下的Tsallis型非對(duì)稱(chēng)熵以及相應(yīng)的非對(duì)稱(chēng)熵原理,并且從這個(gè)最大熵原理獲得了一些有用的分布.非對(duì)稱(chēng)熵可以看成是Tsallis型非對(duì)稱(chēng)熵的特例,本文的結(jié)果推廣了文獻(xiàn)[8]的結(jié)果.

2 最大的Tsallis型非對(duì)稱(chēng)熵原理

令X是一個(gè)離散型的隨機(jī)變量,其取值為{1,2,···,m},且取值為i所對(duì)應(yīng)的概率為

且

定義2.1 取值為i所對(duì)應(yīng)的Tsallis輔助信息定義為:

其中βj>0是輔助信息參數(shù).相應(yīng)的,取值為i的Tsallis總信息定義為:

定義2.2 定義離散型隨機(jī)變量X的Tsallis型非對(duì)稱(chēng)熵為如下函數(shù):

其中βj>0是一個(gè)輔助信息參數(shù).

注2.1 由前面的記號(hào),

注意到

從而

即為非對(duì)稱(chēng)熵.

注2.2 在(3)式中,令βi=1,可以得到離散條件下的Tsallis熵:

定理2.1(離散情形下的最大的Tsallis型非對(duì)稱(chēng)熵原理)如果{p1,p2,···,pm}滿足

那么Tsallis型非對(duì)稱(chēng)熵Sr(X)取得最大值

證明令輔助函數(shù)

由

得到

即

從而

所以,可以得到

注2.3 取βi=iα,那么由 (5)式知

下面給出定理2.1的等價(jià)表述:

定理2.2 若存在一個(gè)概率分布P0=(p01,p02,···,p0m),使得

是一個(gè)與Pi無(wú)關(guān)的常數(shù),那么P0是最大的Tsallis型非對(duì)稱(chēng)熵的分布,且是最大的Tsallis型非對(duì)稱(chēng)熵.

證明對(duì)于任意的概率分布P={p1,p2,···,pm},有:

定理2.3假設(shè),那么最大的Tsallis型非對(duì)稱(chēng)熵分布是

其中λ1和λ2滿足兩個(gè)約束條件:

證明運(yùn)用拉格朗日乘子法構(gòu)造一個(gè)輔助函數(shù):

其中λ1和λ2滿足兩個(gè)制約條件

定理2.4 (在約束條件下的最大的Tsallis型非對(duì)稱(chēng)熵原理)Tsallis型非對(duì)稱(chēng)熵

在n+1個(gè)約束條件,r=1,2,···,n下的最大熵分布為

其中λ0和λ1(1≤i≤n)滿足n+1個(gè)約束條件:

證明構(gòu)造輔助函數(shù)

其中λ0,λ1,···,λn是拉格朗日乘子.

定義2.3 對(duì)于連續(xù)的情況,Tsallis型非對(duì)稱(chēng)熵定義為:

其中β(x)是輔助信息∫參數(shù)函數(shù),ρ(x)是事件x的概率密度.

定理2.5 假設(shè)xρ(x)dx=μ,那么最大的Tsallis型非對(duì)稱(chēng)熵分布是

其中λ1和λ2滿足兩個(gè)約束條件:

證明運(yùn)用拉格朗日乘子法構(gòu)造一個(gè)輔助泛函:

有

由δF=0,可以推出

其中λ1和λ2滿足兩個(gè)制約條件

定理2.6 假設(shè)

那么最大的Tsallis型非對(duì)稱(chēng)熵分布是

其中λ1,λ2和λ3滿足 3個(gè)約束條件:

證明 運(yùn)用拉格朗日乘子法構(gòu)造一個(gè)輔助泛函:

有

由δF=0,可以推出

其中λ1,λ2和λ3滿足3個(gè)制約條件

下面將離散情形下的最大的Tsallis型非對(duì)稱(chēng)熵原理推廣到連續(xù)的情形.

定義2.4 令Λ是一類(lèi)概率密度函數(shù)集,如果存在ρ0∈Λ,使得

那么ρ0叫作最大的Tsallis型非對(duì)稱(chēng)熵的分布,Sr(ρ0)叫做最大的 Tsallis型非對(duì)稱(chēng)熵.

定理2.7 (連續(xù)情形下的最大的 Tsallis型非對(duì)稱(chēng)熵原理)令 Λ是一類(lèi)固定的概率密度函數(shù),如果存在ρ0∈Λ,使得,對(duì)于任意的ρ而言,它是一個(gè)與ρ(x)無(wú)關(guān)的常數(shù).那么ρ(x)是最大的 Tsallis型非對(duì)稱(chēng)熵的分布,Sr(ρ0)=S0=lnrC是最大的Tsallis型非對(duì)稱(chēng)熵.

證明對(duì)于任意的ρ∈Λ,有

3 應(yīng)用

利用(6)式-(9)式,可以得到許多特殊的分布.例如,在(8)式中,令