類(lèi)別:__編號(hào):__

信息是指對(duì)消息接受者來(lái)說(shuō)預(yù)先不知道的報(bào)道。信息論是利用數(shù)學(xué)方法研究信息的傳送、變換和儲(chǔ)存，特別是信息量計(jì)算的一門(mén)科學(xué)。它是在四十年代后期從長(zhǎng)期通信實(shí)踐中總結(jié)出來(lái)的。

在信息論發(fā)展起來(lái)以前，人們對(duì)信息系統(tǒng)的理解是比較膚淺的。一般常把攜帶信息的消息信號(hào)看成是確定性的周期信號(hào)或瞬態(tài)信號(hào)。但是，越來(lái)越多的通信實(shí)踐證明，在大多數(shù)情況下，系統(tǒng)里的消息和噪聲既不是周期性也不是瞬態(tài)性，而是一種具有概率性的隨機(jī)函數(shù)或隨機(jī)過(guò)程。許多科學(xué)工作者，開(kāi)始把近代統(tǒng)計(jì)力學(xué)中的重要概念，把概率論隨機(jī)過(guò)程理論以及廣義諧波分析的數(shù)學(xué)方法應(yīng)用到信息系統(tǒng)的研究中，把通信工程提高到統(tǒng)計(jì)科學(xué)的高度。

信息論的研究對(duì)象是廣義的信息傳輸和信息處理系統(tǒng)。從最普通的電報(bào)、電話、傳真、電視、雷達(dá)、聲納，一直到各類(lèi)生物神經(jīng)的感知系統(tǒng)，都可以用同一的信息論觀點(diǎn)加以闡述，都可以概括成這樣或那樣的隨機(jī)過(guò)程或統(tǒng)計(jì)學(xué)的數(shù)學(xué)模型加以研究。