開啟數(shù)字信息時代的香農(nóng)

王善平

香農(nóng)發(fā)現(xiàn)了布爾代數(shù)與開關(guān)電路的等價性，為制造數(shù)字式電子計算機奠定技術(shù)基礎(chǔ)；他創(chuàng)立的信息論，揭示了信息與熵之間的深刻聯(lián)系，并開啟令人眼花繚亂的數(shù)字化信息時代：他在密碼學(xué)領(lǐng)域也做出了開創(chuàng)性的貢獻。家庭背景與早期生活

香農(nóng)（Claude Elwood Shannon，1916年4月30日-2001年2月24日）出生在美國密歇根州的佩托斯基（Petoskey）鎮(zhèn)，但在附近的蓋洛德（Gaylord）鎮(zhèn)上長大。香農(nóng)的祖父是農(nóng)民，也是發(fā)明家，發(fā)明了洗衣機和不少農(nóng)具；父親是商人，也做過蓋洛德小鎮(zhèn)上的法官，雖然不是數(shù)學(xué)家，但懂得不少數(shù)學(xué)。母親是德國移民的女兒，在鎮(zhèn)上一所中學(xué)里做語文教師，還當(dāng)了幾年校長。香農(nóng)有一個比他大4歲的姐姐，是密歇根大學(xué)數(shù)學(xué)系的碩士，后來成為某學(xué)院的數(shù)學(xué)教師。香農(nóng)小時候喜歡機械和電子，制作過模型飛機和遙控小船，甚至做了一套能工作的收發(fā)報機。他還喜歡解姐姐給他做的各種數(shù)學(xué)題，他在學(xué)校里成績最好的科目是理科和數(shù)學(xué)。讀書空余時間，他靠送電報和修收音機賺零花錢。

1932年從母親的中學(xué)畢業(yè)后，香農(nóng)考進姐姐曾就讀的密歇根大學(xué)，4年后取得電氣工程和數(shù)學(xué)雙學(xué)士學(xué)位。1936年，他來到麻省理工學(xué)院（MIT），在電氣工程系做助理研究員，同時跟隨布什（VannevarBush，1890-1974）教授攻讀學(xué)位。

布什被認為是美國最杰出的科學(xué)家和工程師之一。他不僅具有非凡的科技創(chuàng)造能力和遠見卓識，還有著極高的組織才能和領(lǐng)導(dǎo)才能。第二次世界大戰(zhàn)期間，他被羅斯福總統(tǒng)任命為科學(xué)研究和開發(fā)局局長，領(lǐng)導(dǎo)組織約6萬名一流科學(xué)家致力于把科學(xué)用于戰(zhàn)爭，其巾包括提出和執(zhí)行了導(dǎo)致原子彈試驗成功并在Ll本投放的“曼哈頓計劃”。他也曾指導(dǎo)過MIT中國留學(xué)生李郁榮（Yuk-Wing Lee，1904-1989），并于1929年把李郁榮介紹給數(shù)學(xué)家維納（Norbert Wiener，1894-1964）合作研究電路網(wǎng)絡(luò)，導(dǎo)致維納后來創(chuàng)立了控制論。

為制造數(shù)字式計算機奠定技術(shù)基礎(chǔ)

香農(nóng)在一開始跟著布什研制模擬式計算機，隨后被送到數(shù)學(xué)系學(xué)習(xí)。兩年后，他以論文“繼電器與開關(guān)電路的符號分析”獲電氣工程碩士學(xué)位。這篇革命性論文獲得由美國各工程學(xué)會聯(lián)合資助并由土木工程師學(xué)會頒發(fā)的著名的“艾爾弗雷德·諾布爾獎”（Alfred Noble Prize）；有人稱贊它“可能是20世紀(jì)最重要和最出名的碩士論文”。

香農(nóng)在論文中首次證明了，“布爾代數(shù)”中關(guān)于“真值函數(shù)”（即只取“真”或“假”兩值之一的函數(shù)）的“與”“或”“非”邏輯運算，與只有“0”和“1”兩個數(shù)字符號的“二進制數(shù)”算術(shù)運算等價；而且.可以用布爾代數(shù)中的“真”“假”值或二進制數(shù)中的“0”“1”數(shù)字，來表示繼電器或電路的“開”“關(guān)”狀態(tài)；反過來，也可以用后者的開關(guān)狀態(tài)來表示真值函數(shù)或二進制數(shù)。根據(jù)這一結(jié)果，他成功地運用布爾代數(shù)和二進制數(shù)運算的方法簡化了繼電器和開關(guān)電路系統(tǒng)的設(shè)計。他還指出，也可以反過來，用繼電器和開關(guān)電路系統(tǒng)來解決布爾代數(shù)或二進制數(shù)運算問題。香農(nóng)的這些工作開創(chuàng)了一個叫做“數(shù)字電路”（也叫“邏輯電路”或“開關(guān)電路”）的新電子技術(shù)領(lǐng)域。該領(lǐng)域是將來設(shè)計各種自動控制系統(tǒng)和制造數(shù)字式電子計算機的技術(shù)基礎(chǔ)。

創(chuàng)立信息論

鑒于香農(nóng)在其碩士論文中運用數(shù)學(xué)方法解決電路問題取得成功，布什建議他去以研究生命科學(xué)著稱的冷泉港實驗室（Cold Spring Harbor Laboratory），用類似的數(shù)學(xué)方法來研究孟德爾遺傳學(xué)。1940年，香農(nóng)以題為“理論遺傳學(xué)代數(shù)”的論文獲得MIT數(shù)學(xué)博士的學(xué)位。他在論文中試圖建立一種描述生物染色體上基因排列和遺傳規(guī)律的代數(shù)方法。

從MIT畢業(yè)后，香農(nóng)隨即以數(shù)學(xué)研究員（research mathematician）的身份加入著名的貝爾實驗室。不久，他獲得國家研究獎學(xué)金，來到普林斯頓高等研究院進修一年；他的指導(dǎo)老師是來自德國的數(shù)學(xué)家外爾（Hermann Weyl，1885-1955），而實際上他受來自匈牙利的數(shù)學(xué)家馮·諾伊曼（John yon Neumann，1903-1957）的影響更大；在此期間，他與愛因斯坦（Albert Einstein，1879-1955）和哥德爾（Kurt Friedrich G6del，1906-1978）也有交往。這種自由自在地在跨學(xué)科領(lǐng)域與科學(xué)大師們交流，對于培養(yǎng)他用數(shù)學(xué)解決實際問題的能力起了很大的作用。

在二次世界大戰(zhàn)期間，香農(nóng)為美國軍方設(shè)計火炮控制系統(tǒng)和研究密碼學(xué)。這兩類工作均涉及數(shù)據(jù)或信息的傳送、轉(zhuǎn)換、破解、分析和利用，這方面的研究幫助香農(nóng)形成了他的革命性思想。

1948年，香農(nóng)發(fā)表了劃時代的論文——“通信數(shù)學(xué)理論”。該文的主題是要用數(shù)學(xué)方法確定通信線路的信息帶寬和所傳輸信號的信息量，以保證所設(shè)計的線路能夠在排除噪聲干擾的同時順利地傳輸有關(guān)信號。為此，香農(nóng)給出了兩個重要的定義：信息的基本單位和信息熵。

信息的基本單位是二進制數(shù)的位，稱為比特（bit）；如果一條通信線路能在每秒傳送Ⅳ位二進制數(shù)，則該線路的通信帶寬就是每秒N比特。其中bit取自英文“二進制數(shù)位”（binary digit）的縮寫。香農(nóng)指出，任何一個具有兩種狀態(tài)的事物——比如說繼電器或開關(guān)電路——正好能夠儲存1比特信息。

香農(nóng)指出，信息熵刻畫了這些可能事件的不確定程度：當(dāng)其中有一件是確定性事件（即發(fā)生概率為1），則其他都是不可能事件（發(fā)生概率為0），此時的熵值最小，等于0；當(dāng)這些事件發(fā)生的概率相等（即都為1/n），則此時的熵值最大，等于logn。所以在等概率可能事件的情況下，其不確定程度最大；并且可能的選擇越多（即n越大），則不確定性越大。香農(nóng)進一步指出，信息熵與統(tǒng)計力學(xué)中的熱學(xué)熵之間有聯(lián)系。

香農(nóng)利用以上所給出的定義，成功地解決了有關(guān)線路帶寬、信號傳送和噪聲干擾之間關(guān)系的一系列問題，由此奠定了現(xiàn)代通信理論基礎(chǔ)。

然而，他引進的這些概念所帶來的影響遠遠不止于此。信息熵很好地解釋了熱力學(xué)第二定律和麥克斯韋小妖。

19世紀(jì)德國物理學(xué)家克勞修斯（Rudolph Clausius，1822-1888）和英國物理學(xué)家開爾文（Lord Kelvin，1824-1907）所發(fā)現(xiàn)的熱力學(xué)第二定律告訴我們：一個封閉的熱學(xué)系統(tǒng)總是隨著時間的增長而趨向于一個溫度處處相等的平衡狀態(tài)?；虻葍r地說，熱不可能自發(fā)地從低溫傳到高溫。熱力學(xué)第二定律解釋了，為什么宇宙時間不可逆轉(zhuǎn)：比如說，茶杯里的水不會自行升溫而沸騰；生命的歷程不可能從老到幼逆向進行；人類社會也不會倒退回去而使古人復(fù)活，等等。

熱力學(xué)第二定律可以用數(shù)學(xué)語言準(zhǔn)確地描述：一個封閉的熱學(xué)系統(tǒng)的熵總是隨著時間的增長而增加，直到取得最大值，此時系統(tǒng)處于熱平衡狀態(tài)。這里的“熵”是一個關(guān)于系統(tǒng)熱量和溫度分布的函數(shù)。

統(tǒng)計力學(xué)的理論和實驗證實，氣體的溫度是由于氣體內(nèi)所包含大量分子的運動而產(chǎn)生的結(jié)果。事實上，氣體溫度與氣體分子的平均動能（或平均速度平方）成正比。而熵則反映了氣體分子運動的無序性，也就是分子的運動速度與分子所處位置的無關(guān)性。香農(nóng)的“信息熵”提出之后，人們進一步認識到，分子運動的“無序性”其實是一種“不確定性”。因此，“熱學(xué)熵”與“信息熵”在某種意義上等價。于是“熵”把兩門看上去完全不同的學(xué)科聯(lián)系起來。

創(chuàng)立了現(xiàn)代電磁場理論的英國人麥克斯韋（James Clerk Maxwell，1831-1879）對于統(tǒng)計力學(xué)也有重要貢獻。他于1871年提出了一個挑戰(zhàn)熱力學(xué)第二定律的“理想實驗”：一個容器被分隔成A和B兩部分，其中A充滿了處于平衡狀態(tài)的運動分子，B暫時為空；A，B之間有一個小孔連接，小孔邊守衛(wèi)著一個能夠觀察到分子運動速度的“小妖”，它只允許A中速度較快的分子穿過小孔進入B。

如果確實有這樣的“小妖”在起作用，那么，A部分的氣體溫度將會逐漸降低，而B部分的氣體溫度則逐漸升高：處于熱平衡狀態(tài)的分子系統(tǒng)就會產(chǎn)生不平衡，系統(tǒng)的“熵”就會減小。熱力學(xué)第二定律看來要失效。

然而，運用香農(nóng)提出的“信息熵”概念，能夠合理地解釋以上的“實驗”：由于“小妖”提供了關(guān)于分子運動的額外信息，這使得系統(tǒng)分子運動分布的“不確定性”降低，也使得系統(tǒng)的“無序性”減少。也就是說，有沒有“小妖”的系統(tǒng)是兩個“熵值”不同的系統(tǒng)。而熱力學(xué)第二定律只能適用于一個封閉系統(tǒng)。

香農(nóng)把信息量與二進制數(shù)的“位”聯(lián)系起來，這啟發(fā)了人們把各種信息轉(zhuǎn)化成二進制數(shù)的形式。數(shù)字化信息給世界帶來奇妙的變化，各種文字、圖像、聲音和影視信息先后被轉(zhuǎn)化成一串串二進制數(shù)；它們被儲存在光電磁介質(zhì)中，然后由功能強大的計算機處理，并通過四通八達的通信網(wǎng)絡(luò)傳送；結(jié)果給我們的世界帶來種種奇妙的變化。

如今，數(shù)字化信息使得人們能夠用計算機寫文章，坐在家中方便地通過網(wǎng)絡(luò)查找并瀏覽所需要的各種文獻、資料和信息，下載或在線欣賞無數(shù)的音樂、歌曲、電影和電視節(jié)目。

數(shù)字化信息提供了新的豐富多彩的人際交流方式：電子郵件、博客、微博、微信，等等。人類從來沒有能夠像今天這樣，可以跨越時空界限，無拘無束地同那么多認識或不認識的人開展交流，自由自在地在網(wǎng)絡(luò)上展現(xiàn)自我。

數(shù)字化信息為我們提供了新奇的產(chǎn)品：數(shù)字電視、數(shù)碼相機、移動電話、數(shù)碼音樂、卡拉OK，等等。

數(shù)字化信息還帶來了學(xué)習(xí)、工作和生活方式的變化：人們已經(jīng)可以實現(xiàn)遠程教育、網(wǎng)上辦公、遠程診斷、電子商務(wù)、網(wǎng)上購物，等等。

數(shù)字化也帶來了全新的觀念：大家開始談?wù)摂?shù)字圖書館、數(shù)字化城市、數(shù)字化地球、數(shù)字化經(jīng)濟、數(shù)字化生存、大數(shù)據(jù)……

數(shù)字化信息時代已經(jīng)給我們帶來那么多夢幻般的變化，并且還在繼續(xù)制造更多神奇。而所有這一切，都源自香農(nóng)那篇劃時代的論文。

“敵人了解我們的密碼系統(tǒng)”

香農(nóng)在二次大戰(zhàn)期間研究密碼學(xué)也成就卓著。在他的指導(dǎo)下研制的密碼設(shè)備被用于美國總統(tǒng)羅斯福和英國首相丘吉爾的跨洋通信。1943年，英國的頭號密碼專家、數(shù)學(xué)家圖靈（Alan Turing，1912-1954）應(yīng)美國軍方邀請前來考察。他去了貝爾實驗室，與香農(nóng)見面并交流。香農(nóng)對圖靈在1936年寫的關(guān)于通用計算機的論文留下了深刻印象?？上н@兩位傳奇人物沒有產(chǎn)生有意義的進一步合作。

1946年，香農(nóng)寫下另一篇開創(chuàng)性論文“保密系統(tǒng)的通信理論”。該文直到1949年才被解密公開發(fā)表。香農(nóng)在文章的開頭就指出：“密碼學(xué)和保密系統(tǒng)的問題為通信理論提供了有趣的應(yīng)用?！彼又治龅溃骸耙话銇碇v，有三種類型的保密系統(tǒng)：（1）隱藏的系統(tǒng)，如用隱顯墨水寫信，信文本身被隱藏起來，敵人看不見；（2）私密系統(tǒng)，如用特殊裝置改變通話者的語言頻率，此時只有用同樣的裝置把通信信號的頻率還原，才能聽懂講話的內(nèi)容；（3）‘真實的保密系統(tǒng)，即用密碼來隱藏信文的內(nèi)容，信文本身不隱藏，敵人也擁有截獲和記錄傳輸信文的特別裝置。”

香農(nóng)認為：隱藏系統(tǒng)屬于心理學(xué)領(lǐng)域，私密系統(tǒng)屬于技術(shù)領(lǐng)域，而只有“真實的”保密系統(tǒng)才屬于密碼學(xué)領(lǐng)域。香農(nóng)的觀點后來被密碼學(xué)界歸結(jié)為“香農(nóng)格言”（Shannons maxim）：“敵人了解我們的密碼系統(tǒng)”（The enemy knows the system）。這一格言已成為現(xiàn)代密碼學(xué)研究的出發(fā)點：即假設(shè)密碼系統(tǒng)的結(jié)構(gòu)以及所傳輸?shù)男盼氖枪_的，敵我雙方都知道；而密碼學(xué)的主要任務(wù)集中在研究用于信文加密和解密的密鑰。

香農(nóng)接著運用他所創(chuàng)立的通信數(shù)學(xué)理論，對在信道中以信文的形式傳輸?shù)男畔⑦M行加密和解密的過程做了全面系統(tǒng)的分析。特別是他證明了，只有那種“一次性密鑰”（即每個密鑰只使用一次）的密碼系統(tǒng)才是完全不可破解的。他的工作使得密碼學(xué)首次從一種藝術(shù)性學(xué)問轉(zhuǎn)變?yōu)橐婚T嚴(yán)格的科學(xué)。

婚姻與后期工作

1949年3月29日，香農(nóng)與穆爾（Mary Elizabeth Moore）結(jié)婚。穆爾也有數(shù)學(xué)專業(yè)研究生的學(xué)歷，原來是貝爾實驗室微波研究室的技術(shù)助理。他們育有兩個兒子和一個女兒。

香農(nóng)生性好動，年輕時學(xué)過體操，喜歡練習(xí)拋球雜耍。那年圣誕節(jié)，新婚妻子送給香農(nóng)一輛獨輪車作為禮物。他從此經(jīng)常騎著它在貝爾實驗室大樓的過道里來回走動，像雜技演員般手里玩著拋球雜耍。這成為貝爾實驗室的一景。

由于電子通信技術(shù)和計算機科學(xué)的飛速發(fā)展，香農(nóng)所創(chuàng)立的信息論成為一門顯學(xué)。人們開始用信息來解釋和解決幾乎所有領(lǐng)域中的問題。香農(nóng)也成了社會名人，不斷被采訪和報道。香農(nóng)對此十分反感。1956年，他在雜志上說：“信息論被大大超賣了（greatly oversold）?！薄八淮蹬醯某潭冗h遠超過其實際重要性?！彼救碎_始逐步退出信息論的研究，改為研究人工智能，并取得一些成果。比如說，他制作了一個神奇的電子鼠，它能夠自己學(xué)會如何從迷宮中走出來；他還設(shè)計了.一個計算機下棋程序，被認為是該領(lǐng)域的一項突破性工作。

事實上，香農(nóng)從未利用他在信息論領(lǐng)域的研究成果和巨大聲望來發(fā)財。他后來賺了不少錢，主要是通過成功投資那些新興科技公司而獲得豐厚的回報。

1956年，香農(nóng)被聘為MIT的教授，但仍在貝爾實驗室兼職。1972年，香農(nóng)從長期工作的貝爾實驗室退休；1978年，又從MIT退休。2001年，香農(nóng)因患阿爾茲海默癥而辭世。

因為創(chuàng)立了信息論，香農(nóng)被譽為“20世紀(jì)最偉大的科學(xué)家之一”。他獲得了無數(shù)的獎項，其中包括1966年獲美國國家科學(xué)獎?wù)潞?978年獲日本京都獎。他同時是多家著名學(xué)術(shù)團體的會員。