克勞德·艾爾伍德·香農(nóng)(Claude Elwood Shannon，1916-2001）1916年4月30日誕生于美國密西根州的Petoskey。在Gaylord小鎮(zhèn)長大，當時鎮(zhèn)里只有三千居民。父親是該鎮(zhèn)的法官，他們父子的姓名完全相同，都是Claude Elwood Shannon。母親是鎮(zhèn)里的中學校長，姓名是Mabel Wolf Shannon。他生長在一個有良好教育的環(huán)境，不過父母給他的科學影響好像還不如祖父的影響大。香農(nóng)的祖父是一位農(nóng)場主兼發(fā)明家，發(fā)明過洗衣機和許多農(nóng)業(yè)機械，這對香農(nóng)的影響比較直接。此外，香農(nóng)的家庭與大發(fā)明家愛迪生(Thomas Alva Edison，1847-1931）還有遠親關系。香農(nóng)的大部分時間是在貝爾實驗室和MIT(麻省理工學院）度過的。在“功成名就”后，香農(nóng)與瑪麗（Mary Elizabeth Moore)1949年3月27日結婚，他們是在貝爾實驗室相識的，瑪麗當時是數(shù)據(jù)分析員。他們共有四個孩子：三個兒子Robert、James、Andrew Moore和一個女兒Margarita Catherine。后來身邊還有兩個可愛的孫女。

2001年2月26日，香農(nóng)在馬薩諸塞州Medford辭世，享年85歲。貝爾實驗室和MIT發(fā)表的訃告都尊崇香農(nóng)為信息論及數(shù)字通信時代的奠基人。

香農(nóng)于1916年4月30日出生于美國密歇根州的Petoskey，并且是愛迪生的遠親戚。1936年畢業(yè)于密歇根大學并獲得數(shù)學和電子工程學士學位。1940年獲得麻省理工學院（MIT）數(shù)學博士學位和電子工程碩士學位。1941年他加入貝爾實驗室數(shù)學部，工作到1972年。1956年他成為麻省理工學院（MIT）客座教授，并于1958年成為終生教授，1978年成為名譽教授。香農(nóng)博士于2001年2月26日去世，享年84歲。

香農(nóng)于1940年在普林斯頓高級研究所（The Institute for Advanced Study at Princeton）期間開始思考信息論與有效通信系統(tǒng)的問題。經(jīng)過8年的努力，香農(nóng)在1948年6月和10月在《貝爾系統(tǒng)技術雜志》（Bell System Technical Journal）上連載發(fā)表了具有深遠影響的論文《通訊的數(shù)學原理》。1949年，香農(nóng)又在該雜志上發(fā)表了另一著名論文《噪聲下的通信》。在這兩篇論文中，香農(nóng)闡明了通信的基本問題，給出了通信系統(tǒng)的模型，提出了信息量的數(shù)學表達式，并解決了信道容量、信源統(tǒng)計特性、信源編碼、信道編碼等一系列基本技術問題。兩篇論文成為了信息論的奠基性著作。

1936年香農(nóng)在密西根大學獲得數(shù)學與電氣工程學士學位，然后進入MIT念研究生。

1938年香農(nóng)在MIT獲得電氣工程碩士學位，碩士論文題目是《A Symbolic Analysis of Relay and Switching Circuits》（繼電器與開關電路的符號分析）。當時他已經(jīng)注意到電話交換電路與布爾代數(shù)之間的類似性，即把布爾代數(shù)的“真”與“假”和電路系統(tǒng)的“開”與“關”對應起來，并用1和0表示。于是他用布爾代數(shù)分析并優(yōu)化開關電路，這就奠定了數(shù)字電路的理論基礎。哈佛大學的Howard Gardner教授說，“這可能是本世紀最重要、最著名的一篇碩士論文�！�

1940年香農(nóng)在MIT獲得數(shù)學博士學位，而他的博士論文卻是關于人類遺傳學的，題目是《An Algebra for Theoretical Genetics》（理論遺傳學的代數(shù)學)。這說明香農(nóng)的科學興趣十分廣泛，后來他在不同的學科方面發(fā)表過許多有影響的文章。

在讀學位的同時，他還用部分時間跟溫尼法·布什（Vannevar Bush）教授進行微分分析器的研究。這種分析器是早期的機械模擬計算機，用于獲得常微分方程的數(shù)值解。1941年香農(nóng)發(fā)表了《Mathematical theory of the differential analyzer》（微分分析器的數(shù)學理論），他寫道：“大多數(shù)結果通過證明的定理形式給出。最重要的是處理了一些條件，有些條件可以生成一個或多個變量的函數(shù)，有些條件可使常微分方程得到解。還給出了一些注意事項，給出求函數(shù)的近似值（不能產(chǎn)生精確值）、求調(diào)整率的近似值以及自動控制速率的方法�！�

1941年香農(nóng)以數(shù)學研究員的身份進入新澤西州的AT&T貝爾電話公司，并在貝爾實驗室工作到1972年，從24歲到55歲，整整31年。1956年他當了MIT的訪問教授，1958年成為正式教授，1978年退休。

人們描述香農(nóng)的生活，白天他總是關起門來工作，晚上則騎著他的獨輪車來到貝爾實驗室。他的同事D. Slepian寫到：“我們大家都帶著午飯來上班，飯后在黑板上玩玩數(shù)學游戲，但克勞德很少過來。他總是關起門來工作。但是，如果你要找他，他會非常耐心地幫助你。他能立刻抓住問題的本質(zhì)。他真是一位天才，在我認識的人中，我只對他一人使用這個詞�！�

香農(nóng)與John Riordan一起工作，1942年發(fā)表了一篇關于串并聯(lián)網(wǎng)絡的雙終端數(shù)的論文。這篇論文擴展了麥克馬洪（Percy A. MacMahon，1854-1929）1892年在Electrician上發(fā)表的論文理論。1948年則創(chuàng)立了信息論（information theory）。

在漫長的歲月，他思考過許多問題。除在普林斯頓高等研究院工作過一年外，主要都在MIT和Bell Lab度過。需要說明的是，在二次世界大戰(zhàn)時，香農(nóng)博士也是一位著名的密碼破譯者（這使人聯(lián)想到比他大4歲的圖靈博士）。他在Bell Lab的破譯團隊主要是追蹤德國飛機和火箭，尤其是在德國火箭對英國進行閃電戰(zhàn)時起了很大作用。1949年香農(nóng)發(fā)表了另外一篇重要論文《Communication Theory of Secrecy Systems》（保密系統(tǒng)的通信理論），正是基于這種工作實踐，它的意義是使保密通信由藝術變成科學。

1948年香農(nóng)在Bell System Technical Journal上發(fā)表了《A Mathematical Theory of Communication 》。論文由香農(nóng)和威沃共同署名。前輩威沃（Warren Weaver，1894-1978）當時是洛克菲勒基金會自然科學部的主任，他為文章寫了序言。后來，香農(nóng)仍然從事技術工作，而威沃則研究信息論的哲學問題。順便提一句，該論文剛發(fā)表時，使用的是不定冠詞A，收入論文集時改為定冠詞The。

熵(shang)的概念

香農(nóng)理論的重要特征是熵（entropy）的概念，他證明熵與信息內(nèi)容的不確定程度有等價關系。熵曾經(jīng)是波爾茲曼在熱力學第二定律引入的概念，我們可以把它理解為分子運動的混亂度。信息熵也有類似意義，例如在中文信息處理時，漢字的靜態(tài)平均信息熵比較大，中文是9.65比特，英文是4.03比特。這表明中文的復雜程度高于英文，反映了中文詞義豐富、行文簡練，但處理難度也大。信息熵大，意味著不確定性也大。因此我們應該深入研究，以尋求中文信息處理的深層突破。不能盲目認為漢字是世界上最優(yōu)美的文字，從而引申出漢字最容易處理的錯誤結論。

熵（entropy）指的是體系的混亂的程度，它在控制論、概率論、數(shù)論、天體物理、生命科學等領域都有重要應用，在不同的學科中也有引申出的更為具體的定義，是各領域十分重要的參量。熵由魯?shù)婪?middot;克勞修斯（Rudolf Clausius）提出，并應用在熱力學中。后來在，克勞德·艾爾伍德·香農(nóng)（Claude Elwood Shannon）第一次將熵的概念引入到信息論中來。

眾所周知，質(zhì)量、能量和信息量是三個非常重要的量。

人們很早就知道用秤或者天平計量物質(zhì)的質(zhì)量，而熱量和功的關系則是到了19世紀中葉，隨著熱功當量的明確和能量守恒定律的建立才逐漸清楚。能量一詞就是它們的總稱，而能量的計量則通過“卡、焦耳”等新單位的出現(xiàn)而得到解決。

然而，關于文字、數(shù)字、圖畫、聲音的知識已有幾千年歷史了。但是它們的總稱是什么，它們?nèi)绾谓y(tǒng)一地計量，直到19世紀末還沒有被正確地提出來，更談不上如何去解決了。20世紀初期，隨著電報、電話、照片、電視、無線電、雷達等的發(fā)展，如何計量信號中信息量的問題被隱約地提上日程。

1928年哈特利(R.V. H. Harley）考慮到從D個彼此不同的符號中取出N個符號并且組成一個“詞”的問題。如果各個符號出現(xiàn)的概率相同，而且是完全隨機選取的，就可以得到DN個不同的詞。從這些詞里取了特定的一個就對應一個信息量I。哈特利建議用N log D這個量表示信息量，即I=N log D。這里的log表示以10為底的對數(shù)。后來，1949年控制論的創(chuàng)始人維納也研究了度量信息的問題，還把它引向熱力學第二定律。

但是就信息傳輸給出基本數(shù)學模型的核心人物還是香農(nóng)。1948年香農(nóng)長達數(shù)十頁的論文“通信的數(shù)學理論”成了信息論正式誕生的里程碑。在他的通信數(shù)學模型中，清楚地提出信息的度量問題，他把哈特利的公式擴大到概率pi不同的情況，得到了著名的計算信息熵H的公式：

H=∑-pi log pi

如果計算中的對數(shù)log是以2為底的，那么計算出來的信息熵就以比特（bit）為單位。今天在計算機和通信中廣泛使用的字節(jié)(Byte）、KB、MB、GB等詞都是從比特演化而來。“比特”的出現(xiàn)標志著人類知道了如何計量信息量。香農(nóng)的信息論為明確什么是信息量概念作出決定性的貢獻。

香農(nóng)在進行信息的定量計算的時候，明確地把信息量定義為隨機不定性程度的減少。這就表明了他對信息的理解：信息是用來減少隨機不定性的東西�；蛳戕r(nóng)逆定義：信息是確定性的增加。

雖然香農(nóng)的信息概念比以往的認識有了巨大的進步，但仍存在局限性，這一概念同樣沒有包含信息的內(nèi)容和價值，只考慮了隨機型的不定性，沒有從根本上回答"信息是什么"的問題。

事實上，香農(nóng)最初的動機是把電話中的噪音除掉，他給出通信速率的上限，這個結論首先用在電話上，后來用到光纖，截止2013又用在無線通信上。我們能夠清晰地打越洋電話或衛(wèi)星電話，都與通信信道質(zhì)量的改善密切相關。

克勞德·香農(nóng)在公眾中并不特別知名，但他是使我們的世界能進行即時通信的少數(shù)科學家和思想家之一。他是美國科學院院士、美國工程院院士、英國皇家學會會員、美國哲學學會會員。他獲得過許多榮譽和獎勵。例如1949年Morris獎、1955年Ballantine獎、1962年Kelly獎、1966年的國家科學獎章、IEEE的榮譽獎章、1978年Jaquard獎、1983年Fritz獎、1985年基礎科學京都獎。他接受的榮譽學位不勝枚舉，不再贅述。

今天，我們懷念香農(nóng)，要熟悉他的兩大貢獻：一是信息理論、信息熵的概念；另一是符號邏輯和開關理論。我們更應該學習他好奇心強、重視實踐、追求完美、永不滿足的科學精神，這是他獲得成功的重要經(jīng)驗。

美國Alfred Noble協(xié)會美國工程師獎 1940年

Morris Liebmann 無線電工程師協(xié)會Memorial獎章 1949年

耶魯大學 （首席科學家） 1954年

Stuart Ballantine弗蘭克林協(xié)會獎章 1955年

研究合作獎 1956年

密歇根大學，榮譽博士 1961年

萊斯大學 榮譽獎章1962年

普林斯頓大學，榮譽博士 1962年

Marvin J. Kelly Award 1962年

愛丁堡大學 榮譽博士 1964年

匹茲堡大學 榮譽博士 1964年

電子電氣工程師協(xié)會 榮譽獎章 1966年

美國國家科學獎章 1966年，由前總統(tǒng)Lyndon B. 約翰遜頒發(fā)

Golden Plate Award 1967年

美國西北大學，榮譽博士 1970年

Harvey Prize,the Technion of Haifa，以色列 1972年

牛津大學 榮譽博士 1978年

Joseph Jacquard獎 1978年

Harold Pender獎 1978年

東英格倫大學，榮譽博士 1982年

卡內(nèi)基梅隆大學 榮譽博士 1984年

美國聲頻技術協(xié)會 金獎 1985年

Kyoto Prize 1985年

塔夫斯大學 榮譽博士 1987年

賓西法尼亞大學 榮譽博士 1991年

Eduard Rhein Prize 1991年