基本內容
申農是現(xiàn)代通訊理論--信息論的創(chuàng)始人、影響人類社會進程的科學家,2001年2月24日,享年85歲的信息量創(chuàng)始人(美國) C.E.Shannon 申農(香農)辭世(1916-2001)。有的文章稱他為偉大的科學家;仡20世紀的信息革命風暴,想想這個革命的理論基礎就是新創(chuàng)立的信息論,把信息論的創(chuàng)始人稱為偉大的科學家并不為過。確實,他對人類貢獻遠遠超過了一般的諾貝爾獲獎者。
詳細介紹
歷史證明質量、能量和信息量是三個非常重要的物理量。而如何度量信息的數(shù)量問題是在信息論中解決的。
人們很找早就知道用“稱”或者“天平”計量物質質量的多少。然而,我們關于熱、燃料、能力、活力等等的計量的問題遲至19世紀中葉,隨著熱功當量的明確和能量守恒定律的明確才清楚起來。“能量”一詞就是它們的總稱,而計量能量問題也通過“卡、焦耳”等新單位的出現(xiàn)而得到解決。
我們關于圖畫、文字、數(shù)字、聲音的知識有幾千年了。但是它們的總稱是什么?如何統(tǒng)一地計量它們的數(shù)量的問題遲至19世紀末還沒有正確地提出來,更談不上如何去解決了。20世紀中期,隨著電報、照片,無線電、電話、雷達、電視等等的出現(xiàn)和發(fā)展,如何計量訊號中的信息的多少的問題被隱約地提上日程。1928年哈特利(R.V.H.Harley)考慮到從D個彼此不同的符號中取出N個符號并且組成一個“字”(詞)的問題。如果各個符號出現(xiàn)的概率相同,如果選取的隨機的,就可以得到DN個不同的字。從這些字里取了特定的一個就對應著帶來了一個信息量I。哈特利建議用用N LOGD這個數(shù)量表示這個信息量,即I=N LOGD 。這里的LOG表示以10為底的對數(shù)。
到了1949年控制論的創(chuàng)始人維納也研究了度量信息的問題,還把它引向了熱力學第二定律。但是就訊號(信息)傳輸給出基本數(shù)學模型的核心人物是年僅32歲的申農(C.E.Shannon)。1948年申農的“通訊的數(shù)學理論”(The mathematical Theory of communication),長達數(shù)十頁的論文,成了信息論正式誕生的里程碑。在他的通訊數(shù)學模型中,信息的度量的問題被清楚第地提了出來,他把哈特利的公式擴大到概率不同的情況,得到了著名的計算信息熵的公式:
H=∑-pilogpi
如果計算中的對數(shù)(LOG)是以2為底的,那么計算出來的信息熵就以比特(Bit)為單位。今天在電腦和通信中廣泛使用的的字節(jié)(Byte)、波特、KB、GB等等名詞都是從比特(有的含時間)演化而來!氨忍亍钡某霈F(xiàn)標志著人類知道了如何計量信息量了。申農的信息論為明確什么是信息量概念做了決定性的貢獻。
于是在20世紀中葉,人類終于對三個非常重要的概念:質量、能量、信息量都有了定量的計量辦法了。
為闡明質量概念做出突出貢獻的是發(fā)現(xiàn)物質的力學定律的牛頓。
為闡明能量概念做出突出貢獻的是熱力學第一定律的發(fā)現(xiàn)者們(邁耳 J.R.Mayer、焦耳 T.P.Joule、赫爾姆霍茲 H.Helmholtz、開爾文 Lord Kelvin)。
為闡明信息概念做出突出貢獻的應當是申農(C.E.Shannon)。
控制論創(chuàng)始人維納說“信息不是物質”,哲學家說信息與物質的關系是大問題。這些觀點妨礙信息論進入物理、化學、生物、社會等這些物質科學領地。某些唯物論者曾經為信息論扣上了“唯心論、偽科學”的帽子。信息論在科學版圖和哲學版圖中究竟如何定位在今天并沒有很好地解決。
20世紀中期隨著原子彈(核能)的出現(xiàn),物理學成為最榮耀的科學學科。在隨后的50年里晶體管、人造衛(wèi)星、集成電路、電腦的飛躍發(fā)展無不與物理學知識的應用有關。
但是我們也驚奇第發(fā)現(xiàn)這些新技術都是為提高信息的處理能力服務。光榮的物理學忙了半個世紀,終于發(fā)現(xiàn)自己僅是給信息科學當仆人。這是物理學的喜劇還是悲?
信息量能進入物理學嗎?但“信息不是物質”!在物理學的的版圖中人們不知道把信息論放到那里合適。人類知識體現(xiàn)的這種新的混亂局面可能要繼續(xù)下去。
信息論、控制論、系統(tǒng)論等等標新立異的新學科的出現(xiàn),晃動著古老的科學框架。最后的結局可能到本世紀后期才會明朗一些。到那時申農的某些工作可能被歷史遺忘,但是經他闡明的信息概念,連同“比特”這個單位肯定是我們進行科學思維時離不開詞匯。