[理學(xué)]第1章緒論(2)(已改無錯字)
2023-02-14 17:13:14 本頁面
【正文】 信息傳輸能力 ,第一次提出了信息量的概念 ,并試圖用教學(xué)公式予以描述。香農(nóng)則創(chuàng)造性地繼承了他們的事業(yè) ,在信息論的領(lǐng)域中鉆研了 8年之久 ,終于在1948年也在 《 貝爾系統(tǒng)技術(shù)雜志 》 上發(fā)表了 244頁的長篇論著 《 通信的數(shù)學(xué)理論 》 。次年 ,他又在同一雜志上發(fā)表了另一篇名著 《 噪聲下的通信 》 。 39 ? 在這兩篇文章中 ,香農(nóng)解決了過去許多懸而未決的問題：經(jīng)典地闡明了通信的基本問題，提出了通信系統(tǒng)的模型，給出了信息量的數(shù)學(xué)表達(dá)式，解決了信道容量、信源統(tǒng)計特性、信源編碼、信道編碼等有關(guān)精確地傳送通信符號的基本技術(shù)問題。 ? 兩篇文章成了現(xiàn)在信息論的奠基著作。 ? 香農(nóng)的成就轟動了世界 ,激起了人們對信息論的巨大熱情 ,它向各門學(xué)科沖擊 ,研究規(guī)模像滾雪球一樣越來越大。不僅在電子學(xué)的其他領(lǐng)域 ,如計算機、自動控制等方面大顯身手 ,而且遍及物理學(xué)、化學(xué)、生物學(xué)、心理學(xué)、醫(yī)學(xué)、經(jīng)濟(jì)學(xué)、人類學(xué)、語音學(xué)、統(tǒng)計學(xué)、管理學(xué) …… 等學(xué)科。它已遠(yuǎn)遠(yuǎn)地突破了香農(nóng)本人所研究和意料的范疇 ,即從香農(nóng)的所謂 “ 狹義信息論 ” 發(fā)展到了“ 廣義信息論 ” 。 40 信息論的形成和發(fā)展 ? 進(jìn)入 20世紀(jì) 80年代以來 ,當(dāng)人們在議論未來的時候 ,人們的注意力又異口同聲地集中到信息領(lǐng)域。 ? 按照國際一種流行的說法 ,未來將是一個高度信息化的社會。信息工業(yè)將發(fā)展成頭號工業(yè) ,社會上大多數(shù)的人將是在從事信息的生產(chǎn)、加工和流通。 ? 這時人們才能更正確地估價香農(nóng)工作的全部含義 ? 信息論這個曾經(jīng)只在專家們中間流傳的學(xué)說 ,將來到更廣大的人群之中。香農(nóng)這個名字也飛出了專家的書齋和實驗室，為更多的人所熟悉和了解。 41 信息論幾個方面的主要進(jìn)展 Ⅰ ．信源編碼與數(shù)據(jù)壓縮 Ⅱ ．信道編碼與差錯控制技術(shù) Ⅲ ．多用戶信息論與網(wǎng)絡(luò)通信 Ⅳ ．多媒體與信息論 Ⅴ ．信息論與密碼學(xué)和數(shù)據(jù)安全 Ⅵ ．信息論與概率統(tǒng)計 Ⅶ ．信息論與經(jīng)濟(jì)學(xué) Ⅷ ．信息論與計算復(fù)雜性 Ⅸ ．信息論與系統(tǒng)、控制、信號檢測和處理 Ⅹ ．量子信息論 Ⅺ ． Shannon的其它重要貢獻(xiàn) 42 信源編碼與數(shù)據(jù)壓縮 關(guān)鍵理論進(jìn)展的十個里程碑 [Kieffer 1993] 1. 無擾信源編碼的誕生 (1948, C. E. Shannon)。 2. Huffman算法的發(fā)現(xiàn) (1952, D. A. Huffman)。 3. 建立 ShannonMcMillan定理 (1953, B. McMillan)。 4. 發(fā)現(xiàn) Lloyd算法 (1957, S. P. Lloyd ,1982年發(fā)表 ,)。 5. 率失真理論系統(tǒng)化 (1959, C. E. Shannon,)。 6. Kolmogorov Complexity概念誕生 (1964, A. N. Kolmogorov,)。 7. 通用信源編碼理論系統(tǒng)化 (1973, L. D. Davission)。 8. 多端信源編碼理論誕生 (1973, D. Slepian和 J. K. Wolf)。 9. 第一個實際的算術(shù)編碼方案 (1976, J. Rissannen和 R. Pasco 1976 博士論文 )。 10. 發(fā)現(xiàn) LempelZiv碼 (1977, J. Ziv和 A. Lempel)。 43 信道編碼與差錯控制技術(shù) ? 1． Shannon信道編碼定理和 Shannon極限。 ? Shannon編碼信道定理 : ? RC，存在編碼方法可任意小的錯誤率傳遞速率為 R的信息，碼長 N要足夠大。 ? RC 不存在有編碼方法實現(xiàn)滿足誤碼率要求的速率為 R的傳信。 ? Shannon 證明碼長 N大時，隨機選擇的碼以很高概率為好碼。 44 信道編碼與差錯控制技術(shù) 2 ．關(guān)鍵理論進(jìn)展 ： ⑴ 信道編碼定理， 1948 ， C. E. S h ann on 。 ⑵ 發(fā)現(xiàn) Ham m in g 碼， 1950 ， H. W. Ham m in g 。 ⑶ 發(fā)現(xiàn) G olay 碼， 1954 ， M . J. E. G olay 。 ⑷ 發(fā)現(xiàn) Re e d M u ll e r 碼， 1954 ， I. S . R e e d and D. E. M u ll e r 。 ⑸ 發(fā)現(xiàn)卷積碼， 1955, P . El ias 。 ⑹ 線性碼、群碼的系統(tǒng)描述， 1956 ， D. S lepian 。 ⑺ 發(fā)現(xiàn)循環(huán)碼， 1957, E. P r ange 。 ⑻ 卷積碼的序列譯碼算法， 1957, J. M . Woz e n c r af t 。 1964, R . M . F ano 。 ⑼ 發(fā)現(xiàn) BCH 碼， 1960, R . C . Bose a n d D. K . R ay Chau d h u r i, 1959, A . Hoc q u e n ghem 。 45 信道編碼與差錯控制技術(shù) ⑽ 發(fā)現(xiàn) Re e d S olom on 碼， 1960, I.
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1