信息論與編碼課件第一章(參考版)
2025-05-17 18:10本頁(yè)面
【正文】 59 ? [皇者 ]李玲玉 天竺少女 ?【 小品 】 趙本山 ,范偉 《 心病 》 視頻 優(yōu)酷視頻 在線觀看 邁克爾喬丹十大扣籃 。 ” 因此，我們不能也不應(yīng)該期望香農(nóng)信息論能應(yīng)用于任何領(lǐng)域。實(shí)際上，信息論在核心本質(zhì)上是數(shù)學(xué)的分支，是一個(gè)嚴(yán)密的演繹系統(tǒng)。 —— (香農(nóng)的合作者和朋友） 55 4. 香農(nóng)理論的局限性 Shannon Theory: dead or alive？ （香農(nóng)信息論過(guò)時(shí)了嗎？） “ 要知道，企望一次就能揭開(kāi)自然界的全部奧秘是不切實(shí)際的。 —— 內(nèi)爾 如果沒(méi)有他，很多我們現(xiàn)在使用的物品根本就不可能存在。 1948年： 《 The mathematical Theory of Communication 》 1949年： 《 Communication in Presence of Noise》 53 香農(nóng)的貢獻(xiàn) ? 1948年發(fā)表 “ 保密通信的信息理論 ” ，首先用信息論的觀點(diǎn)對(duì)信息保密問(wèn)題作了全面的論述； ? 1959年發(fā)表 “ 保真度準(zhǔn)則下的離散信源編碼定理 ” 提出信息率失真理論，為信源壓縮編碼研究奠定理論基礎(chǔ)； ? 1961年發(fā)表 “ 雙路通信信道 ” ，開(kāi)拓了多用戶(hù)信息理論（網(wǎng)絡(luò)信息論）的研究。這篇論文成為開(kāi)關(guān)電路理論的開(kāi)端。 52 2. 貢獻(xiàn) ? 奠定了大型數(shù)字計(jì)算機(jī)構(gòu)建的理論基礎(chǔ)。 ? 從 1958年在麻省理工學(xué)院任教，至1978年退休。 ? 1940年獲得麻省理工學(xué)院博士學(xué)位。 51 附 . Shannon及其影響和貢獻(xiàn) 1. Shannon Claude Elwood ? 1916年 4月 30日出生于美國(guó)密執(zhí)安州的加洛德。 ?RANJAN BOSE，信息論、編碼與密碼學(xué)。 ?呂鋒、王虹等，信息理論與編碼。 ?陳運(yùn)等，信息論與編碼。 ?吳偉陵，信息處理與編碼。 50 ?ROBERT ，信息論與編碼理論。 ? 朱雪龍，應(yīng)用信息論基礎(chǔ)。 ? 仇佩亮，信息論與編碼。清華大學(xué)出版社，2022年。北京航空航天大學(xué)出版社， 2022年。機(jī)械工業(yè)出版社， 2022年。這就不僅從定性方面而且也從定量方面深刻地揭示了信息傳遞和處理的規(guī)律，使通信的研究從經(jīng)驗(yàn)的階段轉(zhuǎn)變?yōu)榭茖W(xué)。 信息、材料、能源是現(xiàn)代科學(xué)的三大支柱。 信息科學(xué) —— 信息科學(xué)是研究信息規(guī)律和指導(dǎo)信息技術(shù)開(kāi)發(fā)及應(yīng)用的學(xué)問(wèn)。 43 – 語(yǔ)音信號(hào)壓縮（ , GSM, Vocoder） – 圖象信號(hào)的壓縮（ JPEG, MPEG） – 計(jì)算機(jī)文件壓縮（ press, gzip） – 模擬話路中數(shù)據(jù)傳輸速率的提高 – 降低信息傳輸所需的功率 四、信息論的應(yīng)用 44 – 計(jì)算機(jī)網(wǎng)中數(shù)據(jù)傳輸可靠性的保證 – 計(jì)算機(jī)中的容錯(cuò)問(wèn)題 – 圖像信號(hào)的復(fù)原與重建 – 模式分類(lèi)問(wèn)題與樹(shù)分類(lèi)器的設(shè)計(jì) – 其他（信息經(jīng)濟(jì)學(xué)、醫(yī)學(xué)、生物學(xué)、管理科學(xué)等） 四、信息論的應(yīng)用 45 五 .信息論的研究?jī)?nèi)容 ? 狹義信息論（經(jīng)典信息論） – 研究信息測(cè)度，信道容量以及信源和信道編碼理論 ? 一般信息論 – 研究信息傳輸和處理問(wèn)題，除經(jīng)典信息論外還包括噪聲理論，信號(hào)濾波和預(yù)測(cè)，統(tǒng)計(jì)檢測(cè)和估值理論，調(diào)制理論，信息處理理論和保密理論 ? 廣義信息論 – 除上述內(nèi)容外，還包括自然和社會(huì)領(lǐng)域有關(guān)信息的內(nèi)容，如模式識(shí)別，計(jì)算機(jī)翻譯，心理學(xué)，遺傳學(xué)，神經(jīng)生理學(xué) 46 狹義信息論體系結(jié)構(gòu) Shannon信息論 壓縮理論 有失真編碼 無(wú)失真編碼 等長(zhǎng)編碼 定理 Shannon 1948 McMillan 1953 變長(zhǎng)編碼 定理 Shannon 1948 McMillan 1956 Huffman碼 (1952)、 Fano碼 算術(shù)碼 (1976,1982) LZ碼 (1977,1978) 率失真理論 Shannon Gallager Berger 壓縮編碼 JPEG MPEG 傳輸理論 信道編碼定理 網(wǎng)絡(luò)信息理論 糾錯(cuò)碼 編碼調(diào)制理論 網(wǎng)絡(luò)最佳碼 47 信息 —— 用來(lái)消除接收者某種認(rèn)識(shí)上不確 定性的東西。 1952年Fano碼， Huffman碼。 通信系統(tǒng)模型 39 三 .信息論發(fā)展簡(jiǎn)史 ? 電磁理論和電子學(xué)理論對(duì)通信理論技術(shù)發(fā)展起重要的促進(jìn)作用 – 1820－ 1830年，法拉第發(fā)現(xiàn)電磁感應(yīng) – 莫爾斯 1832－ 1835建立電報(bào)系統(tǒng)。
醫(yī)療健康相關(guān)推薦
鄂ICP備17016276號(hào)-1