信息論與編碼課件第一章-全文預覽
【正文】 Gallager Berger 壓縮編碼 JPEG MPEG 傳輸理論 信道編碼定理 網(wǎng)絡信息理論 糾錯碼 編碼調制理論 網(wǎng)絡最佳碼 47 信息 —— 用來消除接收者某種認識上不確 定性的東西。 通信系統(tǒng)模型 39 三 .信息論發(fā)展簡史 ? 電磁理論和電子學理論對通信理論技術發(fā)展起重要的促進作用 – 1820－ 1830年，法拉第發(fā)現(xiàn)電磁感應 – 莫爾斯 1832－ 1835建立電報系統(tǒng)。 通信系統(tǒng)模型 38 干擾源： 系統(tǒng)其他各部分產生的噪聲和干擾都等效成信道干擾，集中作用于信道。 編碼器： 將信源發(fā)出的消息變換成適于信道傳送的信號的設備。 ? 頻率特性。 ? 信息論誕生五十多年來，至今，仍然是指導通信技術發(fā)展的理論基礎，是創(chuàng)新通信體制的源泉 。同樣，同一信號形式，比如 “ 0”與 “ 1”可以表達不同形式的信息，比如無與有、斷與通、低與高 (電平 )等等。它們三者之間的關系是哲學上的內涵與外延的關系。 信息的重要性質 30 ? 信號：是信息的物理表達層，是三個層次中最具體的層次。 29 ? 信息：它依附于物質和能量，但又不同于物質和能量。 三要素中物質是基礎 ， 是實體 。 信息熵是信源的信息選擇不確定度的測量，但它不等同于不確定度，而是為了消除一定的不確定度，必須獲得的、與此不確定度相等的信息量。這種運載信息的物質稱為信息的載體，一切物質都有可能成為信息的載體。 例如 : 某人收到一條消息 ① 包含許多原來不知道的 新 內容 ?信息量 大 ② 包含許多原來已知道的 舊 內容 ?信息量 小 25 廣義 的信息概念 物質、能量和信息是構成客觀世界三大要素，信息是 物質和能量 在 空間和時間 中分布的 不均勻程度 。 一、信息的概念 24 通俗 的信息概念 信息是一種 消息 。 歷史回顧 : 信息傳輸方式的變遷 23 信息 是信息論中最基本、最重要的概念，是一個既復雜又抽象的概念。自從造紙術和印刷術的發(fā)明，使文字成為信息記錄、儲存和傳遞的有效手段。 信息論基礎的重要性 10 教學目標 ? 充分理解、熟練掌握教材的內容 – 熟練掌握基本的信息理論概念和定理 – 熟練掌握通信與信息工程中基本研究對象的數(shù)學描述 ? 通過學習和習題練習，具備一定的解決問題分析問題的能力 ? 掌握一定的科學思想方法 (用信息論的思想和觀點 ) 11 對學習者的要求 ? 三個重要環(huán)節(jié) – 課前預習 – 課上認真聽講 – 課后認真復習消化、做作業(yè) ? 經(jīng)常進行階段復習 – 掌握知識的竅訣：反復思維實踐 12 其他約定 ? 不得遲到、早退、缺課，有事請假 ? 上課時請關閉手機（或調至振動） ? 作業(yè)不得用紙片信紙之類，必須使用作業(yè)本 ? 遲交的作業(yè)及紙片做的作業(yè)恕不修改，只作記錄 13 《 信息理論基礎 》 的內容 ? 信息論的基本問題 信息與信道的度量 ? 無失真信源編碼定理 香農第一定理 ? 信道編碼定理 香農第二定理 ? 限失真信源編碼定理 香農第三定理 14 Shannon信息論的基本任務 ? 1948年 shannon發(fā)表了 “ 通信的數(shù)學理論 ” 奠定了信息論理論基礎 ? 基本任務是設計有效而可靠的通信系統(tǒng) – 可靠是要使信源發(fā)出的消息經(jīng)過傳輸后，盡可能準確地、不失真地再現(xiàn)在接收端 – 有效是用盡可能短的時間和盡可能少的設備來傳輸一定量的消息 15 內容安排 第一章 緒論 2學時 第二章 信源和熵 8學時 第三章 信道及其容量 6學時 第四章 離散信源的無失真編碼 6學時 第五章 信道編碼 4學時 第六章 限失真信源編碼 4學時 復習 2學時 16 第一章 緒 論 一、信息的概念 二、信息論產生背景 三、信息論的發(fā)展簡史 四、信息論的應用 五、信息論研究的內容 六、參考書目 17 ? 在人類的歷史長河中，信息傳輸和傳播手段經(jīng)歷了五次變革： – 第一次變革：語言的產生 – 第二次變革：文字的產生 – 第三次變革：印刷術的發(fā)明 – 第四
醫(yī)療健康相關推薦
鄂ICP備17016276號-1