信息論與編碼第一章緒論-全文預(yù)覽
【正文】 邏輯關(guān)系，不考慮實際介質(zhì)，信息論中的信道 ?一些概念： 無噪聲信道 有噪聲信道 加性噪聲 乘性噪聲 AWGN信道 AWGN信道 ?加性高斯白噪聲 AWGN(Additive White Gaussian Noise) 是最基本的噪聲與干擾模型。 ?童男童女拜觀音， ?仆仆何嫌榮頓？ 信息 語法 語義 語用 從第一個字到最后一個字 每句話的第一個字所包含的意義 第一字聯(lián)系在一起 ——“我為秋香，屈居童仆” 通信 系統(tǒng)模型 信源 信源編碼器 信道編碼器 調(diào) 制 器 信道 解 調(diào) 器 信宿 信源譯碼器 信道譯碼器 干擾 源 編碼信道 ? 信源：產(chǎn)生消息和消息序列的來源。 ? 語用（ Pragmatic）信息 ：價值，實際效用。 情報： 是人們對于某個特定對象所見、所聞、所理解而產(chǎn)生的知識 。 b)消息不一定含有信息。 信息 ——應(yīng)用層的概念 ——你要表達(dá)的意思。 ? 研究目的： 提高信息系統(tǒng)的 可靠性、有效性 和 安全性 以便達(dá)到系統(tǒng)最優(yōu)化。 ?維納理論： 維納研究的重點是在接收端。即信息是獨立于物質(zhì)和能量之外存在于客觀世界的第三要素 。 ? 香農(nóng)信息論： 考慮事物運動狀態(tài)及其變化方式的外在形式，實際上研究的是 語法信息 。 1976 Rissanen算術(shù)編碼， 1977， 78 Ziv和 Lempel的 LZ算法 信息論發(fā)展簡史 ?1950年漢明碼， 1960年卷積碼的概率譯碼，Viterbi譯碼， 1982年 Ungerboeck編碼調(diào)制技術(shù) (TCM)， 1993年 Turbo編譯碼技術(shù) ?1959年， Shannon提出率失真函數(shù)和率失真信源編碼定理 ?1961年， Shannon的 “ 雙路通信信道 ” 開拓了網(wǎng)絡(luò)信息論的研究，目前是非常活躍的研究領(lǐng)域。 信息的概念 ?信息是信息論中最基本、最重要的概念，既抽象又復(fù)雜 ?信息在日常生活中被認(rèn)為是 “ 消息 ” 、 “ 知識 ” 、“ 情報 ” 等 ?“信息”不同于消息 （在現(xiàn)代信息論形成之前，信息一直被看作是通信中消息的同義詞，沒有嚴(yán)格的數(shù)學(xué)含義），消息是表現(xiàn)形式，信息是實質(zhì)； ?“信息”不同于情報 ，情報的含義比“信息”窄的多，一般只限于特殊的領(lǐng)域，是一類特殊的信息； ?信息不同于信號 ，信號是承載消息的物理量； ?信息不同于知識 ，知識是人們根據(jù)某種目的 ,從自然界收集得來的數(shù)據(jù)中整理、概括、提取得到的有價值的信息，是一種高層次的信息。 信息是否重要？ 一位美國科學(xué)家在詩中這樣描述： 沒有物質(zhì)的世界是虛無的世界，沒有能源的世界是死寂的世界，沒有信息的世界是混亂的世界。 掌握通信系統(tǒng)中信息傳輸?shù)哪Ｐ?。 信息的分類 。 學(xué)習(xí)方法 本課程只有理論介紹，顯得枯燥、繁雜，不易理解，且 “ 概率與數(shù)理統(tǒng)計 ” 知識要求較高，學(xué)起來有一定難度。還學(xué)習(xí) 幾種常用的信源編碼方法 和 糾錯編碼方法 。 目 錄 ?第 1章 緒論 ?第 2章 信源及信息熵 ?第 3章 信道與信道容量 ?第 4章 信息率失真函數(shù) ?第 5章 信源編碼 ?第 6章 信道編碼 ?第 7章 * 加密編碼 課程基本內(nèi)容 一 . 信息論 ? 信息論的發(fā)展以及通信系統(tǒng)的模型 ? 離散信源熵，互信息以及冗余度 二 . 信源編碼 ? 定長編碼，變長編碼以及最佳編碼 ? 離散信源的信息率失真函數(shù) R(D) ? 限失真信源編碼定理以及常用信源編碼方法 三 . 信道編碼 ? 信道模型和容量 ? 線性分組碼 ? 卷積碼 課程內(nèi)容 本課程包括 信息論基礎(chǔ) 和 編碼 兩大部分。本課程旨在通過對通信系統(tǒng)中信息理論的介紹，使大家更深入地了解信息的概念和本質(zhì)，并掌握一些基本的 信息理論知識 和常用的 編解碼的方法 。 ? 重點講授 信息的概念，信息的度量和計算等一些基本問題 。 ? 掌握信道編碼的基本方法，并能夠從信息論的角度加以理解。 第一章 緒論
范文總結(jié)相關(guān)推薦
鄂ICP備17016276號-1