現(xiàn)代通信理論第一章(參考版)
2025-01-23 08:44本頁面
【正文】 信源編碼定理 （續(xù)） ? 香農(nóng)第三定理（保失真度準(zhǔn)則下的有失真信源編碼定理） 設(shè) R(D)為一離散無記憶信源的信息率失真函數(shù)（每符號需要的最低比特率） ,編碼后每個符號的信息傳輸速率為 R’，則 R’ R(D)， 香農(nóng)三大定理是存在性定理，雖然并沒有提供具體的編碼實現(xiàn)方法，但為通信信息的研究指明了方向。 ? 香農(nóng)第二定理（有噪信道編碼定理） 在有噪聲的信道上傳輸信息的時候，可以對所傳輸?shù)男畔⑦M行適當(dāng)?shù)木幋a，只要所傳輸?shù)男畔⑺俾什怀^信道的容量，只要編碼足夠復(fù)雜，那么，就總可以找到一種編碼方法，使傳輸?shù)牟铄e率無限地逼近于零。 統(tǒng)計相關(guān)與統(tǒng)計獨立 ? 如果一個隨機變量值增加（或減少），另一個也統(tǒng)計地增加（或減少），則稱這兩個隨機變量統(tǒng)計相關(guān)；否則，稱統(tǒng)計獨立。 信源熵 H(x) 取最大值的條件是統(tǒng)計獨立、符號等概，不滿足獨立條件（即符號間不等概、具有相關(guān)性）時， H(x) 會變小， R才有可能小。 在 《 信息論 》 課程中會有詳細(xì)介紹。 ? 光纖通信、移動通信、衛(wèi)星通信三種通信是目前發(fā)展的主流。 解：信道帶寬 B=，信噪比 S/N=1000 C=Blog2(1+S/N)≈ kHz=R max 此例可以解釋話帶 MODEM的傳輸速率受限問題，如 MODEM不對稱速率。試計算： （ 1）每秒傳送 30個畫面所需的信道容量； （ 2）如果接收機信噪聲比為 30dB，那么傳送彩色圖像所 需的信道帶寬為多少？ 解：每像素信息量 =㏒ 2（ 64 16） =10 bit 每幅圖信息量 =10 3 105bit=3 106bit 信源信息速率 R=30 3 106=9 107bit/s 由 C的定義可知，應(yīng)有 C≥R = 9 107bit 又 S/N=1000 B=C/㏒ 2 （ 1+S/N） ≈ 9MHz 167。 167。 這是著名的香農(nóng)公式， 167。 信息論初步 信道容量：對一切可能的信源概率分布，信道傳輸信息的最高速率。 167。 信息論初步 當(dāng)信源中每個符號等概獨立出現(xiàn)時，信源的熵有最大值 H max =log2 M(bit/符號 )=log2 2k=k (bit/符號 ) 167。 每個符號所含信息量的統(tǒng)計平均值 ， 即平均信息量為： ??ni1又稱它為 信息源的熵 ， 其單位為 bit/符號 。 信息論初步 式中 , k是二進制脈沖數(shù)目，也就是說，傳送每一個 M（ M=2k）進制波形的信息量就等于用二進制脈沖表示該波形所需的脈沖數(shù)目 k。 *進一步，對于離散信源， M個波形等概率（ P=1/M）發(fā)送，每一個波形的出現(xiàn)獨立，即信源是無記憶的，則傳送 M進制波形之一的信息量為： 信息論初步 式中 ， P為每一個波形出現(xiàn)的概率 ， M為傳送的波形數(shù) 。 信息量 I與消息出現(xiàn)的概率 P(x)之間的關(guān)系應(yīng)為 ： 例 2. 設(shè)二進制離散信源 以相等的概率發(fā)送數(shù)字 0或 1，則信源每個輸出符號的信息含量為 可見，傳送等概率的二進制波形之一（ P=1/2）的信息量為 1比特。 a=2時 ， 信息量的單位為比特 (bit)； a=e時 ， 信息量的單位為奈特 (nit)； a=10時 ， 信息量的單位為十進制單位 ， 叫哈特萊 。這里分成兩種情況討論，即 離散信源 —— 產(chǎn)生離散消息的信源； 連續(xù)信源 —— 產(chǎn)生連續(xù)消息的信源； 而可能性可以由消息的統(tǒng)計特性 —— 概率描述。 ? 控制誤碼率有各種措施，如提高發(fā)信功率、合理選擇調(diào)制、解調(diào)方式、最佳接收機設(shè)計、糾錯編碼（信道編碼） 練習(xí) 1. 給定八進制速率 RB=1600B，其信息速率為（ A） 4800b/s （ B
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1