[工程科技]信息論第三章(參考版)
2025-01-22 12:38本頁面
【正文】 Z)=1H[2? (1?)] 0 0 . 5 100 . 20 . 40 . 60 . 81m = 1 m = 2 m = 3 作 業(yè)： 看一下第 4章 。 ? ? 1 2 3 4 5 612000 001 010 011 100 101000 0 000 1 001 0 001 1 010 0 010 1x x x x x xCC1C對于碼 1() 0 . 6 4 63HXR ?? (比特 /信道符號 ) 2() 0 . 4 8 44HXR ??2C對于碼 (比特 /信道符號 ) 補充： ? 設(shè)有兩個離散 BSC信道串接 ， 兩個 BSC信道的轉(zhuǎn)移矩陣如下 ， 求信道容量 ??????????????1121 PP1222221111( 1 ) 2 ( 1 )2 ( 1 ) ( 1 )? ? ? ?? ? ? ?? ? ? ?? ? ? ???? ? ? ??? ? ? ? ???? ? ? ???? ? ?? ??? ? ???P P P二個 BSC信道串聯(lián)后的總信道矩陣為： ?平均互信息： I(X。 ∵ 對 二元離散信道的信道容量 為： C＝ 1(比特 /信道符號 ) 又 ∵ 本信源的信息熵為 H(X)＝ (比特 /信源符號 ) ∴ H(X) C（直接傳輸，將丟失大量信息） 解決方案： 要使信源在此二元信道中進行傳輸，必須對 X進行二元編碼。 ? 因此引入問題： 在一般通信系統(tǒng)中，如何將信源發(fā)出的消息 (符號 )轉(zhuǎn)換成適合信道傳輸?shù)姆?(信號 )從而達到信源與信道的匹配。Y)＝ H(X)，因而 ： 無損 信 道 的相對 剩余度 = rXHlog)(1 ?? 上式說明提高無損信道信息傳輸率就等于減少信源的剩余度。 在無損 信 道中， 信 道容量 C＝ logr (r是信道輸入符號數(shù) )。(?★ 表示信道的 信道容量 和 實際傳信率 之差。 信道剩余度定義為： （ 1）信道剩余度 = )。如果一旦某一過程中丟失一些信息，以后的系統(tǒng)不管如何處理，都不可能恢復(fù)已經(jīng)丟失的信息。也就是說，對接收到的數(shù)據(jù) Y 進行處理后，無論 Z 和 Y 是確定的還是概率的關(guān)系，都不會減少 X 的不確定性。 ( , ) ( , )( , ) ( , )I X Y Z I Y ZI X Y Z I X Z??( | ) ( | ) ( | ) ( | )P z x y P z yor P z x y P z x??當 且 僅 當?shù)?號 成 立? 一般的串聯(lián)信道中，隨機變量 Z 往往只依賴于信道 II 的輸入 Y，不直接與變量 X 發(fā)生關(guān)系，也就是說通過隨機變量 Y 而依賴于 X，因此串聯(lián)的輸入輸出可以組成一個馬爾可夫鏈，并有下面的數(shù)據(jù)定理。 串聯(lián)信道容量及數(shù)據(jù)處理定理 P59 ? 串聯(lián)信道示意圖 信 道 1X Y信 道 2Z對于離散信道 I，輸入變量為 X，取值 {a1a2… as}，輸出變量為 Y，取值 {b1b2… br}，離散信道 II 的輸入變量為 Y，輸出變量為 Z，取值 {c1c2… ct} 信道 I的傳遞概率是 信道 II的傳遞概率是： 串聯(lián)等價信道
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1