離散信道ppt課件(存儲版)
【正文】 源與信道達到匹配的含義：信源處于最佳輸入分布，使得信息傳輸率 R達到了信道容量 C。還給出了三種特殊信道：無噪無損信道、有噪無損信道、無噪有損信道。 ? 最后是級聯(lián)信道，以及信源和信道的匹配。從信道的統(tǒng)計特性分，信道可以分為恒參信道和隨參信道。 ?令 k = k+1，轉(zhuǎn)向步驟 2。 0 .4 0 .60 .6 0 .40 .5 0 .5P???????????0. 7 0. 2 0. 10. 1 0. 7 0. 2P???????11113 3 6 611116 6 3 3P?????????1 / 2 1 / 3 1 / 61 / 6 1 / 2 1 / 31 / 3 1 / 6 1 / 2P?????????對稱信道的容量 ? 定理 44 若一個離散對稱信道有 r個輸入符號， s個輸出符號，則當輸入為等概分布時，達到信道容量 C，且 C=logsH(p1?p2 ? … ps ?) 式中， p1 ? p2 ? … ps ?為信道矩陣中的任一行。Y)=H(X)H(X|Y)=H(X) ? 因此信道容量 C=maxp(x){I(X。 ) ( ) l o g ( | ) ( ) l o g( ) ( | ) ( )X Y X YXp y x p y xI X Y p x y p y x p xp y p y x p x???? ?信道容量的例子（例 410） ? 信源： 信道： ? 則互信息量： ? 從圖中可以看出，當 ?=1/2時， I(X,Y)取最大值 C=1H(p) 011XP ??? ? ? ??? ? ? ??? ? ? ?ppPpp??? ??????( 。Y)是 p(x)的上凸函數(shù)，稱使 I(X。Z)≤I(X。Z)≤I(X。Y)是信道傳遞概率 p(y|x)的下凸函數(shù)。 I(X。 ? 含義：收到全部輸出符號 Y以后，對輸入符號 X尚存在的平均不確定性。 ? 根據(jù)記憶特性 ? 無記憶信道：信道的輸出僅與當前的輸入有關(guān)，與以前的輸入無關(guān)。 ? 隨參信道：信道的統(tǒng)計特性隨時間發(fā)生變化。 ? p(0|0)=p(1|1)=1p， p(0|1)=p(1|0)=p ? BSC的信道矩陣： a1= 0a2= 1b1= 0b2= 1pp1 p1 pppPpp??????? 信道疑義度和噪聲熵 ? 定義 41 稱輸入空間 X對輸出空間 Y的條件熵 為 信道疑義度 。 ( | ) ( ) l o g ( | )i j i jXYH X Y p x y p x y?? ? 平均互信息 ? 定義 43 原始信源熵與信道疑義度之差稱為平均互信息 。 ?固定信道：信道傳遞概率 p(y|x)不變 ? 定理 42 對于固定的信源分布，平均互信息 I(X。 ? 定理 43 若隨機變量 X,Y,Z構(gòu)成一個馬爾可夫鏈（ p(z|xy)=p(z|y)），則有 I(X。Z)=1H(2p(1p)) ? 從圖中能夠看出 I(X。Y)} ? 由定理 ， I(X。 Y )p ( x )信 道 1 的 容 量信 道 2 的
教學課件相關(guān)推薦
鄂ICP備17016276號-1