離散信道ppt課件(參考版)
2025-05-02 02:43本頁面
【正文】 ? 最后是級聯(lián)信道，以及信源和信道的匹配。 ? 從平均互信息引出了信道容量的概念，重點研究了離散無記憶信道的信道容量。衡量信道噪聲大小有兩個指標(biāo)：信道疑義度和噪聲熵。還給出了三種特殊信道：無噪無損信道、有噪無損信道、無噪有損信道。從信道的統(tǒng)計特性分，信道可以分為恒參信道和隨參信道。從輸入和輸出符號的時間特性分，可以分為離散信道、連續(xù)信道和半連續(xù)信道。Y) ? 信源編碼的目的就是通過編碼，改變原始信源的統(tǒng)計特性，使得信道剩余度盡可能小。 信源和信道的匹配 ? 信源與信道達(dá)到匹配的含義：信源處于最佳輸入分布，使得信息傳輸率 R達(dá)到了信道容量 C。 ?令 k = k+1，轉(zhuǎn)向步驟 2。 ?根據(jù)公式（ 423）計算 C(k+1)。 ?根據(jù)公式（ 421）計算 P(k)(xi|yj)。 對稱信道容量的例子 ? 例 ? 這是一個對稱信道 ? 最佳輸入為： ? 信道容量為： C=logsH(p1 ? p2 ? … ps ?)=log3H(1/2,1/3,1/6) 1 / 2 1 / 3 1 / 61 / 6 1 / 2 1 / 31 / 3 1 / 6 1 / 2P?????????111333XP???????1 1 1 1 1 1l o g 3 l o g l o g l o g 0 . 1 2 62 2 3 3 6 6? ? ? ? ? 一般信道的容量 ? 對于一般的離散無記憶信道而言，信道容量的計算比較復(fù)雜，可以用迭代算法實現(xiàn)。 0 .4 0 .60 .6 0 .40 .5 0 .5P???????????0. 7 0. 2 0. 10. 1 0. 7 0. 2P???????11113 3 6 611116 6 3 3P?????????1 / 2 1 / 3 1 / 61 / 6 1 / 2 1 / 31 / 3 1 / 6 1 / 2P?????????對稱信道的容量 ? 定理 44 若一個離散對稱信道有 r個輸入符號， s個輸出符號，則當(dāng)輸入為等概分布時，達(dá)到信道容量 C，且 C=logsH(p1?p2 ? … ps ?) 式中， p1 ? p2 ? … ps ?為信道矩陣中的任一行。 ? 定義 46 信道矩陣的每一列都是其他列的不同排列，則稱此類信道為輸出對稱信道 。Y)=H(Y)H(Y|X)=H(Y) ? 因此信道容量 C=maxp(x){I(X。 ? 由于知道輸出之后，必然能夠確定其對應(yīng)的輸入是什么，因此噪聲熵 H(Y|X)=0。Y)=H(X)H(X|Y)=H(X) ? 因此信道容量 C=maxp(x){I(X。 ? 由于知道輸出之后，必然能夠確定其對應(yīng)的輸入是什么，因此信道疑義度 H(X|Y)=0。Y) =H(X)H(X|Y)=H(X) =H(Y)H(Y|X)=H(Y) ? 因此信道容量 C=maxp(x){I(X。 ? 因此信道疑義度 H(X|Y)=0，噪聲熵 H(Y|X)=0。 ) ( ) l o g ( | ) ( ) l o g( ) ( | ) ( )X Y X YXp y x p y xI X Y p x y p y x p xp y p y x p x???? ?信道容量的例子（例 410） ? 信源：
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1