離散信道的信道容量-展示頁
2025-05-25 06:45本頁面
【正文】 5章 離散信道的信道容量 第 5章 離散信道的信道容量 內(nèi)容提要 信道對于信息率的容納并不是無限制的，它不僅與物理信道本身的特性有關(guān)，還與信道輸入信號的統(tǒng)計特性有關(guān)，它有一個極限值，即信道容量，信道容量是有關(guān)信道的一個很重要的物理量。這一章研究信道，研究在信道中傳輸?shù)拿總€符號所攜帶的信息量，并定義信道容量。 Y） 達(dá)到最大值 ， 定義這個最大值為 信道容量 ， 記為 C。 Y）達(dá)到信道容量的分布 q (x)為最佳分布。(m a x)( YXIC xq? 離散無記憶信道容量的計算 定理 如果信道是離散無記憶 （ DMC） 的 ， 則 CN ? NC， 其中 C是同一信道傳輸單符號時的信道容量 。 若 （ 1） 輸入的 N個符號統(tǒng)計獨(dú)立 ， 即信源離散無記憶 ,根據(jù) [定理 ]有： ???Niji YXII1)。( YX（ 2）對每個 i,輸入分布 q (xi) 可使 I (Xi。m a x IC qN ?? ? ? ? ? ????Niiixqxq YXIN 1。m a x。m a x 2211 21 ???? ???NiiC1綜合式 (54)和 (55)， 在信源和信道都離散無記憶的情況下 ，有 CN = NC， 即定理中等號成立 ， 這時 N長序列的傳輸問題可歸結(jié)為單符號傳輸問題 。 Y） 達(dá)到信道容量 C的充要條件是信道輸入概率分布 ， 簡記為 q (X) = {q (x1), q (x2), … , q (xM)}滿足： (56) ?????????????)()()()( 2121MMxqxqxqxxxXqX??? ?? ? MixqCYxIxqCYxIiiii ,2,10)(。 ?????????若若介紹幾種無噪信道，對于無噪信道，信道的輸入 X和輸出 Y之間有著確定的關(guān)系，一般有三類：無損信道、確定信道和無損確定信道。 ?????????????????63626100000021210000001P圖 52 無損信道 x1 x2 x3 y1 y2 y3 y5 y6 2/6 1/6 3/6 1/2 1/2 1 y4 2. 根據(jù)定義計算信道容量 C 從上式可看出 ， 求信道容量 C的問題轉(zhuǎn)化為尋找某種分布 q (x) 使信源熵 H（ X） 達(dá)到最大 ， 由極大離散熵定理知道 ， 在信源消息等概分布時 ， 熵值達(dá)到最大 ， 即有 )(m a x)。 Y） = H（ X） H（ X︱ Y），在無噪信道條件下， H（ X︱ Y） = 0，則平均互信息量 I（X。 Y） 達(dá)到信道容量的充要條件式 （ 56） 對 C進(jìn)行驗證： 先根據(jù)計算出 ω(yj)， j =1,2,3,4,5,6 ???31)()()(iijij xypxqy???????????????????????????????????????????????????????????613166315531443133312231111)(616331)()()(916231)()()(1816131)()()(612131)()()(612131)()()(31131)()()(jjiiiiiiiiiiiiiiiiiiyxypxqyxypxqyxypxqyxypxqyxypxqyxypxqy???????滿足3l og31 1l og1)( )(l og)()。(61222 ????? ??j jjj yxypxypYxI?3l og61 63l og6391 62l og62181 61l og61)( )(l og)()。 定義 如果信道轉(zhuǎn)移概率矩陣 P中，每一列元素都是另一列相同元素的不同排列，則稱該信道關(guān)于列（輸出）對稱。 1. 準(zhǔn)對稱信道 【 例 】 信道輸入符號集 X = {x1, x2}，輸出符號集 Y = {y1, y2, y3, y4}，給定信道 轉(zhuǎn)移概率矩陣 ，求該信道的信道容量 C。 Y） = H（ Y） H
畢業(yè)設(shè)計相關(guān)推薦
鄂ICP備17016276號-1