離散信道的信道容量(已修改)
2025-05-29 06:45 本頁面
【正文】 第 5章 離散信道的信道容量 第 5章 離散信道的信道容量 內(nèi)容提要 信道對于信息率的容納并不是無限制的，它不僅與物理信道本身的特性有關，還與信道輸入信號的統(tǒng)計特性有關，它有一個極限值，即信道容量，信道容量是有關信道的一個很重要的物理量。這一章研究信道，研究在信道中傳輸?shù)拿總€符號所攜帶的信息量，并定義信道容量。 信道容量的定義 信息傳輸率是衡量通信質(zhì)量的一個重要指標 ， 定理：對于固定信道 ， 總存在某種輸入概率分布 q(x)，使 I（ X。 Y） 達到最大值 ， 定義這個最大值為 信道容量 ， 記為 C。 （比特 /碼符號） （ 52） 使 I（ X。 Y）達到信道容量的分布 q (x)為最佳分布。 )。(m a x)( YXIC xq? 離散無記憶信道容量的計算 定理 如果信道是離散無記憶 （ DMC） 的 ， 則 CN ? NC， 其中 C是同一信道傳輸單符號時的信道容量 。 下面一條定理給出了一維信道和 N維信道的信道容量之間的關系。 若 （ 1） 輸入的 N個符號統(tǒng)計獨立 ， 即信源離散無記憶 ,根據(jù) [定理 ]有： ???Niji YXII1)。()。( YX（ 2）對每個 i,輸入分布 q (xi) 可使 I (Xi。 Yj) 達到信道容量 C，則： = = NC CN ? NC (55) ? ? ? ?YXx 。m a x IC qN ?? ? ? ? ? ????Niiixqxq YXIN 1。m a x1 ?? ? ? ? ? ? ? ? ? ? ? ?NNxqxqxq YXIYXIYXI N 。m a x。m a x。m a x 2211 21 ???? ???NiiC1綜合式 (54)和 (55)， 在信源和信道都離散無記憶的情況下 ，有 CN = NC， 即定理中等號成立 ， 這時 N長序列的傳輸問題可歸結(jié)為單符號傳輸問題 。 達到信道容量的充要條件 定理 使平均互信息量 I（ X。 Y） 達到信道容量 C的充要條件是信道輸入概率分布 ， 簡記為 q (X) = {q (x1), q (x2), … , q (xM)}滿足： (56) ?????????????)()()()( 2121MMxqxqxqxxxXqX??? ?? ? MixqCYxIxqCYxIiiii ,2,10)(。0)(。 ?????????若若介紹幾種無噪信道，對于無噪信道，信道的輸入 X和輸出 Y之間有著確定的關系，一般有三類：無損信道、確定信道和無損確定信道。 【 例 】 無損信道 無損信道的輸入符號集元素個數(shù)小于輸出符號集的元素個數(shù)，信道的一個輸入對應多個互不交叉的輸出，如圖 52所示，信道輸入符號集 X ={x1, x2, x3}，輸出符號集 Y ={y1, y2, y3, y4, y5}，其信道轉(zhuǎn)移概率矩陣記為 ，計算該信道的信道容量。 ?????????????????63626100000021210000001P圖 52 無損信道 x1 x2 x3 y1 y2 y3 y5 y6 2/6 1/6 3/6 1/2 1/2 1 y4 2. 根據(jù)定義計算信道容量 C 從上式可看出 ， 求信道容量 C的問題轉(zhuǎn)化為尋找某種分布 q (x) 使信源熵 H（ X） 達到最大 ， 由極大離散熵定理知道 ， 在信源消息等概分布時 ， 熵值達到最大 ， 即有 )(m a x)。(m a x )()( XHYXIC xqxq ??31)()()(321 ??? xqxqxq3l o g)(m a x)( ?? XHC xq1. 先考察平均互信息量 I（ X。 Y） = H（ X） H（ X︱ Y），在無噪信道條件下， H（ X︱ Y） = 0，則平均互信息量 I（X。 Y） = H（ X） 3. 根據(jù)平均互信息量 I（ X。 Y） 達到信道容量的充要條件式 （ 56） 對 C進行驗證： 先根據(jù)計算出 ω(yj)， j =1,2,3,4,5,6 ???31)()()(iijij xypxqy????????????
畢業(yè)設計相關推薦
鄂ICP備17016276號-1