【正文】
若平均傳輸一個符號所需時間為 t ? 則 Rt= I (X。 / l o gnmjii j iij jp b aI X Y p a p b apb??? ??當信道確定時, p(bj/ai)確定。 2022/2/16 13 信道容量的定義 ? 定理 :給定轉(zhuǎn)移概率矩陣 P后,平均互信息I(X。 ? 概率矢量 Px= [p(a1), p(a2),… p(an)] ? 用 I(Px)表示 I是 Px的函數(shù),則在 I(Px)曲線的上凸點對應的輸入符號概率矢量 Px上, I(Px)取得極大值。 2022/2/16 14 信道容量的定義 ? 信道容量 ? 信道容量 C的單位是信道上每傳送一個符號所能攜帶的比特數(shù),即 比特 /符號 。 ? 如果已知符號傳送周期是 T 秒,信道容量 Ct=C /T,單位為 bit/s或 nat/s。 )ipaC I X Y?? ? ? ? ? ?? ?() 11/m a x / l o ginm jii j ipaij jp b ap a p b apb??? ??? ? ? ?( ) ( )m a x ( 。 ? H(Y/X)=0, H(X/Y)=0, I(X。Y)=log n 1 0 00 1 00 0 1????????輸入符號等概率分布 2022/2/16 18 無干擾離散信道 ?無噪有損信道 ? 多個輸入變成一個輸出。Y)=max H(Y) 2022/2/16 19 無干擾離散信道 ?有噪無損信道 ? 一個輸入對應多個輸出。Y)=max H(X) 2022/2/16 20 對稱 DMC信道 ? 對稱 DMC信道的定義 ? 輸入對稱矩陣 :轉(zhuǎn)移概率矩陣 P的每一行都是第一行的置換(包含同樣元素)。 ? 如果輸入、輸出都對稱,則稱該 DMC為 對稱DMC信道 11113 3 6 611116 6 3 3????????1112 3 61116 2 31113 6 2??????????????????2022/2/16 21 對稱 DMC信道 ? 有擾對稱 DMC信道具有如下性質(zhì): ① 對稱信道的條件熵 H(Y/X)與信道輸入符號的概率分布無關。 ? ? ? ? ? ? ? ?/ / l o g /i j i j iijH Y X p a p b a p b a?? ??? ? ? ?/ l o g /j i j ijp b a p b a?? ? ? ?/ iH Y a?2022/2/16 22 對稱 DMC信道 ③ 當信道輸入符號等概率分布時,對稱DMC信道達到其信道容量。 ) m a x /C I X Y H Y H Y X? ? ?????xxPP? ? ? ?m a x / iH Y H Y a??????xP? ? ? ?m a x / iH Y H Y a??????xP? ?l og / im H Y a??2022/2/16 23 對稱 DMC信道 例:信道轉(zhuǎn)移概率矩陣為 求:信道容量 解: 111111111nnP nnnn???????????????????? ???????????? ?l og / iC n H Y a??l o g 1 , , ,11nH nn?????? ? ???????n=2時,為 BSC信道 ε=0時無差錯,信道容量最大 ε=1/2時,信道容量為 0 2022/2/16 24 對稱 DMC信道 ? 實際通信系統(tǒng)中,信號往往要通過幾個環(huán)節(jié)的傳輸或多步的處理。 ? ? ? ?。I X Z? ? ?。 2022/2/16 25 對稱 DMC信道 例:設有兩個離散 BSC信道,其轉(zhuǎn)移矩陣為 1211PP??????????? ???串聯(lián)信道的轉(zhuǎn)移矩陣為: 1222221111( 1 ) 2 ( 1 )2 ( 1 ) ( 1 )P P P? ? ? ?? ? ? ?? ? ? ?? ? ? ???? ? ? ??? ? ? ? ???? ? ? ???? ? ?? ??? ? ???m為串接信道的個數(shù) 2022/2/16 26 準對稱 DMC信道 ? 如果轉(zhuǎn)移概率矩陣 P的輸入對稱而輸出不對稱,即 P的每一行都包含相同的元素而各列的元素不同,則稱該信道是 準對稱 DMC信道 。 ) m a x /C I X Y H Y H Y X? ? ?????xxPP2022/2/16 27 準對稱 DMC信道 例:已知信道轉(zhuǎn)移矩陣為 求該信道容量。 ? 解: 當輸入符號等概率分布時, 達到信道的容量,即 1 1 1 13 3 6