【正文】 ? ? ? ?// Lp p xX yY ?2022/2/16 33 離散序列信道及其容量 ? ? ? ? ? ? ? ?? ?? ?? ? ? ? ? ?? ?? ?/。 解：設輸入符號概率為 p(a1)=α， p(a2)=1－ α 聯(lián)合概率矩陣 0 . 5 0 . 3 0 . 20 . 3 0 . 5 0 . 2??????? ? ? ? ? ?0 . 5 0 . 3 0 . 20 . 3 1 0 . 5 1 0 . 2 1? ? ?? ? ?????? ? ???? ?? ?? ?1230. 3 0. 20. 5 0. 20. 2pbpbpb???????? ? 0HY?? ??12? ?? ? ? ?/ 0. 03 6 /iC H Y H Y a bit? ? ? 符 號輸入符號等概率分布時，準對稱 DMC信道達到其信道容量 C 2022/2/16 28 ? ? ? ?12 12p a p a??準對稱 DMC信道 ? 例： 設信道轉(zhuǎn)移概率矩陣為： 求該信道的容量。若將這些傳輸和處理看成信道，則串接成為一個串聯(lián)信道。 ? H(Y/X) ≠ 0， H(X/Y)=0， H(X)＜ H(Y) ? C=max I(X。 ()m a x ( 。互信息是關(guān)于 p(ai)的函數(shù)。 ? 有干擾有記憶信道 ? 一般情況下，信道存在碼間干擾，輸入信號不但與當前輸入信號有關(guān)，還與以前的輸入信號有關(guān)。 ? 突發(fā)差錯信道： 指噪聲、干擾的影響是前后相關(guān)的，錯誤成串出現(xiàn)，如脈沖干擾或閃電等。 ? 信道研究方法 ? 抽象地將信道問題歸結(jié)為輸入、輸出和轉(zhuǎn)移概率矩陣三個要素來描述。信息論不研究信號在信道中傳輸?shù)奈锢磉^程。 4. 按信道中的噪聲種類來劃分 ? 隨機差錯信道 ： 指噪聲隨機地影響每個傳輸碼元，如以高斯白噪聲為主體的信道。 ? 信道的輸入 X=(X1, X2,…, Xi,…) ? 輸入符號集： Xi={a1, a2,…, an} ? 信道的輸出 Y=(Y1,Y2,…, Yj,…) ? 輸出符號集： Yj={b1, b2,…, bm} 信 道 輸入 X 輸出 Y p(Y/X) 2022/2/16 7 根據(jù)干擾和記憶性分類 ? 無干擾（無噪聲）信道 ? 信道的輸出信號 Y與輸入信號 X之間有確定的關(guān)系 Y=f (X) ? 有干擾無記憶信道 ? 每個輸出信號只與當前輸入信號之間有轉(zhuǎn)移概率關(guān)系，與其他時刻的輸入（出）信號無關(guān)。 / l o gnmjii j iij jp b aI X Y p a p b apb??? ??當信道確定時， p(bj/ai)確定。 ? 如果已知符號傳送周期是 T 秒，信道容量 Ct=C /T，單位為 bit/s或 nat/s。Y)=max H(Y) 2022/2/16 19 無干擾離散信道 ?有噪無損信道 ? 一個輸入對應多個輸出。 ) m a x /C I X Y H Y H Y X? ? ?????xxPP? ? ? ?m a x / iH Y H Y a??????xP? ? ? ?m a x / iH Y H Y a??????xP? ?l og / im H Y a??2022/2/16 23 對稱 DMC信道 例：信道轉(zhuǎn)移概率矩陣為 求：信道容量 解： 111111111nnP nnnn???????????????????? ???????????? ?l og / iC n H Y a??l o g 1 , , ,11nH nn?????? ? ???????n=2時，為 BSC信道 ε=0時無差錯，信道容量最大 ε=1/2時，信道容量為 0 2022/2/16 24 對稱 DMC信道 ? 實際通信系統(tǒng)中，信號往往要通過幾個環(huán)節(jié)的傳輸或多步的處理。 ) m a x /C I X Y H Y H Y X? ? ?????xxPP2022/2/16 27 準對稱 DMC信道 例：已知信道轉(zhuǎn)移矩陣為 求該信道容量。Y)≤C，對于所有滿足 p(ai)＝ 0條件的 i 此結(jié)論只給出了達到信道容量 C 時輸入符號概率分布的充要條件，并未給出具體值，所以 C 沒有具體可求的公式。 ? ? ? ? ? ? ? ? ? ?m a x 。但到一定階段后，增加變得緩慢。 ? 當信源與信道連接時，信息傳輸率達到了信道容量，則稱此信源與信道達到 匹配 ；否則認為信道有 冗余 。 信源的信息熵： H(X)= bit/信源符號 C1 00 01 10 11 C2 000 001 010 011 R1=H(X)/2= bit/信道符號＜ C R2=H(X)/3= bit/信道符號＜ C 信道的信息傳輸率：