【正文】
Y X??12( ) ( , , .. ., )sH Y H p p p? ? ???? 信息論與編碼基礎(chǔ) 離散信道 例 1 ???????????????????????????prprprpprprprpp1. . .11....1. . .111. . .11強(qiáng)對(duì)稱信道 信息論與編碼基礎(chǔ) 離散信道 離散無記憶 N次擴(kuò)展信道的信道容量 ????NiiixPNNxPN YXIYXIC1)()()。(m a xCC i ?NCC N ?達(dá)到的條件:只有當(dāng)信源無記憶時(shí),每一輸入變量 Xi的分布 P(x) 各自達(dá)到最佳分布時(shí)。那么此時(shí)的容量如何? 信息論與編碼基礎(chǔ) 離散信道 附:香農(nóng)信道容量公式 連續(xù)消息的信息度量 1)(,)( ),()( ?????????????? ? ba dxxpxp baxPX1)(,)()( ?????????????? ? ??? dxxpxpRxPX( ) ( ) l o g ( ( ) )iixH X p x x p x x? ? ? ? ? ? ??0??x( ) ( ) l o g ( ) ( ) l o gH X p x p x d x p x x d x??? ? ? ?? ? ? ???連續(xù)信源的可能取值數(shù)是無限多個(gè),若設(shè)取值是等概 率分布,那么,信源的不確定為無限大。 差熵 ?高斯分布情況 ( ) ( ) l n ( )h X p x p x d x????? ?? ??? ???? dxmxxp ]}2 )(e xp[2 1l n{)( 222 ???? ????? dxxp 22 1ln)( ??? ??? ?? dxmxxp 222)()(?22222ln ???? ??eln21)2l n(21 2 ?? ?? )2l n (21 2?? e?信息論與編碼基礎(chǔ) 離散信道 高斯信道的信道容量 附:香農(nóng)信道容量公式 2( ) : { }m a x ( 。Y) = h(Y) – h(Y|X) = h(Y) h(n) xi yi zi xi:樣值,正態(tài)分布 yi:樣值,正態(tài)分布 yi = xi + zi:正態(tài)分布 xi、 zi統(tǒng)計(jì)獨(dú)立 高斯信道 通信模型 高斯信道的信道容量 附:香農(nóng)信道容量公式 信息論與編碼基礎(chǔ) 離散信道 信道的輸出功率為 E{y2} = E{( x + z )2} = E{x2} + 0 + E{z2} = S + N 根據(jù)最大熵定理 平均功率受限條件下信源的最大熵定理 若某信源輸出信號(hào)的平均功率和均值被限定,則當(dāng) 其輸出信號(hào)幅度的概率密度函數(shù) p(x)是高斯分布時(shí), 信源達(dá)到最大熵值。 ) l o g [ 2 ( ) ] l o g ( 2 )22I X Y e S N e N??? ? ?)/)(1l og (21 樣值bi tNSC ??信息論與編碼基礎(chǔ) 離散信道 附:香農(nóng)信道容量公式 帶限信道的信道容量 對(duì)于帶限信號(hào),采樣定理指出,若信號(hào)的有效帶寬為 B,采樣頻率為 fs,則當(dāng) fs≥2B時(shí),樣值序列能夠保留 原連續(xù)信號(hào)全部的頻譜特征,或者說全部的信息量。 C不變, B增加, S減小, 擴(kuò)頻通信 C不變, B減小, S增加, 多相位調(diào)制 信息論與編碼基礎(chǔ) 離散信道 附:香農(nóng)信道容量公式 香農(nóng)公式的意義 是否可以用無限制地加大信號(hào)有效帶寬的方法來減小發(fā)射功率,或在任意低的信噪比情況下仍能實(shí)現(xiàn)可靠通信呢? 000l o g 1NB SSCS N B N?? ??? ? ??? ??????00 ogl i mNSNSeCB?????信號(hào)有效帶寬與發(fā)射功率互換的有效性問題。 ))(1l og ( bp sNSBC ??信息論與編碼基礎(chǔ) 離散信道 附:香農(nóng)信道容量公式 香農(nóng)限 l o g ( 1 )SCB N??0l o g ( 1 )tbREBBN????在信道帶寬不受限的情況下 /021/CBbtEN R B??若 B趨近于 ∞,且 Rt趨近于 C,則 /0 m i n21l im l n 2 1 . 6/CBbBEdBN C B???? ?? ? ? ?????在帶寬不受限的高斯白噪聲信道中,只要每赫茲頻帶傳輸一比特信息的信噪比不低于 ,通過最佳信道編碼,就有可能實(shí)現(xiàn)無差錯(cuò)的傳輸!這是高斯信道中傳輸信息的極限能力,稱為 香農(nóng)限! 信息論與編碼基礎(chǔ) 離散信道 1)在圖片傳輸中,每幀約為 106個(gè)像素,為了能很 好地重現(xiàn)圖像,需分 16個(gè)亮度電平,并假設(shè)亮度電平等概 率分布。 練習(xí) 2)設(shè)在平均功率受限高斯可加波形信道中,信道帶寬為 3kHz,又設(shè)(信號(hào)功率 + 噪聲功率) /噪聲功率 = 10dB。 ② 若功率信噪比降為 5dB,要達(dá)到相同的最大信息傳 輸率,信道帶寬應(yīng)是多少。 信道 剩余 ?信源剩余度 011l o gHHrHq??? ? ? ??信道剩余度 CYXICYXIC )。( ???信息論與編碼基礎(chǔ) 離散信道 ?例,某離散無記憶信源 ???????????????321321161814121)(654321 sssssssPSH(S) = (bit/信源符號(hào) ) C1: 000 001 010 011 100 101 C2: 0000 0001 0010 0011 0100 0101 R1 = H(S)/3 = (bit/信道符號(hào) ) R2 = H(S)/4 = (bit/信道符號(hào) ) C = 1(bit/信道符號(hào) ) 信息論與編碼基礎(chǔ) 離散信道 作業(yè) P56: 1 、 5 、 9 、 10 ?思考題 令 X,Y1,Y2為二進(jìn)制隨機(jī)變量, 1)如果 I(X。 Y2) = 0,可否推出 I(X。 信息論與編碼基礎(chǔ) 離散信道 1 , { }0,izmXe l s e??? ??1 , { }10,ikmYe lse??? ??1,20,kzYe lse??? ??i= 0,1,2…, z,k為隨機(jī)變量 X = Y1 XOR Y2 2)如果 I(X。 Y2) = 0,是否可推出 I(Y1。 令 Y1 = Y2 I(Y1