電工膠布使用方法ppt課件-wenkub.com
2025-01-12 05:05 本頁(yè)面
【正文】 令 Y1 = Y2 I(Y1。 信息論與編碼基礎(chǔ) 離散信道 1 , { }0,izmXe l s e??? ??1 , { }10,ikmYe lse??? ??1,20,kzYe lse??? ??i= 0,1,2…, z,k為隨機(jī)變量 X = Y1 XOR Y2 2）如果 I(X。( ???信息論與編碼基礎(chǔ) 離散信道 ?例，某離散無(wú)記憶信源 ???????????????321321161814121)(654321 sssssssPSH(S) = (bit/信源符號(hào) ) C1: 000 001 010 011 100 101 C2: 0000 0001 0010 0011 0100 0101 R1 = H(S)/3 = (bit/信道符號(hào) ) R2 = H(S)/4 = (bit/信道符號(hào) ) C = 1(bit/信道符號(hào) ) 信息論與編碼基礎(chǔ) 離散信道 作業(yè) P56： 1 、 5 、 9 、 10 ?思考題 令 X,Y1,Y2為二進(jìn)制隨機(jī)變量， 1）如果 I(X。 ② 若功率信噪比降為 5dB，要達(dá)到相同的最大信息傳 輸率，信道帶寬應(yīng)是多少。 ))(1l og ( bp sNSBC ??信息論與編碼基礎(chǔ) 離散信道 附：香農(nóng)信道容量公式 香農(nóng)限 l o g ( 1 )SCB N??0l o g ( 1 )tbREBBN????在信道帶寬不受限的情況下 /021/CBbtEN R B??若 B趨近于 ∞，且 Rt趨近于 C，則 /0 m i n21l im l n 2 1 . 6/CBbBEdBN C B???? ?? ? ? ?????在帶寬不受限的高斯白噪聲信道中，只要每赫茲頻帶傳輸一比特信息的信噪比不低于 ，通過(guò)最佳信道編碼，就有可能實(shí)現(xiàn)無(wú)差錯(cuò)的傳輸！這是高斯信道中傳輸信息的極限能力，稱為 香農(nóng)限！ 信息論與編碼基礎(chǔ) 離散信道 1）在圖片傳輸中，每幀約為 106個(gè)像素，為了能很 好地重現(xiàn)圖像，需分 16個(gè)亮度電平，并假設(shè)亮度電平等概 率分布。 ) l o g [ 2 ( ) ] l o g ( 2 )22I X Y e S N e N??? ? ?)/)(1l og (21 樣值bi tNSC ??信息論與編碼基礎(chǔ) 離散信道 附：香農(nóng)信道容量公式 帶限信道的信道容量 對(duì)于帶限信號(hào)，采樣定理指出，若信號(hào)的有效帶寬為 B，采樣頻率為 fs，則當(dāng) fs≥2B時(shí)，樣值序列能夠保留 原連續(xù)信號(hào)全部的頻譜特征，或者說(shuō)全部的信息量。 差熵 ?高斯分布情況 ( ) ( ) l n ( )h X p x p x d x????? ?? ??? ???? dxmxxp ]}2 )(e xp[2 1l n{)( 222 ???? ????? dxxp 22 1ln)( ??? ??? ?? dxmxxp 222)()(?22222ln ???? ??eln21)2l n(21 2 ?? ?? )2l n (21 2?? e?信息論與編碼基礎(chǔ) 離散信道 高斯信道的信道容量 附：香農(nóng)信道容量公式 2( ) : { }m a x ( 。(m a xCC i ?NCC N ?達(dá)到的條件：只有當(dāng)信源無(wú)記憶時(shí)，每一輸入變量 Xi的分布 P(x) 各自達(dá)到最佳分布時(shí)。 ) l o g ( / )PxC I X Y r b it sig n??3）無(wú)噪信道 ()m a x ( 。({m a x )()( s i gnbi trXHYXIC xPxP ???信息論與編碼基礎(chǔ) 離散信道 b、有噪無(wú)損信道 ?????????????????1000000101103530000002121P1a1b2b2a3b4b5b3a6b)/(l og)}({m a x)}。( YXI 的最大值。 ? ??XYxxyPxPxyPxyPxPYXI)|()()|(l o g)|()()。如果輸入序列為 a(t) = {101001011000001100111011} 并且寄存器的初始值為 b = 5(=101)，求輸出序列。(3）當(dāng)信源、信道均無(wú)記憶時(shí) 1( 。(55 YXI信息論與編碼基礎(chǔ) 離散信道 總結(jié)： 1）當(dāng)信源無(wú)記憶時(shí) ???NiiiNN YXIYXI1)。(平均互信息 b)性質(zhì) 證明： ( 。(HYXI NN ?)。 ) ( ) ( | )N N N N NI X Y H Y H Y X??證明： b)性質(zhì) ???NiiiNN XYHXYH1)|()|(1( ) ( | )NNiiiH Y H Y X??? ?1 1 1( 。( NNNNN YXHXHYXI ??)|()( NNN XYHYH ??( | )( ) l o g()xyP y xP x yPy? ?NN YXyx , ???( | )( ) l o g()xyP x yP x yPx? ?()( ) l o g( ) ( )xyP x yP x yP x P y? ?bit/Nsign b)性質(zhì) NN YX ,引理 設(shè)信道的輸入輸出分別為 ，其中 ). ..(),. ..( 11 NNNN YYYXXX ?? ，則： ???NiiiNN XYHXYHI1)|()|()僅當(dāng)信道無(wú)記憶時(shí)等式成立。X3)≤logk。 ) ( ) ( 1 ) ( )I X Y H H H??? ? ?當(dāng) p = 1/2時(shí) ( 。( YXI 是信道轉(zhuǎn)移概率分布 的 ? 型凸函數(shù)。 定理 在信道轉(zhuǎn)移概率 )|( xyP 給定的條件下，平均互信息 )。Y) H(XY) H(X) H(Y) 信息論與編碼基礎(chǔ) 離散信道 )。 ) ( ) l o g()XYP x yI X Y P x yPx? ?()( ) l o g( ) ( )XYP x yP x yP x P y? ?( | )( ) l o g()XYP y xP x yPy? ?( ) ( | )H X H X Y??信息論與編碼基礎(chǔ) 離散信道 損失熵 ( ) ( ) ( )H X H Y H X
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1