電工膠布使用方法ppt課件(編輯修改稿)
2025-02-11 05:05 本頁(yè)面
【文章內(nèi)容簡(jiǎn)介】 擴(kuò)展信道 五、信道容量 六、信源與信道的匹配 信息論與編碼基礎(chǔ) 離散信道 信道模型 信道 X12: ( , , .. ., )rX a a a?Y12: ( , , .. ., )sY b b b?( | )P y x?????????????rsrrssPPPPPPPPPP. . ...... . .. . .212222111211),...2,1(10riPsjij ????信道 X1212( , , . . . , ): ( , , . . . , )NirX X X XX a a a??Y1212( , , . . . , ): ( , , . . . , )NisY Y Y YY b b b??( | )P y x離散無(wú)記憶 N次擴(kuò)展信道模型 信道轉(zhuǎn)移矩陣 ???????????????NNNNNNsrrrss??????????. . ...... . .. . .2122221112111 2 1 2( .. . | .. . )NNk h h h h k k kP b b b a a a? ????Nikh ii abP1)|(其中 信息論與編碼基礎(chǔ) 離散信道 信道模型 BSC的二次擴(kuò)展信道 ??????????????22222222pppppppppppppppppppppppp信息論與編碼基礎(chǔ) 離散信道 平均互信息 a)定義 )|()()。( NNNNN YXHXHYXI ??)|()( NNN XYHYH ??( | )( ) l o g()xyP y xP x yPy? ?NN YXyx , ???( | )( ) l o g()xyP x yP x yPx? ?()( ) l o g( ) ( )xyP x yP x yP x P y? ?bit/Nsign b)性質(zhì) NN YX ,引理 設(shè)信道的輸入輸出分別為 ，其中 ). ..(),. ..( 11 NNNN YYYXXX ?? ，則： ???NiiiNN XYHXYHI1)|()|()僅當(dāng)信道無(wú)記憶時(shí)等式成立。 信息論與編碼基礎(chǔ) 離散信道 平均互信息 1 2 1 1 1( | ) ( | ) ( | ) .. . ( | .. . )N N N N NNNH Y X H Y X H Y Y X H Y Y Y X?? ? ? ?信息論與編碼基礎(chǔ) 離散信道 平均互信息 b)性質(zhì) ????NiiiNN YXHYXH1)|()|()僅當(dāng) ???Niii yxPyxP1)|()|( ??時(shí)成立 信息論與編碼基礎(chǔ) 離散信道 定理 對(duì)于離散無(wú)記憶信道，有 ???NiiiNN YXIYXI1)。()。(平均互信息 ( 。 ) ( ) ( | )N N N N NI X Y H Y H Y X??證明： b)性質(zhì) ???NiiiNN XYHXYH1)|()|(1( ) ( | )NNiiiH Y H Y X??? ?1 1 1( 。 ) ( ) ( | )N N Ni i i i ii i iI X Y H Y H Y X? ? ???? ? ?信息論與編碼基礎(chǔ) 離散信道 例 1 DMC的輸入為 NN XXX ...1?，輸出為 NN YYY ...1?且有 XYXYXYXNN ?????? .. .2211。其中 X的熵為 H, 計(jì)算 )。( NN YXI 和 ??Niii YXI1)。(HYXI NN ?)。( ???Niii NHYXI1)。(信息論與編碼基礎(chǔ) 離散信道 定理 對(duì)于無(wú)記憶信源，則 ???NiiiNN YXIYXI1)。()。(平均互信息 b)性質(zhì) 證明： ( 。 ) ( ) ( | )N N N N NI X Y H X H X Y??1( ) ( | )NNNiiH X H X Y????1 1 1( 。 ) ( ) ( | )N N Ni i i i ii i iI X Y H X H X Y? ? ???? ? ????NiiiNN YXHYXH1)|()|(僅當(dāng) ???Niii yxPyxP1)|()|( ??時(shí)成立 信息論與編碼基礎(chǔ) 離散信道 例 設(shè)無(wú)記憶信源 X的熵為 H， X的 5次擴(kuò)展源為 5X信道為如下面矩陣所示的置換信道 1 2 3 4 5 3 2 5 1 4 計(jì)算 ??51)。(iii YXI )。(55 YXI信息論與編碼基礎(chǔ) 離散信道 總結(jié)： 1）當(dāng)信源無(wú)記憶時(shí) ???NiiiNN YXIYXI1)。()。(2）當(dāng)信道無(wú)記憶時(shí) ???NiiiNN YXIYXI1)。()。(3）當(dāng)信源、信道均無(wú)記憶時(shí) 1( 。 ) ( 。 )NNNiiiI X Y I X Y?? ?信息論與編碼基礎(chǔ) 離散信道 D Q D Q D Q a(t) b0 b1 b2 思考題 假定某信源的符號(hào)集為 A = {0,1}，其中 p0=p1=，則 H(A) = 1。令編碼器 C的符號(hào)集為 B = {0,1,…,7} ，并且假定 B中的元素采用二進(jìn)制形式表示 (b2b1b0)。如果輸入序列為 a(t) = {101001011000001100111011} 并且寄存器的初始值為 b = 5(=101)，求輸出序列。 如果將該編碼器看成一個(gè)信道，請(qǐng)討論該信道的轉(zhuǎn)移特性及平均互信息。 信息論與編碼基礎(chǔ) 離散信道 一、信道模型及分類(lèi) 二、信道疑義度與平均互信息 三、平均互信息的性質(zhì) 四、離散無(wú)記憶的擴(kuò)展信道 五、信道容量 六、信源與信道的匹配 信息論與編碼基礎(chǔ) 離散信道 平均互信息 I(X。Y)代表了接收到每個(gè)輸出符號(hào)后獲 得的關(guān)于 X的平均信息量，又叫做信道
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1