[工程科技]信息論第三章(編輯修改稿)
2025-02-15 12:38 本頁(yè)面
【文章內(nèi)容簡(jiǎn)介】 ): ( .. . ) ( .. . )NNNNkkr r r s s srsa a a b b ba a a b b bpXYa a a b b b??? ? ? ???? ? ? ???????? ? ? ???????????????????NNNNNNsrrrss???????????????212222111211( | )k h h kp? ? ? ? 1 2 1 2( | )h h hN k k k Np b b b a a a?1( | ) { 1 , 2 , , } , { 1 , 2 , , }N NNh i k iip b a k i r h i s?? ? ?? 根據(jù)平均互信息的定義，可得 無(wú)記憶信道的 N次擴(kuò)展信道的平均互信息 ： ( 。 ) ( 。 )NNI I X Y?XY)/()( NNN YXHXH ??)/()( NNN XYHYH ??若信道的輸入隨機(jī)序列為 X= (X1X2…X N)，通過(guò)信道傳輸 ，接收到的隨機(jī)序列為 Y＝ (Y1Y2…Y N)。則分三種情況： ? ① 假若信道是無(wú)記憶的 ，即信道傳遞概率滿足： 則有： 式中 Xi ， Yi是對(duì)應(yīng)第 i 位的隨機(jī)變量。 若信源是無(wú)記憶的，則等式成立。 ???Niii xyPP1)/()/( xy1( 。 ) ( 。 )NiiiI I X Y?? ?XY 直觀分析 ：如果信源有記憶，前面?zhèn)魉偷姆?hào)帶有后面符號(hào)的信息，使得后面?zhèn)魉偷姆?hào)的互信息減少 ② 假若信源是無(wú)記憶的 ，則有： ),(),(1iiNiYXII ???YX),(),(),(1YXNIYXII iiNi?? ??YX其中 Xi和 Yi是隨機(jī)序列 X和 Y中的第 i 位隨機(jī)變量。 直觀分析 ：如果信道有記憶，后面?zhèn)魉偷姆?hào)帶有前面符號(hào)的信息，使得前面?zhèn)魉偷姆?hào)的互信息增加。 ? ③ 若信道和信源都是無(wú)記憶的 ，則： 一般情況下 ，消息序列在離散無(wú)記憶的 N次擴(kuò)展信道中傳輸?shù)男畔⒘浚? I（ X。Y） ? NC 即： CN = N C 。 它表示離散無(wú)記憶信道的 N次擴(kuò)展信道的容量等于原單符號(hào)信道容量的 N倍。 所以，對(duì)于 一般的離散無(wú)記憶信道的 N次擴(kuò)展信道 ， 其 信道容量 是： ( ) ( )1()11m a x ( 。 ) m a x ( 。 ) m a x ( 。 ) iNNiiP X P XiNNi i iPXiiC I I X YI X Y C??????????XY 獨(dú)立并聯(lián)信道及其容量 P58 信 道 1信 道 2信 道 N1X2XNX1YNY2Y一般的獨(dú)立并聯(lián)信道如下圖所示，又稱 并聯(lián)信道 在該信道中，每一個(gè)輸出只與本信道的輸入有關(guān)，因此類似離散無(wú)記憶 的條件，因此有： 1 2 1 21( 。 ) ( 。 )NN N i iiI X X X Y Y Y I X Y?? ?根據(jù)信道容量的定義有： 1 2 1 211m a x ( 。 ) m a x ( 。 ) CNNN N i i iiiC I
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1