[工程科技]信息論第三章-文庫吧
2025-01-04 12:38 本頁面
【正文】 的列因素之和。 ?可以證明達(dá)到準(zhǔn)對稱信道信道容量的輸入分布是等概的，信道容量的計(jì)算如下（和對稱信道相比作了一點(diǎn)修正）： 121l o g ( 39。, 39。, . . . , 39。) l o g ( / )ns k kkC r H p p p N M b it s y m b o l?? ? ? ?1239。, 39。, ..., 39。sp p p開始學(xué)習(xí)新內(nèi)容 一般離散無記憶信道容量 P52 ■ 信道容量 ■ 約束條件： ■ 求信道容量轉(zhuǎn)化為求 對信源概率 分布 的條件極值。 ? ?()m a x ( 。 )PXC I X Y?( 。 )I X Y()PX( ) 1iipx ??( ) 0 , 1 , 2 , ,ip x i r??解： 引入輔助函數(shù) ? ???? ????? ????? ??????????rii = 1iirii = 1F= I ( X 。 Y ) λ p ( x ) 1 = 0 , ( i = 1 , . . , r )p ( x ) p ( x )p ( x ) 1??????? 為 數(shù)rii = 1F = I ( X 。 Y ) λ p ( x ) 1 （ λ 待 定 系 ）解： 引入輔助函數(shù) (拉格朗日乘子法 ) ■ 求信道容量，實(shí)際上是在約束條件下求多元函數(shù)極值問題。通常情況下，計(jì)算量非常大。 定理 I(X。Y) 達(dá)到信道容量的充要條件是輸入分布 p(xi) 滿足以下充要條件： ① p(xi) ≠0 時(shí) I(xi。Y) ＝ C ② p(xi) = 0 時(shí) I(xi。Y) ≤C ? ? ( | )。 ( | ) l o g ()jii j ij jp y xI x Y p y xpy? ? 某些特殊矩陣可以利用這個(gè)方法可以推導(dǎo)得到 C。 下面介紹一般離散信道 I(X。Y) 達(dá)到信道容量大的的充要條件： 離散序列信道及其容量 一般離散無記憶信道的 N次擴(kuò)展信道 ),(),(1iiNiYXII ???YX離散無記憶信道的 N 次擴(kuò)展 信道 離散無記憶信道 ( DMC， Discrete Memoryless Channel) 的 N次擴(kuò)展，其 傳遞概率滿足 ： 仍可用 [X， P( y | x )， Y] 概率空間來描述。 ★ 設(shè)離散無記憶信道的 輸入符號集 A＝ {a1， … ， ar}， 輸出符號集 B＝ {b1 ， … ， bs}，信道矩陣為 : ????sjijij pp1101 2 1 21( | ) ( ... | ... ) ( | )NN N j iiP P y y y x x x P y x??? ?yx?????????????rsrrsspppppppppP. . .:. . .::. . .. . .212222111211則此無記憶信道的 N次擴(kuò)展信道 的 數(shù)學(xué)模型 如圖所示 : 而 信道矩陣 ： 其中： 1 1 1 1 1 1 1 11 1 2 2 2 1 1 2( .. . ) ( .. . )( .. . ) ( .. . )( |
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1