信息論與編碼課件第三章-文庫(kù)吧資料
2025-05-21 14:13本頁(yè)面
【正文】 ??????????????)()(m ax)]()([m ax)Y。()...。()...。 ? 容量： ? 對(duì) X 進(jìn)行多次測(cè)量，每一次測(cè)量都構(gòu)成一輸入 /輸出信道，則 N 次測(cè)量后 1信道2信道N信道X YNY2Y1Y)(m a x)( XHC xp?)。(21故有時(shí)有當(dāng)信源同時(shí)也為無(wú)記憶道，當(dāng)信道無(wú)記憶時(shí)有積信道可視為多符號(hào)信???????YXYXYXX? 和信道 特點(diǎn)： 1. 隨機(jī)應(yīng)用 N 個(gè)信道中的一個(gè)，構(gòu)成一輸入 /輸出信道。()。()。(m ax)。(m ax)。各分信道彼此獨(dú)立。(m ax)()。()。(信源與信道的匹配 CYXIYXICCYXI)。 )NnnnI I X Y?? ?XY多符號(hào)信道的信道容量 單多單單多多CNCYXINYXI???? )。 )NnnnI I X Y??? ?XY多符號(hào)信道的信道容量 1 2 1 21( | ) ( | ) ( | )NN N n nnq q y y y x x x q y x??? ?yx（ 2）信源、信道均無(wú)記憶： 1 1 1( ) ( ) ( | ) ( ) ( | ) ( )N N Nn n n nn n np p q p x q y x p y? ? ?? ? ??? ? ? ?xxy x y x1( ) ( )NnnH H Y??? ?Y1( 。 ) ( ) ( | )I H H??X Y Y Y X1 2 1 3 1 2 1 2 11( ) ( ) ( | ) ( | ) ( | ) ( )NN N nnH H Y H Y Y H Y Y Y H Y Y Y Y H Y??? ? ? ? ? ? ?Y1 2 1 2,1 1( | ) ( ) l o g ( | ) ( | )N NN N n n n nnnH p x x x y y y q y x H Y X????? ? ??????? ?xyYX1( 。 ) ( 。 ) ( ) ( | )I H H??X Y Y Y X（ 1）信道 無(wú)記憶 ： 證明： 1 2 1 21( 。 ) ( 。 達(dá)到信道容量時(shí)輸入、輸出概率分布的 唯一性 數(shù)學(xué)模型： NNx...xxxX...XXX2121??NNy...yyyY...YYY2121??)xy(q}.b,...,b,b{B},a,...,a,a{AN,...,iYXJKii212121??? 分別取值于集合，與多符號(hào)信道的信道容量 1 2 1 21( 。(m ax41)(bi tppYXICjjijixp ???? ??0)()(,21)()( 4231 ???? apapapap?????????????2/1002/12/12/10002/12/10002/12/1P結(jié)論： （ 1） 輸入概率分布的解不唯一，輸出概率分布 的解唯一。道，故輸入分布為等概對(duì)稱信道必是準(zhǔn)對(duì)稱信特殊 DMC的信道容量 例：對(duì)稱信道 ?????????ppppP11)(1)]1l o g()1(l o g[1)1l o g()1(l o g2l o g)(l o g)(l o g1pHppppppppabpabpmCmjijij??????????????? ??? 強(qiáng)對(duì)稱信道（均勻信道）定義：信道輸入、輸出符號(hào)個(gè)數(shù)相同，且信道矩陣為 101......11...............1......111......11?????????????????????????????? ppKpKpKppKpKpKppP)()1l o g (l o g pHKpKC ????特殊 DMC的信道容量 當(dāng)信道轉(zhuǎn)移概率矩陣 P是非奇異時(shí)（此時(shí) n = m），即逆矩陣 P 1存在時(shí)，該信道被稱為可逆矩陣信道。( *對(duì)稱信道的信道容量計(jì)算 特殊 DMC的信道容量 為等概分布。(準(zhǔn)對(duì)稱信道的信道容量計(jì)算 特殊 DMC的信道容量 符號(hào)b i t /l l l )()(l og)()。 特殊 DMC的信道容量 特殊 DMC的信道容量 定理 ：對(duì)于準(zhǔn)對(duì)稱信道，達(dá)到信道容量的輸入分布為等概分布。(0)|(0)|(1)()(????????有且僅有一個(gè)非零元素信道轉(zhuǎn)移矩陣的每一行 ? 對(duì)稱信道定義：信道轉(zhuǎn)移矩陣 P中所有的行都是同一組元素的不同排列，所有的列也是同一組元素的不同排列。(0)|(0)|()()(????????有且僅有一個(gè)非零元素信道轉(zhuǎn)移矩陣的每一列3. 無(wú)噪有損信道 特殊 DMC的信道容量 a1 b1 a2 a6 b2 b3 1 1 1 a5 a4 a3 mYHYXICYHXYHHYXIXYHYXHxpxpl o g)(m a x)。(0)|(0)|(I)()(?????????陣，即信道轉(zhuǎn)移矩陣為單位矩a1 b1 a2 an b2 bn 1 1 1 ? ? ?2. 有噪無(wú)損信道 特殊 DMC的信道容量 b1 a1 b2 b6 a2 a3 1/2 1/2 1/2 b5 b4 b3 1 1/3 1/6 nXHYXICXHYXHXHYXIXYHYXHxpxpl og)(m ax)。0(21????? ??YxIbpbpbpYxIj jjj離散無(wú)記憶信道的信道容量 1. 無(wú)噪無(wú)損信道 特殊 DMC的信道容量 ? ?nXHYXICXHYXHXHYXIXYHYXHPxpxpl o g)(m a
畢業(yè)設(shè)計(jì)相關(guān)推薦
鄂ICP備17016276號(hào)-1