信道編碼定理ppt課件(已改無錯(cuò)字)
2023-06-06 03:03:47 本頁面
【正文】 則： 1( , ) ( , )N nnnp p x y?? ?xy{ ( , ) }{ ( , ) } 1cP X Y GP X Y G????? ? ?( ( ) )( ( ) )| ( ) | 2| ( ) | ( 1 ) 2N H X YN H X YG X YG X Y????????{ ( , ) ( , ) } ( ) ( )P X Y x y p x p y?? ??[ ( 。 ) 3 ][ ( 。 ) 3 ]{ ( , ) ( ) } 2{ ( , ) ( ) } ( 1 ) 2N I X YN I X YP X Y G X YP X Y G X Y????????? ???? ? ? ?167。 :信道編碼定理的證明及其物理意義 ( , )XY39。39。( , )XY( , )XY1x2xxy3x4x1y 3y 4y2y jy y? 2y??1y??… … … sxx?()2 N H Y 個(gè) 典 型 序 列 y… … … 1x??2x??()2 N H Xx個(gè) 典型 序 列x非 典 型序 列非 典 型 序 列 y5y()2 NH X Y 個(gè)聯(lián) 合 典 型 序 列 (x,y)? 聯(lián)合 AEP定理的解釋： – 兩個(gè)隨機(jī)變量情況下，序列 Xn,Yn及其聯(lián)合序列 XnYn都具有 AEP特性 – 聯(lián)合典型序列對(duì)是高概率序列對(duì) – 聯(lián)合典型序列對(duì)是一些密切關(guān)聯(lián)的序列對(duì) – 一般與 X對(duì)應(yīng)的 Y可能是 Y空間的任一個(gè)，該定理說明：隨N的增大，對(duì)應(yīng) X的 Y只能是（ X,Y)典型序列對(duì)的 Y，取其他 Y的概率 ?0 – 聯(lián)合典型序列數(shù)目為 2NH(XY)， 典型 X,典型 Y隨機(jī)組合的空間為 2N[H(X)+H(Y)]， 聯(lián)合典型序列占其中約 1/ 2NI(X。Y)，只是很小的一部分 故：當(dāng) X的數(shù)目 2NI(X。Y)時(shí)，可使 Pe?0 – 給出一種譯碼方法：譯碼時(shí)，取與接收矢量聯(lián)合典型的碼字作為輸出，這種譯碼方法可以保證得到很低的誤碼率。 167。 :信道編碼定理的證明及其物理意義 Input sequence Output sequence … …… … …… y wi wi+1 2NH(XY) sequences that can map to y M = 2NR code words t h e n 0eNP? ? ?? ?2 N C ReP ???可 證 明167。 :信道編碼定理的證明及其物理意義 ? 物理意義： – 通過編碼可以實(shí)現(xiàn)有噪信道上可靠的信息傳輸 – 有噪信道可靠傳輸?shù)男畔⒙实纳辖缡切诺廊萘緾 – 在碼長(zhǎng)及發(fā)送信息速率一定時(shí)，可以通過增大信道容量，使錯(cuò)誤概率減小 – 在信道容量及發(fā)送信息速率一定時(shí)，可以通過增加碼長(zhǎng)，使錯(cuò)誤概率下降 ? 隨機(jī)編碼方法： – 對(duì)每一個(gè)消息 m,(m=0,1,…M 1), 編碼為 xm=(xm1xm2… xmN) 其中： xmi (i=1,2,…N) 是按照輸入字母的概率隨 機(jī)選取，從而得到全部 M=2NR個(gè)碼字，組 成碼矢量 C＝（ x0x2….x M1) ? 隨機(jī)編碼方法產(chǎn)生某一特定碼矢量的概率 P(C)是： 101( ) ( )MNmimiP p x???? ??C167。 :信道編碼定理的證明及其物理意義 167。 :信道編碼定理的證明及其物理意義 ? 所有碼的總數(shù) ? 有了這樣的碼集以后，香農(nóng)不是去計(jì)算某一特定好碼的性能，而是設(shè)法計(jì)算這些碼的平均性能。 – 碼字?jǐn)?shù) 只占全部可能序列 的一小部分。 2N2NR8 2 1 2 3 32 , 1 6 , 2 , 1 0NRNr N M r? ? ? ?2NRNr?設(shè)碼元數(shù)為 r，則所有可能產(chǎn)生的碼的總數(shù)為： 例， 證明 設(shè)信道容量所對(duì)應(yīng)的信道輸入符號(hào)的最佳分布為 p(x)，以此概率分布為基準(zhǔn)，按照隨機(jī)編碼方法編碼得到碼矢量 C。 假設(shè)輸入消息是等概率分布的，第 i個(gè)碼字出錯(cuò)的概率為 pe|i，則碼矢量 C的譯碼平均錯(cuò)誤概率為 e e | e |111( ) ( ) ( )2MMi i iNRiip p p p??????C C C其中， pi為碼矢量中第 i個(gè)碼字對(duì)應(yīng)的概率。 則在碼矢量集合 {C}上對(duì) pe(C)
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1