信道編碼定理ppt課件(完整版)
【正文】 對任意小的數(shù) δ 0，我們總能找到足夠大的 N使全體序列對的集合能被分成滿足下述條件的集合 G及其補集 Gc： （ 1） （ 2） （ 3）設 是相互獨立的隨機序列對，但它與 有相同的邊緣分布，即： 則： 1( , ) ( , )N nnnp p x y?? ?xy{ ( , ) }{ ( , ) } 1cP X Y GP X Y G????? ? ?( ( ) )( ( ) )| ( ) | 2| ( ) | ( 1 ) 2N H X YN H X YG X YG X Y????????{ ( , ) ( , ) } ( ) ( )P X Y x y p x p y?? ??[ ( 。 167。 則在碼矢量集合 {C}上對 pe(C)求數(shù)學期望，得到平均錯誤概率為 Ee ( ) ( )p p p? ?CCCe|11 ( ) ( )2MiNRipp?? ??CCC對于隨機編碼方法， 不同的輸入消息符號所產(chǎn)生對應碼字的方法是相同的 ，所以在碼矢量集合上進行平均后得到的碼錯誤數(shù)學期望 e|( ) ( )ipp?CCC與 i的取值無關，為表示方便起見，令 e|e ( ) ( )ip p p? ?CCC將其代入平均錯誤概率表示式，并考慮到 M=2NR，于是得到 E e | ee1111 ( ) ( )22MMiN R N RiiP p p p p??? ? ?? ? ?CCC為了計算 ，設 y表示發(fā)送碼字 ci時信道輸出端接收的序列，令事件 Ei表示 ci與接收序列 y構成的聯(lián)合典型序列，于是有 e1p{ ( , ) } 1 , 2 ,iiE G i M? ? ?cy同時令事件 E1c表示發(fā)送第一個碼字與接收序列不構成聯(lián)合典型序列，即 c11{ ( , ) }cEG??cy根據(jù)聯(lián)合典型序列的譯碼方法，當 y不與碼字 c1構成聯(lián)合典型序列，或者是與 c1以外的其他碼字構成聯(lián)合典型序列時，錯誤譯碼就出現(xiàn)了，因此 cE 1 2 3e () MP p p E E E E??其中， ∪ 表示事件和。Y)=H(X) – C=maxI(X。以對稱信道為例，此時 C＝ logM – K為平均碼長， R=H(X)/K – 第一定理： K≥H(X)/logM – R≤logM?R ≤ C ? 將無失真編碼過程看成經(jīng)過一個信道，只有滿足K≥H(X)/logM，才能滿足第二定理的無誤傳輸條件RC，即編碼過程是無失真的 。 ) 3 ]E2[ ( 。 :信道編碼定理的證明及其物理意義 ? 物理意義： – 通過編碼可以實現(xiàn)有噪信道上可靠的信息傳輸 – 有噪信道可靠傳輸?shù)男畔⒙实纳辖缡切诺廊萘緾 – 在碼長及發(fā)送信息速率一定時，可以通過增大信道容量，使錯誤概率減小 – 在信道容量及發(fā)送信息速率一定時，可以通過增加碼長，使錯誤概率下降 ? 隨機編碼方法： – 對每一個消息 m,(m=0,1,…M 1), 編碼為 xm=(xm1xm2… xmN) 其中： xmi (i=1,2,…N) 是按照輸入字母的概率隨 機選取，從而得到全部 M=2NR個碼字，組 成碼矢量 C＝（ x0x2….x M1) ? 隨機編碼方法產(chǎn)生某一特定碼矢量的概率 P(C)是： 101( ) ( )MNmimiP p x???? ??C167。 ) 3 ]{ ( , ) ( ) } 2{ ( , ) ( ) } ( 1 ) 2N I X YN I X YP X Y G X YP X Y G X Y????????? ???? ? ? ?167。 :信道編碼定理的證明及其物理意義 ? 信道編碼定理 –問題： 在有噪信道中，使平均誤碼率 Pe盡可能小的情 況下，可達到的信息傳輸率是多少？ –答案： 信道容量 C ? 信道編碼定理的證明 –證明思路 –隨機編碼方法 –聯(lián)合典型序列 ? 信道編碼定理： –設 R是信息傳輸?shù)乃俾剩?C是離散無記憶信道的信道容量， ε 0是任意小的數(shù)，則只要 RC就總存在碼字長為 N，碼字數(shù)為 M=2NR的分組碼使譯碼的平均差錯概率 Peε 。 167。在信道傳輸中如果碼字受干擾而在接收端出現(xiàn)一些偏差，破壞了其約束關系，收方通過檢驗這種約束關系來把錯誤識別或校正出來，從而保
教學課件相關推薦
鄂ICP備17016276號-1