信道編碼定理ppt課件(完整版)
【正文】 對(duì)任意小的數(shù) δ 0，我們總能找到足夠大的 N使全體序列對(duì)的集合能被分成滿(mǎn)足下述條件的集合 G及其補(bǔ)集 Gc： （ 1） （ 2） （ 3）設(shè) 是相互獨(dú)立的隨機(jī)序列對(duì)，但它與 有相同的邊緣分布，即： 則： 1( , ) ( , )N nnnp p x y?? ?xy{ ( , ) }{ ( , ) } 1cP X Y GP X Y G????? ? ?( ( ) )( ( ) )| ( ) | 2| ( ) | ( 1 ) 2N H X YN H X YG X YG X Y????????{ ( , ) ( , ) } ( ) ( )P X Y x y p x p y?? ??[ ( 。 167。 則在碼矢量集合 {C}上對(duì) pe(C)求數(shù)學(xué)期望，得到平均錯(cuò)誤概率為 Ee ( ) ( )p p p? ?CCCe|11 ( ) ( )2MiNRipp?? ??CCC對(duì)于隨機(jī)編碼方法， 不同的輸入消息符號(hào)所產(chǎn)生對(duì)應(yīng)碼字的方法是相同的 ，所以在碼矢量集合上進(jìn)行平均后得到的碼錯(cuò)誤數(shù)學(xué)期望 e|( ) ( )ipp?CCC與 i的取值無(wú)關(guān)，為表示方便起見(jiàn)，令 e|e ( ) ( )ip p p? ?CCC將其代入平均錯(cuò)誤概率表示式，并考慮到 M=2NR，于是得到 E e | ee1111 ( ) ( )22MMiN R N RiiP p p p p??? ? ?? ? ?CCC為了計(jì)算 ，設(shè) y表示發(fā)送碼字 ci時(shí)信道輸出端接收的序列，令事件 Ei表示 ci與接收序列 y構(gòu)成的聯(lián)合典型序列，于是有 e1p{ ( , ) } 1 , 2 ,iiE G i M? ? ?cy同時(shí)令事件 E1c表示發(fā)送第一個(gè)碼字與接收序列不構(gòu)成聯(lián)合典型序列，即 c11{ ( , ) }cEG??cy根據(jù)聯(lián)合典型序列的譯碼方法，當(dāng) y不與碼字 c1構(gòu)成聯(lián)合典型序列，或者是與 c1以外的其他碼字構(gòu)成聯(lián)合典型序列時(shí)，錯(cuò)誤譯碼就出現(xiàn)了，因此 cE 1 2 3e () MP p p E E E E??其中， ∪ 表示事件和。Y)=H(X) – C=maxI(X。以對(duì)稱(chēng)信道為例，此時(shí) C＝ logM – K為平均碼長(zhǎng)， R=H(X)/K – 第一定理： K≥H(X)/logM – R≤logM?R ≤ C ? 將無(wú)失真編碼過(guò)程看成經(jīng)過(guò)一個(gè)信道，只有滿(mǎn)足K≥H(X)/logM，才能滿(mǎn)足第二定理的無(wú)誤傳輸條件RC，即編碼過(guò)程是無(wú)失真的 。 ) 3 ]E2[ ( 。 :信道編碼定理的證明及其物理意義 ? 物理意義： – 通過(guò)編碼可以實(shí)現(xiàn)有噪信道上可靠的信息傳輸 – 有噪信道可靠傳輸?shù)男畔⒙实纳辖缡切诺廊萘緾 – 在碼長(zhǎng)及發(fā)送信息速率一定時(shí)，可以通過(guò)增大信道容量，使錯(cuò)誤概率減小 – 在信道容量及發(fā)送信息速率一定時(shí)，可以通過(guò)增加碼長(zhǎng)，使錯(cuò)誤概率下降 ? 隨機(jī)編碼方法： – 對(duì)每一個(gè)消息 m,(m=0,1,…M 1), 編碼為 xm=(xm1xm2… xmN) 其中： xmi (i=1,2,…N) 是按照輸入字母的概率隨 機(jī)選取，從而得到全部 M=2NR個(gè)碼字，組 成碼矢量 C＝（ x0x2….x M1) ? 隨機(jī)編碼方法產(chǎn)生某一特定碼矢量的概率 P(C)是： 101( ) ( )MNmimiP p x???? ??C167。 ) 3 ]{ ( , ) ( ) } 2{ ( , ) ( ) } ( 1 ) 2N I X YN I X YP X Y G X YP X Y G X Y????????? ???? ? ? ?167。 :信道編碼定理的證明及其物理意義 ? 信道編碼定理 –問(wèn)題： 在有噪信道中，使平均誤碼率 Pe盡可能小的情 況下，可達(dá)到的信息傳輸率是多少？ –答案： 信道容量 C ? 信道編碼定理的證明 –證明思路 –隨機(jī)編碼方法 –聯(lián)合典型序列 ? 信道編碼定理： –設(shè) R是信息傳輸?shù)乃俾剩?C是離散無(wú)記憶信道的信道容量， ε 0是任意小的數(shù)，則只要 RC就總存在碼字長(zhǎng)為 N，碼字?jǐn)?shù)為 M=2NR的分組碼使譯碼的平均差錯(cuò)概率 Peε 。 167。在信道傳輸中如果碼字受干擾而在接收端出現(xiàn)一些偏差，破壞了其約束關(guān)系，收方通過(guò)檢驗(yàn)這種約束關(guān)系來(lái)把錯(cuò)誤識(shí)別或校正出來(lái)，從而保
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1