信道編碼定理ppt課件(參考版)
2025-05-09 03:03本頁(yè)面
【正文】 :信道編碼的性能界限 3 2 1 0 1 2 3 4 5 6 7 8 9 10 11 12 10 6 10 5 10 4 10 3 10 2 10 1 誤 碼 率 p b 信噪比 E b /N 0 (dB) 級(jí)連 級(jí)連 反饋信道不增加容量 ??? 反饋是糾錯(cuò)的最直觀工程方法 ? 無(wú)反饋信道是反饋信道的特例，因此 CFB≥C ?但是，令人驚奇地，反饋不能增加信道的容量 反饋信道容量定理 ?? 定理 : 反饋不增加信道的容量，即 ()m a x ( , )FB pxC C I X Y??。以對(duì)稱信道為例，此時(shí) C＝ logM – K為平均碼長(zhǎng)， R=H(X)/K – 第一定理： K≥H(X)/logM – R≤logM?R ≤ C ? 將無(wú)失真編碼過(guò)程看成經(jīng)過(guò)一個(gè)信道，只有滿足K≥H(X)/logM，才能滿足第二定理的無(wú)誤傳輸條件RC，即編碼過(guò)程是無(wú)失真的 。Y)=H(X) – C=maxI(X。 ? 信道編碼定理證明的幾點(diǎn)說(shuō)明 – 特點(diǎn)： ?香農(nóng)只是證明了碼的 存在性 ，未給出 構(gòu)造方法 – 實(shí)現(xiàn)困難 ?隨機(jī)編碼所得的碼集很大，通過(guò)搜索得到好碼的方法實(shí)際上很難實(shí)現(xiàn)； ?即使找到，碼字也是毫無(wú)結(jié)構(gòu)的，只能采用查表譯碼方法，當(dāng) N很大時(shí)，碼表的存儲(chǔ)量也很難接受 – 香農(nóng)采取的證明方法評(píng)價(jià)： ?不很嚴(yán)格，不是最優(yōu)，但便于理論分析 ?隨機(jī)編碼方法在后來(lái)嚴(yán)格的證明中一直被采用 167。 [ 3 ]2 N C REP ?? ? ? ???如果 RC－ 3δ，則當(dāng) n足夠大時(shí)，有 [ 3 ]2 N C R? ?? ? ? ?于是得到 PE≤2δ 所以，在碼字足夠長(zhǎng)時(shí)，隨機(jī)編碼碼集合中的平均錯(cuò)誤譯碼概率PE2δ，在這些碼中，至少有一個(gè)碼的平均錯(cuò)誤譯碼概率不大于 2δ。 ) 3 ]E2[ ( 。 則在碼矢量集合 {C}上對(duì) pe(C)求數(shù)學(xué)期望，得到平均錯(cuò)誤概率為 Ee ( ) ( )p p p? ?CCCe|11 ( ) ( )2MiNRipp?? ??CCC對(duì)于隨機(jī)編碼方法， 不同的輸入消息符號(hào)所產(chǎn)生對(duì)應(yīng)碼字的方法是相同的 ，所以在碼矢量集合上進(jìn)行平均后得到的碼錯(cuò)誤數(shù)學(xué)期望 e|( ) ( )ipp?CCC與 i的取值無(wú)關(guān)，為表示方便起見(jiàn)，令 e|e ( ) ( )ip p p? ?CCC將其代入平均錯(cuò)誤概率表示式，并考慮到 M=2NR，于是得到 E e | ee1111 ( ) ( )22MMiN R N RiiP p p p p??? ? ?? ? ?CCC為了計(jì)算 ，設(shè) y表示發(fā)送碼字 ci時(shí)信道輸出端接收的序列，令事件 Ei表示 ci與接收序列 y構(gòu)成的聯(lián)合典型序列，于是有 e1p{ ( , ) } 1 , 2 ,iiE G i M? ? ?cy同時(shí)令事件 E1c表示發(fā)送第一個(gè)碼字與接收序列不構(gòu)成聯(lián)合典型序列，即 c11{ ( , ) }cEG??cy根據(jù)聯(lián)合典型序列的譯碼方法，當(dāng) y不與碼字 c1構(gòu)成聯(lián)合典型序列，或者是與 c1以外的其他碼字構(gòu)成聯(lián)合典型序列時(shí)，錯(cuò)誤譯碼就出現(xiàn)了，因此 cE 1 2 3e () MP p p E E E E??其中， ∪ 表示事件和。 2N2NR8 2 1 2 3 32 , 1 6 , 2 , 1 0NRNr N M r? ? ? ?2NRNr?設(shè)碼元數(shù)為 r，則所有可能產(chǎn)生的碼的總數(shù)為： 例， 證明 設(shè)信道容量所對(duì)應(yīng)的信道輸入符號(hào)的最佳分布為 p(x)，以此概率分布為基準(zhǔn)，按照隨機(jī)編碼方法編碼得到碼矢量 C。 :信道編碼定理的證明及其物理意義 ? 所有碼的總數(shù) ? 有了這樣的碼集以后，香農(nóng)不是去計(jì)算某一特定好碼的性能，而是設(shè)法計(jì)算這些碼的平均性能。 :信道編碼定理的證明及其物理意義 ? 物理意義： – 通過(guò)編碼可以實(shí)現(xiàn)有噪信道上可靠的信息傳輸 – 有噪信道可靠傳輸?shù)男畔⒙实纳辖缡切诺廊萘緾 – 在碼長(zhǎng)及發(fā)送信息速率一定時(shí)，可以通過(guò)增大信道容量，使錯(cuò)誤概率減小 – 在信道容量及發(fā)送信息速率一定時(shí)，可以通過(guò)增加碼長(zhǎng)，使錯(cuò)誤概率下降 ? 隨機(jī)編碼方法： – 對(duì)每一個(gè)消息 m,(m=0,1,…M 1), 編碼為 xm=(xm1xm2… xmN) 其中： xmi (i=1,2,…N) 是按照輸入字母的概率隨 機(jī)選取，從而得到全部 M=2NR個(gè)碼字，組 成碼矢量 C＝（ x0x2….x M1) ? 隨機(jī)編碼方法產(chǎn)生某一特定碼矢量的概率 P(C)是： 101(
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1