信道編碼定理ppt課件-資料下載頁
2025-05-06 03:03本頁面
【正文】 求數(shù)學(xué)期望，得到平均錯誤概率為 Ee ( ) ( )p p p? ?CCCe|11 ( ) ( )2MiNRipp?? ??CCC對于隨機編碼方法， 不同的輸入消息符號所產(chǎn)生對應(yīng)碼字的方法是相同的 ，所以在碼矢量集合上進行平均后得到的碼錯誤數(shù)學(xué)期望 e|( ) ( )ipp?CCC與 i的取值無關(guān)，為表示方便起見，令 e|e ( ) ( )ip p p? ?CCC將其代入平均錯誤概率表示式，并考慮到 M=2NR，于是得到 E e | ee1111 ( ) ( )22MMiN R N RiiP p p p p??? ? ?? ? ?CCC為了計算 ，設(shè) y表示發(fā)送碼字 ci時信道輸出端接收的序列，令事件 Ei表示 ci與接收序列 y構(gòu)成的聯(lián)合典型序列，于是有 e1p{ ( , ) } 1 , 2 ,iiE G i M? ? ?cy同時令事件 E1c表示發(fā)送第一個碼字與接收序列不構(gòu)成聯(lián)合典型序列，即 c11{ ( , ) }cEG??cy根據(jù)聯(lián)合典型序列的譯碼方法，當(dāng) y不與碼字 c1構(gòu)成聯(lián)合典型序列，或者是與 c1以外的其他碼字構(gòu)成聯(lián)合典型序列時，錯誤譯碼就出現(xiàn)了，因此 cE 1 2 3e () MP p p E E E E??其中， ∪ 表示事件和。 根據(jù)概率論可知 ccE 1 2 3 12( ) ( ) ( )MMiiP p E E E E p E p E?? ? ? ?由于接收序列 y對應(yīng)于輸入碼字 c1，與其他碼字之間相互獨立，因此根據(jù)聯(lián)合漸近等同分割定理的性質(zhì) (1)、 (3)，即 p(E1c)≤δ和p(Ei)≤2－ n［ I(X； Y)－ 3δ］ ，得到 [ ( 。 ) 3 ]E2[ ( 。 ) 3 ]2( 2 1 ) 2MN I X YiN R N I X YP ???????????? ? ??由于隨機編碼是按照信道輸入的最佳分布 p(x)進行的，因此有 C=I(X； Y)，在上述證明最后一步用到該公式。 [ 3 ]2 N C REP ?? ? ? ???如果 RC－ 3δ，則當(dāng) n足夠大時，有 [ 3 ]2 N C R? ?? ? ? ?于是得到 PE≤2δ 所以，在碼字足夠長時，隨機編碼碼集合中的平均錯誤譯碼概率PE2δ，在這些碼中，至少有一個碼的平均錯誤譯碼概率不大于 2δ。 令 ε=2δ，即證明了該定理。 ? 信道編碼定理證明的幾點說明 – 特點： ?香農(nóng)只是證明了碼的 存在性 ，未給出 構(gòu)造方法 – 實現(xiàn)困難 ?隨機編碼所得的碼集很大，通過搜索得到好碼的方法實際上很難實現(xiàn)； ?即使找到，碼字也是毫無結(jié)構(gòu)的，只能采用查表譯碼方法，當(dāng) N很大時，碼表的存儲量也很難接受 – 香農(nóng)采取的證明方法評價： ?不很嚴(yán)格，不是最優(yōu)，但便于理論分析 ?隨機編碼方法在后來嚴(yán)格的證明中一直被采用 167。 :信道編碼定理的證明及其物理意義 無失真信源編碼定理的物理意義（ 2） ? 無失真信源編碼定理（香農(nóng)第一定理） ? 又稱為無噪信道編碼定理 – 無噪時， I(X。Y)=H(X) – C=maxI(X。Y),信道輸入為最佳分布時達到。以對稱信道為例，此時 C＝ logM – K為平均碼長， R=H(X)/K – 第一定理： K≥H(X)/logM – R≤logM?R ≤ C ? 將無失真編碼過程看成經(jīng)過一個信道，只有滿足K≥H(X)/logM，才能滿足第二定理的無誤傳輸條件RC，即編碼過程是無失真的 。 ? 香農(nóng)理論極限： RC； 存在編譯碼方法使 Pe?0 給定 Pe；存在編譯碼方法使 R?C ? ?2 N C ReP ???－ 0 1 . 5 9bEN dB? ? ?167。 :信道編碼的性能界限 3 2 1 0 1 2 3 4 5 6 7 8 9 10 11 12 10 6 10 5 10 4 10 3 10 2 10 1 誤 碼 率 p b 信噪比 E b /N 0 (dB) 級連 級連 反饋信道不增加容量 ??? 反饋是糾錯的最直觀工程方法 ? 無反饋信道是反饋信道的特例，因此 CFB≥C ?但是，令人驚奇地，反饋不能增加信道的容量 反饋信道容量定理 ?? 定理 : 反饋不增加信道的容量，即 ()m a x ( , )FB pxC C I X Y??
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1