【正文】 二進制對稱信道，其輸入符號集為 X=｛ 0,1｝ ,輸出符號 集為 Y=｛ 0,1｝，則可構成 rs=22=4種譯碼規(guī)則。為了增加一個編碼方案的糾錯能力，必須引入更多的冗余度。 混合差錯 第 5章 信道編碼原理 2）信道編碼分類： 糾獨立隨機差錯碼、糾突發(fā)差錯碼和糾混合差錯碼。 1。 可見，這些轉移概率滿足 ???)(211jj abp 1)(212 ???jj abp第 5章 信道編碼原理 圖 5－ 2 二元對稱信道轉移圖 第 5章 信道編碼原理 【 例 5－ 2】 二元刪除信道簡記為BEC(BinaryErasureChannel)， 它的輸入 X取值于 {0， 1}，輸出符號 Y取值于 {0， 2， 1}，因 r=2， s=3，則信道轉移矩陣為 ?????????qqppP 0110100 2 1 信道轉移圖如圖所示 第 5章 信道編碼原理 設基本離散信道的輸入符號集為 X=｛ a1,a2,…, ar｝，輸出符號集為 Y=｛ b1,b2,…, bs｝，傳遞概率為 p(Y|X)=p(bj|ai)；又設多符號離散平穩(wěn)信源 X=X1X2… XN其每一時刻的隨機變量 Xk(k=1,2,…, N)均取自信道的輸入符號集 X=｛ a1,a2,…, ar｝ ,可知信源 X=X１ X2… Xn共有 rN種不同的消息，某一具體的消息可表示為 iNiii aaa . . .21??（ 5－ 3） 式中： ai1,ai2,…, aiN∈ X=｛ a1,a2,…, ar｝； i1， i2， … ， iN=1， 2， … ， r(i=1,2,…, rN)。j=1,2,…, s) 為 信道的傳遞概率 注： 符號集 X和 Y之間可完全相同、部分相同或完全不同。第 5章 信道編碼原理 第 5章 信道編碼原理 信道及其數(shù)學模型 信道編碼的基本概念 譯碼準則 編碼原則 抗干擾信道編碼定理及逆定理 第 5章 信道編碼原理 信道及其數(shù)學模型 ? 有噪聲信道編碼的主要目的是提高傳輸可靠性，增加抗干擾能力，因此也稱為 糾錯編碼 或 抗干擾 編碼 。 符號種數(shù) r和 s可相等，也可不等。 2. 離散無記憶擴展信道 基本離散信道的 N次擴展信道： 第 5章 信道編碼原理 圖 5－ 4 N次擴展信道 第 5章 信道編碼原理 輸出的隨機變量序列 Y=Y1Y2… YN共有 sN種不同的消息，其中某一具體的消息可表示為 jNjjj bbb . . .21??式中： ? ?sjNjj bbbYbbb , . . . , . . . , 2121 ??j1， j2， … ， jN=1， 2， … ， s (j=1,2,…, sN)。1,0 ???? pppp第 5章 信道編碼原理 解： 二次擴展信道的信道矩陣為 22422322222143211110010011100100ppppppppppppppppppppppppP?????????????????注： 離散無記憶信道的二次擴展信道同樣也是對稱信道。 3）信道編碼的基本思路： 根據(jù)一定的規(guī)律在待發(fā)送的信息碼中加入一些多余的碼元，以保證傳輸過程的可靠性。但增加的冗余度會造成實際信息傳輸速率的降低。 譯碼規(guī)則 (1)： F(0)=0,F(1)=0 譯碼規(guī)則 (2)： F(0)=0,F(1)=1 譯碼規(guī)則 (3)： F(0)=1,F(1)=0 譯碼規(guī)則 (4)： F(0)=1， F(1)=1 第 5章 信道編碼原理 例： 若已知二進制對稱信道傳遞矩陣為 414314341010?P 其信源符號 “ 0”和 “ 1”的正確傳遞概率均為 p=1/4； “ 0”和 “ 1”的錯誤傳遞概率均為 p＝ 3／ 4。 第 5章 信道編碼原理 描述了平均錯誤譯碼概率 Pe與信道疑義度 H(X|Y)的內在聯(lián)系，即 H(X︱ Y) ≤ H(Pe)十 Pe1oga(r1) 費諾不等式 第 5章 信道編碼原理 （ 2） 費諾不等式表明，在收到信道輸出隨機變量后，對輸 入隨機變量仍然存在的平均不確定性 H(X|Y)由兩部分 組成： 第一部分 是收到輸出隨機變量后，按選擇的譯 碼規(guī)則譯碼時，是否產生錯誤譯碼的平均不確定性 H(Pe)； 第二部分 是當平均錯誤譯碼概率為 Pe時，到底 是哪一個信源符號被錯誤譯碼的最大平均不確定性 Pe1oga(r1)。j=1,2,… ,s)中的最大者，則可把接收符號 bj(j=1,2,… ,s)翻譯成 a*。 第 5章 信道編碼原理 【 例 5－ 4】 設某信道的信道矩陣為 321321aaabbbP ?(1) 若信道輸入符號321, aaa 的概率為 p （ a1 ） =53 ，51)()(32?? apap , 試選擇譯碼規(guī)則，使其平均錯誤譯碼概率eP 達到最小值m i neP , 并計算m i neP 值 ? (2) 若信道輸入符號321, aaa 先 驗 等 概 ， 即 有31)()()(321??? apapap , 試 選擇譯碼規(guī)則，使其平均錯誤譯碼概率eP 達到最小值m i neP , 并計算m i neP 值 ? 第 5章 信道編碼原理 解： (1) 因信道輸入符號非先驗等概，故只能采用最大后驗概率準則選擇譯碼規(guī)則。顯然，不符合信息傳輸可靠性要求。當 M=2， N分別為 11時 ,碼率 R分別為 1/ 1/ 1/11。對 βj(j=1,2,…,2 N)來說，若有 ? ? ? ?),(),(),(),(* )()( jjijj dNdijdNadj pppppp??????? ???? ?? ??? ??即 ? ? ? ?),(),(),(),( jjijj dNddNad pppp ??????? ?? ???(i=1,2,… ,M。 （ 3）信道編碼的任務 ：保持碼率 R在一定水平 (保持 M和 N不變 )的前提下，采用正確的方法選擇 M個碼字，使最小平均錯誤譯碼概率 Pe min盡量小。 第 5章 信道編碼原理 定理 5－ 2 抗干擾信道編碼定理的逆定理 設某信道有 r個輸入符號， s個輸出符號，信道容量為 C。 第 5章 信道編碼原理 注： （ 1） 逆定理指出：要使信道的信息傳輸率超過信息容量 C，而又要求無錯誤地傳輸消息，這是不可能的。 若令 dmin(αk,αh)k≠h表示M個碼字中任何兩個不同的碼字 (αk, αh)之間的最小漢明距離，即 ? ?),(m i n),(m i n hkhkhkhk dd ???? ?? ?（ 5－ 40） 編碼原則 dmin(αk,