【正文】 若選用碼字個數(shù) (消息數(shù) )M(M=2N（ C+ε） ，令 ε為任意小的正數(shù) )，則無論碼長 N多大，也不可能找到一種編碼，使平均錯誤譯碼概率 Pe任意小。 第 5章 信道編碼原理 在從 rN個長度為 N的碼符號序列 αl(l=1,2,…, rN)中選擇 M個作為代表消息的碼字的原則是： M個碼字中，任何兩個不同的碼字間的漢明距離要盡量大。j=1,2,… ,2N) 21?p 考慮到在一般情況下 ,都有 ，且 ，所以有 pp ??),(),( jij dd ???? ?? NjMi 2, . . . ,2,1。 注 ： （ 1） 信道隨機編碼的有效性取決于信道的輸入消息數(shù) M和碼字長度 N。 第 5章 信道編碼原理 注 ： （ 1） 實際表明，對輸入符號進行重復編碼，可提高信息傳輸?shù)目煽啃?。由?(5－ 17)計算出后驗概率矩陣 32132139。 第 5章 信道編碼原理 3. 由最大后驗概率譯碼函數(shù) F(bj)=a*(j=1,2,…,s) 構(gòu)成的譯碼規(guī)則能使平均錯誤譯碼概率達到最小值 ? ?? ???sj iijie abpapP1m i n )()((5－ 25) 注： （ 1） 最小平均錯誤譯碼概率 Pemin取決于給定信源和給定信道的統(tǒng)計特性。 注 ： （ 1） 不論采用什么準則選擇譯碼規(guī)則，費諾不等式都是普 遍成立的。 注： （ 2） 不同的譯碼規(guī)則會引起不同的可靠程度。因此第 (1)個和第 (4)個目標不完全相容。其任務(wù)就是構(gòu)造出以最小多余度代價換取最大抗干擾性能的“ 好碼 ” 。 第 5章 信道編碼原理 信道編碼的基本概念 信息傳輸?shù)挠行耘c可靠性是辨證統(tǒng)一的，信道編碼的主要目的就是改善傳輸系統(tǒng)的質(zhì)量，從而達到傳輸既有效、又可靠的目的。 基本離散信道的 N次擴展信道： （ 1）從整個傳遞作用的效果來看，信道的輸入是X=X1X2… XN， 輸出是 Y=Y1Y2… YN。 第 5章 信道編碼原理 要完整描述信道的傳遞特性必須測定 r s個條件概率，并將 r s個條件概率排列成一個 r s階矩陣 )()()()()()()()()(2122221211211121rsrrrsssabpabpabpaabpabpabpaabpabpabpabbbP??????????基本離散信道的信道矩陣 。 ? 信源編碼之后的碼字序列抗干擾能力很脆弱，在信道噪聲的影響下容易產(chǎn)生差錯，為了提高通信系統(tǒng)的有效性和可靠性，要在信源編碼器和信道之間加上一個信道編碼器。 信道數(shù)學模型 1. 基本離散信道 第 5章 信道編碼原理 輸入符號集 X=｛ a1,a2,…, ar｝， 輸出符號集 Y=｛ b1,b2,…, bs｝ 條件概率 p(bj|ai)(i=1,2,…, r。 第 5章 信道編碼原理 【 例 5－ 1】 二元對稱信道簡記為BSC(BinarySymmetricChannel)，其輸入 /輸出符號均取值于 {0， 1}，若 r=s=2，且 a1=b1=0， a2=b2=1，有轉(zhuǎn)移概率 pppabp ???? 1)00()( 11pppabp ???? 1)11()( 22ppabp ?? )10()( 21ppabp ?? )01()( 12第 5章 信道編碼原理 則 BSC的信道轉(zhuǎn)移概率矩陣 P為 ?????????ppppP11100 1 二元對稱信道轉(zhuǎn)移圖如圖 5－ 2所示。設(shè)信道的輸入符號集為 X=｛ 0,1｝，輸出符號集為 Y=｛ 0,1｝，信道的矩陣為 ppppP1010? 其中： ，求此離散無記憶信道的二次擴展信道的信道矩陣。 3176。 上述 第 (1)個目標是最基本的 。 平均錯誤概率 依據(jù)一定的判決準則設(shè)計一個單值函數(shù) 第 5章 信道編碼原理 注： （ 1） 對輸入符號集為 X=｛ a1,a2,…, ar｝，輸出符號集為 Y=｛ b1,b2,…, bs｝的信道來說，一共可構(gòu)成rs種不同的譯碼規(guī)則。 3. 錯誤譯碼概率 Pej ? ?jijrjej babFppp ????? )(11注： 第 5章 信道編碼原理 ? ?? ?jijsjjejsjje babFpbppbpP ???? ????)(1)()(11? ?jijsjjsjj babFPbpbp ??? ????)()()(11? ?jijsjj babFPbp ??? ??)()(114. 平均錯誤譯碼概率 Pe 第 5章 信道編碼原理 注： （ 1） 平均錯誤譯碼的概率 Pe：表示在信道輸出端每收到一個符號其產(chǎn)生錯誤譯碼的可能性的大小 。若把這個最大者所對應(yīng)的信源符號記為 a*，即有 )()( jij bapbap ?? (i＝ 1， 2， … ， r； j=1,2,… ,s) （ 5－ 22） ? ?jij babFp ?)( )()( jij bapbap ?? ?(i＝ 1， 2， … ， r； j=1,2,… ,s) （ 5－ 23） ? ?jij babFp ?)( sj ,...,2,1? （ 5－ 21） 而要使式 (5－ 20)達到最大，勢必要使 這就是說，要使平均錯誤譯碼概率 Pe達到最小，勢必有 第 5章 信道編碼原理 因此，譯碼規(guī)則為 ?? abF j )(), . . . ,2,1( sj ?(5－ 24) 式 (5－ 24)就是 最大后驗概率譯碼準則 。 （ 2） 在信道的輸入符號 (信源的輸出符號 )先驗等概的特定條件下，若信道輸入符號數(shù) (信源輸出符號數(shù) )r固定不變，可通過改變信道的傳遞特性，使最小平均錯誤譯碼概率進一步下降，從而進一步提高信息傳輸?shù)淖罡呖煽慷取? 第 5章 信道編碼原理 【 例 5－ 5】 已知二元對稱離散無記憶信道的信道矩陣為 10?P 設(shè) p=， p=， 輸入符號 “ 0”和 “ 1”先驗等慨，分析其直接傳輸及編碼傳輸?shù)男Ч?。這時，相應(yīng)的三次擴展離散無記憶信道的信道矩陣就變?yōu)? 223222322322222231001000111101110011100010001000pppppppppppppppppppppppppppp????P= 第 5章 信道編碼原理 根據(jù)最大似然準則選擇的譯碼規(guī)則為： 0 0 0)1 1 0()1 0 0()0 1 0()0 0 0( 1 ????? ?FFFF0 0 1)1 1 1()1 0 1()0 1 1()0 0 1( 2 ????? ?FFFF上述譯碼規(guī)則的最小平均錯誤譯碼概率為 ? ?? ????81m i n )(1j iije prP ??? ?3232222221 pppppppppppppp ????????