【正文】 若選用碼字個(gè)數(shù) (消息數(shù) )M(M=2N（ C+ε） ，令 ε為任意小的正數(shù) )，則無(wú)論碼長(zhǎng) N多大，也不可能找到一種編碼，使平均錯(cuò)誤譯碼概率 Pe任意小。 第 5章 信道編碼原理 在從 rN個(gè)長(zhǎng)度為 N的碼符號(hào)序列 αl(l=1,2,…, rN)中選擇 M個(gè)作為代表消息的碼字的原則是： M個(gè)碼字中，任何兩個(gè)不同的碼字間的漢明距離要盡量大。j=1,2,… ,2N) 21?p 考慮到在一般情況下 ,都有 ，且 ，所以有 pp ??),(),( jij dd ???? ?? NjMi 2, . . . ,2,1。 注 ： （ 1） 信道隨機(jī)編碼的有效性取決于信道的輸入消息數(shù) M和碼字長(zhǎng)度 N。 第 5章 信道編碼原理 注 ： （ 1） 實(shí)際表明，對(duì)輸入符號(hào)進(jìn)行重復(fù)編碼，可提高信息傳輸?shù)目煽啃?。由?(5－ 17)計(jì)算出后驗(yàn)概率矩陣 32132139。 第 5章 信道編碼原理 3. 由最大后驗(yàn)概率譯碼函數(shù) F(bj)=a*(j=1,2,…,s) 構(gòu)成的譯碼規(guī)則能使平均錯(cuò)誤譯碼概率達(dá)到最小值 ? ?? ???sj iijie abpapP1m i n )()((5－ 25) 注： （ 1） 最小平均錯(cuò)誤譯碼概率 Pemin取決于給定信源和給定信道的統(tǒng)計(jì)特性。 注 ： （ 1） 不論采用什么準(zhǔn)則選擇譯碼規(guī)則，費(fèi)諾不等式都是普 遍成立的。 注： （ 2） 不同的譯碼規(guī)則會(huì)引起不同的可靠程度。因此第 (1)個(gè)和第 (4)個(gè)目標(biāo)不完全相容。其任務(wù)就是構(gòu)造出以最小多余度代價(jià)換取最大抗干擾性能的“ 好碼 ” 。 第 5章 信道編碼原理 信道編碼的基本概念 信息傳輸?shù)挠行耘c可靠性是辨證統(tǒng)一的，信道編碼的主要目的就是改善傳輸系統(tǒng)的質(zhì)量，從而達(dá)到傳輸既有效、又可靠的目的。 基本離散信道的 N次擴(kuò)展信道： （ 1）從整個(gè)傳遞作用的效果來(lái)看，信道的輸入是X=X1X2… XN， 輸出是 Y=Y1Y2… YN。 第 5章 信道編碼原理 要完整描述信道的傳遞特性必須測(cè)定 r s個(gè)條件概率，并將 r s個(gè)條件概率排列成一個(gè) r s階矩陣 )()()()()()()()()(2122221211211121rsrrrsssabpabpabpaabpabpabpaabpabpabpabbbP??????????基本離散信道的信道矩陣 。 ? 信源編碼之后的碼字序列抗干擾能力很脆弱，在信道噪聲的影響下容易產(chǎn)生差錯(cuò)，為了提高通信系統(tǒng)的有效性和可靠性，要在信源編碼器和信道之間加上一個(gè)信道編碼器。 信道數(shù)學(xué)模型 1. 基本離散信道 第 5章 信道編碼原理 輸入符號(hào)集 X=｛ a1,a2,…, ar｝， 輸出符號(hào)集 Y=｛ b1,b2,…, bs｝ 條件概率 p(bj|ai)(i=1,2,…, r。 第 5章 信道編碼原理 【 例 5－ 1】 二元對(duì)稱信道簡(jiǎn)記為BSC(BinarySymmetricChannel)，其輸入 /輸出符號(hào)均取值于 {0， 1}，若 r=s=2，且 a1=b1=0， a2=b2=1，有轉(zhuǎn)移概率 pppabp ???? 1)00()( 11pppabp ???? 1)11()( 22ppabp ?? )10()( 21ppabp ?? )01()( 12第 5章 信道編碼原理 則 BSC的信道轉(zhuǎn)移概率矩陣 P為 ?????????ppppP11100 1 二元對(duì)稱信道轉(zhuǎn)移圖如圖 5－ 2所示。設(shè)信道的輸入符號(hào)集為 X=｛ 0,1｝，輸出符號(hào)集為 Y=｛ 0,1｝，信道的矩陣為 ppppP1010? 其中： ，求此離散無(wú)記憶信道的二次擴(kuò)展信道的信道矩陣。 3176。 上述 第 (1)個(gè)目標(biāo)是最基本的 。 平均錯(cuò)誤概率 依據(jù)一定的判決準(zhǔn)則設(shè)計(jì)一個(gè)單值函數(shù) 第 5章 信道編碼原理 注： （ 1） 對(duì)輸入符號(hào)集為 X=｛ a1,a2,…, ar｝，輸出符號(hào)集為 Y=｛ b1,b2,…, bs｝的信道來(lái)說(shuō)，一共可構(gòu)成rs種不同的譯碼規(guī)則。 3. 錯(cuò)誤譯碼概率 Pej ? ?jijrjej babFppp ????? )(11注： 第 5章 信道編碼原理 ? ?? ?jijsjjejsjje babFpbppbpP ???? ????)(1)()(11? ?jijsjjsjj babFPbpbp ??? ????)()()(11? ?jijsjj babFPbp ??? ??)()(114. 平均錯(cuò)誤譯碼概率 Pe 第 5章 信道編碼原理 注： （ 1） 平均錯(cuò)誤譯碼的概率 Pe：表示在信道輸出端每收到一個(gè)符號(hào)其產(chǎn)生錯(cuò)誤譯碼的可能性的大小 。若把這個(gè)最大者所對(duì)應(yīng)的信源符號(hào)記為 a*，即有 )()( jij bapbap ?? (i＝ 1， 2， … ， r； j=1,2,… ,s) （ 5－ 22） ? ?jij babFp ?)( )()( jij bapbap ?? ?(i＝ 1， 2， … ， r； j=1,2,… ,s) （ 5－ 23） ? ?jij babFp ?)( sj ,...,2,1? （ 5－ 21） 而要使式 (5－ 20)達(dá)到最大，勢(shì)必要使 這就是說(shuō)，要使平均錯(cuò)誤譯碼概率 Pe達(dá)到最小，勢(shì)必有 第 5章 信道編碼原理 因此，譯碼規(guī)則為 ?? abF j )(), . . . ,2,1( sj ?(5－ 24) 式 (5－ 24)就是 最大后驗(yàn)概率譯碼準(zhǔn)則 。 （ 2） 在信道的輸入符號(hào) (信源的輸出符號(hào) )先驗(yàn)等概的特定條件下，若信道輸入符號(hào)數(shù) (信源輸出符號(hào)數(shù) )r固定不變，可通過(guò)改變信道的傳遞特性，使最小平均錯(cuò)誤譯碼概率進(jìn)一步下降，從而進(jìn)一步提高信息傳輸?shù)淖罡呖煽慷取? 第 5章 信道編碼原理 【 例 5－ 5】 已知二元對(duì)稱離散無(wú)記憶信道的信道矩陣為 10?P 設(shè) p=， p=， 輸入符號(hào) “ 0”和 “ 1”先驗(yàn)等慨，分析其直接傳輸及編碼傳輸?shù)男Ч＿@時(shí)，相應(yīng)的三次擴(kuò)展離散無(wú)記憶信道的信道矩陣就變?yōu)? 223222322322222231001000111101110011100010001000pppppppppppppppppppppppppppp????P= 第 5章 信道編碼原理 根據(jù)最大似然準(zhǔn)則選擇的譯碼規(guī)則為： 0 0 0)1 1 0()1 0 0()0 1 0()0 0 0( 1 ????? ?FFFF0 0 1)1 1 1()1 0 1()0 1 1()0 0 1( 2 ????? ?FFFF上述譯碼規(guī)則的最小平均錯(cuò)誤譯碼概率為 ? ?? ????81m i n )(1j iije prP ??? ?3232222221 pppppppppppppp ????????