【正文】 三次擴(kuò)展離散無記憶信道的信道矩陣就變?yōu)? 223222322322222231001000111101110011100010001000pppppppppppppppppppppppppppp????P= 第 5章 信道編碼原理 根據(jù)最大似然準(zhǔn)則選擇的譯碼規(guī)則為： 0 0 0)1 1 0()1 0 0()0 1 0()0 0 0( 1 ????? ?FFFF0 0 1)1 1 1()1 0 1()0 1 1()0 0 1( 2 ????? ?FFFF上述譯碼規(guī)則的最小平均錯誤譯碼概率為 ? ?? ????81m i n )(1j iije prP ??? ?3232222221 pppppppppppppp ???????? 223 ???? ppppp第 5章 信道編碼原理 1. 設(shè)信道的輸入消息數(shù)為 M，信道隨機(jī)編碼的碼字長度為 N，則當(dāng)信道的 M個輸入消息先驗等概時，信道編碼的每一碼號所攜帶的平均信息量，即 碼率 NMR lb? (比特／碼符號 ) 最小漢明距離譯碼準(zhǔn)則 第 5章 信道編碼原理 （ 2） 簡單重復(fù)編碼以減少平均錯誤譯碼概率 Pemin的方法是以降低信息傳輸率 R作為代價的，即“犧牲有效性，換取可靠性” 。 例如，在信道輸入端對輸入符號“ 0”和“ 1”進(jìn)行重復(fù)編碼，離散無記憶信道的輸入符號就不再是單個符號“ 0”和“ 1”，而是變成由三個符號組成的符號序列 α1=000和 α8=111，它們是二元信源的 N＝ 3次擴(kuò)展信源中的兩個“符號”。 第 5章 信道編碼原理 【 例 5－ 5】 已知二元對稱離散無記憶信道的信道矩陣為 10?P 設(shè) p=， p=， 輸入符號 “ 0”和 “ 1”先驗等慨，分析其直接傳輸及編碼傳輸?shù)男Ч?。aaabbbp ? 根據(jù)最大后驗概率準(zhǔn)則 ,并考慮信道輸出符號 bj(j=1,2,3)與信道輸入符號 ai(i=1,2,3)一一對應(yīng) ，則選擇譯碼規(guī)則 ????????233211)()()(abFabFabF第 5章 信道編碼原理 采用最大后驗概率準(zhǔn)則選擇譯碼規(guī)則的最小平均錯誤譯碼概率 Pe min的具體計算值為 )()(31m i n ?? ? ?? ??j iijie abpapP (2) 因信道輸入符號 a a a3先驗等概，故采用最大似然準(zhǔn)則選擇譯碼規(guī)則。 （ 2） 在信道的輸入符號 (信源的輸出符號 )先驗等概的特定條件下，若信道輸入符號數(shù) (信源輸出符號數(shù) )r固定不變，可通過改變信道的傳遞特性，使最小平均錯誤譯碼概率進(jìn)一步下降，從而進(jìn)一步提高信息傳輸?shù)淖罡呖煽慷取? （ 2） 當(dāng)信源和信道給定后，信息傳輸可靠性的最高程度也就確定了。若把這個最大者所對應(yīng)的信源符號記為 a*，即有 )()( jij bapbap ?? (i＝ 1， 2， … ， r； j=1,2,… ,s) （ 5－ 22） ? ?jij babFp ?)( )()( jij bapbap ?? ?(i＝ 1， 2， … ， r； j=1,2,… ,s) （ 5－ 23） ? ?jij babFp ?)( sj ,...,2,1? （ 5－ 21） 而要使式 (5－ 20)達(dá)到最大，勢必要使 這就是說，要使平均錯誤譯碼概率 Pe達(dá)到最小，勢必有 第 5章 信道編碼原理 因此，譯碼規(guī)則為 ?? abF j )(), . . . ,2,1( sj ?(5－ 24) 式 (5－ 24)就是 最大后驗概率譯碼準(zhǔn)則 。 第 5章 信道編碼原理 按什么準(zhǔn)則來選擇合適的譯碼規(guī)則使其平均錯誤譯碼概率 Pe達(dá)到最小，是 提高由給定信源、給定信道組成的信息傳輸系統(tǒng)的可靠性 的關(guān)鍵問題。 3. 錯誤譯碼概率 Pej ? ?jijrjej babFppp ????? )(11注： 第 5章 信道編碼原理 ? ?? ?jijsjjejsjje babFpbppbpP ???? ????)(1)()(11? ?jijsjjsjj babFPbpbp ??? ????)()()(11? ?jijsjj babFPbp ??? ??)()(114. 平均錯誤譯碼概率 Pe 第 5章 信道編碼原理 注： （ 1） 平均錯誤譯碼的概率 Pe：表示在信道輸出端每收到一個符號其產(chǎn)生錯誤譯碼的可能性的大小 。 第 5章 信道編碼原理 如采取譯碼規(guī)則 (2)， F(0)=0,F(1)=1，則信道輸出端出現(xiàn) “ 0”和 “ 1”的正確譯碼概率分別是： ? ? 4100 ????? pYXp? ? 4111 ????? pYXp 這意味著從統(tǒng)計的觀點看，在這種譯碼規(guī)則下信道輸出端出現(xiàn)的四個符號 “ 0”(或 “ 1”)中，只能有一個能得到正確譯碼。 平均錯誤概率 依據(jù)一定的判決準(zhǔn)則設(shè)計一個單值函數(shù) 第 5章 信道編碼原理 注： （ 1） 對輸入符號集為 X=｛ a1,a2,…, ar｝，輸出符號集為 Y=｛ b1,b2,…, bs｝的信道來說，一共可構(gòu)成rs種不同的譯碼規(guī)則。另外，為了能糾正更多的錯誤，編碼策略會變得更復(fù)雜，于是第 (2)個和第 (3)個目標(biāo)也很難達(dá)到。 上述 第 (1)個目標(biāo)是最基本的 。 第 5章 信道編碼原理 4）好的錯誤控制編碼方案的目標(biāo)： (1)用可以糾正的錯誤個數(shù)來衡量糾錯能力 。 3176。 基本概念 1） 差錯類型 1176。設(shè)信道的輸入符號集為 X=｛ 0,1｝，輸出符號集為 Y=｛ 0,1｝，信道的矩陣為 ppppP1010? 其中： ，求此離散無記憶信道的二次擴(kuò)展信道的信道矩陣。 （ 2）與基本離散信道相比， N次擴(kuò)展信道的輸入符號數(shù)由 r種擴(kuò)展為 rN種 ,輸出符號數(shù)由 s種擴(kuò)展為 sN種。 第 5章 信道編碼原理 【 例 5－ 1】 二元對稱信道簡記為BSC(BinarySymmetricChannel)，其輸入 /輸出符號均取值于 {0， 1}，若 r=s=2，且 a1=b1=0， a2=b2=1，有轉(zhuǎn)移概率 pppabp ???? 1)00()( 11pppabp ???? 1)11()( 22ppabp ?? )10()( 21ppabp ?? )01()( 12第 5章 信道編碼原理 則 BSC的信道轉(zhuǎn)移概率矩陣 P為 ?????????ppppP11100 1 二元對稱信道轉(zhuǎn)移圖如圖 5－ 2所示。, . . . ,2,1。 信道數(shù)學(xué)模型 1. 基本離散信道 第 5章 信道編碼原理 輸入符號集 X=｛ a1,a2,…, ar｝， 輸出符號集 Y=｛ b1,b2,…, bs｝ 條件概率 p(bj|ai)(i=1,2,…, r。 第 5章 信道編碼原理 不研究信號在信道中傳輸?shù)奈锢磉^程，并假定信道的傳輸特性是已知的，將信道用其輸入 /輸出的統(tǒng)計關(guān)系模型