【正文】 息傳輸可靠性的要求 ,應(yīng)設(shè)法使平均錯誤譯碼概率最小值 Pemin繼續(xù)下降。aaabbbp ? 根據(jù)最大后驗概率準則 ,并考慮信道輸出符號 bj(j=1,2,3)與信道輸入符號 ai(i=1,2,3)一一對應(yīng) ，則選擇譯碼規(guī)則 ????????233211)()()(abFabFabF第 5章 信道編碼原理 采用最大后驗概率準則選擇譯碼規(guī)則的最小平均錯誤譯碼概率 Pe min的具體計算值為 )()(31m i n ?? ? ?? ??j iijie abpapP (2) 因信道輸入符號 a a a3先驗等概，故采用最大似然準則選擇譯碼規(guī)則。 第 5章 信道編碼原理 【 例 5－ 4】 設(shè)某信道的信道矩陣為 321321aaabbbP ?(1) 若信道輸入符號321, aaa 的概率為 p （ a1 ） =53 ，51)()(32?? apap , 試選擇譯碼規(guī)則，使其平均錯誤譯碼概率eP 達到最小值m i neP , 并計算m i neP 值 ? (2) 若信道輸入符號321, aaa 先 驗 等 概 ， 即 有31)()()(321??? apapap , 試 選擇譯碼規(guī)則，使其平均錯誤譯碼概率eP 達到最小值m i neP , 并計算m i neP 值 ? 第 5章 信道編碼原理 解： (1) 因信道輸入符號非先驗等概，故只能采用最大后驗概率準則選擇譯碼規(guī)則。 （ 2） 在信道的輸入符號 (信源的輸出符號 )先驗等概的特定條件下，若信道輸入符號數(shù) (信源輸出符號數(shù) )r固定不變，可通過改變信道的傳遞特性，使最小平均錯誤譯碼概率進一步下降，從而進一步提高信息傳輸?shù)淖罡呖煽慷取? 第 5章 信道編碼原理 推導(dǎo)： 若信道輸入符號 (信源輸出符號 )ai(i=1,2,…, r)先驗等概，即滿足 rapapapap r1)()()()(21 ??????? ??（ 5－ 26） )()()()()()()()(jijijijjj bpabpapbapbpabpapbap ??????(5－ 27) 的條件時，因為 最大似然譯碼準則 1. 最大似然譯碼準則 第 5章 信道編碼原理 可有 )()( ijj abpabp ??(i=1,2,… ,r； j=1,2,… ,s) (5－ 28) 則選擇譯碼規(guī)則 ?? abF j )( sj ,...,2,1?(5－ 29) 可把 bj(j=1,2,… ,s)翻譯成信源符號 a*∈ ｛ a1,a2,… ,ar｝，即 信道輸入符號 (信源輸出符號 )ai(i=1,2,…, r)先驗等概時， 選擇上述譯碼規(guī)則的準則稱之為 最大似然譯碼準則 。 （ 2） 當(dāng)信源和信道給定后，信息傳輸可靠性的最高程度也就確定了。j=1,2,… ,s)中的最大者，則可把接收符號 bj(j=1,2,… ,s)翻譯成 a*。若把這個最大者所對應(yīng)的信源符號記為 a*，即有 )()( jij bapbap ?? (i＝ 1， 2， … ， r； j=1,2,… ,s) （ 5－ 22） ? ?jij babFp ?)( )()( jij bapbap ?? ?(i＝ 1， 2， … ， r； j=1,2,… ,s) （ 5－ 23） ? ?jij babFp ?)( sj ,...,2,1? （ 5－ 21） 而要使式 (5－ 20)達到最大，勢必要使 這就是說，要使平均錯誤譯碼概率 Pe達到最小，勢必有 第 5章 信道編碼原理 因此，譯碼規(guī)則為 ?? abF j )(), . . . ,2,1( sj ?(5－ 24) 式 (5－ 24)就是 最大后驗概率譯碼準則 。 第 5章 信道編碼原理 推導(dǎo)： 平均錯誤譯碼概率 Pe為： ? ?jijsjj babFPbp ???)()(1（ 5－ 20） 達到最大。 第 5章 信道編碼原理 按什么準則來選擇合適的譯碼規(guī)則使其平均錯誤譯碼概率 Pe達到最小，是 提高由給定信源、給定信道組成的信息傳輸系統(tǒng)的可靠性 的關(guān)鍵問題。 第 5章 信道編碼原理 描述了平均錯誤譯碼概率 Pe與信道疑義度 H(X|Y)的內(nèi)在聯(lián)系，即 H(X︱ Y) ≤ H(Pe)十 Pe1oga(r1) 費諾不等式 第 5章 信道編碼原理 （ 2） 費諾不等式表明，在收到信道輸出隨機變量后，對輸 入隨機變量仍然存在的平均不確定性 H(X|Y)由兩部分 組成： 第一部分 是收到輸出隨機變量后，按選擇的譯 碼規(guī)則譯碼時，是否產(chǎn)生錯誤譯碼的平均不確定性 H(Pe)； 第二部分 是當(dāng)平均錯誤譯碼概率為 Pe時，到底 是哪一個信源符號被錯誤譯碼的最大平均不確定性 Pe1oga(r1)。 3. 錯誤譯碼概率 Pej ? ?jijrjej babFppp ????? )(11注： 第 5章 信道編碼原理 ? ?? ?jijsjjejsjje babFpbppbpP ???? ????)(1)()(11? ?jijsjjsjj babFPbpbp ??? ????)()()(11? ?jijsjj babFPbp ??? ??)()(114. 平均錯誤譯碼概率 Pe 第 5章 信道編碼原理 注： （ 1） 平均錯誤譯碼的概率 Pe：表示在信道輸出端每收到一個符號其產(chǎn)生錯誤譯碼的可能性的大小 。 F(0)=1,F(1)=0，則信道輸出端出現(xiàn) “ 0”和 “ 1”的正確譯碼概率分別是： ? ? 4301 ???? pYXp? ? 4310 ???? pYXp 這意味著從統(tǒng)計的觀點看，在這種譯碼規(guī)則下信道輸出端出現(xiàn)的四個符號 “ 0”(或 “ 1”)中有三個能得到正確譯碼。 第 5章 信道編碼原理 如采取譯碼規(guī)則 (2)， F(0)=0,F(1)=1，則信道輸出端出現(xiàn) “ 0”和 “ 1”的正確譯碼概率分別是： ? ? 4100 ????? pYXp? ? 4111 ????? pYXp 這意味著從統(tǒng)計的觀點看，在這種譯碼規(guī)則下信道輸出端出現(xiàn)的四個符號 “ 0”(或 “ 1”)中，只能有一個能得到正確譯碼。 譯碼規(guī)則 (1)： F(0)=0,F(1)=0 譯碼規(guī)則 (2)： F(0)=0,F(1)=1 譯碼規(guī)則 (3)： F(0)=1,F(1)=0 譯碼規(guī)則 (4)： F(0)=1， F(1)=1 第 5章 信道編碼原理 例： 若已知二進制對稱信道傳遞矩陣為 414314341010?P 其信源符號 “ 0”和 “ 1”的正確傳遞概率均為 p=1/4； “ 0”和 “ 1”的錯誤傳遞概率均為 p＝ 3／ 4。 平均錯誤概率 依據(jù)一定的判決準則設(shè)計一個單值函數(shù) 第 5章 信道編碼原理 注： （