【文章內(nèi)容簡介】 210??第六章：有噪信道編碼 信道編碼的相關(guān)概念 7. 簡單重復編碼（續(xù) 1） 000000001010011100101110111二元對稱信道 的三次擴展信道 1113 2 2 2 2 2 2 33 2 2 2 2 2 2 3000111p p p p p p p p p p p p p pp p p p p p p p p p p p p p???????P0 0 0 0 0 1 0 1 0 0 1 1 1 0 0 1 0 1 1 1 0 1 1 1? ?pp??82 3 ??Nr M =2 328Ns ??第六章：有噪信道編碼 信道編碼的相關(guān)概念 ????????? 322222233222222321ppppppppppppppppppppppppppppxxP12( 0 0 0 ) ( 0 0 1 ) ( 0 1 0 ) ( 1 0 0 ) 0 0 0( 0 1 1 ) ( 1 0 1 ) ( 1 1 0 ) ( 1 1 1 ) 1 1 1F F F FF F F F? ? ? ? ???? ? ? ? ??xx由最大似然譯碼規(guī)則，可得 7. 簡單重復編碼（續(xù) 2） 自動糾正一位錯 23 3 ppp ??4103 ???? ?? ??sj iijE pMP1 *m i n )|(1 xy1y 2y 8y3y 4y 5y 6y 7y第六章：有噪信道編碼 信道編碼的相關(guān)概念 7. 簡單重復編碼（續(xù) 3） l 在輸入符號集（ M個符號）等概的條件下，每個符號平均攜帶的最大信息量是 。 l 當用 n個碼元符號來傳輸 M個信源符號時，每個碼符號攜帶的平均信息量，即信道信息傳輸率為： logMl o g /MRn? 比 特 碼 元 符 號l 不重復編碼時 (n=1)， l 重復編碼時 (n=3)， 1/R ? （ 比 特 碼 元 符 號 ）1 /3R ? （ 比 特 碼 元 符 號 ）第六章：有噪信道編碼 信道編碼的相關(guān)概念 n =1, R=1, n =3, R=1/3, n =5, R =1/5, n =7, R =1/7, n =9, R =1/9, n =11, R =1/11, 增加重復次數(shù) n，可使 減小很多，但信息傳輸率R也減少很多。 7. 簡單重復編碼（續(xù) 4） 210EP ??43 1 0EP ???51 1 0EP ???74 1 0EP ???81 1 0EP ???105 1 0EP ???EP第六章：有噪信道編碼 信道編碼的相關(guān)概念 7. 簡單重復編碼（續(xù) 5） 3 2 2 2 2 2 2 32 3 2 2 2 2 3 2000001p p p p p p p p p p p p p pp p p p p p p p p p p p p p???????P12( 0 0 0 ) ( 0 1 0 ) ( 1 0 0 ) ( 1 1 0 ) 0 0 0( 0 0 1 ) ( 0 1 1 ) ( 1 0 1 ) ( 1 1 1 ) 0 0 1F F F FF F F F? ? ? ? ??? ? ? ? ? ??xx0 0 0 0 0 1 0 1 0 0 1 1 1 0 0 1 0 1 1 1 0 1 1 12*1 ( | ) 1 . 0 1 1 0E j iY X xPpM ??? ? ??? yx第六章：有噪信道編碼 信道編碼的相關(guān)概念 l 如果在擴展信源的 個碼符號序列中任意選擇 M個序列作為 信道的輸入，以代表 M個信源消息 。 Nr( 0 0 0 , 0 0 1 ) ( 0 0 0 , 1 1 1 )EEPPl 因此若選擇 “ 000”和 “ 001”代表消息 “ 0”和 “ 1”，則 7. 簡單重復編碼（續(xù) 6） 第六章：有噪信道編碼 信道編碼的相關(guān)概念 l 有沒有一種很簡便的方法 ， 幫我們選擇平均錯誤概率最小的 M個序列 ？ 7. 簡單重復編碼（續(xù) 7） 第六章：有噪信道編碼 信道編碼的相關(guān)概念 8. 漢明距離 1）漢明距離 2）碼的最小距離 3）漢明距離與極大似然譯碼準則 第六章：有噪信道編碼 信道編碼的相關(guān)概念 8. 漢明距離（續(xù) 1） 定義 設 和 表示兩個長度為 n的碼符號序列，定義 12 ni i i ix x x?x 12 nj j j jy y y?y1( , )kkni j i jkD x y????xy稱 為碼字 和 之間的漢明距離。 ix jy1）漢明距離 ( , )ijD xy第六章：有噪信道編碼 信道編碼的相關(guān)概念 8. 漢明距離（續(xù) 2） 例 4：求下面兩個碼字之間的漢明距離。 解： 00010101111010011000??jiyx7),( ?jiD yx第六章：有噪信道編碼 信道編碼的相關(guān)概念 8. 漢明距離（續(xù) 3） 定義 在二元碼 C中，任意兩個碼字之間的漢明距離的最小值，被稱為碼 C的 最小距離： m i n m i n ( , )ijD D w w??? ??( , , )i j i jw w w w C??2）碼的最小距離 第六章：有噪信道編碼 信道編碼的相關(guān)概念 8. 漢明距離（續(xù) 4） 例 5：設有 n=3的兩組碼，分別求它們的最小漢明距離。 0000111011100000010101001C 2Cmin 2D ?解： 碼 的最小漢明距離為 1Cmin 1D ?碼 的最小漢明距離為 2C第六章：有噪信道編碼 信道編碼的相關(guān)概念 碼 1 碼 2 碼 3 碼 4 碼 5 碼 6 000 111 000 001 000 011 101 110 000 001 100 010 00000 01101 10111 11010 000 001 010 011 100 101 110 111 第六章：有噪信道編碼 信道編碼的相關(guān)概念 8. 漢明距離（續(xù) 5） 碼 1 碼 2 碼 3 碼 4 碼 5 碼字 000 111 000 011 101 110 000 001 100 010 00000 01101 10111 11010 000 001 010 011 100 101 110 111 消息數(shù)M 2 4 4 4 8 信息傳輸率 R 1/3 2/3 2/3 2/5 1 碼的最小距離 3 2 1 3 1 平均 錯誤概率 （ 最大似 然譯碼 ） 43 10??mindEP22 10?? 22 .2 8 1 0 ?? 47 .8 1 0 ?? 23 10??8. 漢明距離（續(xù) 7） 結(jié)論： 碼的最小距離越大，平均譯碼錯誤概率越小。 第六章：有噪信道編碼 信道編碼的相關(guān)概念 設 和 表示兩個長度為 n的碼符號序列， 為信道的輸入， 為信道的輸出。 和 的漢明距離為 D。 8. 漢明距離（續(xù) 8） 3) 漢明距離與極大似然譯碼準則 對于離散平穩(wěn)無記憶二元對稱信道，有 1 2 1 2 1( | ) ( | ) ( | )n n k knD n Dj i j j j i i i j ikp p y y y x x x p y x p p ??? ? ??yx12 ni i i ix x x?x 12 nj j j jy y y?yix jy ix jy第六章：有噪信道編碼 信道編碼的相關(guān)概念 通常情況下， ， ， D越小， 就越大。 ? ? ( | )jip yx8. 漢明距離（續(xù) 9） 根據(jù)極大似然譯碼準則， *( | ) ( | )j j ip p i??y x y x? 極大似然譯碼準則就等價于，當接收到一個長為 n的碼符號序列 時，在輸入碼字集中尋找一個 ，使 jy*x第六章：有噪信道編碼 信道編碼的相關(guān)概念 *)( xy ?jF ),(),( * jij DD yxyx ?最小距離譯碼準則 1. 有噪信道編碼定理 定理 （香農(nóng)第二定理） 設有一離散無記憶平穩(wěn)信道，其信道容量為 C，只要待傳送的信息傳輸率 RC，當碼長 n 足夠大時，則至少存在一種編碼，使譯碼錯誤概率任意小。 第六章：有噪信道編碼 有噪信道編碼定理 1. 有噪信道編碼定理（續(xù) 1） 說明： 1) 信息傳輸速率 2) 香農(nóng)第二定理僅指出了滿足這種要求的信道編碼的存在性，沒有給出具體的編碼方法。 l o g MRn? 比 特 / 碼 符 號第六章：有噪信道編碼 有噪信道編碼定理 1. 有噪信道編碼定理（續(xù) 2） 定理 （有噪信道編碼逆定理） 設有一離散無記憶平穩(wěn)信道，其信道容量為 C，如果信息傳輸率 RC，即 ，則無論碼長 n 取多大，也不可能使譯碼錯誤概率任意小。 2 nCM ?第六章：有噪信道編碼 有噪信道編碼定理 1. 有噪信道編碼定理（續(xù) 3） 信道容量是在信道中可靠傳輸信息的最大信息傳輸率。 結(jié)論： 第六章：有噪信道編碼 有噪信道編碼定理 )](e x p [ RnEP rE ??2. 錯誤概率的上界 第六章：有噪信道編碼 有噪信道編碼定理 糾錯編碼 1 糾錯碼的分類 2 糾錯碼的基本概念 3 線性分組碼 4 漢明碼 5 循環(huán)碼 *6 卷積碼 概述 l 香農(nóng)第二定理證明，當 時 的碼存在。 l 證明過程采用的是隨機編碼的方法： ?隨機編碼所得的碼集很大，通過搜索得到好碼的方法在實際上很難實現(xiàn)； ?即使找到了好碼，這種碼的碼字也沒有規(guī)律，不便于譯碼。 l 真正實用的信道編碼方法還需要通過各種數(shù)學工具來構(gòu)造，使碼具有好的結(jié)構(gòu)性以便于譯碼。 RC? 0EP ?l 近世代數(shù)是信道編碼理論用到的最重要的數(shù)學工具，它包括群論、環(huán)論、域論、格論、線性代數(shù)等許多分支。 l 廣義信道編碼包括：調(diào)制、成形濾波、擴頻、上下變頻等。 l 糾錯編碼是提高傳輸可靠性的最主要的措施之一。 概述 l 糾錯編碼的 基本思路 ： 根據(jù)一定的規(guī)律在待發(fā)送的信息碼元中人為的加入一些 冗余碼元， 這些 冗余 碼元與信息碼元之間以某種確定的規(guī)則相互關(guān)聯(lián)（約束）。 在接收端按照既定的規(guī)則檢驗信息碼元與監(jiān)督碼元之間的關(guān)系。如果傳輸過程出錯，則信息碼元與監(jiān)督碼元之間的關(guān)系將受到破壞，從而可以發(fā)現(xiàn)錯誤乃至糾正錯誤。 概述 ?CE 概述 m msg C code R noisycode newmsg 干擾一般分為兩種形式： 一是隨機噪聲，它主要來源于設備的熱噪聲和散彈噪聲以及傳播媒介的熱噪聲，它是通信系統(tǒng)中的主要噪聲； 二是脈沖干擾和信道衰落，它的特點是突發(fā)出現(xiàn)，主要來源于雷電、通電開關(guān)、負荷突變或設備故障等。 概述 信道可分為三類： 1. 只產(chǎn)生隨機錯誤的信道稱為隨機信道 。 比如衛(wèi)星信道 、同軸電纜 、 光纜信道以及大多數(shù)微波中繼信道 。 2. 產(chǎn)生突發(fā)錯誤的信道稱為突發(fā)信道 。 實際的短波信道 、移動通信信道 、 由于擦傷造成成串差錯的光盤和磁盤 ， 均為這一類信道 。 3. 有些實際信道既有隨機錯誤又有突發(fā)錯誤，稱為混合信道。 根