信息論與糾錯編碼有躁信道編碼教學課件ppt-wenkub.com
2025-01-17 02:38 本頁面
【正文】 逆定理 ：信道容量 C是可靠通信系統(tǒng)傳信率 R的上邊界，如果 R C，就不可能有任何一種編碼能使差錯概率任意小。 79 隨機編碼 對于一個 (N,K)分組編碼器 ? 對 K個 q進制組成的消息組 m=(m0,m1,…,m k1)編碼； ? 生成 N個 q進制符號組成的碼字 c=(c0,c1,…c N1)； 在 (N,K)分組編碼器中隨機選定的碼集有 qNM種 ? 一個消息組的編碼有 qN種選擇（ N個碼元， q進制） ? qK個消息組共有 種選擇 ? 令 M= qK， 可得上式 80 KqNq )(隨機編碼 在 (N,K)分組編碼器中隨機選定的碼集有 qNM個 第 m個碼集 (記作 {c}m )被隨機選中的概率是 設(shè)與這種選擇相對應的條件差錯概率是 Pe({c}m) 全部碼集的平均差錯概率是 ()( { } ) NMmPq??c81 11({ } ) ({ } ) ({ } )N M N MqqNMe e m m e mmmP P P q P???????c c c隨機編碼 必定存在某些碼集 某些碼集 若 ， 就必然存在一批碼集 即差錯概率趨于零的好碼一定存在； 11({ } ) ({ } ) ({ } )N M N MqqNMe e m m e mmmP P P q P???????c c c82 ( { } )e m ePP?c( { } )e m ePP?c0eP ? ( { } ) 0emP ?c隨機編碼 碼集點數(shù) M=qK占 N維矢量空間總點數(shù) qN的比例是 F =qK / qN = q(NK) 當 K和 N的差值拉大即冗余的空間點數(shù)增加時，平均而言碼字的分布將變得稀疏，碼字之間的平均距離將變大，平均差錯概率將變小。 碼空間的不同 選擇方法，以及信息組與碼組的不同映射算法，就構(gòu)成了不同的分組碼。 74 1 { ( 000) , ( 100) }?V2 { ( 000), ( 001 ) , ( 010), ( 011 ) }?V概念 重數(shù) ? 構(gòu)成矢量的有序元素的個數(shù) 維數(shù) ? 構(gòu)成矢量空間的基底的個數(shù) 75 矢量空間 每個矢量空間或子空間中必然包含零矢量 兩個 矢量正交 ： V1?V2＝ 0 兩個 矢量空間正交 ：某矢量空間中的任意元素與另一矢量空間中的任意元素正交 正交的兩個子空間 V V2互為 對偶空間 (Dual Space)，其中一個空間是另一個空間的 零空間 （ null space，也稱零化空間）。 112 1 2 332: ( o r , )yxF y x x xyx????????糾錯碼的數(shù)學基礎(chǔ)： 矢量空間與碼空間 基本的糾錯碼為（ n,k）分組碼（塊碼） ? 每塊為 k個符號 ? 由 n個碼元組成碼字 ? 碼字可視為 n重矢量（ n個矢量元素） 70 0 1 ( 1)( , , , , , ) ,i i i i j i n i jV V V V V V F???矢量空間與碼空間 F表示碼元所在的數(shù)域 (對于二進制碼， F代表二元域 {0,1}) 設(shè) n重有序元素的集合 V= {Vi }, 若滿足條件： ? V中矢量元素在矢量加運算下構(gòu)成加群； ? V中矢量元素與數(shù)域 F元素的標乘封閉在 V中； ? 分配律、結(jié)合律成立， 則稱集合 V是數(shù)域 F上的 n維 矢量空間 ，或稱 n維 線性空間 ，n維矢量又稱 n重 (ntuples)。 [例 ]已知信道轉(zhuǎn)移矩陣如下，試確定譯碼規(guī)則。 EPEP[例 ] 已知信道矩陣 并設(shè) p(x1)=1/2, p(x2)=p(x3)=1/4, 分別用最小錯誤概率準則和最大似然譯碼準則確定相應的譯碼規(guī)則，并計算平均錯誤概率。 nX ( 2 )nR?(2 , )nR n有噪信道編碼逆定理 如一個離散無記憶信道，信道容量為 C。 ? 提高數(shù)據(jù)傳輸可靠性的方向 有噪信道編碼逆定理 離散、無記憶、平穩(wěn)信道，信道容量為 C，如果信息率 RC， 則肯定找不到一種信道編碼方法， 使得碼長 N足夠大時，平均差錯率任意接近于零。 ? ????Mjjeje pp1)( yy??? ??? ???MjkMiMjji pp11 1)()( yxyx ?? ? ??yx yyxxy )()( kpp? ??kpxx yxy )(? ?? ?????Mjkj11)( yxy ??? ? ? ? ? ? M j k j 1 ) ( 1 y x y ? ? 【 例 】 信源分布 ， 信道轉(zhuǎn)移概 率矩陣 ,信道輸出符號 Y = {y1, y2, y3}， 按最 大后驗概率準則譯碼 。 漢明距離譯碼是一種 硬判決譯碼 。 極大似然譯碼 ( MLD: Maximum Likelihood Decoding) 。 ? ? ? ? ? ????????????? ??kikikkep yxyxyxxy ??? 1根據(jù)概率關(guān)系式 （ 53） )()()(yxyyx??p?根據(jù)式 （ 53） 后驗概率 ?（ x︱ y） 最的就意味著 p（ x y） 全概率最大 ， 因此最大后驗概率譯碼準則也稱為 最大聯(lián)合概率譯碼準則 。 譯碼規(guī)則及錯誤概率 信道總不可避免會攙雜噪聲 ，所以信息在信道傳輸過程中 ， 差錯是不可避免的 。 有噪信道編碼的譯碼準則 ?實際的信道傳輸過程中，差錯的發(fā)生往往不可避免； ?錯誤概率和信道統(tǒng)計特性等相關(guān)； ?選擇合適的譯碼規(guī)則能降低差錯。 （而返回重發(fā)要重發(fā)前面所有的碼組） 4 2 1 1 接收端 2 2 3 4 發(fā)現(xiàn)錯誤 3 4 NAK 5 6 2 TW 7 8 9 10 5 6 2 7 11 12 13 14 15 8 9 10 11 12 只重發(fā)碼組 2 發(fā)送端 返回 40 ? 混合糾錯 (HEC)： ? FEC與 ARQ方式的結(jié)合。 ? ? 此外，重發(fā)系統(tǒng)和返回重發(fā)系統(tǒng) 都需要 全雙工 的鏈路，而停發(fā)等後系統(tǒng)只要求半雙工的鏈路。利用糾錯碼自動糾正收端檢出的錯誤。 功率： ? 采用多進制符號 ,用 8進制 ASK符號代替 4進制 ASK符號來傳送 2比特信息 ,可騰出位置另傳 1冗余比特。 信源編碼減少了 冗余度（統(tǒng)計） ? 冗余度是隨機的、無規(guī)律的 信道（糾錯）編碼增加了 冗余度 ? 冗余度是特定的、有規(guī)律的 ,故可
教學課件相關(guān)推薦
鄂ICP備17016276號-1