[信息與通信]信源編碼(參考版)
2024-10-19 17:32本頁面
【正文】 本章小結(jié) 1 基本概念： ? 編碼 ? 信源編碼及其作用 ? H(X)最大化 ? 平均碼長與編碼效率 ? 如何編才能使平均碼長最短？ ? 最佳編碼 ? 唯一可譯碼（單義碼）與即時碼（非續(xù)長碼） 2 基本定理： （ 1）仙農(nóng)第一定理； （ 2）變長編碼定理： DXHDXH n22 l o g)(l o g)(1 ???DXHLDXHn 22 l o g)(1l o g)(???L次擴(kuò)展： 3 即時碼： （ 1）即時碼存在的充要條件 ? 從結(jié)構(gòu)上：一個碼字不能是另一個碼字的開頭； ? 從碼長上： 111???NinD i （ 2）緊致即時碼： （ 3）即時碼的碼樹表示法。 6 霍夫曼（ Huffman）編碼法 問題： 仙農(nóng) 費(fèi)諾法的優(yōu)缺點(diǎn)是什么？如何改進(jìn)？ 1 Huffman編碼法 例 對下列信源進(jìn)行二進(jìn)制編碼： },{)(} , , , , ,{ 654321??MpmmmmmmM解： 符號/ 3 5 )(l o g)()(61b i tmpmpMH iii??? ?? 先將符號按概率由大到小排列，再從概率最小的符號開始編碼 %983 5 l o g ,)( 81????? ??DnH ( M )nmpn iii??Hufman編碼法步驟： （ 1）將信源符號按概率由大到小順序排列； （ 2）將概率最小的兩個（對于 D=2）符號分成一組，分別賦予“ 0”、“ 1”，并計算出其概率和； （ 3） 將編過碼的組作為一個單一符號看待，繼續(xù)按（ 1）（ 2）步驟編碼，直至每個符號被分割出來為止； （ 4）按逆序讀出相應(yīng)符號的碼元，便得到所須的碼字。 兩種最佳編碼法： 仙農(nóng)費(fèi)諾法，霍夫曼（ Huffman）法 . 1 仙農(nóng) 費(fèi)諾編碼法 符號解編碼制試對下列信源進(jìn)行二進(jìn)按照概率匹配的原則例/ )(l o g)()( }1,0{ }0 6 2 ,0 6 2 ,1 2 ,0 6 2 ,0 6 2 ,1 2 {)(} , , , , , , ,{X :: , 8187654321b i txpxpXHDxpxxxxxxxxiii????????%100l o g)( 81????? ??DnH ( X )nxpn iii?2 仙農(nóng) 費(fèi)諾法的編碼步驟： （ 1）將信源符號按概率由大到小排列； （ 2）將全部信源符號分成概率和大致相等的兩個（ D=2）組，分別賦予“ 0”，“ 1”； （ 3）再按（ 2）的方法對各組進(jìn)行處理，直至每個符號被分割出來為止； （ 4） 按編碼過程順序讀出各符號相應(yīng)的碼元，便得到對應(yīng)的碼字。 . )(n 431n431l o g)(4141因而是即時碼XHpnppXHiiiiii??????????? 167。 例 設(shè)信源源不斷個符號出現(xiàn)的概率分別為 1/2， 1/4， 1/8， 1/8 ，試編成緊致即時碼，并將其平均碼長與信源熵進(jìn)行比較。 譯碼結(jié)果： W2 W1 W3 W1 W2，即 10， 0， 110， 0， 10 4 緊致即時碼： 平均碼長剛好等于信源熵的即時碼，其編碼效率為 100%。 w1=0 W2=10 W3=110 W4=111 (2)即時碼的譯碼 例 在上例中，若收到一串碼字 100110010，試用碼樹進(jìn)行譯碼。 ? 從未被選用的終點(diǎn)
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1