香農(nóng)三大定理-文庫(kù)吧資料
2024-08-18 17:28本頁(yè)面
【正文】 ? ? ? ? ?n=5 PE ≈105 n=7 PE ≈4 107 n=9 PE ≈108 R = logM/n bit/code R = logM/5 R = logM/7 R = logM/9 可靠性增強(qiáng) 有效性減小 矛盾 例 1 重復(fù)編碼 (n,1) 信息論與編碼基礎(chǔ) 香農(nóng)三大定理 簡(jiǎn)介 例 2 （ 5， 2）線性碼 ),( 54321 iiiiii aaaaa??21514213iiiiiiiiaaaaaaaa?????PE = *104 ， R = 信息論與編碼基礎(chǔ) 香農(nóng)三大定理 簡(jiǎn)介 例 2 （ 5， 2）線性碼 00000 01101 10111 11010 信道 00000 00010 01000 10001 00001 00100 10000 00011 01101 01111 00101 11100 01100 01001 11101 01110 10111 10101 11111 00110 10110 10011 00111 10100 11010 11000 10010 01011 11011 11001 01010 11001 00000 01101 10111 11010 信息論與編碼基礎(chǔ) 香農(nóng)三大定理 簡(jiǎn)介 香農(nóng)第二定理（ 有噪信道編碼定理 ） 定理 設(shè)某離散無(wú)記憶信道有 r個(gè)輸入符號(hào)， s個(gè)輸出符號(hào) 信道容量為 C。 2）無(wú)失真信源編碼的實(shí)質(zhì)：對(duì)離散信源進(jìn)行適當(dāng)?shù)淖儞Q，使變換 后新的符號(hào)序列信源盡可能為等概率分布，從而使新信源的每個(gè)碼 符號(hào)平均所含的信息量達(dá)到最大。 其中 rNLR N lo g39。C) = H(S) 惟一可譯碼 非惟一可譯碼 若某一種碼的任意一串有限長(zhǎng)的符號(hào)序列只能 被惟一地譯成所對(duì)應(yīng)的信源符號(hào)。信息論與編碼基礎(chǔ) 香農(nóng)三大定理 簡(jiǎn)介 一、香農(nóng)第一定理 二、香農(nóng)第二定理 三、香農(nóng)第三定理 信息論與編碼基礎(chǔ) 香農(nóng)三大定理 簡(jiǎn)介 一、香農(nóng)第一定理 二、香農(nóng)第二定理 三、香農(nóng)第三定理 信息論與編碼基礎(chǔ) 香農(nóng)三大定理 簡(jiǎn)介 信源編碼器 a、模型 編碼器 1: { , ..., }qS s a a? 1: { , .. ., }qC c W W?12{ , ..., }lii i i iW x x x?1: { , . . . , }rX x x x?單符號(hào)信源無(wú)失真編碼器 碼符號(hào) 碼字 碼長(zhǎng) 信息論與編碼基礎(chǔ) 香農(nóng)三大定理 簡(jiǎn)介 N次擴(kuò)展信源無(wú)失真編碼器 編碼器 1( , .. ., )N NS S S? 12{ , ..., }lii i i iW x x x?1: { , . . . , }rX x x x?1{ , ... , }1 , 2 , ... ,iqS a aiN??1, 2 , ..., Niq?信源編碼器 a、模型 信息論與編碼基礎(chǔ) 香農(nóng)三大定理 簡(jiǎn)介 b、舉例 1） ASCII信源編碼器 信源編碼器 ASCII編碼器 {英文字母 /符號(hào) /命令 } 二進(jìn)代碼 碼符號(hào)集 {0， 1} 信息論與編碼基礎(chǔ) 香農(nóng)三大定理 簡(jiǎn)介 信源編碼器 信源編碼器 I {A,B,…,Z} 二進(jìn)符號(hào) 碼符號(hào)集 {0， 1} 信源編碼器 II 碼符號(hào)集 {點(diǎn) /劃 /字母間隔 /單詞間隔 } 2）摩爾斯電碼
化學(xué)相關(guān)推薦
鄂ICP備17016276號(hào)-1