信源編碼ppt課件-wenkub
2023-05-17 00:20:22 本頁面
【正文】 前綴部分 碼 1 碼 2 碼 3 碼 4 ai a1 0 0 1 1 a2 11 10 10 01 a3 00 00 100 001 a4 11 01 1000 0001 即時碼 奇異碼 非唯一 可譯碼 非即時碼 用碼樹來構(gòu)造碼字 碼樹從樹根開始向下長出 m 個樹枝，成為 m 進(jìn)制 碼樹，樹枝代表碼元，樹枝與樹枝的交點(diǎn)叫做節(jié)點(diǎn)。 任意一串有限長碼序列，如 100111000 ，只能被分割 成 0、 1 10 、 0、 0 。 碼的不同屬性 碼表 信源符號 信源 出現(xiàn)概率 p(ai) 符號 ai 碼 1 碼 2 碼 3 碼 4 a 1 1/2 0 0 1 1 a 2 1/4 11 10 10 01 a 3 1/8 00 00 100 001 a 4 1/8 11 01 1000 0001 奇異碼 奇異碼和非奇異碼 1 若信源符號和碼字是一一對應(yīng)的，則該碼為 非奇異 碼。 定長碼 固定長度的碼，碼中所 有碼字的長度都相同。 碼字集合叫做代碼組 Y；碼字 所含碼元的個數(shù)稱 為該碼字的碼長，記為 Ki 。 信源編碼的基本途徑 使序列中的各個符號盡可能地互相獨(dú)立，即解 除相關(guān)性，去冗余； 使編碼中各個符號出現(xiàn)的概率盡可能地相等， 即概率均勻化。在連續(xù)信源的情況下，由于信源的信息量 趨于無限，顯然不能用離散符號序列來完成無失真編 碼，而只能進(jìn)行限失真編碼。 無失真編碼 無失真信源編碼定理 信源編碼 限失真編碼 限失真信源編碼定理 無失真 ( 冗余度壓縮編碼 ) ：僅對信源的冗余度進(jìn)行 壓縮，不改變信源的熵。采用的 一般方法是增大碼率 /帶寬。同樣多的信息用較少的碼率來 傳送，使單位時間內(nèi)傳送的平均信息量增加，從 而提高通信的有效性。編碼的目的是為了優(yōu)化通信系統(tǒng)，就 是使這些指標(biāo)達(dá)到最佳。 按不同的編碼目的，編碼分為三類： 信源編碼 信道編碼 安全編碼 /密碼 信源編碼 信源編碼是以提高通信的有效性為目的編碼。 在不失真或允許失真的條件下，用 盡可能少的符號傳送信源信息。 在信道受干擾的情況下增加信號的抗干 擾能力，同時又使得信息傳輸率最大。無失真編碼是可逆的，即當(dāng) 信源符號變換成代碼后，可從代碼無失真地恢復(fù)出原 信源符號。 離散信源 無失真信源編碼定理稱為第一極限定理 離散和連續(xù)信道 信道編碼定理稱為第二極限定理 限失真信源編碼定理稱為第三極限定理 連續(xù)信源 信源編碼的主要任務(wù) 符號變換：使信源輸出符號與信道輸入符號匹配。 本章討論離散信源編碼。 分組碼 將信源消息分成若干組，即符號序列，每個符號 序列依照固定碼表映射成一個碼字，這樣的碼稱 為分組碼，有時也叫塊碼。 變長碼 可變長度碼，碼中的碼字長短不一。反之為奇異碼 。任何其他分割法都會產(chǎn)生 一些非定義的碼字。 經(jīng)過 r 個樹枝才能到達(dá)的節(jié)點(diǎn)稱為 r 階節(jié)點(diǎn)。 若一個碼所有碼字均處于終端節(jié)點(diǎn)，則該碼為即時碼。 該碼樹從根到終端節(jié)點(diǎn)所經(jīng)路徑上， 每一個中間節(jié)點(diǎn)皆為碼字，因此碼 3 不是即時碼，但它是唯一可譯碼。 K1 =1 , K2 =2 , K3 =3 , K4 =3 。 無失真信源編碼 要求能夠無失真或無差錯地譯碼，同時希望所 得編碼的平均碼長最小。 ? 定長編碼后每個碼字 (5個二元符號 )只攜帶約 信息量。 當(dāng) 時，不可能構(gòu)成無失真的編碼，也 就是不可能做一種編碼器，能使收端譯碼時差 錯概率趨于零。 最佳編碼效率： ?編碼定理從理論上闡明了編碼效率接近 1 的理想編碼 器的存在性，它使輸出符號的信息率與信源熵之比接 近于 1 ，即： 若要實(shí)現(xiàn)，取無限長 L 的 信源符號進(jìn)行統(tǒng)一編碼。 根據(jù)信源各個符號的統(tǒng)計(jì)特性，如概率大的符號用 短碼，概率小的用較長的碼，使得編碼后平均碼長 降低，從而提高編碼效率。 ? 編碼效率的下界 為了衡量各種編碼方法與最佳碼的差距，定義碼的 剩余度為： 同前例： 設(shè)離散無記憶信源概率空間為 ? 信源熵： H ( X ) = 2 . 55 bit / 符號 要求編碼效率 η為 90 ％ 用二進(jìn)制 變長 編碼， m ＝ 2 例： 設(shè)離散無記憶信源概率空間為 ? 信源熵： H ( X ) = 1/4 log4 +3/4 log3/4 = 0. 811 bit / 信源符號 若用二元定長編碼 (0,1) 來構(gòu)造一個即時碼： ? 平均碼長： 二元碼符號 / 信源符號 ? 編碼效率：
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1