信源編碼ppt課件-wenkub
2023-05-17 00:20:22 本頁(yè)面
【正文】 前綴部分 碼 1 碼 2 碼 3 碼 4 ai a1 0 0 1 1 a2 11 10 10 01 a3 00 00 100 001 a4 11 01 1000 0001 即時(shí)碼 奇異碼 非唯一 可譯碼 非即時(shí)碼 用碼樹(shù)來(lái)構(gòu)造碼字 碼樹(shù)從樹(shù)根開(kāi)始向下長(zhǎng)出 m 個(gè)樹(shù)枝，成為 m 進(jìn)制 碼樹(shù)，樹(shù)枝代表碼元，樹(shù)枝與樹(shù)枝的交點(diǎn)叫做節(jié)點(diǎn)。 任意一串有限長(zhǎng)碼序列，如 100111000 ，只能被分割 成 0、 1 10 、 0、 0 。 碼的不同屬性 碼表 信源符號(hào) 信源 出現(xiàn)概率 p(ai) 符號(hào) ai 碼 1 碼 2 碼 3 碼 4 a 1 1/2 0 0 1 1 a 2 1/4 11 10 10 01 a 3 1/8 00 00 100 001 a 4 1/8 11 01 1000 0001 奇異碼 奇異碼和非奇異碼 1 若信源符號(hào)和碼字是一一對(duì)應(yīng)的，則該碼為 非奇異 碼。 定長(zhǎng)碼 固定長(zhǎng)度的碼，碼中所 有碼字的長(zhǎng)度都相同。 碼字集合叫做代碼組 Y；碼字 所含碼元的個(gè)數(shù)稱 為該碼字的碼長(zhǎng)，記為 Ki 。 信源編碼的基本途徑 使序列中的各個(gè)符號(hào)盡可能地互相獨(dú)立，即解 除相關(guān)性，去冗余； 使編碼中各個(gè)符號(hào)出現(xiàn)的概率盡可能地相等， 即概率均勻化。在連續(xù)信源的情況下，由于信源的信息量 趨于無(wú)限，顯然不能用離散符號(hào)序列來(lái)完成無(wú)失真編 碼，而只能進(jìn)行限失真編碼。 無(wú)失真編碼 無(wú)失真信源編碼定理 信源編碼 限失真編碼 限失真信源編碼定理 無(wú)失真 ( 冗余度壓縮編碼 ) ：僅對(duì)信源的冗余度進(jìn)行 壓縮，不改變信源的熵。采用的 一般方法是增大碼率 /帶寬。同樣多的信息用較少的碼率來(lái) 傳送，使單位時(shí)間內(nèi)傳送的平均信息量增加，從 而提高通信的有效性。編碼的目的是為了優(yōu)化通信系統(tǒng)，就 是使這些指標(biāo)達(dá)到最佳。 按不同的編碼目的，編碼分為三類： 信源編碼 信道編碼 安全編碼 /密碼 信源編碼 信源編碼是以提高通信的有效性為目的編碼。 在不失真或允許失真的條件下，用 盡可能少的符號(hào)傳送信源信息。 在信道受干擾的情況下增加信號(hào)的抗干 擾能力，同時(shí)又使得信息傳輸率最大。無(wú)失真編碼是可逆的，即當(dāng) 信源符號(hào)變換成代碼后，可從代碼無(wú)失真地恢復(fù)出原 信源符號(hào)。 離散信源 無(wú)失真信源編碼定理稱為第一極限定理 離散和連續(xù)信道 信道編碼定理稱為第二極限定理 限失真信源編碼定理稱為第三極限定理 連續(xù)信源 信源編碼的主要任務(wù) 符號(hào)變換：使信源輸出符號(hào)與信道輸入符號(hào)匹配。 本章討論離散信源編碼。 分組碼 將信源消息分成若干組，即符號(hào)序列，每個(gè)符號(hào) 序列依照固定碼表映射成一個(gè)碼字，這樣的碼稱 為分組碼，有時(shí)也叫塊碼。 變長(zhǎng)碼 可變長(zhǎng)度碼，碼中的碼字長(zhǎng)短不一。反之為奇異碼 。任何其他分割法都會(huì)產(chǎn)生 一些非定義的碼字。 經(jīng)過(guò) r 個(gè)樹(shù)枝才能到達(dá)的節(jié)點(diǎn)稱為 r 階節(jié)點(diǎn)。 若一個(gè)碼所有碼字均處于終端節(jié)點(diǎn)，則該碼為即時(shí)碼。 該碼樹(shù)從根到終端節(jié)點(diǎn)所經(jīng)路徑上， 每一個(gè)中間節(jié)點(diǎn)皆為碼字，因此碼 3 不是即時(shí)碼，但它是唯一可譯碼。 K1 =1 , K2 =2 , K3 =3 , K4 =3 。 無(wú)失真信源編碼 要求能夠無(wú)失真或無(wú)差錯(cuò)地譯碼，同時(shí)希望所 得編碼的平均碼長(zhǎng)最小。 ? 定長(zhǎng)編碼后每個(gè)碼字 (5個(gè)二元符號(hào) )只攜帶約 信息量。 當(dāng) 時(shí)，不可能構(gòu)成無(wú)失真的編碼，也 就是不可能做一種編碼器，能使收端譯碼時(shí)差 錯(cuò)概率趨于零。 最佳編碼效率： ?編碼定理從理論上闡明了編碼效率接近 1 的理想編碼 器的存在性，它使輸出符號(hào)的信息率與信源熵之比接 近于 1 ，即： 若要實(shí)現(xiàn)，取無(wú)限長(zhǎng) L 的 信源符號(hào)進(jìn)行統(tǒng)一編碼。 根據(jù)信源各個(gè)符號(hào)的統(tǒng)計(jì)特性，如概率大的符號(hào)用 短碼，概率小的用較長(zhǎng)的碼，使得編碼后平均碼長(zhǎng) 降低，從而提高編碼效率。 ? 編碼效率的下界 為了衡量各種編碼方法與最佳碼的差距，定義碼的 剩余度為： 同前例： 設(shè)離散無(wú)記憶信源概率空間為 ? 信源熵： H ( X ) = 2 . 55 bit / 符號(hào) 要求編碼效率 η為 90 ％ 用二進(jìn)制 變長(zhǎng) 編碼， m ＝ 2 例： 設(shè)離散無(wú)記憶信源概率空間為 ? 信源熵： H ( X ) = 1/4 log4 +3/4 log3/4 = 0. 811 bit / 信源符號(hào) 若用二元定長(zhǎng)編碼 (0,1) 來(lái)構(gòu)造一個(gè)即時(shí)碼： ? 平均碼長(zhǎng)： 二元碼符號(hào) / 信源符號(hào) ? 編碼效率：
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1