[理學(xué)]信息論與編碼第4章無失真信源編碼-在線瀏覽
2024-12-03 21:10本頁(yè)面
【正文】 12222???????????????? ? ????? ? ???iiii i iiiiiiiiiiiiiiXHpppXHppXHppXHpXHppXHppXHxIEX? 定長(zhǎng)編碼 ? 對(duì)信源符號(hào)采用定長(zhǎng)二元編碼，要求編碼效率，無記憶信源有 ? 因此 ? 可以得到 ? 如果要求譯碼錯(cuò)誤概率， ? 則 ? 由此可見，在對(duì)編碼效率和譯碼錯(cuò)誤概率的要求不是十分苛刻的情況下，就需要個(gè)信源符號(hào)一起進(jìn)行編碼，這對(duì)存儲(chǔ)和處理技術(shù)的要求太高，目前還無法實(shí)現(xiàn)。以異前綴編碼為例，如果編的過短，會(huì)使得大量的碼字不可用，如果較長(zhǎng)，則影響不大。 編碼空間 ? 實(shí)際上它是一個(gè)相對(duì)量，是指一個(gè)編碼占用的可以使用的編碼的比例，考慮異前綴編碼，顯然一個(gè)二進(jìn)制的編碼，如果將 0作為碼字，所有以 0開頭的編碼都不能再用，則有一半的編碼將不能繼續(xù)作為碼字，如果是兩位，則有四分之一的碼字不能使用，對(duì)于十進(jìn)制，一個(gè)一位的十進(jìn)制占用的比例為十分之一，依此，一個(gè) n位的 k進(jìn)制占用的編碼空間為 1/kn，當(dāng)占用的編碼空間小于等于 1的時(shí)候，異前綴碼是可能存在的，如果大于 1，則不可能存在。 ? ⑸ 取 pi二進(jìn)制數(shù)的小數(shù)點(diǎn)后 Ki位即為該消息符號(hào)的二進(jìn)制數(shù)。 ?????????????)(54321 uuuuuupU 香農(nóng)碼 香農(nóng)碼 ? 以 i=3為例，計(jì)算各符號(hào)的碼字長(zhǎng)度： ? K3=[－ ]=3 ? 累加概率 P4= —— … —— 101 香農(nóng)碼 香農(nóng)碼 ? 香農(nóng)編碼給予你什么啟示？ ? 香農(nóng)編碼中如何保證編碼是異前綴的？ ? 香農(nóng)編碼何時(shí)可以達(dá)到無損壓縮的理論極限？ ? 考慮有記憶和無記憶信源序列概率（概率和條件概率）分布具有平穩(wěn)性，對(duì)單個(gè)符號(hào)進(jìn)行本編碼和對(duì)序列進(jìn)行編碼，編碼的效率相比較如何？ 費(fèi)諾碼 ? 費(fèi)諾碼屬于概率匹配編碼，又稱為香農(nóng) 費(fèi)諾碼（ ShannonFano編碼），但它一般也不是最佳的編碼方法。 (2)將排列好的信源符號(hào)按概率值劃分成兩大組，使每組的概率之和接近于相等，并對(duì)每組各賦予一個(gè)二元碼符號(hào) 0和 1。 (4)依次下去，直至每個(gè)小組只剩一個(gè)信源符號(hào)為止 。 費(fèi)諾碼 ? 例 46 對(duì)信源 進(jìn)行費(fèi)諾編碼 表 42是忽略了排序過程的編碼， 43排序。 ②費(fèi)諾碼考慮了信源的統(tǒng)計(jì)特性，使概率大的信源符號(hào)能對(duì)應(yīng)碼長(zhǎng)較短的碼字，從而有效地提高了編碼效率。 哈夫曼碼 哈夫曼編碼的步驟如下： ⑴ 統(tǒng)計(jì)信源消息符號(hào)的概率，將信源消息符號(hào)按其出現(xiàn)的概率大小依次排列 p(u1)≥p(u2)≥…≥p(u n) ⑵ 取兩個(gè)概率最小的字母分別配以 0和 1兩碼元，并將這兩個(gè)概率相加作為一個(gè)新字母的概率，與未分配的二進(jìn)符號(hào)的字母重新排隊(duì)，合并后的信源稱為縮減信源。 ⑷ 不斷繼續(xù)上述過程，直到最后兩個(gè)符號(hào)配以 0和 1為止。 ? 例 47 給定離散信源如下： ????????????? )( 7654321 uuuuuuuupU? 例
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1