[計算機軟件及應(yīng)用]第5章信源編碼ppt-資料下載頁
2025-02-20 22:16本頁面
【正文】 應(yīng)于短碼，概率小的符號對應(yīng)與長 碼，充分利用了短碼，從而使平均碼長最??； 3) 哈夫曼編碼時，縮減信源的最后二個碼字總是最 后一位不同，從而保證了哈夫曼碼是即時碼。 費諾碼是從樹根開始，把各節(jié)點分給某子集，若子 集已是單點集，它就是一片樹葉而作為碼字。 哈夫曼編碼是先給每一符號一片樹葉，逐步合并成 節(jié)點直到樹根。 哈夫曼的編法并不惟一。 說明 ? 每次對概率最小的符號分配 “ 0” 和 “ 1” 碼元是任意 的，所以可得到不同的碼字。只要在各次縮減信源 中保持碼元分配的一致性，即能得到可分離碼字。 ? 不同的碼元分配，得到的具體碼字不同，但碼長 K i 不變，平均碼長也不變，所以沒有本質(zhì)區(qū)別。 ? 縮減信源時，若合并后的新符號概率與其他符號概 率相等，從編碼方法上來說，這幾個符號的次序可 任意排列，編出的碼都是正確的，但得到的碼字不 相同，不同的編法得到的碼字長度 K i 也不盡相同。 ? 在哈夫曼編碼過程中，對縮減信源符號按概率由大 到小的順序重新排列時，應(yīng)使合并后的新符號盡可 能排在靠前的位置，這樣可使合并后的新符號重復 編碼次數(shù)減少，使短碼得到充分利用。 m 進制哈夫曼編碼 在編 m 進制哈夫曼碼時，為了使短碼得到充分利用， 使平均碼長最短，必須使最后一步的縮減信源有 m 個 信源符號。 縮減次數(shù) 每次縮減所減少 的信源符號個數(shù) 信源符號數(shù) n 應(yīng)滿足： 不滿足時：設(shè) q個概率為 0 的信源符號，使 q+n 滿足要求 第一次對最小概率符號分配碼元時只取 (mq) 個，分別 配以 0,1,…, m q1 ，把這些符號的概率相加作為一個新 符號的概率，與其它符號一起重新排列。以后每次取 m 個符號，分別配以 0,1,…, m 1；如此下去，直至所有 概率相加得 1 為止，即得到各符號的 m 進制碼字。 單符號離散無記憶信源， 例 試對該信源編三進制哈夫曼碼。 m =3 ， n =8 無法滿足 n = s ( m 1) + m s =3 ， q =1 q + n = s ( m 1) + m 第一次取 m q =2 個符號進行編碼 平均碼長 信息傳輸率 編碼效率 ? 香農(nóng)碼、費諾碼、哈夫曼碼都考慮了信源的統(tǒng)計特 性，使經(jīng)常出現(xiàn)的信源符號對應(yīng)較短的碼字，使平 均碼長縮短，從而實現(xiàn)了對信源的壓縮； ? 香農(nóng)碼有系統(tǒng)的、惟一的編碼方法，費諾碼和哈夫 曼碼的編碼方法都不惟一； ? 費諾碼比較適合于對分組概率相等或接近的信源編 碼，費諾碼也可以編 m 進制碼，但 m 越大，信源的符 號數(shù)越多，可能的編碼方案就越多，編碼過程就越 復雜，有時短碼未必能得到充分利用； ? 哈夫曼碼對信源的統(tǒng)計特性沒有特殊要求，編碼效 率比較高，對編碼設(shè)備的要求也比較簡單，因此綜 合性能優(yōu)于香農(nóng)碼和費諾碼。 限失真信源編碼定理 ? 設(shè)離散無記憶信源 X 的信息率失真函數(shù)為 R (D) ， – 當信息率 R ＞ R (D) 時，只要信源序列長度 L 足 夠長，一定存在一種編碼方法，其譯碼失真小 于或等于 D+ε， ε為任意小的正數(shù)； – 反之，若 R＜ R (D) ，則無論采用什么樣的編碼方 法，其譯碼失真必大于 D 。 ? 如是二元信源，則對于任意小的 ε＞ 0 ，每一個信 源符號的平均碼長滿足如下公式： 常用信源編碼方法簡介 游程編碼 游程：數(shù)字序列中連續(xù)出現(xiàn)相同符號的一段。 在二元序列中，連 0 段稱為 0 游程，連 1 段稱為 1 游程 游程長度序列 / 游程序列：用交替出現(xiàn)的 “ 0” 游程 和 “ 1” 游程長度表示任意二元序列。 游程變換：是一種一一對應(yīng)的變換，也是可逆變換。 游程序列： 3113213 二元序列： 000101110010001 若已知二元序列以 0 起始，從游程序列很容易恢復成 原來的二元序列。 游程變換將二元序列變換成了多元序列；這樣 就適合于用其他方法，如哈夫曼編碼，進一步 壓縮信源，提高通信效率。 ? 編碼方法： – 首先測定 “ 0” 游程長度和 “ 1” 游程長度的概率 分布，即以游程長度為元素，構(gòu)造一個新的 信源； – 對新的信源 ( 游程序列 ) 進行哈夫曼編碼。 算術(shù)編碼 ? 算術(shù)編碼是近十多年來發(fā)展迅速的一種無失真信源 編碼，它與最佳的哈夫曼碼相比，理論性能稍加遜 色，而實際壓縮率和編碼效率卻往往還優(yōu)于哈夫曼 碼，且實現(xiàn)簡單，故很受工程上的重視。 ? 算術(shù)編碼不同于哈夫曼碼，它是非分組 ( 非塊 ) 碼。它 從全序列出發(fā)，考慮符號之間的關(guān)系來進行編碼。 ? 算術(shù)編碼利用了累積概率的概念。 ? 算術(shù)碼主要的編碼方法是計算輸入信源符號序列所 對應(yīng)的區(qū)間。
教學課件相關(guān)推薦
鄂ICP備17016276號-1