【正文】 可是，在這些條件下，碼字序列的每個碼元所載荷的平均信息量不但不能高于，反而會低于信源輸出序列的每個符號所載荷的平均信息量。它總共可以編出 L 個不同的碼字。 5 信源編碼的一般問題可以表述如下：若某信源的輸出為長度等于 M 的符號序列集合 式中符號 A 為信源符號表，它包含著 K 個不同的符號， A=｛ ɑk|k=1,? ,K｝，這個信源至多可以輸出 K 個不同的符號序列。 概率均勻化：使編碼中各個符號出現(xiàn)的概率盡可能地相等。 以上幾個編碼定理，在有記憶信源或連續(xù)信 源的情形也有相應(yīng)的類似結(jié)果。最后，按照與編碼過程相反的順序讀出各 個符號序列所對應(yīng)的二進(jìn)制數(shù)字組，就可分別得到各該符號序列的碼字。其他方法都是這些經(jīng)典方法的變形和發(fā)展。只要 V中各個碼字的長度 Ni(i＝ 1， ? ， ‖ V‖ )滿足克拉夫特不等式 。 通常 ,信源的符號熵 H(U)＜ logK，因此 ,上述條件還可以表示為 【 H(U)+ε 】/logL≤ N/M≤ logK/logL 特別 ,若有 K＝ L,那么 ,只要 H(U)＜ logK,就可能有 N＜ M，從而提高信息載荷的效率。它們既能改善信息載荷效率，又能保證碼字唯一可譯。只有滿足這些條件，才能保證無差錯地還原出原來的信源輸出符號序列 (稱為碼字的唯一可譯性 )。若 V的各個序列的長度等于 N，即 式中新的符號表 B 共含 L 個符號， B=｛ bl|l=1,? ,L｝。前者稱為解除相關(guān)性，后者稱為概率均勻化。 信源編碼是以提高通信的有效性為目的編碼。即同樣多的信息用較 少的碼率傳送 ,使單位時間內(nèi)傳送的平均信息量增加 ,從而提高通信的有效性。 信源編碼是為了減少信源輸出符號序列中的剩余度、提高符號的平均信息量，對信源輸出的符號序列所施行的變換。前者是離散信源或數(shù)字編碼的基礎(chǔ)，后者則是連續(xù)信源或模擬信號的基礎(chǔ)。 信源編碼簡介 信源編碼是以提高通信有效性為目的的編碼。 關(guān)鍵詞 ： 算術(shù)編碼 譯碼 MATLAB 仿真 2 目 錄 一、信源編碼 ......................................................................................................................................... 1 信源編碼的概念 ........................................................................................................................ 1 信源編碼簡介 ............................................................................................................................ 1 信源編碼的目的： ...................................................................................................................... 2 信源編碼的原理 ......................................................................................................................... 2 二、算術(shù)解碼的理論基礎(chǔ) ........................................................................................................................ 6 算術(shù)編碼算法的基本原理 .......................................................................................................... 6 算術(shù)編碼的特點(diǎn) ......................................................................................................................... 7 算術(shù)編碼的分析過程 ................................................................................................................. 7 算術(shù)編碼舉例 ............................................................................................................................. 9 三、算術(shù)編碼 MATLAB 仿真實(shí)現(xiàn) ......................................................................................................... 14 MATLAB 仿真程序?qū)崿F(xiàn) ........................................................................................................... 14 仿真設(shè)計(jì)流程圖 ....................................................................................................................... 14 算術(shù)編碼仿真設(shè)計(jì) ................................................................................................................... 15 結(jié)果分析 .................................................................................................................................. 20 設(shè)計(jì)總結(jié) .............................................................................................................................................. 20 參考文獻(xiàn) .............................................................................................................................................. 22 1 一、 信源編碼 信源編碼的概念 信源編碼是為了減少信源輸出符號序列中的剩余度、提高符號的平均信息量，對信源輸出的符號序列所施行的變換。具體說就是針對信源輸出符號序列的統(tǒng)計(jì)特性，尋找一定的方法把信源輸出符號序列變換為最短碼字的序列的方法。信源編碼是以提高通信有效性為目的的編碼。信源編碼理論是信息論的一個重要分支，其理論基礎(chǔ)是信源編碼的兩個定理：無失真信源編碼定理和限失真信源編碼定理。 本文從算術(shù)編碼原理、以及研究算術(shù)編碼的目的意義等，到具體算術(shù)編碼方案的分析比較以及其 MATLAB 語言的實(shí)現(xiàn)方案，有重點(diǎn)的對算術(shù)編碼的編碼過程進(jìn)行了分析和闡述。過本課程設(shè)計(jì)可以實(shí)現(xiàn)從鍵盤隨意輸入待傳輸信息，根據(jù)算術(shù)編碼原理輸出編碼結(jié)果，如果選擇譯碼，會輸出之前輸入的傳輸信息。當(dāng)然，這些都是廣義的信源編碼。 信源編碼理論是信息論的一個重要分支，其理論基礎(chǔ)是信源編碼的兩個定理：無失真信源編碼定理和限失真信源編碼定理。由于信源符號之間存在分布不均勻和相關(guān)性，使得信源存在冗余度，信源編碼的主要任務(wù) 就是減少冗余，提高編碼效率。采用的一般方法是壓縮每個信源符號的平均比特?cái)?shù)或信源的碼率。 信源編碼的主要任務(wù)就是減少冗余，提高編碼效率。 一 般來說，減少信源輸出符號序列中的剩余度、提高符號平均信息量的基本途徑有兩個：① 使序列中的 各個符號盡可能地互相獨(dú)立； ② 使序列中各個符號的出現(xiàn)概率盡可能地相等。所謂對這個信源的輸出進(jìn)行編碼，就是用一個新 的符號表 B 的符號序列集合 V來表示信源輸出的符號序列集合 U。為了使信源的每個輸出符號序列都能分配到一個獨(dú)特的碼字與之對應(yīng)，至少應(yīng)滿足關(guān)系 ‖ V‖ ＝ L≥‖ U‖ ＝ K， 或者 N/M≥ logK/logL； 假若編碼符號表 B 的 符號數(shù) L 與信源符號表 A 的符號數(shù) K 相等，則編碼后的碼字序列的長度 N 必須大于或等于信源輸出符號序列的長度 M；反之，若有 N＝ M，則必須有 L≥ K。下面的幾個編碼定理，提供了解決這個矛盾的方法。式中 H(U)是信源輸出序列的符號熵。 離散無記憶信源的變長編碼定理變長編碼是指 V的各個碼字的長度不相等。 具體實(shí)現(xiàn)唯一可譯變長編碼的