【正文】 了很多東西，認識到了信源編碼的基本目的是減少信源輸出符號序列的剩余度、提高碼字序列中碼元的平均信息量等等相關(guān)知識。 基于算術(shù)編碼算法，運行 MATLAB 程序，算術(shù)編碼輸出結(jié)果為 ； 輸入的字符經(jīng)過算術(shù)算法的解碼，輸出的符號串也是一致的，驗證了算術(shù)編碼算法是一種無失真的熵編碼方式。i=k %譯碼對字符的確認 switch 1 case ym==1 bm0=(bm00)/pa。 end l=a2a1。 aa=a1+l*(pa+pb+pc)。 a1=aa。 a2=pa+pb+pc+pd。由于在轉(zhuǎn)化為二進制時受限于字長，因此輸入的字符串長度要適宜。 39。簡單的編程環(huán)境提供了比較完備的調(diào)試系統(tǒng)，程序不必經(jīng)過編譯就可以直接運行，而且能夠及時地報告出現(xiàn)的錯誤及進行出錯原因分析。此時 c 的頻率又增加了 1 變?yōu)?3，累積頻率也又增加了 1 變?yōu)?6；概率分布更新為： 最后輸入字符 b，鎖定區(qū)間 [,)，然后在這個區(qū)間內(nèi)任意選擇 一個實數(shù)，例如 ，再將其轉(zhuǎn)化為二進制數(shù) l 位（連續(xù)乘以 2 取整）。靜態(tài)型算術(shù)編碼的編碼值是變化的然后找所對應(yīng)的區(qū)間；自適應(yīng)型算術(shù)編碼的編碼值是不變的，只需改變概率區(qū)間，然后用此 9 編碼值找到所對應(yīng)的區(qū)間，從而譯出碼字。當壓縮消息時，我們不能期待一個算術(shù)編碼器獲得最大的效率， 所能做的最有效的方法是在編碼過程中估算概率。離散無記憶信源的變長編碼定理指出：若離散無記憶信源的輸出符號序列為 ， 式中 A＝｛ ɑk|k=1,? ,K｝ ,符號熵為 H(U)，對 U進 行唯一可譯的變長編碼，編碼字母表B 的符號數(shù)為 L,即 B=｛ bl|l=1,? ,L｝ ,那么必定存在一種編碼方法，使編出的碼字 Vi＝(vi1,? ,viNi)， (i=1,? ,‖ V‖ )，具有平均長度嚻： MH(U)/logL≤嚻＜ MH(U)/logL+1； 若 L=K，則當 H(U)＜ logK＝ logL 時 ,必有嚻＜ M； H(U)離 logK 越遠，則嚻越小于 M。為了使信源的每個輸出符號序列都能分配到一個獨特的碼字與之對應(yīng)，至少應(yīng)滿足關(guān)系 ‖ V‖＝ L≥‖ U‖＝ K，或者 N/M≥ logK/logL； 假若編碼符號表 B 的符號數(shù) L與信源符號表 A的符號數(shù) K 相等，則編碼后的碼字序列的長度 N必須大于或等于信源輸出 符號序列的長度 M；反之，若有 N＝ M，則必須有 L≥ K。 表 11 由表中可以看出，在碼字序列中碼元 0 和 1 的概率分別為 10/21 和 11/21，二者近乎相等，實現(xiàn)了概率的均勻化。反之 ,若這個條件不滿足，就不可能實現(xiàn)無失真的編碼。 即用較少的碼字傳送較多的信息，使單位時間內(nèi)傳送的平均信息量增加，從而提高通信的有效性。采用的一般方法是壓縮每個信源符號的平均比特數(shù)或信源的碼率，同樣多的信息用較少的碼率來傳輸，使單位時間內(nèi)傳送的平均信息來量增加，從而提高通信的有效性。 ****************** 實踐教學 ******************* 計算機與通信學院 通信系統(tǒng)仿真訓練 題 目： 基于算術(shù)編碼的信源編碼 /解碼系統(tǒng)設(shè)計與仿真 1 摘 要 隨著社會的飛速發(fā)展，數(shù)字化已經(jīng)成了現(xiàn)今通信技術(shù)的主流發(fā)展方向，而實現(xiàn)數(shù)字化的重要步驟就是對信源 進行編碼。通常通過壓 縮信源的冗余度來實現(xiàn)。 通常通過壓縮信源的冗余度來實現(xiàn)。 離 散 無 記 憶 信源 的 定 長編 碼 定 理對 于 任 意 給定 的 ε ＞ 0 ， 只 要滿 足 條 件 3 N/M≥ (H(U)+ε )/logL 那么 ,當 M 足夠大時 ,上述編碼幾乎沒有失真 。 例如，某個離散無記憶信源的輸出符號序列及其對應(yīng)的概率分布為 4 對這些輸出符號序列進行霍夫曼編碼的具體步驟和結(jié)果如表。類似地 ,記‖ V‖＝ L。 這 ‖ V‖個碼字就能唯一地正確劃分和譯碼。需要開發(fā)態(tài)算術(shù)編碼的原因是因為事先知道精確的信源概率是很難的，而且是不切 7 實際的。 圖 算術(shù)編碼的譯碼分析框圖 讀取編碼結(jié)果，找到所屬區(qū)間范圍從而譯出碼字。此時 c 的頻率增加了 1 變?yōu)?2，累積頻率也增 12 加了 1 變?yōu)?5；概率分布更新為： 接著輸入第三個字符 c，落入?yún)^(qū)間 [,)。而且新版本的 MATLAB 提供了完整的聯(lián)機查詢、幫助系統(tǒng)，極大的方便了用戶的使用。請按下列要求輸入字符串： 39。) 圖 算術(shù)編碼仿真主界面 上圖顯示的是靜態(tài)型算術(shù)編碼的主界面，按要求輸入字符串，例 如 ’abcdef’。 a1=pa+pb+pc。 ab=a1+l*pa。d39。a2=ab。 （ 3）、譯碼程序段 while i=1amp。按 1，則譯出編碼前輸入的信息，得到編碼的譯碼結(jié)果。 在編程的過程中，又一次熟悉了通信系統(tǒng)仿真軟件 Matlan 的基本使用方法，能夠在該軟件的使用過程中解決隨時出現(xiàn)的問題，最重要的是提高了我綜合運用所學知識的能力和計算機的編程能力，為今后的工作和學習積累了寶貴的經(jīng)驗，對于以后 的畢業(yè)設(shè)計以及之后的工作都有相當重要的意義。 decode(i)=new_string(6)。本程序選擇區(qū)間中點做為編碼的二進制編碼是： 39。f39。 ab=a1+l*(pa+pb+pc)。amp。 a1=pa+pb。 disp(39。直至譯出最后一個碼字。 MATLAB 由一系列工具組成。 （ 2） 算術(shù)編碼舉例 在編碼之前，假設(shè)每個信源符號的頻率相等（如都等于 1），并計算累積頻率 從輸入流中讀入一個字符，并對該符號進行算 術(shù)編碼； 更新該符號的頻率，并更新累積頻率； 由于在解碼之前，解碼器不知道是哪個信源符號，所以概率更新應(yīng)該在解碼之后進行 對應(yīng)的，編碼器也應(yīng)在編碼后進行概率更新。信源符號的概率決定壓縮編碼的效率，也決定編碼過程中信源符號的間隔，而這些間隔包含在 0 到 1 之間。在靜態(tài)算術(shù)編碼中，信源符號的概率是固定的 。由上面這個條件可以看出， H(U)離 logK 越遠 ,通過編碼所能獲得的效率改善就越顯著。 記‖ U‖ =K。所有這些經(jīng)典編碼方法，都是通過以短碼來表示 常出現(xiàn)的符號這個原則來實現(xiàn)概率的均勻化，從而得到高的信息載荷效率；同時，通過遵守克拉夫特不等式關(guān)系來實現(xiàn)碼字的唯一可譯?？墒?，在這些條件下，碼字序列的每個碼元所載荷的平均信息量不但不能高于，反而會低于信源輸出序列的每個符號所載荷的平均信息量。 2 ： 信源存在冗余度。具體說，就是針對信源輸出符號 序列的統(tǒng)計特性來尋找某種方法，把信源輸出符號序列變換為最短的碼字序列，使后者的各碼元所載荷的平均信息量最大，同時又能保證無失真地恢復(fù)原來的符號序列。人們經(jīng)過不斷地探索，創(chuàng)造了許多種有效的信源編碼的方法，比如說哈弗曼編碼、算術(shù)編碼、游程編碼等，通過這些有效地信源編碼方式，很好的提高了通信的有效性。編碼可分為信源編碼和信道編碼。記 ‖ U‖ =K。實質(zhì)上，定長編碼方法 提高信息載荷能力的關(guān)鍵是利用了漸近等分性 ,通過選擇足夠大的 M,把本來各個符號概率不等［因而 H(U)＜ logK］的信源輸出符號序列變換為概率均勻的典型序列，而碼字的唯一可譯性則由碼字的定長性來解決。 針對信源輸出符號序列的統(tǒng)計特性，尋找一定的方法把信源輸出符號序列變換為最短的碼字序列。下面的幾個編碼定理，提供了解決這個矛盾的方法。 編碼的逆過程，利用不同編碼方法實現(xiàn)的生成的碼字通過其相應(yīng)方法實現(xiàn)對碼字的譯碼，還原出從信源輸入的信息。 （ 2）算術(shù)編碼器對整個消息只產(chǎn)生一個碼字，這個碼字是在間隔 [0, 1)中的一個實數(shù)， 因此譯碼器在接受到表示這個實數(shù)的所有位之前不能進行譯碼。因為 t 的 range low=,range high=,則下一個 low,high 分別為 Low=+＝ High=+＝ Range= t 將 [,） =[,） 同理得到下面各字符 e,＿ ,s,t,r,e,e 編碼所得到的范圍分別為 [,)，[,),[,),[,),[,），[,） ,[,） 。 a. 11011011B=，落入?yún)^(qū)間 [,)，所以譯碼器譯為 b，概率分布更新為： 13 b. 落入?yún)^(qū)間 [,)，譯為 c，概率分布更新為： c. 落入?yún)^(qū)間 [,)，譯為 c，概率分布更新為： d. 落入?yún)^(qū)間 [,)，譯為 b。在計算要求相同的情況下，使用 MATLAB 的編程工作量會大大減少。 39。 a2=0+pa。 a2=