【正文】 量的總和的測定單位。 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 110 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 111 香儂理論的要點是 ?信源中含有自然冗余度，這些冗余度既來自于信源本身的相關(guān)性，又來自于信源概率分布的不均勻性，只要找到去除相關(guān)性或改變概率分布不均勻性的手段和方法，也就找到了信息熵編碼的方法。但信源所含有的平均信息量（熵）是進(jìn)行無失真編碼的理論的極限，只要不低于此極限，就能找到某種適宜的編碼方法，去逼近信息熵，實現(xiàn)數(shù)據(jù)壓縮。 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 112 (2)信息冗余 ?多媒體數(shù)據(jù)中大的數(shù)據(jù)量并不完全等于它們所攜帶的信息量。在信息論中，稱為冗余。 ?冗余是指信息存在的各種性質(zhì)的多余度 . ?減少數(shù)據(jù)冗余可以節(jié)省存儲空間，有效利用網(wǎng)絡(luò)帶寬。 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 113 ?180個漢字，其文本數(shù)量為 360Byte ?變成語音： （ 8Kb,8b) ?1300倍 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 114 數(shù)據(jù)冗余的類型 ⑴ 空間冗余 物理特性具有相關(guān)性。 ⑵ 時間冗余 相鄰幀圖像之間有較大的相關(guān)性。 ⑶ 信息熵冗余 自然編碼的比特分配不能達(dá)到最佳。 ⑷ 視覺冗余 人眼不能察覺圖像中的所有變化。 ⑹ 知識冗余 數(shù)據(jù)的理解與先驗知識有很大的關(guān)系。例如，當(dāng)接收到一個成語的前三個字“ 大驚小 ”時，就知道下一個字肯定是“ 怪 ”。 ⑸ 聽覺冗余 人耳不能察覺所有頻率的變化。 信源編碼的熵信源大于實際熵，就必定存在冗余。 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 115 空間冗余 ?規(guī)則物體的物理相關(guān)性冗余分類。 ?規(guī)則物體和規(guī)則背景表面的物理特性具有相關(guān)性。 返回 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 116 時間冗余 視頻與動畫畫面間的相關(guān)性。 相鄰幀圖像間有較大的相關(guān)性。 返回 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 117 結(jié)構(gòu)冗余 規(guī)則紋理、相互重疊的結(jié)構(gòu)表面。 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 118 視覺冗余 視覺、聽覺敏感度和非線性感覺。 人的視覺對圖像的注意是非均勻的。一般分辨率能力為 26灰度等級，而一般圖像采用的是 28灰度等級。 224色 28色 返回 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 119 信息熵冗余 編碼冗余。 數(shù)據(jù)所攜帶的信息量少于數(shù)據(jù)本身而反映出來的數(shù)據(jù)冗余。 1011 0001 1100 1011 0001 1100 0101 1010 1010 1011 1100 0101 1111 1010 返回 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 120 (3)壓縮算法的分類 ?（ 1）從信息量有無損失劃分，有可逆編碼和不可逆編碼 ?可逆編碼也叫無失真編碼、冗余度壓縮、熵編碼等。其原理是減少數(shù)據(jù)中的冗余度，而不損失任何信息。解壓時可以完全恢復(fù)出原來的數(shù)據(jù)，亦稱無損壓縮。典型的無損壓縮有 Huffman編碼、算術(shù)編碼和行程編碼等。 ?可逆編碼由于不會產(chǎn)生失真，因此在多媒體技術(shù)中常用于文本、數(shù)據(jù)的壓縮，它能保證完全地恢復(fù)原始數(shù)據(jù)。但這種方法的壓縮比較低，一般在 2:1～ 5:1之間。 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 121 ?不可逆編碼是有失真壓縮，信息論中叫熵壓縮。由于壓縮了熵，會減少信息而不能再恢復(fù)。因此這種壓縮又稱有損壓縮。在語音和圖像中，由于存在視覺冗余和聽覺冗余，減少這種信息并不影響人們的聽覺效果和視覺效果，所以經(jīng)常采用這種方法， ?有損壓縮常用于數(shù)字化存儲的模擬數(shù)據(jù)，并且主要應(yīng)用于圖像、聲音、動態(tài)視頻等數(shù)據(jù)的壓縮。如果用混合編碼的 JPEG標(biāo)準(zhǔn)，對自然景物的彩色圖像，壓縮比可達(dá)到幾十倍甚至上百倍。 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 122 ?（ 2）定長編碼和變長編碼 ?定長編碼采用相同的位數(shù)對數(shù)據(jù)進(jìn)行編碼 ?變長編碼采用不相同的位數(shù)對數(shù)據(jù)進(jìn)行編碼 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 123 ?（ 3）根據(jù)壓縮原理劃分有預(yù)測編碼、變換編碼、矢量編碼、子帶編碼、熵編碼等。 ? 預(yù)測編碼 ?對于語音，就是通過預(yù)測去除語音信號時間上的相關(guān)性。而對于圖像，幀內(nèi)預(yù)測去除了空間上的冗余，幀間預(yù)測則可以去除時間上冗余。 ?目前大多數(shù)語音、圖像編碼中都采用了預(yù)測技術(shù)。 ?例如語音中的 LPC(linear Predictive Coding，線性預(yù)測 )、 CELP(碼激勵線性預(yù)測 )、圖像中的ADPCM(自適應(yīng)差分脈沖編碼調(diào)制 )等。 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 124 ?變換編碼 ?變換編碼首先把要壓縮的數(shù)據(jù)變換到某個變換域中，然后再進(jìn)行編碼。 ?變換域中表現(xiàn)為能量集中在某些區(qū)域，就可以利用這一特點在不同區(qū)域間有效地分配量化比特數(shù)，或者去掉這些能量很小的區(qū)域，從而達(dá)到數(shù)據(jù)壓縮的目的。 ?例如聲音中的頻譜分析實際上是對語音波形進(jìn)行了快速傅里葉變換（ FFT），將時域信號變到了頻域中，可以清楚地看到能量集中在哪些頻率范圍內(nèi)。 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 125 ?矢量量化編碼 ?矢量量化是利用相鄰數(shù)據(jù)間的相關(guān)性，將數(shù)據(jù)序列分組進(jìn)行量化的一種壓縮方法。和預(yù)測編碼一樣，矢量量化本質(zhì)也是利用數(shù)據(jù)序列的統(tǒng)計相關(guān)性進(jìn)行壓縮的。 ?子帶編碼 ?子帶編碼首先讓原始數(shù)據(jù)分別通過若干個具有不同通頻帶的濾波器，將信號分成多個子帶信號輸出，然后分別對各個濾波器的輸出進(jìn)行編碼。當(dāng)濾波器選取得合適時，它們的輸出將各自具有不同的分布特性，對各頻段進(jìn)行不同的量化處理，可以有效地進(jìn)行數(shù)據(jù)壓縮。 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 126 ?熵編碼 ?根據(jù)信息墑的原理，用短碼表示出現(xiàn)概率大的數(shù)據(jù)，用長碼表示出現(xiàn)概率小的數(shù)據(jù)。這是一種無損數(shù)據(jù)壓縮技術(shù)，在語音和圖像編碼中常常和其它有損壓縮編碼方法結(jié)合使用。 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 127 壓縮方法分類 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 128 ? (1)霍夫曼編碼 ?霍夫曼 (Huffman)編碼在 1952年為文本文件而建立?；舴蚵幋a的碼長是變化的，對于出現(xiàn)頻率高的信息，編碼的長度較短；而對于出現(xiàn)頻率低的信息，編碼長度較長。這樣，處理全部信息的總碼長一定小于實際信息的符號長度。 ? （ 1）將信號源的符號按照出現(xiàn)概率遞減的順序排列。 ? （ 2）將兩個最小出現(xiàn)概率進(jìn)行合并相加，得到的結(jié)果作為新符號的出現(xiàn)概率。 ? （ 3）重復(fù)進(jìn)行步驟 1和 2，直到概率相加的結(jié)果等于 1為止。 ? （ 4）在合并運算時，概率大的符號用編碼 1表示，概率小的符號用編碼 0表示。 ? （ 5）記錄下概率為 1處到當(dāng)前信號源符號之間的 0、 1序列，從而得到每個符號的編碼 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 129 ?例 設(shè)信號源為 X={ 、 a、 e、 I、 m、 t、c、 h、 r}。 ?對應(yīng)的概率為 p={、 、 、 、 、 、 、 },試給出該信源的霍夫曼編碼方案。 ? 若傳送一個串字符串 “ I am a teacher” ，共 14個字符。若用 ASCII傳送，每個字符 8位，共需 112位。該字符串中有 9個不同的符號，至少需要 4位二進(jìn)制才能表示，這樣傳送該字符串也要 56位。若用剛計算的Huffman編碼，只需要 42位。 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 130 霍夫曼編碼過程 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 131 (2)行 xin程編碼原理 ?由字符 (或信號采樣值 )構(gòu)成的數(shù)據(jù)流中相同的字符 (或字符串 )會連續(xù)重復(fù)出現(xiàn)，重復(fù)出現(xiàn)的字符長度稱為游程長度 RL（ Run Length）。如果給出了形成串的字符，串的長度及串的位置，就能復(fù)出原來的數(shù)據(jù)流。行程編碼 RLC(Run Length Coding)就是用二進(jìn)制碼字給出上述信息的一類方法。行程編碼又稱 “ 運行長度編碼 ” 或 “ 游程編碼 ” 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 132 ? 例 設(shè)有數(shù)據(jù)流 “ AAABBBBCCCCCDAAAAAA” ，試計算該數(shù)據(jù)的行程編碼。 ? 解 ： A重復(fù) 3次， B重復(fù) 4次， C重復(fù) 5次， D不重復(fù)， A重復(fù) 6次， RLC數(shù)據(jù)流為： “ SA3SB4SC5DSA6” ，其中 S為指示符?？偣舱加?13個字節(jié)，而源數(shù)據(jù)占用19個字節(jié)。 ? 有時行程編碼不用指示符，重復(fù)與否相同對待，則相應(yīng)的 RLC為 “ A3B4C5D1A6” 占用 10個字節(jié)。 ■ 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 133 （ 3） 算術(shù)編碼 ? 是圖像壓縮的主要算法之一。 是一種無損數(shù)據(jù)壓縮方法，也是一種熵編碼的方法。和其它熵編碼方法不同的地方在于，其他的熵編碼方法通常是把輸入的消息分割為符號，然后對每個符號進(jìn)行編碼，而算術(shù)編碼是直接把整個輸入的消息編碼為一個數(shù)，一個滿足 ( ≤ n )的小數(shù) n。 ?關(guān)于算術(shù)編碼的美國專利 ? 許多算術(shù)編碼所用的不同方法受美國專利的保護(hù)。其中一些專利對于實現(xiàn)一些國際標(biāo)準(zhǔn)中定義的算術(shù)編碼算法是很關(guān)鍵的。在這種情況下，這些專利通常按照一種合理和非歧視（ RAND）授權(quán)協(xié)議使用（至少是作為標(biāo)準(zhǔn)委員會的一種策略）。在一些著名的案例中（包括一些涉及 IBM的專利）這些授權(quán)是免費的，而在另外一些案例中，則收取一定的授權(quán)費用。 RAND條款的授權(quán)協(xié)議不一定能夠滿足所有打算使用這項技術(shù)的用戶，因為對于一個打算生產(chǎn)擁有所有權(quán)軟件的公司來說這項費用是“合理的”，而對于自由軟件和開源軟件項目來說它是不合理的。 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 134 （ 4） LZW編碼 ? LZW就是通過建立一個字符串表 ,用較短的代碼來表示較長的字符串來實現(xiàn)壓縮 . LZW壓縮算法是 Unisys的專利 ,有效期到 2021年 ,所以對它的使用是有限制的 ? 字符串和編碼的對應(yīng)關(guān)系是在壓縮過程中動態(tài)生成的 ,并且隱含在壓縮數(shù)據(jù)中 ,解壓的時候根據(jù)表來進(jìn)行恢復(fù) ,算是一種無損壓縮 . ? 根據(jù) LempelZivWelch Encoding ，簡稱 LZW 的壓縮算法，用任何一中語言來實現(xiàn)它 . ? LZW壓縮算法的基本原理：提取原始文本文件數(shù)據(jù)中的不同字符，基于這些字符創(chuàng)建一個編譯表，然后用編譯表中的字符的索引來替代原始文本文件數(shù)據(jù)中的相應(yīng)字符，減少原始數(shù)據(jù)大小?？雌饋砗?調(diào)色板 圖象的實現(xiàn)原理差不多，但是應(yīng)該注意到的是，我們這里的編譯表不是事先創(chuàng)建好的，而是根據(jù)原始文件數(shù)據(jù)動態(tài)創(chuàng)建的，解碼時還要從已編碼的數(shù)據(jù)中還原出原來的編譯表 . 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 135 ? ? 電視會議的語音編碼、為提高線路利用率的多媒體多路復(fù)用裝置、數(shù)字錄音電活的數(shù)字記錄部件以及高質(zhì)量的語音合成器 。數(shù)字移動通信、無繩電話 ? ITU 國際電信聯(lián)盟 International Telemunication Union 標(biāo)準(zhǔn)編號 要 點 采用 PCM編碼，采樣頻率 8kHz，采樣精度 8bit，數(shù)據(jù)率 64kb/s，非線性量化 基于 ADPCM編碼，采樣頻率 8kHz，數(shù)值差分用 4位量化，數(shù)據(jù)率32kb/s ADPCM編碼，數(shù)據(jù)率 24k/s（ 自適應(yīng)差分脈沖編碼調(diào)制的簡稱 ） LDCELP編碼技術(shù)，數(shù)據(jù)率 16k/s，音質(zhì)與 （ 低時延碼激勵線性預(yù)測編碼 ） 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 136 (2)調(diào)幅廣播質(zhì)量的音頻壓縮標(biāo)準(zhǔn) ?調(diào)幅廣播質(zhì)量音頻信號的頻率范圍是 50Hz～ 7kHz，又稱“ 7kHz音頻信號 ” ，當(dāng)使用 16kHz的采樣頻率和 14bit的量化位數(shù)時，信號速率為 224kb／ s。 ?1988年 ITU制定了 ，它可把信號速率壓縮成64kb／ s。 ? ADPCM技術(shù) (SB— ADPCM)，將現(xiàn)有的帶寬分成兩個獨立的子帶信道，使輸入信號進(jìn)入濾波器組分成高子帶信號和低子帶信號，然后分別進(jìn)行 ADPCM編碼，最后進(jìn)入混合器形成輸出碼流。 ?這種壓縮方法能夠在每秒 8kB的存儲量下給出相當(dāng)好的音樂信號，也很適合于需要存儲大量高質(zhì)量音頻信號的多媒體系統(tǒng)使用 制作：西安交通大學(xué) 計算機(jī)教學(xué)實驗中心 137 (3)高保真立體聲音頻壓縮標(biāo)準(zhǔn) ?高