【正文】 訓(xùn)練矢量作為第一個(gè)碼字，計(jì)算出此碼字相對訓(xùn)練序列TS中各個(gè)矢量的失真，凡失真小于的那些TS中的矢量，均屬于胞腔，這樣確定的胞腔為 式（28）第二歩 在剩余的矢量之中，選一個(gè)訓(xùn)練矢量作為第二個(gè)碼字，仍以與上述相同的矢量半徑計(jì)算相對剩余TS中各矢量的失真，以確定第二個(gè)胞腔，即 式（29）第三歩 按上述步驟，構(gòu)成新的胞腔，……，要不斷的修改失真半徑反復(fù)多次修改，直至選出的碼字個(gè)數(shù)滿足碼書大小N的要求為止。其實(shí)在別的設(shè)計(jì)算法中。下面進(jìn)行說明[4]。用分裂法形成的初始碼書，其性能較好，當(dāng)然矢量量化器的性能也較好，只是計(jì)算工作量比較大，隨著馬書中碼字的增加，計(jì)算量也迅速增加。如此反復(fù)，經(jīng)過次設(shè)計(jì)，就得到所要求的有N個(gè)碼字的初始碼書。二 分裂法該方法是1980年由Linde,Buzo,Gray提出的，先取一個(gè)較少碼字的碼書，用LBG算法對其優(yōu)化，對優(yōu)化的結(jié)果進(jìn)行分裂，得到較大的體積，較優(yōu)化的碼書再，重復(fù)優(yōu)化，分裂，再優(yōu)化過程。但這種方法也存在一些問題，就是很可能選到一些不是典型的矢量作為碼字，因此該胞腔只有很少的矢量，特別是只剩下一個(gè)初始碼字，造成在某些空間將胞腔劃分的太細(xì)致，碼字中有很多個(gè)碼字得不到充分的利用，而有些空間將胞腔分的過大，所以該方法比較適用于相對比較平穩(wěn)的序列。其優(yōu)點(diǎn)是大大節(jié)約計(jì)算時(shí)間，而且由于初始碼書是從訓(xùn)練序列中選出來得，所以沒有空胞腔的問題。LBG算法流程圖如下所示：開始給定碼書大小N，初始碼書 ，訓(xùn)練序列TS置n=0，起始平均失真 以及給定計(jì)算停止門限。利用訓(xùn)練序列建立碼書的LBG算法的步驟如下[3]：第一步 初始化：給定初始碼書，即給定碼書的大小N和碼字，并設(shè)置n=0,設(shè)起始平均失真 ， 以及給定計(jì)算停止門限。LBG算法是目前比較常用和流行的一種碼書建立方法，該方法可以用于兩種情況：一是已知信源概率分布，二是未知信源概率分布，但是已知一個(gè)信號序列的情況。重復(fù)上述過程，直到系統(tǒng)滿足性能要求或不在有明顯改進(jìn)是結(jié)束迭代。LBG算法是一種迭代算法，從一個(gè)最初選定的初始碼本開始迭代。最鄰近準(zhǔn)則；根據(jù)該條件對信號空間進(jìn)行最佳劃分，對于信源空間中的任意一個(gè)矢量X，若X和碼字的失真小于它和其他碼字的失真，即 式（21）則為最佳劃分，即為一個(gè)胞腔由于給定碼書中共有N個(gè)碼字，所以可以把信源空間劃分為N個(gè)區(qū)間.二 最佳碼書劃分了后，為了使碼書的平均失真最小，碼字必須為相應(yīng)劃分 的形心即滿足 centroid質(zhì)心條件 式（22）為集合中矢量的個(gè)數(shù) LBG算法實(shí)現(xiàn)LBG算法由Linde ，Buzo和 Gray在1980年提出，它是標(biāo)量量化器中Lloyd算法的推廣，在矢量量化中是一個(gè)基本算法[2]。矢量量化器最佳設(shè)計(jì)中最重要的問題是如何確定量化區(qū)間和確定矢量量化，也就是要達(dá)到最佳劃分和最佳碼書。本章選取LBG算法，覆蓋算法和PNN算法三種算法進(jìn)行研究。歐氏距離均方誤差的定義如下：設(shè)輸入信號的某個(gè)K維矢量X，與碼書中某個(gè)K維矢量Y進(jìn)行比較，分別表示X和Y中的各元素（），則定義均方誤差為歐氏距離，即有 式（17）這里，的下標(biāo)2表示平方誤差。失真測度主要有均方誤差失真測度（即歐氏距離），加權(quán)的均方誤差失真測度，板倉齋藤似然比距離，似然比失真測度等，它們在語音信號處理中常被應(yīng)用于語音波形矢量量化，線性預(yù)測參數(shù)矢量量化和孤立詞識別的矢量量化中。失真測度是以什么樣的方法來反映用碼字代替信源矢量時(shí)所付出的代價(jià)，即 式（16）式中， 表示求期望。在編碼的過程中，需要引入失真測度的概念。很明顯，由于在信道中傳輸?shù)牟⒉皇鞘噶勘旧?，而是其序列號的編碼信號，所以傳輸速率還可以進(jìn)一步提高。在編碼端，輸入矢量X與碼書（）中的每一個(gè)或部分碼字進(jìn)行比較，分別計(jì)算它們的失真，搜索到失真最小的碼字的序號（或此碼字所在碼書中的地址），并將的編碼信號通過信道傳輸?shù)阶g碼端；在譯碼端，先把信道傳來的編碼信號譯成序號，再根據(jù)序號 (或碼字所在地址)，從碼書（）中查出相應(yīng)的碼字。在這么多年的發(fā)展中矢量量化技術(shù)被不斷的推出新的設(shè)計(jì)。矢量量化技術(shù)的核心是矢量量化器的設(shè)計(jì)。 矢量量化器概述矢量量化在實(shí)際中的應(yīng)用實(shí)現(xiàn)就是矢量量化器。碼字索引進(jìn)行重新分配可以有效的減少這種失真對于矢量量化來說，設(shè)計(jì)性能好的碼書是矢量量化最為關(guān)鍵的問題。二 碼字搜索 矢量量化碼字搜索算法是當(dāng)碼書已經(jīng)設(shè)計(jì)好的時(shí)候，輸入給定矢量，在碼書中搜索與輸入碼字間失真最小的碼字[1]。那么設(shè)計(jì)碼書的過程就要找到一種最佳方案把N個(gè)訓(xùn)練矢量分成M類，而把這M類的質(zhì)心矢量作為碼書的碼字。如果沒有碼書，那么編碼將根本無法實(shí)現(xiàn)。矢量量化系統(tǒng)通?？梢苑纸鉃閮蓚€(gè)集合的映射，即 式（13）式中， 是編碼器，它是將輸入矢量映射為信道符號集中的一個(gè)元；是譯碼器，它是將信道符號映射為碼書中的一個(gè)碼字，即 式（14） 式（15） 矢量量化步驟矢量量化共有三個(gè)關(guān)鍵技術(shù)，即：碼書設(shè)計(jì),碼字搜索和碼字索引分配。不同的劃分或不同的量化矢量選取就可以構(gòu)成不同的矢量量化器。通常把所有M個(gè)量化矢量構(gòu)成的集合稱之為碼書（codebook）或碼本。若要對落在二維矢量空間中的一個(gè)模擬矢量進(jìn)行量化，首先要選擇一個(gè)合適的失真測度，而后利用最小失真原則，分別計(jì)算用量化矢量替代X所帶來的失真。所有可能的二維矢量就構(gòu)成了一個(gè)平面，記為（a1,a2）,所有可能的（a1,a2）就是一個(gè)二維空間。其中量化矢量構(gòu)成的集合稱為碼書或碼本，碼書中的每個(gè)矢量稱為碼字或碼矢。圖（11）標(biāo)量量化原理圖二 矢量量化 矢量量化：若干個(gè)標(biāo)量數(shù)據(jù)組成一個(gè)矢量，矢量量化是對矢量進(jìn)行量化，它把矢量空間分成若干個(gè)小區(qū)域，每個(gè)小區(qū)域?qū)ふ乙粋€(gè)代表矢量，量化時(shí)落入小區(qū)域的矢量就用這個(gè)代表矢量代替，或者叫著被量化為這個(gè)代表矢量。 量化分為兩類：標(biāo)量量化和矢量量化一 標(biāo)量量化整個(gè)動(dòng)態(tài)范圍被分成若干個(gè)小區(qū)間，每個(gè)小區(qū)間有一個(gè)代表值，量化時(shí)落入小區(qū)間的信號值就用這個(gè)代表值代替，或者叫被量化為這個(gè)代表值。此外，先進(jìn)的預(yù)測技術(shù)也是提高壓縮比的一種方法。人們試圖找到各種新的碼書優(yōu)化的算法和策略。從另一個(gè)角度來看，碼書設(shè)計(jì)也是一個(gè)迭代過程，碼書可以視為一個(gè)類似函數(shù)優(yōu)化的問題，所以要搜索最優(yōu)化的全局碼書，就需要一種全局算法。矢量量化的三大關(guān)鍵 步驟和技術(shù)是：碼書設(shè)計(jì)，碼字搜索和碼字索引分配前兩項(xiàng)是矢量量化過程中的關(guān)鍵。由于矢量量化的高壓縮比，使得它可以應(yīng)用在民用的高清電視，網(wǎng)絡(luò)視頻的實(shí)時(shí)傳輸上，也可以應(yīng)用在軍用國防的衛(wèi)星遙感，雷達(dá)監(jiān)測等方面。第一章 矢量量化器 矢量量化概述矢量量化技術(shù)涉及到許多學(xué)科的技術(shù)和理論知識，且應(yīng)用范圍非常廣泛。近幾十年來在已經(jīng)提出的各種矢量量化方法和系數(shù)的基礎(chǔ)上，更多更好的矢量量化方法漸漸出現(xiàn)。1983年，美國BBN公司研制了一種分段式聲編碼器。這一時(shí)期，人們對矢量量化問題展開了全面的研究，其中主要是對失真測度的探討，碼書的設(shè)計(jì)，各種矢量量化系統(tǒng)的研究，快速搜索算法的尋找等等。1980年，linde,buzo和gray將Loydmax算法推廣，發(fā)表了第一個(gè)矢量量化器的設(shè)計(jì)算法，通常稱為LBG算法。1978年，buzo第一個(gè)提出實(shí)際的矢量量化器?？傮w來說，這一階段的工作多是理論性的，但它為第二階段的發(fā)展奠定了一定的基礎(chǔ)。1964年，NEWMAN研究了正六邊形原理。約于此同時(shí)MAX也得出同樣的結(jié)果。1956年steinhaus第一次系統(tǒng)的闡述了最佳矢量量化的問題。矢量量化屬于不可逆壓縮方法，具備比特率低，解碼簡單，失真較小的優(yōu)點(diǎn)。標(biāo)量量化是把抽樣后的信號值逐個(gè)進(jìn)行量化，而矢量量化是先將k個(gè)抽樣值組成k維空間中的一個(gè)矢量，然后將此矢量進(jìn)行量化，它可以極大的降低數(shù)碼率，優(yōu)于標(biāo)量量化。但是矢量量化卻是一種既能得到高效壓縮的數(shù)碼率 ，又能保證語音質(zhì)量的方法。語音數(shù)字通信的兩個(gè)關(guān)鍵部分是語音質(zhì)量和傳輸數(shù)碼率。采用矢量量化技術(shù)對信號波形或參數(shù)進(jìn)行壓縮處理，可以獲得非常高的效益。矢量量化（VQ）是一種極其重要的信號壓縮方法，其在語音信號處理中占有十分重要的地位，廣泛應(yīng)用于語音編碼，語音識別，語音合成等領(lǐng)域。內(nèi)蒙古工業(yè)大學(xué)本科畢業(yè)設(shè)計(jì)說明書引 言21世紀(jì)是信息的社會(huì)，各種科技領(lǐng)域的信息大爆炸。數(shù)字信號的數(shù)據(jù)量通常很巨大，對存儲(chǔ)器的存儲(chǔ)容量，通信信道的帶寬及計(jì)算機(jī)的處理速度帶來壓力，因此必須對其進(jìn)行量化壓縮來緊縮數(shù)據(jù)存儲(chǔ)容量 ，較快地傳輸各種信號 ,并使發(fā)信機(jī)功率降低 。在許多重要的課題中，VQ都起著非常重要的作用。VQ不僅可以壓縮表示語音參數(shù)所需的數(shù)碼率，而且在減少運(yùn)算量方面也是非常高效的，它還能直接用于構(gòu)成語音識別和說話人識別系統(tǒng)。但這兩者是矛盾的：要獲得較高的語音質(zhì)量，就必須使用較高的傳輸碼率；相反，為了實(shí)現(xiàn)高效地壓縮傳輸數(shù)碼率，就很難得到良好的語音質(zhì)量。量化可以分為兩大類：一類是標(biāo)量量化，一類是矢量量化VQ。各種數(shù)據(jù)都可以用矢量表示，直接對矢量進(jìn)行量化，可以方便的對數(shù)據(jù)進(jìn)行壓縮。矢量量化的發(fā)展大致可以分為兩各階段：第一階段約為1956至1977年。1957年，在loyd的“PCM中的最小平方化”一文中給出了如何劃分量化區(qū)間和如何求量化值問題的結(jié)論。雖然他們談?wù)摰亩际菢?biāo)量量化問題，但他們的算法對后面的矢量量化的發(fā)展有著深刻的影響。1977年，berger的‘率失真理論’一書出版。第二階段約為1978年至今。他提出的量化系統(tǒng)組成分為兩步：第一步將語音信號做線性預(yù)測分析，求出預(yù)測系數(shù)，第二步，對這些系數(shù)做矢量量化，于是得到壓縮數(shù)碼的語音編碼器。這就將矢量量化的研究向前推動(dòng)了一大步。矢量量化研究的進(jìn)展是很快的，1980年，僅將濾波系數(shù)從標(biāo)量量化改為矢量量化，就可以使編碼速率降低到800b/s，而聲音質(zhì)量基本未下降。由于該聲碼器采用了矢量量化，所以可以用150b/s的速率來傳送可懂的話音。在圖像數(shù)據(jù)壓縮和語音識別的應(yīng)用方面，矢量量化研究也得到了很快的發(fā)展，提出各種各樣的矢量量化系統(tǒng)，用硬件實(shí)現(xiàn)矢量量化系統(tǒng)的方法也越來越多矢量量化壓縮技術(shù)的應(yīng)用領(lǐng)域非常廣闊，如軍事部門和氣象部門的衛(wèi)星(或航天飛機(jī))遙感照片的壓縮編碼和實(shí)時(shí)傳輸、雷達(dá)圖像和軍用地圖的存儲(chǔ)與傳輸、數(shù)字電視和DVD的視頻壓縮、醫(yī)學(xué)圖像的壓縮與存儲(chǔ)、網(wǎng)絡(luò)化測試數(shù)據(jù)的壓縮和傳輸、語音編碼、圖像識別和語音識別等等 。由于矢量量化的數(shù)據(jù)壓縮具有編碼簡單，效率高，壓縮比大等優(yōu)點(diǎn)，所以矢量量化最先在語音，圖像，視頻這些媒體信息的壓縮中取得了巨大的應(yīng)用。矢量量化技術(shù)在其他方面的應(yīng)用也發(fā)展十分迅速，如矢量量化技術(shù)已廣泛地應(yīng)用于語音識別，說話人識別，數(shù)字水印，文件檢索，紋理壓縮，移動(dòng)通信等眾多科學(xué)領(lǐng)域。碼書設(shè)計(jì)可以看成是一個(gè)統(tǒng)計(jì)聚類的過程。從以上分析可以看出，碼書的優(yōu)化是一個(gè)很重要的任務(wù)。多種理論研究都應(yīng)用到了碼書算法，例如神經(jīng)網(wǎng)絡(luò)，模糊集合論，遺傳算法等。 矢量量化的基本概念 要了解矢量量化首先要了解量化和標(biāo)量量化等基本概念量化就是把一個(gè)模擬信號值的連續(xù)范圍分為若干相鄰并具有唯一量值的區(qū)間，凡落在某區(qū)間的抽樣信號樣值都指定為該區(qū)間量值的過程。這時(shí)的信號量是一維的，所以稱為標(biāo)量量化。在輸入信號序列中，每K個(gè)連續(xù)樣點(diǎn)可以組成一組K維歐式空間中的一個(gè)矢量，矢量量化就是把這個(gè)K維輸入矢量X映射成另一個(gè)K維量化矢量。比如說，當(dāng)K=2時(shí)，所得到的是二維矢量。如圖（a）所示，矢量量化就是將平面分成M小區(qū)域，即,.…..,從每個(gè)小區(qū)域中找出代表向量，這些代表向量的集合就是有M個(gè)區(qū)間的二維矢量量化器。其中最小失真值所對應(yīng)的那個(gè)量化矢量中的某一個(gè)，就是模擬矢量X的重構(gòu)矢量（或稱恢復(fù)矢量）。碼書中的量化矢量稱為碼字（codeword）或碼矢（codevector），例如圖（b）中所示的矢量量化器的碼書，其中每個(gè)量化矢量稱為碼字或碼矢。 （a） (b)圖(13)矢量量化示意圖 根據(jù)上面對矢量量化的描述，我們可以給矢量量化以下的定義：矢量量化是把一個(gè)K維模擬矢量映射成為另一個(gè)K維量化矢量，其數(shù)學(xué)表達(dá)式為 式（11） 式（12） 式中：X表示輸入矢量；表示信源空間；表示K維歐氏空間；Y表示量化矢量（碼字或碼矢）；表示輸出空間（即碼書）；表示量化符號；N表示碼書的大小（即碼字的數(shù)目）。其中前兩項(xiàng)最關(guān)鍵一 碼書設(shè)計(jì) 對于矢量量化首先要解決的問題是設(shè)計(jì)出一個(gè)性能好的碼書。如果用平方誤差測度作為失真測度并且訓(xùn)練矢量數(shù)為N，想要生成含有M(MN)個(gè)碼字的碼書。所以，尋求一種有效的算法，使盡可能找到全局最優(yōu)或接近全局最優(yōu)的碼書來提高碼書性能才是研究碼書設(shè)計(jì)算法的目的，從而減少計(jì)算的復(fù)雜程度。三 碼字索引分配 在矢量量化參與的編碼和解碼系統(tǒng)中，如果信道有噪聲，則在信道左端的索引i經(jīng)過信道傳輸輸出索引j ，這樣就會(huì)導(dǎo)致在解碼端引入額外的失真。好的碼書能最大程度的提高矢量量化的效果，使得恢復(fù)后的矢量，語音，圖像和原來的矢量，語音，圖像盡可能的相似。矢量量化器在實(shí)際生產(chǎn)生活中的應(yīng)用非常廣泛，特別是在多媒體信息中。197