【正文】 D? ? ? ?xy? 編碼量化 () ?上述結(jié)果不是最佳的，因為我們從狀態(tài) 0 開始（當(dāng)序列足夠長時，其影響可以忽略） ?另一方案：從任一狀態(tài)開始，但需將開始狀態(tài)發(fā)送給解碼器 比標(biāo)量量化器更靈活 編碼量化 () ? 的存儲要求 ?N: 狀態(tài)數(shù)目 ?L: 輸入符號的數(shù)目 ?每個狀態(tài)： ?用 D0, D1, D2, D3 執(zhí)行 4 次標(biāo)量量化 ?存儲要求與 成正比 ?為了返溯，需存儲網(wǎng)格的所有狀態(tài) ?可以通過限制最大延遲為 L(L5 足夠了 )，減少存儲需求 ?只在緩沖區(qū)中保持最近 L 個樣本 ?輸出 x()的決策 ?丟棄在當(dāng)前狀態(tài)與 ―不一致的 ‖的路徑 ?這些路徑在返溯時不會與最佳路徑會合 編碼量化 () ?所有可能的 2 碼字： 2量化區(qū)域接近六邊形 ！ 是一種低復(fù)雜度的 可以在界的 ? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?0 0 0 2 2 1 2 3 7, 7 7, 1 1, 7 1, 1 7, 3 7, 5 1, 3 1, 5 3, 5 3, 3 5, 5 5, 3 3, 1 3, 7 5, 1 5, 7C D D D D D D D D? ? ? ? ? ? ? ?小結(jié) ?LloydMax 量化器：給定輸出電平數(shù)目下的最小 MSE 量化器 ?對于熵編碼量化器，熵約束量化器設(shè)計能夠獲得額外的增益。 ?高分辨率的均勻量化器達(dá)到給定熵的最小 。 ? 減少過載概率 ? 增大的負(fù)載概率 減少的負(fù)載概率 ? 總過載概率減小 ? : ? 這樣獲得的好處稱為邊界增益 ? 矢量維數(shù)增加， 過載噪聲進(jìn)一步減少。 標(biāo)量 矢量 不足 優(yōu)勢 ? 另一種修正方案，不改變點的位置，而是保留等概線 1| + 2 5Δ 內(nèi)的點： 60 個點 ? 沒有改變等概線內(nèi)部的量化形狀，只改變了量化器的外部邊界。 ? 這種提高是否有意義取決于特定應(yīng)用，但重要的是通過微小的改變，得到了正面的效果。 一個人的身高和體重是相關(guān)的，不再單獨量化，在同樣的量化比特數(shù)時，為輸入提供了更細(xì)致的量化。 實際中，一個 80英寸身高 40磅體重，或者身高 42英寸體重 200磅的人，很少出現(xiàn)。矢量量化編碼方法一般是有失真編碼方法。 后向自適應(yīng)量化器（ ） ? 量化器 ?不需要觀察長時間的量化器輸出，在觀察單個輸出后就可調(diào)整量化步長， 稱之為― ‖。 熵約束標(biāo)量量化器 ?熵約束標(biāo)量量化器 ? , ?用量化器輸出的熵作為碼率的度量 ?對量化索引用熵編碼技術(shù)編碼 ?量化器輸出的熵定義為 ?所以重構(gòu)電平 的選擇不影響碼率 ?但判決邊界 既影響失真，也影響碼率，因此需要引入一個參數(shù) λ 熵約束標(biāo)量量化器 ? 均方量化誤差 P. A. , T. , R. M. , ― ,‖ . , . 37, . 1, . 3142, 1989 熵約束標(biāo)量量化器 ?給定碼率限制 H(Q)≤R0，求得 {}, {} 和二進(jìn)制碼字，使 代價函數(shù)最?。? ?太復(fù)雜，不能直接求解 ?用迭代法求解 熵約束標(biāo)量量化器 在最小化 J(λ) 中 λ 的作用 : 較大的 λ H(Q) 的權(quán)重更大 只保留較小的熵 H(Q) 隨著 λ的增加減小 可以用二分法求解最佳的 λ ，使得 H(Q) H(Q) 熵約束標(biāo)量量化器 ? 算法（二重循環(huán)） ? λ≥ 0 （外層循環(huán)，控制碼率 H(Q)） ? ， 0， D0=∞ （里層循環(huán)，控制失真 D） ?： ? ： ? ： ? ： ? ，轉(zhuǎn)第 8步；否則 1，轉(zhuǎn)第 3步 ? ，調(diào)整 λ ，轉(zhuǎn)第 2步 11()j j jD D D ?????1()iixi xp p x d x?? ?? ?1l o g [ , ]M iiiH Q p p R R??? ? ? ??11()()iiiixxi xxx p x d xyp x d x??? ??? ? ? ?121iiL xjixiD x y p x d x????? ?111l og l og22 ()iiiiiiippyyyyx ? ???????熵約束標(biāo)量量化器 ? 算法的應(yīng)用 (I) ?x 是均值為 0，方差為 1 的高斯分布，即 (0, 1) ?設(shè)計一個 R≡2 的，使得期望失真 D* 最小 ?11 個區(qū)間（ [6， 6] 內(nèi)）：幾乎是均勻 ?定長編碼： 熵約束標(biāo)量量化器 初始化 A：初始化為 15個均勻區(qū)間 初始化 A：初始化為 4個均勻區(qū)間 熵約束標(biāo)量量化器 ? 算法的應(yīng)用 () ?x 是均值為 0，方差為 1 的 分布 ?設(shè)計一個 R≡2 的 ，使得期望失真 D* 最小 ?21 個區(qū)間（ [10， 10] 內(nèi)），幾乎是均勻的 熵約束標(biāo)量量化器 初始化 A：初始化為 25個均勻區(qū)間 初始化 A：初始化為 4個均勻區(qū)間 高碼率下 的性能 ?對 失真和高碼率（高分辨率），均勻量化器（緊跟熵編碼）是最佳的 [, , 1968] H. J. N. , ―. ,‖ . . ,. . 14, . 676683, . 1968. 高碼率下 的性能 ?碼率為 ?失真 碼率函數(shù)為 ? 是下界 的 ，即 ? ? ? ? ? ?2 22 2 2m a x2 11 221 2 1 23 hX Rq xD R R L? ?? ? ? ? ?? ? ? ?2 21 222 hX RDR e? ?? 6e?101 0 l o g 1 .5 3 6e dB? ?? 高碼率的均勻 量化器的 與 下界差 （對任何平滑 ） ? ? ? ? ? ?? ? ? ?m ax2l= l og loog g 2 h X RR H Q p x p x dxXxhL???? ? ?? ? ? ????????高碼率下 的性能 ? ? ? ?2 21 2212 hX RDR ??相同碼率 R 下， 的失真比 量化器更小 ? 信源的量化器 熵約束標(biāo)量量化器 ?高碼率下 量化器失真 —碼率函數(shù)： ? ? 2 2 22 RXDR ?? ??? ? ? ?2 21 2212 hX RDR ??? 縮放因子 ε2 的數(shù)值 ? 均勻 1 ? 9/2 = ? √(3π)/2 = 高碼率下 的失真率函數(shù) 自適應(yīng)量化器 ?思想 ?不是靜態(tài)方法，而是與真實數(shù)據(jù)相適應(yīng) ?均值、方差、 ?前向自適應(yīng) (離線 ) ?將信源分塊 ?分析塊的統(tǒng)計特性 ?設(shè)置量化方案 ?邊信道（ ） ?后向自適應(yīng) (在線 ) ?基于量化器輸出自適應(yīng) ?無需邊信道 前向自適應(yīng)量化器（ ） ?選擇塊大?。赫壑? ?太大 ?分辨率不夠，不能抓住輸入的變化 ?延遲增大 ?太小 ?需要傳輸更多的邊信息 ?假設(shè)均值為 0 ?方差估計 ? 問題： ?需要緩存分析統(tǒng)計特性，造成延時 ?邊信息的同步 前向自適應(yīng)量化器（ ） ?例：語音量化 ?16 比特 3 比特定長碼 男聲 “” 前向自適應(yīng)量化器（ ） ?例：語音量化 （ 2） ?16 比特 3 比特 ?塊大?。?128 個樣本 ?8 比特方差量化 失真較小 紅色區(qū)域還有提升空間 前向自適應(yīng)量化器（ ） ?迄今為止，我們假設(shè)均勻 ?改進(jìn) ?假設(shè)均勻 ，但 ?記錄每塊的最大 /最小值 ?例： 圖像 ? 8 8 塊 ?每個像素 3 比特量化 ?每個塊中邊信息最大值 /最小值各用 8 表示，則每個像素平均為 ?每個像素共： ?和原始圖像幾乎難以區(qū)別 ?對于高碼率，前向自適應(yīng)量化是個非常好的選擇 16 0 .2 5 b its/p ix e l88 ??原始圖像： 8 量化： 后向自適應(yīng)量化器（ ） ?觀察 ?解碼器只能看到量化器的輸出 ? 只能根據(jù)量化器輸出進(jìn)行自適應(yīng) ?問題 ?只根據(jù)輸出，如何減少不匹配信息 ?如果知道 ，這是可能的 … ?… 耐心：觀察長時間的量化器輸出，推測是否發(fā)生了不匹配現(xiàn)象 ?如果匹配，落入某區(qū)間的概率與預(yù)定的 一致，否則，發(fā)生了不匹配現(xiàn)象。 ?采用同樣設(shè)計的量化器 (量化器 )，對索引用變長碼編碼。 熵約束標(biāo)量量化器 ? 量化器是對固定碼率編碼的優(yōu)化，對于變字長（變碼率）編碼，怎樣做更好？ ?量化的三個部分 ?選擇判決邊界 ?選擇重構(gòu)電平（量化電平） ?選擇碼字 ?前面討論的：給定 L 個重構(gòu)水平，以均方量化誤差 ()最小來衡量量化器的性能，所有區(qū)間用固定碼率編碼： 2L 比特。 ?問題：當(dāng)隨機(jī)變量 x’ 的均值 μ= E[x’ ]≠0 ，標(biāo)準(zhǔn)差 σx’ ≠ 1 時，如何由標(biāo)準(zhǔn)表轉(zhuǎn)換出相應(yīng)的量化電平 ？ ?具體步驟如下圖： kxkyy ?m ??~? ?Lkyyk,...,1, ??? ? ? ? ? ? 10, 2 ?? xExExp ，xxx?m??~根據(jù)概率密度函數(shù)查相應(yīng)的標(biāo)準(zhǔn)表 測試出， x~的均值 m ，標(biāo)準(zhǔn)差x? ，及概率密度函數(shù) ? ?xp~ 標(biāo)量量化器 ?當(dāng)信號 x 的概率密度函數(shù) p(x) 在整個范圍內(nèi)是均勻分布時，即 p(x) 為某個常數(shù) c 時，上述 最佳均方量化器變?yōu)榫鶆蛄炕?，其輸出的量化電平為? 1112211111()()2()()2()()0,iiiiiixxiixxi xi i i iixixxxp x dx c xdxy