【正文】 ? Laplacian 9/2 = ? gaussian √(3π)/2 = 高碼率下 ECSQ 的失真率函數(shù) 自適應(yīng)量化器 ?思想 ? 不是靜態(tài)方法，而是與真實(shí)數(shù)據(jù)相適應(yīng) ? 均值、方差、 pdf ?前向自適應(yīng) (離線 ) ? 將信源分塊 ? 分析塊的統(tǒng)計(jì)特性 ? 設(shè)置量化方案 ? 邊信道 （ Side channel） ?后向自適應(yīng) (在線 ) ? 基于量化器輸出自適應(yīng) ? 無(wú)需邊信道 前向自適應(yīng)量化器（ FAQ ） ?選擇塊大?。?折中 ? 太大 ? 分辨率不夠，不能抓住輸入的變化 ? 延遲增大 ? 太小 ? 需要傳輸更多的邊信息 ?假設(shè)均值為 0 ? 方差估計(jì) ?FAQ 問(wèn)題： ? 需要緩存分析統(tǒng)計(jì)特性，造成延時(shí) ? 邊信息的同步 前向自適應(yīng)量化器（ FAQ ） ?例：語(yǔ)音量化 ? 16 比特 ? 3 比特定長(zhǎng)碼 男聲 “ test” 前向自適應(yīng)量化器（ FAQ ） ?例：語(yǔ)音量化 （ 2） ? 16 比特 ? 3 比特 FAQ ? 塊大?。?128 個(gè)樣本 ? 8 比特方差量化 失真較小 紅色區(qū)域還有提升空間 前向自適應(yīng)量化器（ FAQ ） ?迄今為止，我們假設(shè)均勻 pdf ?改進(jìn) ? 假設(shè)均勻 pdf，但 ? 記錄每塊的最大 /最小值 ?例： Sena圖像 ? 8 8 塊 ? 每個(gè)像素 3 比特量化 ? 每個(gè)塊中邊信息最大值 /最小值各用 8bit 表示，則每個(gè)像素平均為 ? 每個(gè)像素共： ? 和原始圖像幾乎難以區(qū)別 ?對(duì)于高碼率，前向自適應(yīng)量化是個(gè)非常好的選擇 16 0 .2 5 b its/p ix e l88 ??原始圖像： 8bits/pixel 量化： bits/pixel 后向自適應(yīng)量化器（ BAQ ） ?觀察 ? 解碼器只能看到 量化器的 輸出 ? 只能根據(jù)量化器輸出進(jìn)行自適應(yīng) ?問(wèn)題 ? 只根據(jù)輸出，如何減少不匹配信息 ? 如果知道 pdf，這是可能的 … ? … 耐心： 觀察長(zhǎng)時(shí)間 的量化器輸出，推測(cè)是否發(fā)生了不匹配現(xiàn)象 ? 如果匹配，落入某區(qū)間的概率與預(yù)定的 pdf 一致，否則，發(fā)生了不匹配現(xiàn)象。矢量量化編碼方法一般是有失真編碼方法。 一個(gè)人的身高和體重是相關(guān)的，不再單獨(dú)量化，在同樣的量化比特?cái)?shù)時(shí)，為輸入提供了更細(xì)致的量化。 標(biāo)量 矢量 SQ 不足 ? VQ 優(yōu)勢(shì) ? 另一種修正方案，不改變點(diǎn)的位置，而是保留等概線 |x1| + |x2|= 5Δ 內(nèi)的點(diǎn)： 60 個(gè)點(diǎn) ? 沒(méi)有改變等概線內(nèi)部的量化形狀，只改變了量化器的外部邊界。 ?高分辨率的均勻量化器達(dá)到給定熵的最小 MSE。 ?矢量量化：幾個(gè)聯(lián)合的信號(hào)樣值的量化和編碼。 08:49:4708:49:4708:493/22/2023 8:49:47 AM ? 1以我獨(dú)沈久，愧君相見(jiàn)頻。 2023年 3月 22日星期三 上午 8時(shí) 49分 47秒 08:49: ? 1比不了得就不比，得不到的就不要。 上午 8時(shí) 49分 47秒 上午 8時(shí) 49分 08:49: ? 沒(méi)有失敗，只有暫時(shí)停止成功！。 08:49:4708:49:4708:49Wednesday, March 22, 2023 ? 1不知香積寺，數(shù)里入云峰。 2023年 3月 上午 8時(shí) 49分 :49March 22, 2023 ? 1少年十五二十時(shí)，步行奪得胡馬騎。 08:49:4708:49:4708:493/22/2023 8:49:47 AM ? 1越是沒(méi)有本領(lǐng)的就越加自命不凡。 :49:4708:49:47March 22, 2023 ? 1意志堅(jiān)強(qiáng)的人能把世界放在手中像泥塊一樣任意揉捏。 上午 8時(shí) 49分 47秒 上午 8時(shí) 49分 08:49: MOMODA POWERPOINT Lorem ipsum dolor sit amet, consectetur adipiscing elit. Fusce id urna blandit, eleifend nulla ac, fringilla purus. Nulla iaculis tempor felis ut cursus. 感 謝 您 的 下 載 觀 看 專(zhuān)家告訴 。 2023年 3月 上午 8時(shí) 49分 :49March 22, 2023 ? 1業(yè)余生活要有意義，不要越軌。 08:49:4708:49:4708:49Wednesday, March 22, 2023 ? 1知人者智，自知者明。 上午 8時(shí) 49分 47秒 上午 8時(shí) 49分 08:49: ? 楊柳散和風(fēng)，青山澹吾慮。 2023年 3月 22日星期三 上午 8時(shí) 49分 47秒 08:49: ? 1楚塞三湘接，荊門(mén)九派通。 08:49:4708:49:4708:493/22/2023 8:49:47 AM ? 1成功就是日復(fù)一日那一點(diǎn)點(diǎn)小小努力的積累。 2023年 3月 上午 8時(shí) 49分 :49March 22, 2023 ? 1行動(dòng)出成果，工作出財(cái)富。 08:49:4708:49:4708:49Wednesday, March 22, 2023 ? 1乍見(jiàn)翻疑夢(mèng)，相悲各問(wèn)年。 ? 靜夜四無(wú)鄰，荒居舊業(yè)貧。 ?格子 VQ：多維的均勻量化器 LBG 算法 最后的矢量量化器 一次迭代后的矢量量化器 失真： LBG 算法 ?優(yōu)化過(guò)程能保證收斂，但可能收斂于局部極小值 ? 依賴于初始碼書(shū)的選取 ?初始碼書(shū)的選取 ? 隨機(jī)選擇：重復(fù)多次，取失真最小的結(jié)果 ? 分裂：從一個(gè)類(lèi)開(kāi)始，每次將失真最大 /數(shù)量最多的類(lèi)分裂成兩個(gè) ? 合并：從 N個(gè)類(lèi)開(kāi)始，每次將兩個(gè)失真最小的類(lèi)合并 ?空類(lèi)的問(wèn)題：去掉空類(lèi)，并將失真最大 /數(shù)量最多的類(lèi)分裂成兩個(gè) LBG 用于圖像壓縮 ?每塊大小為 L = 4 4，用 K = 16, 64, 256, 1024 個(gè)碼字的碼書(shū)對(duì)圖像進(jìn)行矢量量化 ?碼率： ? Sinan 圖像訓(xùn)練得到碼書(shū) 2l o gR K L? ????原始圖像 LBG 算法的缺陷 ?傳輸碼書(shū)（ overhead ）： ? K=1024, overhead=2, 為編碼內(nèi)容碼率 () 的 3 倍 ? 用通用碼書(shū)，無(wú)需傳碼書(shū)，但質(zhì)量可能稍差 ? 收集代表性的訓(xùn)練集 Codebook Size Bits for a Codeword Bits/Pixel Compression Ratio Overhead in Bits/Pixel 16 4 32: 1 64 6 : 1 256 8 16: 1 1024 10 : 1 ? ?2lo gR K L? ????? ? ? ?? ?: 4 4 , 8 , 2 5 6 2 5 6o v e rh e a d K L B n S izeL B n S ize??? ? ? ? ?LBG 用于圖像壓縮 ?碼字中缺少結(jié)構(gòu) ? 編碼復(fù)雜性高：需要全搜索 ? 存儲(chǔ)要求高，碼書(shū)指數(shù)增長(zhǎng) ?例： ? 目標(biāo)碼率： R 比特 /樣本 ? 每個(gè)矢量包含 L 個(gè)樣本 (如 4 4 像素一起編碼，則 L=16) ? 碼字索引： RL 比特 ? ? 碼書(shū)中可能的碼字有 2RL 個(gè)碼字 ? 例： ? R = 比特 /樣本， L = 16 個(gè)樣本 /矢量 – ? 每個(gè)碼字索引需 RL=4 比特 – ?碼書(shū)中共有 24= 16 個(gè)詞條 ? R = 2 比特 /樣本， L = 16 個(gè)樣本 /矢量 – ? 每個(gè)碼字索引需 RL=32 比特 – ?碼書(shū)中共有 232 = 40 億個(gè)詞條 ? 在高碼率下， VQ 不太實(shí)用 改進(jìn)的矢量量化 ?樹(shù)結(jié)構(gòu)（ Treestructured）矢量量化 ? 搜索快，但存儲(chǔ)量大 ?格型矢量量化 ? Lattice VQ ?網(wǎng)格編碼矢量量化 （ Trellis Coded VQ） 樹(shù)結(jié)構(gòu) VQ ?在碼書(shū)組織中引入結(jié)構(gòu)，快速?zèng)Q定哪個(gè)部分包含所需輸出矢量（重構(gòu)電平） ? 通過(guò)搜索一系列小碼書(shū) ? 降低搜索復(fù)雜性，復(fù)雜性線性增長(zhǎng) logK ? 但需要更多存儲(chǔ)（約兩倍）：測(cè)試矢量 (test vector) 樹(shù)結(jié)構(gòu) VQ ?可以通過(guò) Linde 等提出的分裂方法實(shí)現(xiàn) ? 首先將所有訓(xùn)練集視為一個(gè)類(lèi)，計(jì)算類(lèi)中心（均值）作為測(cè)試矢量和輸出水平 ? 將一個(gè)類(lèi)分裂成兩個(gè)子類(lèi)，子類(lèi)中心為將原父中心的均值分別 +/ 一個(gè)擾動(dòng) ? LBG 算法中也是采用類(lèi)似分裂方法解決初值問(wèn)題 ?其他：剪枝 ? 碼書(shū)減小 ? 碼率減小 ? 但失真可能增大 格型 VQ ?在前面的討論中，我們知道球形量化區(qū)域是最佳的（顆粒噪聲最小） ?但球形填充（ tile）要么有重疊，要么有空洞 ?需要找到某種高效的量化區(qū)域結(jié)構(gòu)化碼字，以近似球體并填滿球體 ? 結(jié)構(gòu)化：省存儲(chǔ) /計(jì)算量小 ? 有規(guī)律 ? 格型 Lattice ? 球體：顆粒誤差最小 ? Lattice：令 為 L維線性獨(dú)立的 L維矢量，集合 中 為整數(shù)，則集合為一個(gè) lattice ? ?12, , ..., La a a1: Liiix x u a???? ? ??????? ?iu格型 VQ ?Lattice 量化器：將 lattice 點(diǎn)集的子集作為 VQ 的輸出點(diǎn) ?最近鄰 Lattice VQ： ?Λ的基本量化區(qū)域： 0 附近的單元 ? ?a r g m in ,lQ d x l????? ?? ?: 0a x Q x???格型 VQ ?舉例： D2 lattice ? 性質(zhì)：對(duì)所有的 lattice點(diǎn)， ? ? ? ?121 , 1 , 1 , 1aa? ? ?01xx?? 偶 數(shù)菱形量化區(qū)域 格型 VQ ?舉例： A2 lattice: ? 六邊形量化區(qū)域： 2D 上最佳 ? ?12 131 , 0 , ,22aa ????? ? ???????格型 VQ的性質(zhì) ?不必存儲(chǔ)碼字 ?比 LBG 算法更容易找到最近鄰 ?但是， Lattice 量化器沒(méi)有了 LBG 聚類(lèi)的性質(zhì) ?設(shè)計(jì)準(zhǔn)則：最小化顆粒誤差 ?對(duì) 2D VQ，六邊形 lattice 是最佳的 ?對(duì) Gaussian 信源，熵編碼的 lattice 量化器離 D(R) 邊界有 Trellis Coded 量化 （ TCQ） ?計(jì)算效率高的矢量量化 ? 中等計(jì)算復(fù)雜度 ?理論優(yōu)勢(shì)： ? 對(duì) 任何平滑 pdf，熵編碼的 TCQ能 在任何碼率下達(dá) 到 D(R)函數(shù)的 （性能超過(guò) 24維以下的最佳 lattice 量化） ?基于 Trellis Coded Modulation (TCM) ?TCQ 在 JPEG2023 II 中用到 Trellis 編碼 ?網(wǎng)格 (trellis) 是一個(gè)有限狀態(tài)機(jī)隨時(shí)間的進(jìn)化 ?例：一個(gè)帶有二進(jìn)制 I/O 的 4 狀態(tài)的有限狀態(tài)機(jī) ? T0 和 t1 為移位寄存器 ? 狀態(tài)表示為 t1 t0 ? 4 個(gè)狀態(tài) 狀態(tài)轉(zhuǎn)換圖 u/z1 z0 Trellis 編碼 ?在狀態(tài)轉(zhuǎn)換圖中加入時(shí)間因素 Trellis 編碼量化 (TCQ) ?為了利用 TCQ ? 為了得到 R 比特 /符號(hào)，首先建立 (R+1) 比特的量化器： ? 將所有重構(gòu)電平分為 4 個(gè)子集： D0, D1, D2, D3 ? 每個(gè)子集有 2R1 個(gè)碼字，需要 R1 比特 ? 上例中 R1=1 ? R = 2, R+1 = 3 Tr