【正文】 降到 M 維時(shí)所包含的重要信息沒有受到破壞，從而保證原始信號(hào)的準(zhǔn)確重構(gòu)。即對(duì)于信號(hào)NRX? ，如何找到一個(gè)合適的正交基或者緊框架 Ψ，以使得原始信號(hào)在 Ψ上的表示是稀疏的。最后設(shè)計(jì)合適的重構(gòu)算法從所得到的觀測值和原來的觀測矩陣來重構(gòu)原始始號(hào)。在信號(hào)的編碼測量即觀測矩陣的設(shè)計(jì)過程中，要選擇穩(wěn)定的觀測矩陣，觀測矩陣的選取必須滿足受限等距特性 (Restricted Isometry Property， RIP)準(zhǔn)則，才能保證信號(hào)的投影能夠保持原始信號(hào)的結(jié)構(gòu)特征。信號(hào)必須得在某種變換下才可以進(jìn)行稀疏表示。 三個(gè)關(guān)鍵技術(shù) 從以上壓縮感知理論的介紹中我們可以看出，壓縮感知理論主要包括以下三個(gè)方面的內(nèi)容： （ 1）信號(hào)稀疏表示； （ 2）信號(hào)的編碼測量即觀測矩陣的設(shè)計(jì)； （ 3）信號(hào)重構(gòu)算法的設(shè)計(jì)。 研究者們通過大量的實(shí)驗(yàn) 分析，得出如下結(jié)論：精確重構(gòu)所需要的觀測值個(gè) 數(shù)依賴于稀疏變換基和觀測基之間的不相關(guān)性。例如， 可以通過在單位球面上獨(dú)立均勻地采樣并做規(guī)范正交化得到，此時(shí)，?和?間的相關(guān)性以很高的概率為Nlog2。 （ 3）?為隨機(jī)矩陣，則 可以是任何固定的基。這一點(diǎn)對(duì)于高效的數(shù)字計(jì)算是至關(guān)重要的。人們對(duì) noiselets感興趣基于以下兩個(gè)事實(shí)： 1）它們和為圖像數(shù)據(jù)和其它類型的數(shù)據(jù)提供稀疏表 示的系統(tǒng)不相關(guān)； 2）它們具有快速算法。這也可以擴(kuò)展到高維情況。 （ 2）?為小波基， 是 noiselet。 （ 1） 是尖峰基)()( kttk ????，?為傅立葉基njtij ent /22/1)( ????，則有 1?。壓縮采樣研究的是具有低相關(guān)性的兩個(gè)系統(tǒng)。如果?和?包含了相關(guān)的元素，則相關(guān)性很大；否則，就很小。 文獻(xiàn) [3]給出了相關(guān)性度量的具體定義，如下。因此在 CS理論中隨機(jī)矩陣被廣泛應(yīng)用于 CS觀測中。許多對(duì)基都滿足不相關(guān)性質(zhì)，例如，三角尖峰和傅里葉基中的正弦波不相關(guān)，傅里葉基和小波基不相關(guān)。由于 MN，從觀測向量 y中重構(gòu)信號(hào) x是一個(gè)欠定問題，然而信號(hào)稀疏的附加假設(shè)使得恢復(fù)成為可能也是可行的。用矩陣表示，則有，Y ??。這就是壓縮感知（ CS）理論的核心內(nèi)容。 16 2 不相關(guān)性 Cand232。而近幾年來 Cand232。不過在傳統(tǒng)編碼中，這 K個(gè)大系數(shù)的位置必須事先確定。我們稱至多有 K個(gè)非零項(xiàng)的向量為 K 稀疏，且有 KKX ?????。 現(xiàn)在稀疏的含義很清楚了：如 果 x在某個(gè)變換域下是稀疏或者可壓縮的，就意味著將 x的系數(shù)Nii ,.. .,1, ??按幅值大小排列衰減很快，那么 x可以由 K個(gè)大系數(shù)很好地逼近 KKX ???。 本例中僅僅保留展開（式 ）中?的? ?)161( NKK ?個(gè)大系數(shù)得到 KKX ??，其中 K?表示系數(shù)向量的除 K個(gè)大系數(shù)外其余置 0的向量。圖 （ c）展示了這樣一個(gè)事實(shí)：將圖像在 9/7小波變換域丟掉 %的小系數(shù)后得到的逼近圖像盡管 PSNR只有，但肉眼很難察覺到失真。圖 （ a）是一幅具有 N（ N =512 512）個(gè)像素點(diǎn)的 coins圖像向量NR?，我們?cè)?9/7小波基]...,[ ,2,1 N?????下展開該向量，如（式 ），其中?是,2,1 ...,N???為列向量構(gòu)成的?的矩陣，是正交基。也就是說， 0,min ?? gf中僅有 K個(gè)非零 i?， 另外 N K個(gè)都是零。如果信號(hào)在基 下的展開系數(shù)在很小 的集合上有值，我們就說該信號(hào)在 域是稀疏的，如果有值序列集中在一個(gè)小范圍內(nèi)，那么我們就說該信號(hào)是可以壓縮的。?為展開系數(shù)。不相關(guān)性表達(dá)了這樣的思想，正如時(shí)間域的 Dirac或者沖擊信號(hào)可以在頻域展開那樣，在基 Ψ下具有稀疏表示的信號(hào)一定可以在獲得它們的某個(gè)域中展開。更準(zhǔn)確地說， CS利用了這樣一個(gè)事實(shí)，即許多自然信號(hào)在某個(gè)合適的基 Ψ下具有簡潔的表達(dá)。前者屬于信號(hào)的性質(zhì)，后者和感知（觀測）形式有關(guān)。下面將從這三個(gè)方面詳細(xì)講述壓縮感知的關(guān)鍵技術(shù)。 CS 理論系統(tǒng)與傳統(tǒng)通信系統(tǒng)的類似關(guān)系如圖 21 所示： 信 源 編 碼 信 道 編 碼 信 道 信 道 解 碼 信 源 解 碼 由圖 21 可知，在 CS 系統(tǒng)中，信源和信道編碼被 CS 測量（即一個(gè)矩陣與信號(hào)矢量相乘的形式）代替；信道和信源解碼則用 CS 恢復(fù)（即依賴于優(yōu)化準(zhǔn)則的恢復(fù)算法）替代。在許多應(yīng)用中 ，包括數(shù)字圖像和視頻攝像中，奈奎斯特抽樣速率太高，不利于數(shù)據(jù)存儲(chǔ)和傳輸；在其他應(yīng)用，包括圖像系統(tǒng)（醫(yī)療瀏覽和雷達(dá)）、高速模數(shù)轉(zhuǎn)換中，增加抽樣速率代價(jià)也很昂貴。 第五章 對(duì)全文進(jìn)行總結(jié)并展望下一步的研究工作。 第三章 進(jìn)一步介紹由壓縮感知理論發(fā) 展而來的分布式壓縮感知理論，分別描述了三種聯(lián)合稀疏模型及其應(yīng)用范圍，最后，將其與壓縮感知理論作了仿真性能比較。 本文內(nèi)容安排如下： 第一章 簡單介紹了課題的研究背景，包括現(xiàn)有的數(shù)據(jù)壓縮技術(shù)和有關(guān)無線傳感網(wǎng)絡(luò)的基本知識(shí)。這樣，通過傳輸少量數(shù)據(jù)就可以得到整 個(gè)監(jiān)測區(qū)域內(nèi)的詳細(xì)情況。 圖 14 中監(jiān)測區(qū)域中有大量的無線傳感節(jié)點(diǎn)，傳感節(jié)點(diǎn)可以感知各種物理環(huán)境，包括聲音、溫度、壓力、地震等。無線傳感器網(wǎng)絡(luò)中的感知數(shù)據(jù)能夠進(jìn)行壓縮是因?yàn)樗邆鋽?shù)據(jù)壓縮的前提條件：首先，傳感器節(jié)點(diǎn)密度很大，節(jié)點(diǎn)之間感知的范圍相互重疊，這種高密度的節(jié)點(diǎn)分布一方面使得感知數(shù)據(jù)可靠性增強(qiáng)，另一方面也引起了數(shù)據(jù)冗余，使得相鄰節(jié)點(diǎn)之間所采集的 數(shù)據(jù)具有高度相關(guān)性，稱為空間相關(guān)性；其次，由于傳感節(jié)點(diǎn)感知的物理數(shù)據(jù)大多數(shù)隨著時(shí)間變化很緩慢，所以同一個(gè)傳感器節(jié)點(diǎn)所感知的數(shù)據(jù)之間也有相關(guān)性，稱為時(shí)間相關(guān)性。 在這里，我們將說明利用壓縮技術(shù)來減少傳輸?shù)臄?shù)據(jù)量的必要性和可行性。 與傳統(tǒng)的網(wǎng)絡(luò)不同的是，傳統(tǒng)網(wǎng)絡(luò)以傳輸數(shù)據(jù)為目的，而無線傳感器網(wǎng)絡(luò)則是以數(shù)據(jù)為中心；與傳統(tǒng)的 Ad Hoc 網(wǎng)絡(luò)相比，無線傳感器網(wǎng)絡(luò)具有以下幾點(diǎn)特征： （ 1）網(wǎng)絡(luò)節(jié)點(diǎn)密度高，傳感節(jié)點(diǎn)數(shù)量多 （ 2）傳感器節(jié)點(diǎn)由電池供電 （ 3）網(wǎng)絡(luò)拓?fù)渥兓l繁 （ 4）網(wǎng)絡(luò)具有容錯(cuò)能力 無線傳感器網(wǎng)絡(luò)數(shù)據(jù)壓縮的必要性 因?yàn)樵跓o線傳感器網(wǎng)絡(luò)中，每個(gè)傳感節(jié)點(diǎn)體積很小，而且分布非常密集，若是對(duì)所有采集的數(shù)據(jù)直接進(jìn)行傳輸，則所需傳輸?shù)臄?shù)據(jù)量將是非常驚人的，會(huì)導(dǎo)致網(wǎng)絡(luò)擁塞，也會(huì)導(dǎo)致網(wǎng)絡(luò)壽命縮短；又由于傳感器節(jié)點(diǎn)由電池供電， 所以節(jié)點(diǎn)能量有限，而且無線傳感器網(wǎng)絡(luò)所布置的地方一般為人們不便于到達(dá)的地方，因此傳感器節(jié)點(diǎn)中的的電池很難更換。 傳感器節(jié)點(diǎn)都分散在特定的感知區(qū)域，相互合作、實(shí)時(shí)監(jiān)測、感知和采集網(wǎng)絡(luò)周邊環(huán)境或監(jiān)測對(duì)象的溫度、聲波等各種信息。 （ 2）數(shù)據(jù)處理中轉(zhuǎn)站，這類節(jié)點(diǎn)不僅要完成采集的任務(wù)，還要接收鄰居節(jié)點(diǎn)的數(shù)據(jù)，一起轉(zhuǎn)發(fā)給距離基站更近的鄰居節(jié)點(diǎn)或者直接轉(zhuǎn)發(fā)到基站或匯聚節(jié)點(diǎn) 。 數(shù) 據(jù) 采 集 模 塊傳 感 器A / D 轉(zhuǎn) 換 器數(shù) 據(jù) 處 理 和 控 制 模 塊微 處 理 器存 儲(chǔ) 器通 訊 模 塊無 線 收 發(fā) 器供 電 模 塊電 池 A C / D C 轉(zhuǎn) 換 器 其中，數(shù)據(jù)采集模塊負(fù)責(zé)感知所需要的信息，數(shù)據(jù)處理和控制模塊負(fù)責(zé)對(duì)感知所得的信息和接收信息進(jìn)行處理，通信模塊負(fù)責(zé)與其他節(jié)點(diǎn)進(jìn)行通信，即發(fā)送或者接收信息，供電模塊則負(fù)責(zé)提供所需要的能量。 無線傳感器網(wǎng)絡(luò)概述 11 無線傳感器網(wǎng)絡(luò)一般由若干傳感器節(jié)點(diǎn)組成，節(jié)點(diǎn)是組成無線傳感器網(wǎng)絡(luò)的基本單位，它負(fù)責(zé)完成采 集信息、融合并傳輸數(shù)據(jù)的功能。以上是關(guān)于壓縮感知理論與分布式壓縮感知理論的簡單介紹，詳細(xì)闡述將在第二章和第三章進(jìn)行展開。 就目前主流的兩種重建算法而言，基于 1 范數(shù)最小的重建算法計(jì)算量巨大，對(duì)于大規(guī)模信號(hào)無法應(yīng)用；貪婪算法雖然重建速度快，但是在信號(hào)重建質(zhì)量上還有待提高。 此外，迭代閾值法也得到了廣泛的應(yīng)用，此類算法也較易實(shí)現(xiàn)，計(jì)算量適中，在貪婪算法和凸優(yōu)化算法中都有應(yīng)用。二是凸優(yōu)化算法，它是把 0 范數(shù)放寬到 1 范數(shù)通過線性規(guī)劃 求解的，此類算法主要包括梯度投影法、基追蹤法、最小角度回歸法等。首先生成一個(gè)零元素的矩陣 Φ，在矩陣 Φ 的每一個(gè)列向量中，隨機(jī)地選取 d 個(gè)位置，然后在所選取的位置的值賦為 1。首先生成一個(gè)向量 u，由向量 u 生成相應(yīng)的輪換矩陣或托普利茲矩陣 U，然后在矩陣 U 中隨機(jī)地選取其中的 M 行而構(gòu)造的矩陣 Φ。生成大小為 NN 的哈達(dá)瑪矩陣，然后在生成矩陣中隨機(jī)地選取 M 行向量，構(gòu)成一個(gè) MN 的矩陣。先生成 NN 的正交矩陣 U（如傅里葉矩陣），然后在矩陣 U 中隨機(jī)地選取 M 行向量，對(duì) MN 矩陣的列向量進(jìn)行單位化得到測量矩陣。矩陣的每個(gè)元素獨(dú)立地服從對(duì)稱的貝努利分布，等概率為M1或 M。矩陣每個(gè)元素獨(dú)立地服從均值為 0，方差為M1的高斯分布。 Donoho 給出壓縮感知概念的同時(shí)定性和定量的給出測量矩陣要滿足三個(gè)特征：(1)由測量矩陣的列向量組成的子矩陣的最小奇異值必須大于一定的常數(shù)； (2)測量矩陣的列向量體現(xiàn)某種類似噪聲的獨(dú)立隨機(jī) 性； (3)滿足稀疏度的解是滿足 1 范數(shù)最小圖 CS 理論下數(shù)據(jù)的編解碼過程 10 的向量。 CandeS 和 Tao 等證明 :獨(dú)立同分布的高斯隨機(jī)測量矩陣可以成為普適的壓縮感知測量矩陣。 壓縮感知理論中，通過變換得到信號(hào)的稀疏系數(shù)后，需要設(shè)計(jì)壓縮采樣系統(tǒng)的觀測部分，它圍繞觀測矩陣?展開。目前信號(hào)在冗余字典下的稀疏表示的研究集中在兩個(gè)方面：一是如何構(gòu)造一個(gè)適合某一類信號(hào)的冗余字典，二是如何設(shè)計(jì)快速有效的稀疏分解算法。 最近幾年，對(duì)稀疏表示研究的另一個(gè)熱點(diǎn)是信號(hào)在冗余字典下的稀疏分解。 圖 傳統(tǒng)編解碼理論框圖 9 壓 縮 感 知 測 量 傳 輸解 碼 重 構(gòu)特 征 提 取信 號(hào) X 壓 縮 測 量 值 壓 縮 測 量 值 壓縮感知關(guān)鍵要素包括稀疏表示、測量矩陣和重構(gòu)算法。 壓縮感知理論主要包括信號(hào)的稀疏表示、隨機(jī)測量和重構(gòu)算法等三個(gè)方面。解碼過程不是編碼的簡單逆過程，而是在盲源分離中的求逆思想下，利用信號(hào)稀疏分解中已有的重構(gòu)方法在概率意義上實(shí)現(xiàn)信號(hào)的精確重構(gòu)或者一定誤差下的近似重構(gòu)，解碼所需測量值的數(shù)目遠(yuǎn)小于傳統(tǒng)理論下的樣本數(shù)。 CS 理論對(duì)信號(hào)的采樣、壓縮編碼發(fā)生在同一個(gè)步驟，利用信號(hào)的稀疏性，以遠(yuǎn)低于 Nyquist 采樣率的速率對(duì)信號(hào)進(jìn)行非自適應(yīng)的測量編碼。實(shí)際上，采樣得到的大部分?jǐn)?shù)據(jù)都是不重要的，即 K 值很小，但由于奈奎斯特采樣定理的限制，采樣點(diǎn)數(shù) N 可能會(huì)非常大，采樣后的壓縮是造成資源浪費(fèi)的根本所在。信號(hào)的編解碼過程如圖 所示：編碼端首先獲得 X 的 N 點(diǎn)采樣值，經(jīng)變換后只保留其中 K 個(gè)最大的投影系數(shù)并對(duì)它們的幅度和位置編碼，最后將編得的碼值進(jìn)行存儲(chǔ)或傳輸。它主要是求取在壓縮效率、壓縮比以及保真度之間的最佳平衡，如靜止圖像壓縮標(biāo)準(zhǔn) JPEG 8 和活動(dòng)圖像壓縮標(biāo)準(zhǔn) MPEG 就是采用混合編碼的壓縮方法。它一般有兩種基本的壓縮機(jī)制，一種是有損變換編解碼（如傅立葉變換、離散余弦變換、小波變換），即首先對(duì)圖像或者聲音進(jìn)行采樣、切成小塊、變換到一個(gè)新的空間、量化，接著對(duì)量化值進(jìn)行熵編碼；另外一種是預(yù)測編解碼（如脈沖編碼調(diào)制、差分脈沖編碼調(diào)制、自適應(yīng)差分脈沖編碼調(diào)制等），即利用先前的數(shù)據(jù)和隨后解碼的數(shù)據(jù)來預(yù)測當(dāng)前的聲音采樣 或者圖像幀，并對(duì)預(yù)測數(shù)據(jù)與實(shí)際數(shù)據(jù)之間的誤差以及其它一些重現(xiàn)預(yù)測的信息進(jìn)行量化與編碼。 有損壓縮是利用了人類對(duì)圖像或者聲音中的某些頻率成分 不敏感的特殊性質(zhì)，允許壓縮過程中損失一定的信息；盡管不能完全恢復(fù)出原始數(shù)據(jù)，但是所缺失的數(shù)據(jù)部分對(duì)于我們理解原始圖像的影響很小，卻使得壓縮比大了許多。這類方法可以廣泛用于文本數(shù)據(jù)、程序以及特殊應(yīng)用場景的圖像數(shù)據(jù)（如醫(yī)學(xué)圖像）的壓縮。例如，在某一份計(jì)算機(jī)文件中，一些符號(hào)會(huì)反復(fù)出現(xiàn)、一些符號(hào)比其它的符號(hào)出現(xiàn)得更頻繁、一些符號(hào)總是出現(xiàn)在各數(shù)據(jù)塊中的可預(yù)見的位置上，以上講述的這些冗余部分便可在數(shù)據(jù)編碼中除去或者減少。 無損壓縮是利用數(shù)據(jù)中的統(tǒng)計(jì)冗余進(jìn)行壓縮。數(shù)據(jù)壓縮的作用是能夠快速地傳輸各種信號(hào)；在已有的一些通信干線并行開通更多的多媒體業(yè)務(wù)；緊縮數(shù)據(jù)存儲(chǔ)容量；降低發(fā)信機(jī)功率等等。 數(shù)據(jù)壓縮技術(shù) 數(shù)據(jù)壓縮技術(shù)就是對(duì)原始數(shù)據(jù)進(jìn)行數(shù)據(jù)編碼或者壓縮編碼，從而用最少的數(shù)碼來表示信源發(fā)出的信號(hào)。 因此，該理論指出了將模擬信號(hào)直接采樣壓縮為數(shù)字形式的有效途徑，具有直接信息采樣特性。 這些研究工作都為壓縮感知理論奠定了基礎(chǔ)。從信號(hào)分析角度來講，傅立葉變換是信號(hào)和數(shù)字圖像處理的理論基礎(chǔ)，小波分析將信號(hào)和數(shù)字圖像處理帶入到一個(gè)嶄新的領(lǐng)域。 事實(shí)上，壓縮感知理論的某些抽象結(jié)論源于 Kashin 創(chuàng)立的范函分析和逼近論， 最近由Cand232。 壓縮感知理論與傳統(tǒng)奈奎斯特采樣定理不同，它指出，只要信號(hào)是可壓縮的或在某個(gè)變換域是稀疏的，那么就可以用一個(gè)與變換基不相關(guān)的觀測矩陣將變換所得高維信號(hào)投影到一個(gè)低維空間上，然后通過 求解一個(gè)優(yōu)化問題就可以從這些少量的投影中以高概率重構(gòu)出原信號(hào)，可以證明這樣的投影包含