【正文】 基礎。 （ 3）重構算法的設計。即如何設計一個平穩(wěn)且滿足受限等距特性條件或者與變換基 Ψ 滿足不相關約束條件的 M N 維觀測矩陣 Φ，以保證信號稀疏表示后的向量 Θ能從原來的 N 維降到 M 維時所包含的重要信息沒有受到破壞，從而保證原始信號的準確重構。即對于信號NRX? ，如何找到一個合適的正交基或者緊框架 Ψ，以使得原始信號在 Ψ上的表示是稀疏的。最后設計合適的重構算法從所得到的觀測值和原來的觀測矩陣來重構原始始號。在信號的編碼測量即觀測矩陣的設計過程中，要選擇穩(wěn)定的觀測矩陣，觀測矩陣的選取必須滿足受限等距特性 (Restricted Isometry Property， RIP)準則，才能保證信號的投影能夠保持原始信號的結構特征。信號必須得在某種變換下才可以進行稀疏表示。 三個關鍵技術 從以上壓縮感知理論的介紹中我們可以看出，壓縮感知理論主要包括以下三個方面的內容： （ 1）信號稀疏表示； （ 2）信號的編碼測量即觀測矩陣的設計； （ 3）信號重構算法的設計。 研究者們通過大量的實驗分析，得出如下結論：精確重構所需要的觀測值個 數依賴于稀疏變換基和觀測基之間的不相關性。例如， 可以通過在單位球面上獨立均勻地采樣并做規(guī)范正交化得到，此時，?和?間的相關性以很高的概率為Nlog2。 （ 3）?為隨機矩陣，則 可以是任何固定的基。這一點對于高效的數字計算是至關重要的。人們對 noiselets感興趣基于以下兩個事實： 1）它們和為圖像數據和其它類型的數據提供稀疏表示的系統不相關； 2）它們具有快速算法。這也可以擴展到高維情況。 （ 2）?為小波基， 是 noiselet。 （ 1） 是尖峰基)()( kttk ????，?為傅立葉基njtij ent /22/1)( ????，則有 1?。壓縮采樣研究的是具有低相關性的兩個系統。如果?和?包含了相關的元素，則相關性很大；否則，就很小。 文獻 [3]給出了相關性度量的具體定義，如下。因此在 CS理論中隨機矩陣被廣泛應用于 CS觀測中。許多對基都滿足不相關性質，例如，三角尖峰和傅里葉基中的正弦波不相關，傅里葉基和小波基不相關。由于 MN，從觀測向量 y中重構信號 x是一個欠定問題，然而信號稀疏的附加假設使得恢復成為可能也是可行的。用矩陣表示，則有，Y ??。這就是壓縮感知（ CS）理論的核心內容。 2 不相關性 Cand232。而近幾年來 Cand232。不過在傳統編碼中，這 K個大系數的位置必須事先確定。我們稱至多有 K個非零項的向量為 K 稀疏，且有 KKX ?????。 現在稀疏的含義很清楚了：如果 x在某個變換域下是稀疏或者可壓縮的，就意味著將 x的系數Nii ,.. .,1, ??按幅值大小排列衰減很快，那么 x可以由 K個大系數很好地逼近 KKX ???。 本例中僅僅保留展開（式 ）中?的? ?)161( NKK ?個大系數得到 KKX ??，其中 K?表示系數向量的除 K個大系數外其余置 0的向量。圖 （ c）展示了這樣一個事實：將圖像在 9/7小波變換域丟掉 %的小系數后得到的逼近圖像盡管 PSNR只有，但肉眼很難察覺到失真。圖 （ a）是一幅具有 N（ N =512 512）個像素點的 coins圖像向量NR?，我們在 9/7小波基]...,[ ,2,1 N?????下展開該向量，如（式 ），其中?是,2,1 ...,N???為列向量構成的?的矩陣，是正交基。也就是說， 0,min ?? gf中僅有 K個非零 i?， 另外 N K個都是零。如果信號在基 下的展開系數在很小的集合上有值，我們就說該信號在 域是稀疏的，如果有值序列集中在一個小范圍內，那么我們就說該信號是可以壓縮的。?為展開系數。不相關性表達了這樣的思想，正如時間域的 Dirac或者沖擊信號可以在頻域展開那樣，在基 Ψ下具有稀疏表示的信號一定可以在獲得它們的某個域中展開。更準確地說， CS利用了這樣一個事實，即許多自然信號在某個合適的基 Ψ下具有簡潔的表達。前者屬于信號的性質，后者和感知（觀測）形式有關。下面將從這三個方面詳細講述壓縮感知的關鍵技術。 CS 理論系統與傳統通信系統的類似關系如圖 21 所示： 信 源 編 碼 信 道 編 碼 信 道 信 道 解 碼 信 源 解 碼 由圖 21 可知，在 CS 系統中，信源和信道編碼被 CS 測量（即一個矩陣與信號矢量相乘的形式）代替；信道和信源解碼則用 CS 恢復（即依賴于優(yōu)化準則的恢復算法）替代。在許多應用中，包括數字圖像和視頻攝像中，奈奎斯特抽樣速率太高，不利于數據存儲和傳輸；在其他應用，包括圖像系統（醫(yī)療瀏覽和雷達）、高 速模數轉換中，增加抽樣速率代價也很昂貴。 第五章 對全文進行總結并展望下一步的研究工作。 第三章 進一步介紹由壓縮感知理論發(fā)展而來的分布式壓縮感知理論，分別描述了三種聯合稀疏模型及其應用范圍，最后，將其與壓縮感知理論作了仿真性能比較。 本文內容安排如下： 第一章 簡單介紹了課題的研究背景，包括現有的數據壓縮技術和有關無線傳感網絡的基本知識。這樣，通過傳輸少量數據就可以得到整個監(jiān)測區(qū)域內的詳細情況。 圖 14 中監(jiān)測區(qū)域中有大量的無線傳感節(jié)點，傳感節(jié)點可以感知各種物理環(huán)境，包括聲音、溫度、壓力、地震等。無線傳感器網絡中的感知數據能夠進行壓縮是因為它具備數據壓縮的前提條件：首先，傳感器節(jié)點密度很大，節(jié)點之間感知的范圍相互重疊，這種高密度的節(jié)點分布一方面使得感知數據可靠性增強，另一方面也引起了數據冗余，使得相鄰節(jié)點之間所采集的數據具有高度相關性，稱為空間相關性；其次，由于傳感節(jié)點感知的物理數據大多數隨著時間變化很緩慢，所以同一個傳感器節(jié)點所感 知的數據之間也有相關性，稱為時間相關性。 在這里，我們將說明利用壓縮技術來減少傳輸的數據量的必要性和可行性。 圖 無線傳感器網絡節(jié)點結構圖 與傳統的網絡不同的是，傳統網絡以傳輸數據為目的，而無線傳感器網絡則是以數據為中心；與傳統的 Ad Hoc 網絡相比，無線傳感器網絡具有以下幾點特征： （ 1）網絡節(jié)點密度高，傳感節(jié)點數量多 （ 2）傳感器節(jié)點由電池供電 （ 3）網絡拓撲變化頻繁 （ 4）網絡具有容錯能力 無線傳感器網絡數據壓縮的必要性 因為在無線傳感器網絡中 ，每個傳感節(jié)點體積很小，而且分布非常密集，若是對所有采集的數據直接進行傳輸，則所需傳輸的數據量將是非常驚人的，會導致網絡擁塞，也會導致網絡壽命縮短；又由于傳感器節(jié)點由電池供電， 所以節(jié)點能量有限，而且無線傳感器網絡所布置的地方一般為人們不便于到達的地方，因此傳感器節(jié)點中的的電池很難更換。 傳感器節(jié)點都分散在特定的感知區(qū)域，相互合作、實時監(jiān)測、感知和采集網絡周邊環(huán)境或監(jiān)測對象的溫度、聲波等各種信息。 （ 2）數據處理中轉站，這類節(jié)點不僅要完成采集的任務，還要接收鄰居節(jié)點的數據，一起轉發(fā)給距離基站更近的鄰居節(jié)點或者直接轉發(fā)到基站或匯聚節(jié)點 。 數 據 采 集 模 塊傳 感 器A / D 轉 換 器數 據 處 理 和 控 制 模 塊微 處 理 器存 儲 器通 訊 模 塊無 線 收 發(fā) 器供 電 模 塊電 池 A C / D C 轉 換 器 其中，數據采集模塊負責感知所需要的信息，數據處理和控制模塊負責對感知所得的信息和接收信息進行處理，通信模塊負責與其他節(jié)點進行通信，即發(fā)送或者接收信息，供電模塊則負責提供所需要的能量。 無線傳感器網絡概述 無線傳感器網絡一般由若干傳感器節(jié)點組成，節(jié)點是組成無線傳感器網絡的基本單位，它負責完成采集信息、融合并傳輸數據的功能。以上是關于壓縮感知理論與分布式壓縮感知理論的簡單介 紹，詳細闡述將在第二章和第三章進行展開。 就目前主流的兩種重建算法而言，基于 1 范數最小的重建算法計算量巨大，對于大規(guī)模信號無法應用；貪婪算法雖然重建速度快，但是在信號重建質量上還有待提高。 此外，迭代閾值法也得到了廣泛的應用，此類算法也較易實現，計算量適中，在貪婪算法和凸優(yōu)化算法中都有應用。二是凸優(yōu)化算法，它是把 0 范數放寬到 1 范數通過線性規(guī)劃求解的，此類算法主要包括梯度投影法、基追蹤法、最小角度回歸法等。首先生成一個零元素的矩陣 Φ，在矩陣 Φ 的每一個列向量中，隨機地選取 d 個位置，然后在所選取的位置的值賦為 1。首先生成一個向量 u，由向量 u 生成相應的輪換矩陣或托普利茲矩陣 U，然后在矩陣 U 中隨機地選取其中的 M 行而構造的矩陣 Φ。生成大小為 NN 的哈達瑪矩陣，然后在生成矩陣中隨機地選取 M 行向量，構成一個 MN 的矩陣。先生成 NN 的正交矩陣 U（如傅里葉矩陣），然后在矩陣 U 中隨機地選取 M 行向量，對 MN 矩陣的列向量進行單位化得到測量矩陣。矩陣的每個元素獨立地服從對稱的貝努利分布，等概率為M1或 M1。矩陣每個元素獨立地服從 均值為 0，方差為M的高斯分布。 Donoho 給出壓縮感知概念的同時定性和定量的給出測量矩陣要滿足三個特征：(1)由測量矩陣的列向量組成的子矩陣的最小奇異值必須大于一定的常數； (2)測量矩陣的列向量體現某種類似噪聲的獨立隨機性； (3)滿足稀疏度的解是滿足 1 范數最小的向量。 CandeS 和 Tao 等證明 :獨立同分布的高斯隨機測量矩陣可以成為普適的壓縮感知測量矩陣。 壓縮感知理論中，通過變換得到信號的稀疏系數后，需要設計壓縮采樣系統的觀測部分，它圍繞觀測矩陣?展開。目前信號在冗余字典下的稀疏表示的研究集中在兩個方面：一是如何構 造一個適合某一類信號的冗余字典，二是如何設計快速有效的稀疏分解算法。 最近幾年，對稀疏表示研究的另一個熱點是信號在冗余字典下的稀疏分解。 圖 傳統編解碼理論框圖 壓 縮 感 知 測 量 傳 輸解 碼 重 構特 征 提 取信 號 X 壓 縮 測 量 值 壓 縮 測 量 值 壓縮感知關鍵要素包括稀疏表示、測量矩陣和重構算法。 壓縮感知理論主要包括信號的稀疏表示、隨機測量和重構算法等三個方面。解碼過程不是編碼的簡單逆過程，而是在盲源分離中的求逆思想下，利用信號稀疏分解中已有的重構方法在概率意義上實現信號的精確重構或者一定誤差下的近似重構，解碼所需測量值的數目遠小于傳統理論下的樣本數。 CS 理論對信號的采樣、壓縮編碼發(fā)生在同一個步驟，利用信號的稀疏性，以遠低于 Nyquist 采樣率的速率對信號進行非自適應的測量編碼。實際上，采樣得到的大部分數據都是不重要的，即 K 值很小，但由于奈奎斯特采樣定理的限制，采樣點數 N 可能會非常大，采樣后的壓縮是造成資源浪費的根本所在。信號的編解碼過程如圖 所示：編碼端首先獲得 X 的 N 點采樣值，經變換后只保留其中 K 個最大的投影系數并對它們的幅度和位置編碼，最后將編得的碼值進行存儲或傳輸。它主要是求取在壓縮效率、壓縮比以及保真度之間的最佳平衡，如靜止圖像壓縮標準 JPEG 和活動圖像壓縮標準 MPEG 就是采用混合編碼的壓縮方法。它一般有兩種基本的壓縮機制，一種是有損變換編解碼（如傅立葉變換、離散余弦變換、小波變換），即首先對圖像或者聲音進行采樣、切成小塊、變換到一個新的空間、量化，接著對量化值進行熵編碼；另外一種是預測編解碼（如脈沖編碼調制、差分脈沖編碼調制、自適應差分脈沖編碼調制等），即利用先前的數據和隨后解碼的數據來預測當前的聲音采樣或者圖像幀，并對預測數據與實際數據之間的誤差以及其它一些重現預測的信息進行量化與編碼。 有損壓縮是利用了人類對圖像或者聲音中的某些頻率成分不敏感的特殊性質，允許壓縮過程中損失一定的信息；盡管不能完全恢復出原始數據，但是所缺失的數據部分對于我們理解原始圖像 的影響很小，卻使得壓縮比大了許多。這類方法可以廣泛用于文本數據、程序以及特殊應用場景的圖像數據（如醫(yī)學圖像）的壓縮。例如，在某一份計算機文件中，一些符號會反復出現、一些符號比其它的符號出現得更頻繁、一些符號總是出現在各數據塊中的可 預見的位置上，以上講述的這些冗余部分便可在數據編碼中除去或者減少。 無損壓縮是利用數據中的統計冗余進行壓縮。數據壓縮的作用是能夠快速地傳輸各種信號；在已有的一些通信干線并行開通更多的多媒體業(yè)務；緊縮數據存儲容量；降低發(fā)信機功率等等。 數據壓縮技術 數據壓縮技術就是對原始數據進行數據編碼或者壓縮編碼，從而用最少的數碼來表示信源發(fā)出的信號。 因此，該理論指出了將模擬信號直接采樣壓縮為數字形式的有效途徑，具有直接信息采樣特性。 這些研究 工作都為壓縮感知理論奠定了基礎。從信號分析角度來講，傅立葉變換是信號和數字圖像處理的理論基礎，小波分析將信號和數字圖像處理帶入到一個嶄新的領域。 事實上，壓縮感知理論的某些抽象結論源于 Kashin 創(chuàng)立的范函分析和逼近論， 最近由Cand232。 壓縮感知理論與傳統奈奎斯特采樣定理不同，它指出，只要信號是可壓縮的或在某個變換域是稀疏的，那么就可以用一個與變換基不相關的觀測矩陣將變換所得高維信號投