【正文】 2. 軟閾值量化方法 (36) 式中： T 為消噪的小波閾值 軟閾值 的方法通過稍微減少所有系數(shù)的幅值來減少所加的噪聲，在一定程度上降低了取閾值的風(fēng)險，盡可能的保留了原始信號中的瞬變信號。 小波變換去噪的關(guān)鍵是各頻段中信號的選擇問題，在小波分析用于降 噪的過程中，核心步驟就是小波分解系數(shù)的閾值量化。 (3) 信號小波重構(gòu)。選擇合適的小波基對信號進行 N 層分解 (2)小波分解系數(shù)的閾值量化。 從統(tǒng)計學(xué)的觀點來看，這個模型是一個隨時間推移的回歸模型，這種分解方法也是可以看作在正交 基上對函數(shù) f 的無參估計 [25]。對信號進行小波分解時，信號的頻域特性被劃分為不同的頻帶，含噪聲部分主要包含在細節(jié)系數(shù)中，對于各個頻段的子信號可以采用閾值等形式對信號進行處理，然后對信號進行重構(gòu)即可達到消噪的目的。 X ( n )A1D1A2D2D3A3 圖 信號的多尺度分解圖 小波降噪的基本原理 含有噪聲的一維信號的模型如下： ? ? ? ? ? ?nenfnx ??? (34) 其中 ??nf 代表真實信號函數(shù)， ??ne 為噪聲信號， ? 為噪聲標(biāo)準(zhǔn)差， ??nx 為含噪信號，在簡單的情況下可以假設(shè) ??ne 為高斯噪聲且 ? =1。對信號進行小波變換，可以將信號 ??tx 的頻域特性劃分在不同的頻帶上，圖 為利用二進小波函數(shù)對信號進行分解的結(jié)果， ii DA, 分別為小波變換后得到的近似信號和細節(jié)信號。 小波變換含義是：把小波基函數(shù) ??t? 在不同尺度 a 做平移 ? 后得到的小波函數(shù)天津大學(xué)仁愛學(xué)院 2020 屆本科生畢業(yè)設(shè)計（論文） 15 ? ?ataba ??? ?? 21, 與待分析信號 ??tx 做 內(nèi)積 : ? ? ? ? ? ? ? ? dtattxttxaWT bax ?????? ??? ????????????? *,* 1, (32) 小波逆變換為： ? ? ? ? ? ?? ???????? dbtbawxadaCaWT bax ,2 ,1, ??? (33) 式中 *表示共軛。 設(shè)函數(shù) ? ? ? ?RLt 2?? 滿足條件： ? ? ??? ????dwwwC2^?? (31) 則稱 ??t? 為基小波，式中 ??w^? 為 ??t? 的傅里葉變換。 小波變換的基本理論 小波變換屬于時 頻分析的一種，同傅里葉變換、短時傅里葉變換類似，都是將信號從時域轉(zhuǎn)化到頻域?qū)崿F(xiàn)對信號的分析 [24]。本章主要利用小波變換的多分辨率分析的特性對過程觀測數(shù)據(jù)進行 降噪 處理，在保留過程特征信號的基礎(chǔ)上剔除噪聲和不相關(guān)信息，減少真是過程信息的流失。直接對受到污染的過程觀測信息進行分析，必然會導(dǎo)致較高的漏報和誤報率，使監(jiān)控結(jié)果置信度下降，進而導(dǎo)致基于傳統(tǒng)特征信號提取過程監(jiān)控方法性能下降。由于沒有考慮實際工業(yè)過程中噪聲污染，采用傳統(tǒng)的基于獨立成分分析的過程性能監(jiān)控方法已遠遠達不到過程監(jiān)控要求的實時性和準(zhǔn)確性的要求，本章提出小波分析和獨立成分分析相結(jié)合的基于小波降噪獨立成分分析過程監(jiān)控方法，主要介紹該方法的原理和基本步驟，并對算法進行仿真研究。?? ，其中 g 是已定義好的 G 函數(shù) (6) 進行下面的正交化： ? ? jpj jTppp ww ????? 11 (7) 標(biāo)準(zhǔn)化 pw ，即 ppp ? (8) 如果 1?pTpww ，則輸出 pw ，否則返回第 4 步 (9) 1??pp ,如果 mp? ，返回第 3 步 該算法收斂速度快，對快速 ICA 算法的缺點，初值選擇的敏感性，通過增加 初值的選取次數(shù)來避免因隨機選取初值而導(dǎo)致的計算結(jié)果不收斂的問題。 綜合考慮目標(biāo)函數(shù)的適應(yīng)性和運算的快捷性，借鑒快速 ICA 算法，采用非高斯最大化中的近似負(fù)熵作為目標(biāo)函數(shù)完成對現(xiàn)有快速 ICA 方法的改進，估計多個獨立成分。其中， Bell 提出的ICA 算法具有較好的魯棒性，但收斂速度較慢。尤其，當(dāng)數(shù)據(jù)維數(shù)較高時，這一點顯得尤為重要。由于正交矩陣僅包含 ? ? 21?nn 個自由度，這樣當(dāng)維數(shù)天津大學(xué)仁愛學(xué)院 2020 屆本科生畢業(yè)設(shè)計（論文） 13 增大時，正交矩陣僅包含原先矩陣一半的參數(shù) [20]。 ?? AAzzE T (223) 這意味著我們能限制混合矩陣在正交空間內(nèi)，原先需要估計 A 中的 2n 個參數(shù)，現(xiàn) .在僅需要估計正交混合矩陣 39。 即 : ? ? I39。?? (222) 這樣經(jīng)過白化之后， 39。 現(xiàn)在， ICA 模型中的數(shù)據(jù)是白化過的，則白化轉(zhuǎn)化混合矩陣 A 形成新的 39。 最常用的白化方法是主要采用 PCA 方法，通過對隨機矢量 x 的協(xié)方差矩陣進行奇異值分解完成的。 如果一個中心化的隨機矢量 ],[ 21 nxxxx ?? ，若其個分量不相關(guān)且具有單位方差，換言之，觀測變量的協(xié)方差陣等于單位陣，則稱 x 是白化的。 ICA 的基本算法 為了從與過程監(jiān)控的相關(guān)數(shù)據(jù)中有效的提取信息，進一步簡化獨立成分分析的應(yīng)用，通常需要對觀測數(shù)據(jù)進行預(yù)處理，它包括數(shù)據(jù)的中心化和白化。 綜上所述，一個好的判據(jù)應(yīng)既能反應(yīng)問題的實質(zhì)，又應(yīng)該便于計算，實現(xiàn)起來簡單。 最大似然函數(shù)估計判據(jù)要求關(guān)的估計概率密度必須準(zhǔn)確，在任何情況下，如果關(guān)于獨立成分特性的信息不準(zhǔn)確，極大似然估計將會給出完全錯誤的結(jié)論。它與信息原理緊密相關(guān)，本質(zhì)上它與最小化互信息是相同的 [19]。如果 Y 的各分量之間互相獨立，即： ? ? ? ????mi iypyp 1 (217) 則互信息 I 為零，因此互信息極小可以作為各成分相互獨立的判據(jù)。設(shè)有 m 個隨機變量 miyi ,1??， 的互信息定義為： ? ? ? ? ? ? ? ? ? ?? ????????? mi imi ypypypyHyiHymyyI111l og,2, ? (216) 其中， ??yp 是隨機變量 Y 的概率密度函數(shù)， ? ?iyp 為 Y 中各分量的邊緣概率密度函數(shù)。 非高斯最大化原理還有個額外的優(yōu)點，它可以一個一個估計獨立成分。若獨立分量具有很強的超高斯性 (superGaussian)，且對估計的魯棒性要求很高時，第二種形式是一個更好的選擇。近似公式如下： ? ? ? ? ? ?? ?? ?2vEGyGEkyJ ?? (214) 式中， k 為常數(shù)， v 為零均值單位方差的高斯變量，函數(shù) G 為一些非二次函數(shù)，可以選取多種形式，如 ? ? ? ?? ? ? ?? ? 4//2/ex p/c o s hl o g432222111uuGauauGauauG????? (215) 式中， 221 21 ??? aa ， 。負(fù)熵在可逆線性變換下是不變的。由負(fù)熵特性可知，負(fù)熵總是非負(fù)的，當(dāng)且僅當(dāng) y 具有高斯分布時其值為零。 天津大學(xué)仁愛學(xué)院 2020 屆本科生畢業(yè)設(shè)計（論文） 11 為了導(dǎo)出合理的非高斯性度量，使其為非負(fù)的量值，且對高斯變量其取值為零，我們可以利用一種 稱為負(fù)熵的量，它實際上是微分熵的一種標(biāo)準(zhǔn)化版本。一個密度為 ???yp 是隨機向量，其微分熵定義為： ? ? ? ? ? ? ??? dppyH yy l o g??? (212) 信息論中的一個基本結(jié)果指出：在具有相同方差的所有隨機變量中，高斯變量具有最大的熵。離散隨機變量的熵定義為： ? ? ? ? ? ?? ????i ii aYaYPYH l o g (211) 這里的 ia 指 Y 的可能值。 (2) 基于負(fù)熵的非高斯性度量 負(fù)熵是基于信息論中微分熵的概念，隨機變量的熵與（與該變量的）觀測能給出的信息量有關(guān) [17]。從計算的角度，峭度可以簡單的使用樣本數(shù)據(jù)的四階 矩來估計，理論分析也因下面的線性特點而變的簡單，由于具有線性特性，如果 1x 和 2x 事兩個獨立的隨機變量，則下面兩式恒成立： ? ? )( 2121 xxk u r txxk u r t ??? (29) ? ? )( 141 xk u r taaxk u rt ? (210) 式中， a 為常數(shù)。實際也存在峭度值為零的非高斯隨機變量，但可以認(rèn)為這樣的隨機變量是非常少見的。 非高斯性通?？梢杂汕投鹊慕^對值來度量，也可以使用峭度的平方 [16]。超高斯隨機變量的概率密度函數(shù) (pdf)一般是“頂尖厚邊”的形狀，即 pdf 在零附近和遠離零處的取值較大，而在中間部分的取值較小。對于大部分 (但并不是所有的 )非高斯隨機變量，峭度為非零值。這說明峭度實際上就是四階矩的一種規(guī)范化形式。隨機變量 y 的峭度 kurt(y)被定義為 : ? ? ? ? ? ?? ?224 3 yEyEyk u r t ?? (28) 注意上式中的所有隨機變量都假定是零均值的。 估計非高斯性的測量標(biāo)準(zhǔn)有是峭度和負(fù)熵。當(dāng)源信號被假設(shè)為相互獨立并且不具有時間結(jié)構(gòu)時，采用高階統(tǒng)計量作為獨立性、非高斯性的度量。同理按照此規(guī)則可以分離出余下獨立源信號。 在獨立成分分析的模型中，觀測信號是由獨立源信號的線性組合，它比任意一個獨立源信號更接近于高斯分布，可用分離 信號的非高斯性作為分離信號間獨立性度量。 非高斯最大化 非高斯性在 ICA 模型的估計中扮演著極為重要的角色，如果沒有非高斯性， ICA 估計根本無法實現(xiàn)，因此，非高斯性可用于 ICA 估計并作為其中的關(guān)鍵。下面主要介紹對 ICA 模型進行估計的不同計算方法。由于實際工業(yè)過程中可以采集到大量的觀測數(shù)據(jù)，該約束條件在實際工業(yè)生產(chǎn)中也具有可行性，這樣不但提高了測量的可靠性，也為 ICA 提供了豐富的觀測信號。在 ICA 基本模型中，并不需要假定獨立成分分量服從何種分布，如果能已知，則問題會變的相當(dāng)簡單。 高階統(tǒng)計信息對于估計 ICA 模型來說是必須的，獨立成分分析主要是依據(jù)過程觀測變量的高階統(tǒng)計信息來估計 ICA 基本模型。通常各個源信號是由不同的實際物理系統(tǒng)發(fā)出的，它們之間沒有必然的聯(lián)系，可以認(rèn)為滿足統(tǒng)計獨立的約束條件。如果隨機變量nyyy ?, 21 滿足獨立條件，則聯(lián)合概率密度函數(shù)等于各邊緣概率密度函數(shù)的乘積。這個定義可以擴展到 n 個隨機變量的情況。從概率統(tǒng)計學(xué)的角 度來看，獨立可以通過概率密度來定義。 (1)獨立成分假定是瞬時統(tǒng)計獨立的 統(tǒng)計獨立性是構(gòu)成獨立分量分析基礎(chǔ)的關(guān)鍵，但只要滿 足該條假設(shè)，就可以建立ICA 模型，這是 ICA 方法可以應(yīng)用于眾多領(lǐng)域的原因之一。而 ICA 的目的正是尋求分離矩陣 W ，對源信號進行估計，使得估計信號中 S 盡可能的獨立 SW A SWXS ??? (25) 獨立分量分析方法的原理框圖如圖 所示。 每個測量值被分解成為一組獨立源的線性組合： TmimTiTiTi sasasax ???? 2211 mi ,1?? (24) 式 (21)描述了觀測數(shù)據(jù)如何由獨立成分分量混合而成。最早提出ICA 概念的是 Jutten 和 Herault。從統(tǒng)計信號的角度來看， ICA 利用過程觀測信號統(tǒng)計獨立的特性，通過確定一個非正交線性變換的分離矩陣 W，使得混合信號變換后的輸出分量盡可能的統(tǒng)計獨立。 ICA 作為一種新的信號處理方法 ，在混合語音分離、生物醫(yī)學(xué)信號處理、金融數(shù)據(jù)處理、遙感圖像處理、無線通信信號處理、過程監(jiān)控等方面得到廣泛應(yīng)用 [12]。 ICA 概述 獨立成分分析是伴隨著盲源信號分離問題而發(fā)展起來一種基于過程信息的高階統(tǒng)計特性的分析方法 [11]，獨立成分分析方法有較強的信號分析處理能力主要是從多元統(tǒng)計數(shù)據(jù)中尋求內(nèi)在統(tǒng)計獨立成分，與傳統(tǒng)的多元統(tǒng)計控制方法相比，