【正文】 相應(yīng)的控制限相比判斷系統(tǒng)是否發(fā)生故障；使用變量貢獻(xiàn)圖確定故障變量，完成過程在線監(jiān)測(cè)與故障診斷。 第三章 小波降噪 獨(dú)立成分分析方法概 述：小波變換的基本理論分析及小波降噪原理分析。 第五章 總結(jié)與展望：綜合本文所做的工作分析其中的不足，并指出下一步工作的方向。本章從盲源信號(hào)分離的理論出發(fā)，進(jìn)而對(duì) ICA 的數(shù)學(xué)模型、目標(biāo)函數(shù)、估計(jì)算法進(jìn)行了詳細(xì)地闡述。再者，獨(dú)立成分分析方法，不要求數(shù)據(jù)服從特定的分布條件， 具有更高的普遍意義，符合實(shí)際過程的需要，比 PCA 具有更高的通用性和適應(yīng)能力。 ICA 作為傳統(tǒng)多元統(tǒng)計(jì)過程控制方法 (PCA)的延伸，以實(shí)際工業(yè)生產(chǎn)過程觀 測(cè)數(shù)據(jù)為研究對(duì)象，其目的是從過程觀測(cè)信號(hào)中分離出統(tǒng)計(jì)獨(dú)立的源信號(hào)。 ICA 的基本模型及約束條件 ICA 的基本模型 獨(dú)立成分分析是伴隨著盲源分離問題而發(fā)展起來的基于信號(hào)高階統(tǒng)計(jì)特性的一項(xiàng)新的信號(hào)處理方法，其目的是從線性觀測(cè)信號(hào)中恢復(fù)出統(tǒng)計(jì)獨(dú)立的源信號(hào) [13]。 為了給出 ICA 的嚴(yán)格定義，我們 可以使用統(tǒng)計(jì)上的隱變量模型，假設(shè) m 個(gè)觀測(cè)變量 mxxx ?, 21 ,它們分別是 n 個(gè)非高斯分布的獨(dú)立成分變量 nsss ?, 21 的線性組合，其中，獨(dú)立成分分量和測(cè)量變量都是已經(jīng)均一化的數(shù)據(jù)，其原理模型如式 (21)： SAX ?? (21) ? ?TmxxxX ?, 21? (22) ? ?TnsssS ?, 21? (23) 天津大學(xué)仁愛學(xué)院 2020 屆本科生畢業(yè)設(shè)計(jì)（論文） 8 式中， nmRA ?? 為未知的混合矩陣； X 為 m 個(gè)變量觀測(cè)值； S 為 n 個(gè)獨(dú)立的非高斯源信號(hào)。在獨(dú)立成分分量 S 和混合系數(shù)矩陣 A 均未知，僅在過程觀測(cè)變量 X 己知的情況下，目前我們要解決的問題正是如何在已知 盡可能少的假設(shè)條件下，估計(jì)出 A 和 S 。 圖 獨(dú)立分量分析方法的原理框圖 ICA 的約束條件 在已知觀測(cè)信號(hào) X ，而源信號(hào) S 和混合系數(shù) A 都未知的情況下，為確保獨(dú)立分量分析方法的順利進(jìn)行，使得式 (21)的 ICA 模型能得到獨(dú)立成分分量 S 相應(yīng)的估計(jì)值，必須要求它滿足一定的假設(shè)條件和約束條件。 對(duì)于隨機(jī)變量 nyyy ?, 21 ，如果任意 ji? 的隨機(jī)變量 iy 和 jy 之間， iy 包含的信息與 jy 的值無任何關(guān)系，那么則稱 nyyy ?, 21 相互獨(dú)立 [14]。在概率統(tǒng)計(jì)中，設(shè)兩個(gè)隨機(jī)變量 1y 和 2y ，其概率密度函數(shù)和聯(lián)合概率密度函數(shù)分別是 ? ? ? ?2211 , ypyp ， ? ?21,yyp ，當(dāng)且僅當(dāng)下式成立時(shí) ? ? ? ? ? ?221121 , ypypyyp ? (26) 隨機(jī)變量 1y 和 2y 是統(tǒng)計(jì)獨(dú)立的。定義? ?nyyyp , 21 ? 為聯(lián)合概率密度函數(shù)， ? ?ii yp 為 iy 的邊緣概率密度函數(shù)。即 ? ? ? ? ? ? ? ?nnn ypypypyyyp ?? 221121 , ?? (27) 在實(shí)際應(yīng)用中，由于隨機(jī)變量的概率密度函數(shù)很難獲得，因此一般并不采用嚴(yán)格的理論證明，而是根據(jù)源信號(hào)產(chǎn)生的實(shí)際背景進(jìn)行判斷。 天津大學(xué)仁愛學(xué)院 2020 屆本科生畢業(yè)設(shè)計(jì)（論文） 9 (2) 獨(dú)立成分分量必須具有非高斯的分布，或者至多存在一個(gè)獨(dú)立成分分量服從高斯分布。高斯分布的高階累積量 都為零，而且高斯變量的線性組合仍然服從高斯分布，由此可見在混合前后其高階統(tǒng)計(jì)信息沒有區(qū)別，這樣就導(dǎo)致無法從混合信號(hào)中分離出統(tǒng)計(jì)獨(dú)立的源信號(hào)，所以，如果觀測(cè)變量是服從高斯分布， ICA 模型就無法被估計(jì)。 (3) 觀測(cè)變量 X 的維數(shù)不小于獨(dú)立成分分量 S 的維數(shù) 觀測(cè)信號(hào)的數(shù)目多于獨(dú)立源信號(hào)時(shí)，能夠獲得包含所有獨(dú)立源信號(hào)的信息，這樣利用獨(dú)立成 分分析方法對(duì)過程信息進(jìn)行分析獲取統(tǒng)計(jì)獨(dú)立的源信號(hào)時(shí)， 能更好的 刻畫變量的概率統(tǒng)計(jì)特性 ， 就可以得到較為準(zhǔn)確的結(jié)果。 ICA 的估計(jì)原理 根據(jù)前面建立的 ICA 模型和獨(dú)立性概念，可知獨(dú)立分量分析就是尋找一個(gè)變換矩陣W 作用于混合信號(hào)，使得輸出信號(hào)統(tǒng)計(jì)獨(dú)立。當(dāng)前使用的方法主要有非 高斯的最大化、互信息的最小化和最大似然函數(shù)估計(jì)。 概率論中的中心極限定理表明，在一定的條件下，獨(dú)立隨機(jī)變量的和趨于高斯分布，它比原始隨機(jī)變量中的任意一個(gè)更趨于高斯分布；反之，則任意一個(gè)原始隨機(jī)變量比隨機(jī)變量的和更偏離高斯分布 [15]。如果尋求向量 w 作用于混合信號(hào)，使得變換后的結(jié)果盡量偏離高斯分布，即非高斯最大化，即可以得到統(tǒng)計(jì)意義上的一個(gè)獨(dú)立源信號(hào)。也就是說最大化信號(hào)的非高斯性和獨(dú)立性是一致的，這也就是所謂的“非高斯性就是獨(dú)立性”。此時(shí)，源信號(hào)中最多只能有一個(gè)高斯信號(hào)。 天津大學(xué)仁愛學(xué)院 2020 屆本科生畢業(yè)設(shè)計(jì)（論文） 10 (1) 基于峭度的 非高斯性度量 峭度是隨機(jī)變量的四階累計(jì)量的另一種叫法，是一個(gè)高階累計(jì)量，主要引用高階多項(xiàng)式方差的泛化，是一種經(jīng)典的非高斯度量。為了簡(jiǎn)化問題，我們還可以進(jìn)一步假設(shè)隨機(jī)變量 y 已經(jīng)被標(biāo)準(zhǔn)化過，其方差 ? ? 12 ?yE ，公式的右邊簡(jiǎn)化為 ? ? 34 ?yE 。這樣對(duì)于高斯分布的變量 y ，? ? ? ?? ?24 3 yEyE ? ，因此高斯變量的峭度為 0。 峭度的值可正可負(fù)，具有負(fù)峭度的隨機(jī)變量稱為次高斯的，而那些峭度為正的隨機(jī)變量稱為超高斯的。次高斯的概率密度函數(shù)一般是“扁平”形狀，其在零附近的取值比較平坦，在遠(yuǎn)離零的地方取值很小。這樣的度量對(duì)于高斯變量的取值為零，而大部分的非高斯隨機(jī)變量的取值大于零。 該方法已經(jīng)在 ICA 相關(guān)領(lǐng)域被廣泛用作非高斯性的度量，這主要是因其無論從計(jì)算還是理論上都非常簡(jiǎn)單。上述特性可以簡(jiǎn)單的用累積量的一般定義來證明。隨機(jī)變量越“隨機(jī)”，則它的熵就越大。這個(gè)定義可以擴(kuò)展到連續(xù)的隨機(jī)變量，在連續(xù)情況下，隨機(jī)變量的熵稱為微熵。這表明熵可以作為非高斯性的一種度量。負(fù)熵 J 的定義如下： ? ? ? ? ? ?yHyHyJ g u a s s?? (213) 其中 guassy 是與 y 具有相同相關(guān)矩陣的高斯隨機(jī)變量。同時(shí) 。 由于實(shí)際的概率密度函數(shù)并不知道，使用負(fù)熵來度量非高斯性非常困難，因此，有必要采用一些近似公式去逼近負(fù)熵 ??yJ 。在上述三種形式中，第一種形式是最為常用的一種形式，可用于一般目的的獨(dú)立成分的提取。第三種形式實(shí)質(zhì)上是基于隨機(jī)變量 Kurtosis 信 息的，一般只用于獨(dú)立成分具有亞高斯性 (subGaussian)的情況[18]。 互信息最小化 互信息最小化的方法源于信息論，是獨(dú)立成分估計(jì)的一種重要的方法。顯然， 0?I 。 最大似然估計(jì) 極大似然值估計(jì)是統(tǒng)計(jì)估計(jì)領(lǐng)域中的一種基本方法。在無噪聲的 ICA 模型中推導(dǎo)似然度并不困難，我們可以直接定義似然函數(shù)，然后用最大似然函數(shù)的方法來估計(jì) ICA 模型，如果 W 等于矩天津大學(xué)仁愛學(xué)院 2020 屆本科生畢業(yè)設(shè)計(jì)（論文） 12 陣 A 的逆，似然函數(shù)可以取為如下形式 : ? ?? ? BtxbpiL TtniTi d e t1 1? ?? ?? (218) 在實(shí)際中普遍使用似然函數(shù)的對(duì)數(shù)，因?yàn)閷?duì)數(shù)在代數(shù)運(yùn)算方面更為簡(jiǎn)潔，對(duì)數(shù)似然度可由下式給出： ? ?? ? BTtxbpiL TtniTi d e tlo glo g1 1? ?? ? ?? (219) 其中 ip 是 is 的密度函數(shù)， ? ?? ?Tttx ?,2,1? 是 x 的實(shí)現(xiàn)， Bdetlog 源于古典規(guī)則，該規(guī)則可以線性轉(zhuǎn)換隨機(jī)變量和它們的密度函數(shù)，一般來說，對(duì)任何具有密度 ip 的隨機(jī)向量 x 和任何矩陣 B， y 的密度可由信息原理給出。因此，在使用極大似然估計(jì)判據(jù)時(shí)必須小心。根據(jù)這一標(biāo)準(zhǔn)，目前以非高斯最大和互信息最小應(yīng)用最多。 中心化變換比較簡(jiǎn)單，就是使觀測(cè)數(shù)據(jù)均值為零，即從 每次的觀測(cè)數(shù)據(jù)中去除變量自身的均值，提取其相對(duì)均值的變化信息。用協(xié)方差矩陣的形式表示為則有： ? ? IxxE T ? (220) 其中 I 為單位矩陣。因此，白化意味著線性轉(zhuǎn)換觀測(cè)數(shù)據(jù)矢量 x 乘以線性矩陣 V，即 : Vxz? (221) 獲得的新矢量 z 是白化的。A sAVAsZ 39。A 為正交的。39。A 。 由此可知，白化使 ICA 問題得到了簡(jiǎn)化，它使未知數(shù)據(jù)的估計(jì)量減少了一半，從而減少了問題的復(fù)雜度。 目前，已經(jīng)提出了多種 ICA 算法，最具代表性的有：由 Bell 提出的基于信息最大化 (Informax)的自組織神 經(jīng)網(wǎng)絡(luò)，由 Amari 提出的極大似然自然梯度算法，由 Oja 和Hyvarinen 提出的固定點(diǎn)算法以及 Hyvarinen 提出的快速 ICA 算法。固定點(diǎn)算法是以近似負(fù)熵為目標(biāo)函數(shù)，收斂速度較快 (具有二階收斂性 )，但對(duì)初值的選擇比較敏感，隨機(jī)選擇的初始值有可能會(huì)導(dǎo)致不收斂 [21]。該算法的具體步驟如下： (1) 對(duì)工業(yè)過程觀測(cè)數(shù)據(jù)進(jìn)行預(yù)處理，使其均值為 0 (2) 對(duì)中心化后的數(shù)據(jù)進(jìn)行白化得到 z (3) 選取獨(dú)立成分分量的個(gè)數(shù)等于觀測(cè)變量的個(gè)數(shù)，即令 nm? ，令 1?p (4) 選擇具有單位范數(shù)的初始化向量 pw (可隨機(jī)選取 ) (5) 更新 pw ： ? ?? ? ? ?? ? pTpTpp wzwzgEzwzgEw 39。天津大學(xué)仁愛學(xué)院 2020 屆本科生畢業(yè)設(shè)計(jì)（論文） 14 第三章 小波降噪 獨(dú)立成分分析方法分析 獨(dú)立成分分析 (ICA)是盲源信號(hào)分析 [22]中一種重要的信號(hào)分析方法，已逐步用于信號(hào)處理等領(lǐng)域。 工業(yè)過程數(shù)據(jù)不可避免的受到過程噪聲、熱噪聲等噪聲的 污染，使得過程觀測(cè)數(shù)據(jù)的信噪比降低，嚴(yán)重影響過程監(jiān)控結(jié)果 [23]。同時(shí)，過程觀測(cè)信息的噪聲污染對(duì)信號(hào)的重構(gòu)相當(dāng)不利，因而提取特征信號(hào) (獨(dú)立成分 )前盡可能地去除噪聲就顯得相當(dāng)?shù)闹匾?。在此基礎(chǔ)上對(duì) 降噪 后的過程信息進(jìn)行獨(dú)立成分分析 ，建立優(yōu) 化的 ICA 模型，完成對(duì)生產(chǎn)過程的在線監(jiān)控。但是小波分析克服了傅里葉變換在單分辨率上的缺陷，具有多分辨率的特點(diǎn)，在時(shí)域和頻域都有表征信號(hào)局部信息的能力，其窗口大小固定不變但是其形狀可以改變即時(shí)間窗和頻率窗都可以根據(jù)信號(hào)的具體形態(tài)動(dòng)態(tài)調(diào)整，在一般情況下，在低頻部分（信號(hào)較平穩(wěn)）可以采用較低的時(shí)間分辨而提高頻率的分辨率，在高頻的情況下（頻率變化不大）可以采用較低的頻率 分辨率來換取精確的時(shí)間定位（即低頻部分具有較高的頻率分辨率和較低的時(shí)間分辨率，高頻部分具有較高是時(shí)間分辨率和較低的頻率分辨率 )，因此小波分析對(duì)信號(hào)具有自適用性，被廣泛應(yīng)用于時(shí) 頻分析領(lǐng)域。對(duì)基小波進(jìn)行尺度變換及平移后可得小波函數(shù)： ? ?ataba ??? ?? 21, ，式中 a， ? 分別為小波尺度參數(shù)和平移參數(shù)。對(duì) 小波函數(shù)中的尺度參數(shù)和平移參數(shù)進(jìn)行離散 化，即另Zkjkba jj ???? ,2,2 ,Z 為整數(shù)集，便可以得到相應(yīng)信號(hào)的離散小波變換對(duì)。若用二進(jìn)制小波函數(shù)進(jìn)行分解，則變換深度每增加一層，分解后的子信號(hào)頻寬減半。在工程實(shí)際中，噪聲信號(hào)通常表現(xiàn)為高頻信號(hào)，而有用的信號(hào)通常表現(xiàn)為低頻部分信號(hào) ，實(shí)際的含噪聲信號(hào)的上述特點(diǎn)為利用小波變換消噪提供了前提條件。對(duì) ??nx 消噪的目的就是抑制噪聲信號(hào) ??ne 以恢復(fù)真是信號(hào) ??nf 。 在這個(gè)噪聲模型下，一維信號(hào)的降噪過程如下： 天津大學(xué)仁愛學(xué)院 2020 屆本科生畢業(yè)設(shè)計(jì)（論文） 16 x ( n ) 小 波 域 表 示小 波 變 換各 個(gè) 尺 度 小 波 系 數(shù)的 消 噪 處 理小 波 系 數(shù) 重 構(gòu) 圖 小波變換的降噪流程圖 一般而言，一維信號(hào)降噪過程的基本步驟如下： (1)信號(hào)的小波分解。選擇適當(dāng)?shù)拈撝祵?duì)各個(gè)分解尺度下的高頻小波系數(shù)進(jìn)行閾值量化。根據(jù)小波分解的低層低頻系數(shù)和各層高頻系數(shù)進(jìn)行一維小波重構(gòu)。 一般閾值量化有兩種方法，硬閾值方法和軟閾值方法 1. 硬閾值方法 (35) 式中： T 為消噪的小波閾值 硬閾值方法的缺點(diǎn)是可能在濾除噪聲的同時(shí)濾除一些有用的信號(hào)，以致在某些點(diǎn)會(huì)產(chǎn)生間斷。 不管是利用硬閾值