【正文】 噪聲，我們需要去除噪聲，從中抽取出真正的能代表人臉本質(zhì)特征的主元分量，即特征臉），計算矢量均值　和去中心化的矩陣。在人臉識別中我們首先需要采集人臉樣本庫來訓(xùn)練得到人臉模式的特征，在獲得人臉圖像庫的前提下，我們可以進(jìn)行如下操作步驟。特征臉法是一種基于人臉全局特征的識別方法。3基于PCA的人臉識別方法所有模式識別的問題都分為兩步：訓(xùn)練步（分類）和測試步（識別）。例如彈簧振子例中取出最主要的1個維度，則數(shù)據(jù)就壓縮了5/6。具體算法與上述過程相同，使用PCA方法處理一個圖像序列，提取其中的主元。使用PCA方法進(jìn)行圖像壓縮，又被稱為Hotelling算法，或者Karhunen and Leove(KL)變換。這就是人臉識別中的重要方法“特征臉方法”的理論根據(jù)。為什么這樣做呢？根據(jù)人臉識別的例子來說，數(shù)據(jù)源是20幅不同的人臉圖像，PCA方法的實質(zhì)是尋找這些圖像中的相似的維度，因為人臉的結(jié)構(gòu)有極大的相似性（特別是同一個人的人臉圖像），則使用PCA方法就可以很容易的提取出人臉的內(nèi)在結(jié)構(gòu)，也及時所謂“模式”，如果有新的圖像需要與原有圖像比較，就可以在變換后的主元維度上進(jìn)行比較，則可衡量新圖與原有數(shù)據(jù)集的相似度如何。假設(shè)數(shù)據(jù)源是20幅的圖像序列，每幅圖像都是大小，那么它們都可以表示為一個維的向量。如果要將PCA方法應(yīng)用于視覺領(lǐng)域，最基本的問題就是圖像的表達(dá)?！CA在計算機(jī)視覺領(lǐng)域的應(yīng)用PCA方法是一個具有很高普適性的方法，被廣泛應(yīng)用于多個領(lǐng)域。有了上述基礎(chǔ)，我們再簡約回顧一下前面的彈簧振子的實驗數(shù)據(jù)處理問題：在對66維矩陣對角化后，將會只有第一個特征根很大，其余特征根將很小或接近零（將6維降到1維，去除5個多余的冗余變量）。（2）在每個觀測變量（矩陣行向量）上減去該觀測變量的平均值得到去均值的矩陣。我們可以得到PCA求解的一般步驟：（1）采集數(shù)據(jù)形成的矩陣。求出特征向量矩陣后我們?nèi)?，則，由線形代數(shù)可知標(biāo)準(zhǔn)正交矩陣有性質(zhì)，從而有　　　（3－11）可知此時的就是我們需要求得變換基，至此我們可以得到PCA的結(jié)果：（1）的主元即是的特征向量，也就是矩陣的行向量。它們將不對結(jié)果造成影響。如果，則為退化陣。任意一個實對稱陣都可以化成形式，其中是一個對角陣，而是個標(biāo)準(zhǔn)正交矩陣，并且是對稱陣的特征根所對應(yīng)的特征向量排成的矩陣（請注意：對角陣的第一個元素對應(yīng)特征矩陣的第一列，第二個對角元素對應(yīng)的特征向量構(gòu)成的第二列，依次排列下去）。則P的行向量（也就是m個正交基）就是數(shù)據(jù)的主元向量。PCA方法假設(shè)主元向量之間都是正交的，從而可以利用線形代數(shù)的一系列有效的數(shù)學(xué)工具進(jìn)行求解，大大提高了效率和應(yīng)用的范圍。PCA方法隱含了這樣的假設(shè)：數(shù)據(jù)本身具有較高的信噪比，所以具有最高方差的那個向量就可以被看作是主元，而方差較小的則被認(rèn)為是噪音。所以PCA仍然是一個使用于絕大部分領(lǐng)域的穩(wěn)定且有效的算法。基于這個方程進(jìn)行冗余去除的方法被稱作獨立分量分析方法(Independent Component Analysis，ICA)。在這種模型下，不能使用方差和協(xié)方差來很好的描述噪音和冗余，對優(yōu)化之后的協(xié)方差矩陣并不能得到很合適的結(jié)果。（2）使用均值和方差進(jìn)行充分統(tǒng)計。這也就決定了它能進(jìn)行的主元分析之間的關(guān)系也是線性的。PCA的假設(shè)條件包括：（1）線形性假設(shè)?！CA的假設(shè)和局限性PCA模型中存在諸多的假設(shè)條件，決定了它存在一定的限制，在有些場合可能會不利或甚至失效。這給PCA的求解帶來了巨大的好處，它可以運用線性代數(shù)的相關(guān)理論進(jìn)行快速有效的分解。這個理論上成立的算法說明了PCA的主要思想和過程。（3）對以上過程循環(huán)，直到找出全部的個向量。根據(jù)上面的分析，最簡單最直接的算法就是在多維空間內(nèi)進(jìn)行搜索，和圖3－5（a）的例子中旋轉(zhuǎn)的方法類似：（1）在維空間中進(jìn)行遍歷，搜索到一個向量，使得個觀測向量在方向上方差最大。同時，PCA假設(shè)所對應(yīng)的一組變換基Ｔ必須是標(biāo)準(zhǔn)正交的，而優(yōu)化的目標(biāo)矩陣對角線上的元素越大，就說明信號的成分越大，換句話就是對應(yīng)于越重要的“主元”。PCA的目標(biāo)就是通過基變換對協(xié)方差矩陣進(jìn)行優(yōu)化協(xié)方差矩陣優(yōu)化的原則是：（1）最小化變量冗余，對應(yīng)于協(xié)方差矩陣的非對角元素要盡量小或為零；（2）最大化信號，對應(yīng)于要使協(xié)方差矩陣的對角線上的元素盡可能的大?！　　　　。?－9）協(xié)方差矩陣包含了所有觀測變量之間的相關(guān)性度量，在對角線上的元素越大，表明信號越強(qiáng)，變量的重要性越高或主元，元素越小則表明可能是存在的噪音或是次要變量。（2）對角線上的元素是對應(yīng)觀測變量的方差，反映了該變量數(shù)據(jù)采樣點的噪音程度。那么，對于具有個觀測變量，每個變量采樣個時間點的數(shù)據(jù)矩陣來說，這個變量之間的互相關(guān)性可定義如下：將每個觀測變量的個值寫為行向量，可以得到一個的矩陣。（2）當(dāng)=時。而對于更復(fù)雜的多變量（三維以上）情況，則需要借助協(xié)方差來進(jìn)行衡量和判斷，它的一致估計定義如下：　　　　　　　　?。?－6），分別表示了兩個觀測變量的n個記錄數(shù)據(jù)，是每個觀測變量的均值。對于上面二維的情況下可以通過簡單的線性擬合的方法來判斷各觀測變量之間是否出現(xiàn)冗余的情況。那么對于觀測者而言，這個變量的觀測數(shù)據(jù)就是完全冗余的，應(yīng)當(dāng)去除，只用一個變量就可以表示了。而相反的極端情況如(c)，和是高度相關(guān)的（或線性相關(guān)的），完全可以用表示（如），也即已知后，就完全確定。圖3－6　可能冗余數(shù)據(jù)的頻譜圖表示（最佳擬合線用虛線表示）如圖3－6是觀測變量和的數(shù)據(jù)集的分布圖，比如本案例中的變量，它揭示了這兩個觀測變量之間的關(guān)系?？赡苡袃煞N情況：（1）該變量對結(jié)果沒有影響，完全是多余的；（2）該變量可以用其它變量表示，從而造成數(shù)據(jù)冗余。利用數(shù)學(xué)進(jìn)行求取這組基的推導(dǎo)之前，再介紹另一個影響因素。如圖3－5(b)所示了隨著這組基的轉(zhuǎn)動以及方差的變化情況。容易看出，本例中潛在的軸就是圖上的較長黑線方向。此時的描述的就是采樣點云在某對正交方向上的概率分布的比值。通過旋轉(zhuǎn)基向量P’， 使得數(shù)據(jù)在沿P’方向取得最大的方差，對上述實驗來說沿P’的正交方向上方差會最小，因為運動理論上是只存在于一條直線上，所以偏離直線的分布都屬于噪聲。若要在坐標(biāo)系下區(qū)分信號和噪聲，則是非常的因難。　　　(a)攝像機(jī)Ａ的采樣數(shù)據(jù)（黑線是任意一組正交基）（b）對的基向量進(jìn)行旋轉(zhuǎn)使SNR最大圖3－5　方差與SNR由于實驗前對球的運動無任何先驗知識，故對攝像機(jī)的擺放也無任何指導(dǎo)?！　　　　　　　　　　。?－5）它表示了采樣點在平均值兩側(cè)的分布，對應(yīng)于圖3－4（a）中采樣點云的“胖瘦”。事實上這也是一種標(biāo)準(zhǔn)的去噪準(zhǔn)則。噪聲的度量有多種方式，最常見的定義是信噪比　(signaltonoise ratio)或方差：　　　　　　　　　　　　?。?－4） 比較大的信噪比表示數(shù)據(jù)的準(zhǔn)確度高，而信噪比低則說明數(shù)據(jù)中的噪聲成分大。下面將對這三種成分做出數(shù)學(xué)上的描述