【正文】 并針對目標(biāo)作出分析。那么什么是數(shù)據(jù)的特征，如何體現(xiàn)呢？“最好的表示”是什么意思呢？下面我們將給出一個較為直觀的解釋，并增加一些額外的假設(shè)條件。在線性的假設(shè)條件下，問題轉(zhuǎn)化為尋找一組變換后的基，也就是的行向量Ｔ，這些向量就是PCA中所謂的“主元”。在一些文獻(xiàn)中，將數(shù)據(jù)成為“源”，而將變換后的稱為“信號”。下面是對最后一個含義的顯式說明：，　　　　?。?－2）注意到的列向量：　　　　　　　　　　　　　（3－3）可見向量中的每一元素是中的對應(yīng)行與向量的點積，也就是相當(dāng)于第時間點上數(shù)據(jù)向量在對應(yīng)向量上的投影，而在的所有行向量上的投影就構(gòu)成新的數(shù)據(jù)向量，所以的行向量事實上就是一組新的基。表示的列向量。　　　　　　　　　　　　　?。?－1）有如下定義：表示的行向量。表示變換以后的新的數(shù)據(jù)集表示。令表示原數(shù)據(jù)集。它使問題得到了很大程度的簡化：1）數(shù)據(jù)被限制在一個向量空間中，能被一組正交基表示；2）隱含的假設(shè)了數(shù)據(jù)的連續(xù)性。從更嚴(yán)格的數(shù)學(xué)定義上來說，PCA回答的問題是：如何尋找到另一組正交基，它們是標(biāo)準(zhǔn)正交基的線性組合，但能最好的表示數(shù)據(jù)集？這里提到了PCA方法的一個最關(guān)鍵的假設(shè)：線性。也就是說，標(biāo)準(zhǔn)正交基表現(xiàn)了人們對數(shù)據(jù)觀測的一般方式。那為什么不取正交基或是其他任意的正交基呢？原因是這樣的標(biāo)準(zhǔn)正交基反映了人們常用的一種數(shù)據(jù)采集方式。最普通的一組正交基是標(biāo)準(zhǔn)正交基，實驗采樣的結(jié)果通常可以看作是在標(biāo)準(zhǔn)正交基下表示的。抽象一點來說，每一個采樣點數(shù)據(jù)都是在維向量空間（此例中）內(nèi)的一個向量，這里的是牽涉的變量個數(shù)。如果以的頻率拍攝10分鐘，將得到個這樣的向量數(shù)據(jù)。為了引入推導(dǎo)，需要將上文的數(shù)據(jù)進(jìn)行明確的定義。這個維度即最重要的“主元”。而新的基要能盡量揭示原數(shù)據(jù)間的關(guān)系。下文將結(jié)合以上的例子提出解決方案，逐步敘述PCA方法的思想和求解過程。上面提出的兩個問題就是PCA方法的目標(biāo)。噪音使數(shù)據(jù)變得混亂，掩蓋了變量間的真實關(guān)系。怎樣從這些數(shù)據(jù)中得到球是沿著某個軸運動的且符合簡諧運動規(guī)律呢？怎樣將實驗數(shù)據(jù)中的冗余變量剔除，化歸到這個潛在的軸上呢？這是一個真實的實驗場景，收集數(shù)據(jù)時引入的噪音是必須面對的因素。事實上，在真實世界中也并沒有所謂的軸，每個攝像機(jī)都記錄下有自己空間坐標(biāo)系的一幅二維圖像，因此球的空間位置是由一組二維坐標(biāo)記錄。這一點可以通過在不同角度放置三個攝像機(jī)實現(xiàn)（如圖1所示），假設(shè)以200Hz的頻率拍攝畫面，就可以得到球在空間中的運動序列。但是，在真實世界中，對于第一次實驗的探索者來說（這也是實驗科學(xué)中最常遇到的一種情況），是不可能進(jìn)行這樣的假設(shè)。圖3－3　簡諧運動模型對一個具有先驗知識的實驗者來說，實驗結(jié)果完全預(yù)知且實驗也非常容易的執(zhí)行。如圖3－3所示，這是一個理想彈簧運動規(guī)律的測定實驗。下面的模型取自一個物理學(xué)中的實驗。在神經(jīng)科學(xué)、電子信息學(xué)科中，假設(shè)的變量個數(shù)可能非常之多，但是真正的影響因素以及它們之間的關(guān)系可能又是非常之簡單。但是由于實驗環(huán)境和觀測手段的限制，實驗數(shù)據(jù)往往變得極其的復(fù)雜、混亂和冗余的。隨后將揭示PCA與SVD(Singular Value Deposition)之間的聯(lián)系以及如何將之應(yīng)用于真實世界，分析PCA理論模型的假設(shè)條件以及針對這些條件可能進(jìn)行的改進(jìn)，最后將之應(yīng)用于人臉識別中。被譽為應(yīng)用線形代數(shù)最具價值的結(jié)果之一。它的優(yōu)點是簡單，而且無參數(shù)限制，可以方便的應(yīng)用與各個場合。圖3－2 人臉提取子系統(tǒng)　PCA理論主成分分析（principal ponents analysis，PCA）又稱主分量分析，它是一種對數(shù)據(jù)進(jìn)行分析的技術(shù)，最重要的應(yīng)用是對原有數(shù)據(jù)進(jìn)行簡化。圖3－1 人臉識別系統(tǒng)人臉提取子系統(tǒng)（如圖3－2所示）是利用膚色識別分割找出可能的膚色區(qū)域，然后進(jìn)行感興趣區(qū)域標(biāo)定初步定位人臉，再以閾值控制得到人臉的主要部分，最后將提取的人臉經(jīng)過統(tǒng)一處理后傳給人臉識別部分和構(gòu)建特征庫。本項目通過一個簡單的實例和主成分分析（principal ponents analysis，PCA）技術(shù)來理解人臉識別的整個流程，逐步掌握化復(fù)雜問題為簡單的模塊來解決實際問題，并深入淺出的領(lǐng)會PCA原理。 基于PCA方法的人臉識別系統(tǒng)建模與實現(xiàn)1　項目概述人臉識別系統(tǒng)以人臉識別技術(shù)為核心，是一項新興的生物識別技術(shù)，是當(dāng)今國際科技領(lǐng)域攻關(guān)的高精尖技術(shù)。它廣泛采用區(qū)域特征分析算法，融合了計算機(jī)圖像處理技術(shù)與生物統(tǒng)計學(xué)原理于一體，利用圖像處理技術(shù)從人臉圖像中提取人像特征點，利用生物統(tǒng)計學(xué)的原理進(jìn)行分析建立數(shù)學(xué)模型，具有廣闊的發(fā)展前景。2　人臉識別系統(tǒng)　系統(tǒng)框圖本項目設(shè)計一套實時人臉識別的系統(tǒng),其中包括人臉提取和人臉識別兩個子系統(tǒng)，如圖3－1所示。人臉識別子系統(tǒng)使用改進(jìn)的PCA方法，在提高識別效率的基礎(chǔ)上，求出一個特征臉空間后，將整張人臉投影到特征臉空間中，然后通過降維，秩的求取等運算構(gòu)建出人臉重向量特征庫，再以歐氏距離的結(jié)果對人臉進(jìn)行判斷、識別。正如它的名字：主元分析，這種方法可以有效的找出數(shù)據(jù)中最“主要”的元素和結(jié)構(gòu)，去除噪音和冗余，將原有的復(fù)雜數(shù)據(jù)降維，揭示隱藏在復(fù)雜數(shù)據(jù)背后的簡單結(jié)構(gòu)。因此應(yīng)用極其廣泛，從神經(jīng)科學(xué)到計算機(jī)圖形學(xué)都有它的用武之地?！椈烧褡幽Ｐ臀覀儗囊粋€簡單的例子來說明PCA應(yīng)用的場合以及想法的由來，從而進(jìn)行一個比較直觀的解釋，然后加入數(shù)學(xué)的嚴(yán)格推導(dǎo)，引入線形代數(shù)，進(jìn)行問題的求解。在實驗科學(xué)中我們常遇到的情況是，使用大量的變量代表可能變化的因素，例如頻率、電壓、速度等等。如何對數(shù)據(jù)進(jìn)行分析，取得隱藏在數(shù)據(jù)背后的變量關(guān)系，是一個很困難的問題。實驗科學(xué)的精髓就是從大量混雜的實驗數(shù)據(jù)中統(tǒng)計挖掘出隱藏在背后的理論規(guī)律，再用建立起來的理論模型去指導(dǎo)生產(chǎn)實踐從而大大提高生產(chǎn)效率。它看上去比較簡單，但足以說明問題。假設(shè)一根無質(zhì)量無摩擦的彈簧上連接一個球并水平放置于光滑平面上，從平衡位置沿軸拉開一定的距離然后釋放。球的運動只會在軸向上發(fā)生，只需要記錄下軸上的運動序列并加以分析即可。那么，一般來說，必須記錄球的三維位置。但是，由于實驗的限制，這三臺攝像機(jī)的角度可能比較任意，并不是正交的。經(jīng)過實驗，系統(tǒng)產(chǎn)生了球的位置序列。在這個實驗中噪音可能來自空氣、摩擦、攝像機(jī)的誤差以及非理想化的彈簧等等。如何去除噪音是實驗者每天所要面對的巨大考驗。PCA方法是解決此類問題的一個有力的武器?！【€形代數(shù)從線形代數(shù)的角度來看，PCA的目標(biāo)就是使用另一組基去重新描述得到的數(shù)據(jù)空間。在這個例子中，沿著軸上的運動是最重要的。PCA的目標(biāo)就是找到這樣的“主元”，最大程度的去除冗余和噪音的干擾。在上面描述的實驗過程中，在每一個采樣時間點上，每個攝像機(jī)記錄了一組二維坐標(biāo)，綜合三臺攝像機(jī)數(shù)據(jù)，在每一個時間點上得到的位置數(shù)據(jù)對應(yīng)于一個六維列向量。請注意，每個攝像機(jī)的值的參考點是不同的，如與不表示他們在沿x軸上在同一位置。由線形代數(shù)知識可知在維向量空間中的每一個向量都是一組正交基的線形組合。舉例來說，上例中每個攝像機(jī)記錄的二維數(shù)據(jù)坐標(biāo)為，這樣的基便是。假設(shè)采集數(shù)據(jù)點是（在基下），一般并不會記錄（在