【正文】 : ][ XXER T? () 將公式 ()代入上式 ()，得 TTTTaT aaEaEXXER ??????? ][][][ () 我們要求向量 ? 的各個(gè)分量間互不相關(guān)，即滿足下列關(guān)系 : 青島 理工大學(xué)畢業(yè)設(shè)計(jì)（論文） 15 ??? ??? kk kjaaE jkj 0][ ? () 寫成矩陣的形式 為： ????????????n???1 () 則： TR ???? () 將上式兩邊右乘上 ? ，得 : ?????? TR () 因?yàn)?? 是正交矩陣，所以得 : ????R () ),3,2,1( njR jjj ?????? () 可以看出， i? 是 x 的自相關(guān)矩陣 R 的特 征值， j? 是對應(yīng)特征向量。 綜上所述， KL 展開式的系數(shù)可用下列步驟求出 : 步驟一 :求隨即向量 x 的自相關(guān)矩陣 ][ XXER T? ，由于沒有類別信息的樣本集的均值向量，常常沒有意義，所以也可以把數(shù)據(jù)的協(xié)方差矩陣作為 KL 坐標(biāo)系的產(chǎn)生矩陣，這里召是總體均值向量。其中i=1， 2,? ,n。 步驟三 :展開式系數(shù)即為 XT??? 。 青島 理工大學(xué)畢業(yè)設(shè)計(jì)（論文） 16 主成分分析法 (PCA） PCA 原理 主成分分析法 (PCA)在人臉識別領(lǐng)域成功應(yīng)用的一個(gè)重要理論基礎(chǔ)是較好的解決了 變換后協(xié)方差矩陣的特征向量的求解問題。同時(shí)，在人臉識別問題中，由于客觀條件的限制，訓(xùn)練樣本的數(shù)目一般 較小，通常，訓(xùn)練樣本的總數(shù)遠(yuǎn)遠(yuǎn)小于人臉圖像向量的維數(shù)。 主成分分析法 (PCA)是模式識別判別分析中最常用的一種線性映射方法，該方法是根據(jù)樣本點(diǎn)在多維模式空間的位置分布，以樣本點(diǎn)在空間中變化最大方向，即方差最大的方向，作為判別矢量來實(shí)現(xiàn)數(shù)據(jù)的特征提取與數(shù)據(jù)壓縮。如果對 x 用一組完備正交基 j? ， j=1， 2， … ， n 展開，可得 jki iuax ???1 () 假設(shè)只用前 k 項(xiàng)進(jìn)行重構(gòu)，則 ??? kj jjrec uax 1 () 其均方誤差為 : )]()[( recTrec xxxxE ???? () 因?yàn)? 青島 理工大學(xué)畢業(yè)設(shè)計(jì)（論文） 17 ??? ??? ij ijuu jTi 01 () 且 Xa Tjj ?? () 所以 ?? ???? ???????? nkJ jTjnkJ jTTj CuuuxxuE 11? () 其中 ]])[])([[(][ TT EEExxEC ???? ???? 是 x 和 的總體協(xié)方差矩陣。將特征向量 nuuu , 21 ? 按照它們的特征值進(jìn)行降序排列 n???? ??? ?321 ，則得到結(jié)論 ： 對于任一隨機(jī)變量 x，如果采用總體協(xié)方差矩陣 C 的前 k 個(gè)最大非 0 特征值所對應(yīng)的特征向量作為坐標(biāo)軸展開，可在相等截?cái)嚅L度下獲得所有正交展開中最小的截?cái)嗑秸`差 min? ???? nkj i1min ?? () 下面我們將主成分分析 法用于人臉識別 [11]。 令矩陣 ],[ 21 nA ???? ?,則散布矩陣 ∑ 可以表示為 : 青島 理工大學(xué)畢業(yè)設(shè)計(jì)（論文） 18 ?? ?? ??? nkj TiiT MAA 1/1 () 求出∑的特征值 k? 和特征矢量 k? ,由于 k? 看起來像一張人臉，因此 k? 常稱作特征臉向量，用特征向量構(gòu)成的圖像稱為特征臉圖像。,2,1(),(, JkMiuu iTkkiki ?? ??????????? () 這里“ 對于任一待識別的圖像，用同樣的方法求出其投影系數(shù) ),( 1 jwiO ??? ?? ，則滿足下列條件的第 J 個(gè)訓(xùn)練圖像即為識別結(jié)果。可以證明， PCA 是在均方誤差最小意義下的最優(yōu)正交分解方法，因此用 PCA 進(jìn)行信號壓縮能夠得到最大的信噪比。 由于基函數(shù)的個(gè)數(shù)往往遠(yuǎn)小 于信號的維數(shù)，因此 PCA 變換能夠大大降低數(shù)據(jù)的表示維數(shù)。 (3)消除冗余。 (4)分解函數(shù) /合成函數(shù)相同。合成函數(shù) (Synthesis Function)作用于信號的編碼，得到原始信號。 PCA 法將 KL 變換后特征值從大到小進(jìn)行排列，挑選相對大的特征值所對應(yīng)的特征向量，構(gòu)成一個(gè) KL 變換特征空間的子空間，來進(jìn)行特征提取。較小特征值所對應(yīng)特征向量體現(xiàn)原圖像的細(xì)節(jié)變化、高頻分量，所以 PCA 法提取圖像總體特征，在人臉圖像上的表現(xiàn)就是人臉的外形輪廓和灰度變化， 以此作為人臉特征，卻丟失了一些原有的重要信息。 以上便是圖像訓(xùn)練圖片集進(jìn)行 KL 變換和 PCA 的實(shí)現(xiàn)過程。 青島 理工大學(xué)畢業(yè)設(shè)計(jì)（論文） 20 第 4 章 實(shí)驗(yàn)與仿真 我們使用 MATLAB 軟件實(shí)現(xiàn)了人臉識別并統(tǒng)計(jì)其識別率。并分別采用最近鄰法得出它們的成功率。該數(shù)據(jù)庫包括 40 個(gè)不同人，每人 10 幅圖像，共 400 幅。 ORL 人臉圖像是在不同時(shí)間、不同視角、各種表情 (閉眼 /睜眼、微笑 /吃驚 /生氣 /憤怒 /高興 )和不同臉部細(xì)節(jié) (戴眼鏡 /沒戴眼鏡、有胡子 /沒胡子、不同發(fā)型 )的條下拍攝的 。改變分塊 DCT 變換的子塊大小分為 4 4， 8 8， 16 16，得出 識別正確率 結(jié)果如 如表 41 所 示。當(dāng)測試樣本數(shù)較少時(shí)，識別率的增高很明顯。因此，我們最終選擇了子塊大小為 8 8 作為實(shí)驗(yàn)中分塊 DCT 部分的子塊大小。 表 42 子塊比例隨子塊大小及能量比 的變化表 95% 90% 85% 80% 4 4 8 8 16 16 從表 42 的實(shí)驗(yàn)數(shù)據(jù)中可以發(fā)現(xiàn)， 當(dāng)子塊大小確定時(shí)，第一個(gè)系數(shù)能量占比大于 85%的子塊比例能達(dá)到 84%以上，大于 80%的子塊比例均能達(dá)到 91%以上；同時(shí)可以看出子塊越小時(shí)，變換系數(shù)矩陣的能量越集中在第一個(gè)系數(shù)的位置。 PCA 實(shí)驗(yàn)研究 本小節(jié)主要研究方向?yàn)?PCA 方法中 維數(shù) 的選擇 。 根據(jù)指定值選擇 首先 分別取每個(gè)人臉的前 1， 2， 3， 4， 5， 6， 7， 8， 9 張圖片作為訓(xùn)練 樣本集，剩余圖片作為測試集， 這樣訓(xùn)練集分別為 80、 1 160、 200、 2280、 3 360，測試集分別為 360、 3 280、 2 200、 160、 1 80、 40。 表 43 識別率隨維數(shù)及樣本數(shù) 的變化表 5 10 15 20 25 30 35 1 2 3 4 5 6 7 8 9 從表 43 的實(shí)驗(yàn)數(shù)據(jù)中可以發(fā)現(xiàn)， 隨著維數(shù)的增加 ， 識別率 也會相應(yīng)的得到提升 ，增高十分明顯 ；當(dāng)維數(shù)較大時(shí)，隨著樣本數(shù)的增多，識別率提升會更加明顯。 根據(jù)能量比選擇 首先 分別取每個(gè)人臉的前 1， 2， 3， 4， 5， 6， 7， 8， 9 張圖片作為訓(xùn)練 樣本集，剩余圖片作為測試集， 這樣訓(xùn)練集分別為 80、 1 160、 200、 2280、 3 360，測試集分別為 360、 3 280、 2 200、 160、 1 80、 40。 從表 44 的實(shí)驗(yàn)數(shù)據(jù)中可以發(fā)現(xiàn)， 隨著能量比的提高，識別率也會相應(yīng)的得到提升；并且當(dāng)能量比要求高時(shí)，隨著樣本數(shù)的增多，識別率提升會更加明顯。 表 44 識別率隨能量比及樣本數(shù) 的變化表 1 2 3 4 5 6 7 8 9 維數(shù)的選定 我們根據(jù)本文中 及 的實(shí)驗(yàn)以及實(shí)驗(yàn)結(jié)果和分析可以看出，當(dāng)我們選定某一維數(shù)時(shí)，并無法保證此時(shí) 保存 的特征 向量及特征值足以取代人臉圖像特征 ， 且 當(dāng) 取定 維數(shù)變化時(shí)，識別率的變化 極其 不穩(wěn)定 ；與之相比，當(dāng)我們根據(jù)能量比來確定所降維維數(shù)時(shí)，我們可以保證所保存數(shù)據(jù)可代表人臉圖像主成分，且識別率變化相對穩(wěn)定。 人臉庫實(shí)驗(yàn) 及 仿真 本小節(jié)主要在 ORL 以及 YALE 人臉庫上對算法進(jìn)行實(shí)驗(yàn)與仿真，我們使用 MATLAB 軟件實(shí)現(xiàn)多種方法的人臉識別，實(shí)驗(yàn)并記錄改變?nèi)四樧R別方法對識別率的影響，著重 分為原始圖像識別，原始圖像進(jìn)行分塊 DCT 變換后進(jìn)行識別以及對原始圖像分塊 DCT 變換處理并進(jìn)行 PCA 后進(jìn)行識別 。將輸入的標(biāo)準(zhǔn) ORL（ YALE） 人臉庫中的每幅 112 92（ 231 195） 的人臉圖像縮放為 112 96（ 232 200） 大小，然后 順序地分割成一系列互不覆蓋的 8 8的子塊， 這樣 一幅 112 96（ 232 200） 的圖像經(jīng)過分割可以得到 168（ 725） 個(gè)能 量 比 樣 本 數(shù) 青島 理工大學(xué)畢業(yè)設(shè)計(jì)（論文） 24 8 8 的子塊。對于圖像中的每個(gè) 8 8 的小塊做 DCT，可相應(yīng)的得到 8 8 的系數(shù)矩陣。 根據(jù)本文中 小節(jié)的實(shí)驗(yàn)結(jié)果， 提取每個(gè) 8 8 子塊 DCT 變換后 的 系數(shù)矩陣的第一個(gè)系數(shù)，組成一個(gè) 168 1(725 1)的矩 陣作為特征矩陣。 步驟 3 從訓(xùn)練圖片集中取出每個(gè)人的前 n 張圖片組成訓(xùn)練樣本集，然后分別計(jì)算這些圖像的平均值 ? ，再求出圖像的協(xié)方差矩陣 ， 利用 KL 變換理論計(jì)算特征值和特征向量，求得特征值和特征向量矩陣 V 和 D， 隨后 令特征值從大到小排序。 步驟 5 計(jì)算測試圖像與樣本 圖像之間的 歐氏 距離。 步驟 6 統(tǒng)計(jì)實(shí)驗(yàn)結(jié)果， 取其歐氏距離最近鄰 圖像作為識別結(jié)果， 確定測試樣本所屬的類別，最后將統(tǒng)計(jì)結(jié)果輸出。 青島 理工大學(xué)畢業(yè)設(shè)計(jì)（論文） 25 表 45 識別率隨樣本數(shù) 與識別方法 的變化表 1 2 3 4 5 6 7 8 原始識別 0 原始圖像DCT 處理 0 0 分塊 DCT 處理及 PCA YALE 人臉庫實(shí)驗(yàn) 結(jié)果 首先 分別取每個(gè)人臉的前 1， 2， 3， 4， 5， 6， 7， 8， 9， 10 張圖片作為訓(xùn)練樣本 集，剩余圖片作為測試集， 這樣訓(xùn)練集分別為 1 4 60、 7 90、10 1 13 150，測試集分別為 150、 13 1 10 90、 7 60、 4 15，分別采用原始圖像直接識別，原始 圖像進(jìn)行分塊 DCT 變換后進(jìn)行識別，以及對原始圖像分塊 DCT 變換處理并進(jìn)行 PCA 后進(jìn)行識別的三種方法 ，得出識別正確率結(jié)果如表 46 所示。實(shí)驗(yàn)結(jié)果表明， 隨著訓(xùn)練樣本的增加，識別正確率漸漸提高 ；原始圖像直接識別方法以及對原始圖像進(jìn)行分 塊 DCT 變換處理后識別的方法，圖像識別率極低，同時(shí)極不穩(wěn)定，相比較而言，利用分塊 DCT 變換和 PCA 的方法對圖像進(jìn)行分塊與降維，可以有效的提高人臉圖像識別率， 大大地提高識別效率，并可充分提高對圖像處理的計(jì)算速度。 小結(jié) 本章詳細(xì)討論了分塊 DCT變換和 PCA人臉識別的算法，并在大量實(shí)驗(yàn)的基礎(chǔ)上對算法所涉及到的各種參數(shù)作了詳細(xì)的分析和討論： 隨著子塊大小的減小，識別率也會隨之得到提高；子塊進(jìn)行 DCT變換后，能量均會 集中在少數(shù)低頻系數(shù)，即第一個(gè)系數(shù)中； 隨著子空間維數(shù)的增加，識別率也相應(yīng)的增高，當(dāng)子空間維數(shù)較少時(shí)，識別率的增加很明顯；選擇同樣的特征子空間維數(shù)，訓(xùn)練樣本數(shù)越多，識別率越高。其中分塊 DCT變換是最近幾年以來比較常見的圖像處理工具，在人臉識別領(lǐng)域得到廣泛的發(fā)展，是提取人臉特征的一條更有效的途