【導(dǎo)讀】人臉識(shí)別是一個(gè)具有很高理論和應(yīng)用價(jià)值的研究課題。人臉是人類視覺中最為普遍。的模式，它所反映的視覺信息在人與人的交流和交往中有著及其重要的作用意義。的特殊性，使得人臉識(shí)別技術(shù)成為最具潛力的身份識(shí)別方式。并且日益受到人們的廣泛關(guān)注并成為模式識(shí)別領(lǐng)域研究的熱點(diǎn)。描述；所有的人臉結(jié)構(gòu)高度相似，而人臉圖像又易受年齡和成像條件的影響。雅可比矩陣求逆的次數(shù)，進(jìn)一步加快了收斂速度；3．建立了SVM/HMM的混合人臉模型。

　　

【正文】 解 (SVD)、投影法 (Projection Pursuit)等 [38]。簡(jiǎn)而言之，所有的 15 線性變換都是尋找這樣的砰矩陣，只是因輸出 y 的目標(biāo)函數(shù)的不同，使得不同方法得到不同的變換矩陣。 主分量分析方法 主分量分析的目的是在數(shù)據(jù)空間中找到一組向量以盡可能的解釋數(shù)據(jù)的方差，最終將數(shù)據(jù)從原來的 n 維空間降到 m 維 (nm)，降維后仍保存了數(shù)據(jù)中的主要信息。主分量分析是一種正交變換，在多維數(shù)據(jù)統(tǒng)計(jì)分析中是一個(gè)應(yīng)用廣泛的工具。 假設(shè)原始向量特征維數(shù)為 n，即 xi=(xi1， xi2，?， xni)T， i=1， 2，?， N，要求構(gòu)造N個(gè)新的特征 yl， y2，?， yn，并使它們 滿足以下的條件 : ，即 (24) b. 各個(gè)新變量之間是不相關(guān)的，即相關(guān)系數(shù)為零 : (25) c. wi使 yi的能量達(dá)到極大， i=1， 2，?， N 可以證明滿足條件的城為樣本的協(xié)方差矩陣 Sx=E{XXT}，對(duì)應(yīng)于 λi特征值的正交規(guī)范化的特征向量 ui，滿足以上條件的新特征 y1， y2，?， yn分別稱為樣本點(diǎn)的第 1， 2，?，N個(gè)主分量。令 W=(ul， u2，?， un)T，且滿足正交歸一 化，即 (26) 經(jīng)過 Y=WTX的變換之后，因?yàn)?X的協(xié)方差矩陣 SX為實(shí)對(duì)稱陣必然與一個(gè)對(duì)角陣相似，所以對(duì)應(yīng)于 Y的協(xié)方差矩陣如下式 : (27) 這就是說 ,新特征 y1， y2， ?， yn 兩兩之間的協(xié)方差為零，即它們是不相關(guān)的。由于 yi也是零均值，每個(gè)特征的方差數(shù)值 E{yi2}在一定意義下反映了它所包含的能量即信息量。由前面敘述可知，所有這些映射矢量作為基向量，便構(gòu)成主分量分析對(duì)應(yīng)的變換矩陣 W={w1， w2，?， wm，?， wn， }T其中前幾個(gè)基向量 wl， w2，?， wm，對(duì)應(yīng)能量占主導(dǎo)地位的幾個(gè)主分量的映射方向，現(xiàn)將余下的基向量置零，得到 W?={wl， w2，?， wm， 0，0，? ,0}T。利用 W?對(duì)信號(hào)進(jìn)行近似恢復(fù)，得到 x?=W?W? Tx。其中 W? Tx 為所選擇的前 m個(gè)主分量。重構(gòu)信號(hào)的均方誤差為 E{||xx?||2}。當(dāng)選擇 m 個(gè)主分量去重構(gòu)原信號(hào)時(shí)，由于原信號(hào)的維數(shù) nm，所以從信號(hào)維數(shù)的角度來講 PCA 起到了對(duì)信號(hào)降維的作用。在很多情況下，有效的降維會(huì)使得在最大程度保持原信號(hào)中所蘊(yùn)涵的信息的情況下，大大降 16 低運(yùn)算復(fù)雜度。譬如在 進(jìn)行人臉識(shí)別應(yīng)用中，輸入的人臉圖像的維數(shù)往往很高，采用 P以方法對(duì)其進(jìn)行特征提取可以降低樣本的維數(shù)，從而降低計(jì)算復(fù)雜度，提高了計(jì)算速度。 主分量分析是是一種基于統(tǒng)計(jì)特征的最佳正交變換，稱其為最佳變換是因?yàn)樗哂袃?yōu)良的性質(zhì)，使變換后產(chǎn)生的新的分量正交或不相關(guān)。主分量分析也是一種最小均方誤差 (MSE)意義下的最優(yōu)變換 [39]。也就是說，變換后的信號(hào)能量主要集中在前幾個(gè)主分量中，而由這少數(shù)幾個(gè)主分量張成的子空間去重構(gòu)原信號(hào)，逼近效果從最小均方誤差意義下是最優(yōu)的。主分量分析使變換矢量更趨確定，能量更趨集中等， 這使得它在特征提取、數(shù)據(jù)壓縮等方面都有著及其重要的作用。 基于主分量分析的人臉特征提取 任何基于統(tǒng)計(jì)學(xué)習(xí)的模式識(shí)別系統(tǒng)都包括兩個(gè)過程，一個(gè)是訓(xùn)練階段 (training Process)，二是測(cè)試階段 (testing process)，且兩個(gè)階段都需要特征提取，應(yīng)用 CAP的人臉識(shí)別系統(tǒng)也不例外。假定在訓(xùn)練階段，數(shù)據(jù)庫(kù)中有 K個(gè)人，每個(gè)人有 M幅人臉灰度圖像，其中每一幅圖像都用 NxN 的二維數(shù)組 I(x， y)來表示，數(shù)組元素表示象素點(diǎn)的灰度值。同樣，每一幅圖像都可以視為一 個(gè) N2xI 的向量。因此，它等同于 N2維的人臉象素域空間中的一個(gè)點(diǎn)。設(shè) xij表示一個(gè) N2xI 的向量來表示數(shù)據(jù)庫(kù)中第 i 個(gè)人的第 j 幅圖像 (0≤i≤k1， 0≥j≥M1)然后，定義平均人臉 μ 如下 : (28) 表示了每一幅人臉與平均人臉的差值，它是零均值的。它們組成了一個(gè)N2xMK 的矩陣， X =(x 00, x 01, ?， x K1,M1), PCA 方法就是要找到對(duì)應(yīng)于矩陣 X X T 的前m個(gè)較大特征 λi 的正交規(guī)范化的特征向量 μi : (29) 因?yàn)?X X T 是 N2xN2 的矩陣，求它的 N2個(gè)特征值的計(jì)算量非常大。一般而言，訓(xùn)練過程中人臉數(shù)據(jù)庫(kù)里的 圖像數(shù)目 MxK 比人臉空間的維度 N2要小，所以我們可以先求得 X T X 見的正交規(guī)范化的特征向量城 μi?: (210) 在式 (210)兩邊左乘 X ，然后與式 (29)比較，我們可以得到 : 17 (211) 這些特征向量，稱為特征臉，構(gòu)成了人臉空間的一個(gè)子空間的正交基，這個(gè)子空間就是通常所說的特征空間。特征空間有訓(xùn)練圖像的協(xié)方差的特征向量構(gòu)成，將數(shù)據(jù)庫(kù)中的每一幅人臉 x 從人臉空間轉(zhuǎn)化到特征空間 : (212) 既然每一幅人臉都可以用特征空間里的向量 y=(w0， wl，?， wm1)T，利用最近鄰法就可以在特征空間里進(jìn)行人臉識(shí)別。在訓(xùn)練階段，數(shù)據(jù)庫(kù)中的所有人臉 xij 到特征空間為，那么，第 i個(gè)人在特征空間里的平均向量為 : (213) 在測(cè)試階段，給出測(cè)試人臉 ，首先，將 按照同樣的步驟式 (212)轉(zhuǎn)化到特征空間，得到在特征空間各坐標(biāo)上的系數(shù)向量 。然后，利用最近鄰法則將 判定為求得 dj最小的一類 : (214) 綜上所述，基于主分量分析的人臉識(shí)別方法的具體步驟如下 : a. 初始化，獲得人臉圖像的訓(xùn)練集并計(jì)算特征臉，定義為人臉空間； b. 輸入新的人臉圖像，將其映射到特征臉空間，得到一組 坐標(biāo)系數(shù)； c. 通過檢查圖像與人臉空間的距離判斷它是否為人臉； d. 若為人臉，根據(jù)坐標(biāo)系數(shù)判斷它是否為數(shù)據(jù)庫(kù)中的某個(gè)人。 基于主分量分析的人臉分類識(shí)別 人臉圖像被投影到特征空間中后，剩下的任務(wù)就是如何利用待識(shí)別人臉圖像在此特征子空間的投影系數(shù)，實(shí)現(xiàn)分類識(shí)別了。此任務(wù)由兩部分構(gòu)成 :一是相似性測(cè)量；二是分類器設(shè)計(jì)。傳統(tǒng)的分類識(shí)別是基于歐氏距離的最近鄰分類方法，實(shí)驗(yàn)證明效果并不理想。因?yàn)闅W氏距離容易受到圖像光線、噪聲等整體干擾因素的影響。分類器選取與特征提取一樣也是模式分類中的一個(gè)重要環(huán)節(jié)，不 同的分類器對(duì)不同特征空間的分類效果優(yōu)劣相差很大。本文采用兩個(gè)坐標(biāo)向量夾角的余弦值作為相似測(cè)度以及采用 SVM 分類器。實(shí)驗(yàn)證明比傳統(tǒng)的基于歐氏距離的最近鄰法效果好。具體方法如下。 相似性測(cè)量 假設(shè) 為待測(cè)試人臉圖像的 PCA 系數(shù)向量，即 PCA 特征， 為訓(xùn)練人臉庫(kù)中的 18 樣本特征，二者歐氏距離計(jì)算公式如下 : (215) 其中 n為特征向量的維數(shù)。 相應(yīng)的的角度距離 (Cosine istnaee)如下式 : (216) 分類器設(shè)計(jì) 分類器的功能是先計(jì)算出 c 判別函數(shù) gj(x)，再?gòu)闹羞x出對(duì)應(yīng)判別函數(shù)最大值的類作為結(jié)果。分類器的核心是預(yù)先定義的判別函數(shù)，根據(jù)其判別函數(shù)定義的不同可分為基于距離的分類器 (如最近鄰法 )、基于概率的分類器和基于智能方法的分類器 (如 SVM)。另外，根據(jù)分類器的輸出結(jié)果的多少，大致可分為兩類分類器和多類分類器。多類分類器可由兩類分類器按某種策略組合而成。 最近鄰分類器是由 Cover 和 Hart 于 1968 年提出的 [40]，至今仍是模式識(shí)別非參數(shù)法中最重要的方法之一。假定有 c 模式類別 {ωi,i=1,2，? ,c}每類有標(biāo)明類別的 Ni 個(gè)樣本xji(i=1,2, ? , Ni)。類的判別函數(shù)定義為 : (217) 其中 xik 的角標(biāo) i 表示 ωi類， k 表示 ωi類 Ni個(gè)樣本中的第 k 個(gè)。按照式 (217)，決策規(guī)則可以寫為，若 (218) 則決策 x∈ ωj 。這一決策方法稱為最近鄰法 (Nearest neighbor)。其直觀解釋是相當(dāng)簡(jiǎn)單的，就是說對(duì)未知樣本 x1 只要比較 x 與 個(gè)未知類別的樣本之間的歐氏距離或者角度距離，并決策 :為與離它 最近的樣本同類。此方法三直接基于模式樣本建立判決函數(shù)的方法。 支持向量機(jī) (Support Vecor Machuines,SVM) 源于統(tǒng)計(jì)學(xué)習(xí)理論，它使用結(jié)構(gòu)風(fēng)險(xiǎn)最小化 (RSM)原理構(gòu)造決策超平面使每一類數(shù)據(jù)之間的分類間隔最大。 SMV 是從線性可分情況下的最優(yōu)分類面 (Optimal HypePrlnae) 提出的。最優(yōu)分類面要求分類面不僅能將兩類無誤的分開，而且要求兩類的分類空隙最大。前者是保證經(jīng)驗(yàn)風(fēng)險(xiǎn)最小，而后者的作用是使推廣性的界中的置信范圍最小，從而使實(shí)際風(fēng)險(xiǎn)最小。 對(duì)于非線性分類，首 先使用一非線性映射 ? 把數(shù)據(jù)從原空間 X 映射到高維特征空間Z,使數(shù)據(jù)在高維空間線性可分，從而可以在特征空間 Z上建立最優(yōu)分類面。高維特征空 19 間 Z 維數(shù)可能很高，但是因?yàn)樵诰€性情況下只用到了原空間的點(diǎn)積運(yùn)算，所以在非線性空間也只考慮在高維特征空間 Z 的點(diǎn)積運(yùn)算 ?(x)? ?(y)=K(x,y) 稱為核函數(shù)。也就是說只需選擇一個(gè)核函數(shù)使其成為特征空間 Z 的一個(gè)點(diǎn)積，即存在函數(shù)滿足 (219) 徑向基形式的內(nèi)積函數(shù)和人的視覺特性很類似，所以在 實(shí)驗(yàn)中，本文選擇了參數(shù)為δ2= 的徑向基函數(shù)學(xué)習(xí)機(jī)器： (220) SVM 最初是用來解決兩類問題的識(shí)別問題，本文將其改進(jìn)，使它能解決人臉識(shí)別這樣的多類模式識(shí)別問題。改進(jìn)方法理論基礎(chǔ)是， N 類分類問題 (N2)和兩類分類問題之間存在一定的對(duì)應(yīng)關(guān)系，即如果一個(gè)分類問題 N 類可分，則這 N 類中的任何兩類間一定可分 。反之，在一個(gè) N 類分類問題中，如果己知其任意兩兩可分，則通過一定的組合法則，可由兩兩可分來最終實(shí)現(xiàn) N 類可分。所以可以將支持向量 基與二叉決策樹的基本思想結(jié)合起來構(gòu)成多類的分類器。本文采用了如圖 22 的 SMV 決策結(jié)構(gòu)。 圖 22 SVM分類器結(jié)構(gòu) 在 ORL、 Manchester、 Yale 和 FERTE 標(biāo)準(zhǔn)人臉庫(kù)中分別測(cè)試基于主分量分析的人臉識(shí)別方法，重點(diǎn)比較了改進(jìn)的相似度測(cè)量和分類器對(duì)識(shí)別性能的影響。預(yù)處理階段將不同尺寸大小的圖像，都統(tǒng)一成 60x50 每象素 8 比特的圖像。以上人臉庫(kù)在引言 節(jié)中己有介紹。在 ORL 人臉庫(kù)中，本文選取了 40 人每人 5 幅圖像作為訓(xùn)練集，余下 5 幅 20 構(gòu)成測(cè)試集。有關(guān)其他人臉庫(kù)的訓(xùn)練集和測(cè)試 集的選取，參考表 21，其中 FERTE 人臉庫(kù)中，同一人的圖像數(shù)目不同 (3~13 不等 )，本文只選擇了 30 個(gè)擁有正面圖像數(shù)目 (含一定角度偏側(cè)面的圖像 )6 幅以上對(duì)象的圖像。 表 本章實(shí)驗(yàn)主要測(cè)試了傳統(tǒng)特征臉法、改進(jìn)相似測(cè)度 (用角度距離代替歐氏距離 )的特征臉法和相似測(cè)度和分類器都加以改進(jìn) (用 SMV 代替最近鄰法 )的特征臉法的識(shí)別性能，實(shí)驗(yàn)結(jié)果如表 22。 表 22 特征臉法在不同人臉庫(kù)中的識(shí)別性能比較 由實(shí)驗(yàn)結(jié)果分析可得，基于角度的相似性測(cè)度優(yōu)于基于歐氏距離的相似性測(cè)度，這點(diǎn) 在 Yale 人臉庫(kù)中尤為明顯，識(shí)別率將近提高了 4%，這說明角度距離更適合人臉識(shí)別這樣的任務(wù)。在分類器的改進(jìn)方面， SVM 分類器要優(yōu)于最近鄰法，但是沒有相似測(cè)度的改進(jìn)表現(xiàn)的明顯。同時(shí)由于 SVM 分類器遠(yuǎn)比最近鄰分類器復(fù)雜的多，所以在實(shí)際應(yīng)用中，應(yīng)綜合加以考慮。在不同人臉庫(kù)中的實(shí)驗(yàn)表明，相似性測(cè)度和分類器的改進(jìn)雖然一定程度上改善了特征臉的識(shí)別效果，但是總的來說，特征臉的識(shí)別率并不高，表現(xiàn)在以下方面 :在 ORL 人臉庫(kù)中，圖像質(zhì)量較好，背景均為黑色，統(tǒng)一的光照條件下，識(shí)別率最高可達(dá) %。Manchester 人臉庫(kù)中的 圖像比 ORL 人臉庫(kù)，背景變化略多些，但由于背景占圖像很少一部 分，并且光照條件也有所限制，所以識(shí)別效果基本和 ORL 相當(dāng)。與以上人臉庫(kù)相比，Yale 人臉庫(kù)的特點(diǎn)就是光照變化明顯，如圖 23。 21 圖 YALE人臉庫(kù)中錯(cuò)誤識(shí)別示例 (a)列為錯(cuò)誤識(shí)別示例 (b)列為正確識(shí)別結(jié)果 所以在 Yale 庫(kù)中，識(shí)別率明顯下降了約 15%， FERTE 人臉庫(kù)中的圖像接近真實(shí)情況，變化因素比較多，所以識(shí)別率是最低的。分析實(shí)驗(yàn)結(jié)果本文得出以下結(jié)論