【文章內(nèi)容簡介】 鏡遮掩，主要用來測(cè)試當(dāng)前光照和表情變化時(shí)，識(shí)別算法的性能。 圖 Yale 人臉庫中的光照變化 圖 給出了 Yale 人臉庫最大的特點(diǎn)，光照變化的示例，這是 Yale 人臉數(shù)據(jù)庫中一位志愿者的部分人臉圖像，這三張圖像分別是在正面光照、左側(cè)光照和右側(cè)光照三種約束條件下拍攝的，代表了數(shù)據(jù)庫中人臉圖像的光照變化情況。 ORL 人臉庫 ORL 人臉庫又被稱為 ATamp。T 人臉庫，是人臉識(shí)別領(lǐng)域最流行的測(cè)試數(shù)據(jù)庫之一。由英國 劍橋大學(xué) ATamp。T 實(shí)驗(yàn)室 創(chuàng)建，包含 40 個(gè)不同年齡、不同性別和不同種族的人。每個(gè)人有 10 幅臉部圖像共計(jì) 400 幅灰度圖像，圖像背景為黑色。其中人臉部分表情和細(xì)節(jié)均有變化，例如笑與不笑，眼睛睜著或閉著，戴或不戴眼鏡等；人臉姿態(tài)也有變化，其深度旋轉(zhuǎn)和平面旋轉(zhuǎn)可達(dá) 20 度，人臉的尺寸也有最多 10%的變化。該庫是目前使用最廣泛的標(biāo)準(zhǔn)數(shù)據(jù)庫。 圖 ORL 人臉庫中的圖像變 化 圖 是 ORL 人臉庫中一個(gè)志愿者的全部十張圖像。通過觀察這十張圖像不難發(fā)現(xiàn)，人臉圖像的旋轉(zhuǎn)變化、姿態(tài)變化、表情變化、人臉尺寸變化和眼鏡遮掩臉部等人臉數(shù)據(jù)庫的約束條件均有涉及到。 特征提取 特征提取是計(jì)算機(jī)視覺和圖像處理中的一個(gè)概念。它指的是使用計(jì)算機(jī)提取圖像信息，決定每個(gè)圖像的點(diǎn)是否屬于一個(gè)圖像特征。特征提取的結(jié)果是把圖像上的點(diǎn)分沈陽航空 航天大學(xué) 畢業(yè)設(shè)計(jì)（論文） 9 為不同的子集，這些子集往往屬于孤立的點(diǎn)、連續(xù)的曲線或者連續(xù)的區(qū)域。 特征提取是一種數(shù)據(jù)預(yù)處理方法，是指對(duì)某一模式的一組測(cè)量值進(jìn)行變換以突出該模式具有代表性特征的方法。是一 種提取有效信息的方法。主要針對(duì)高維數(shù)據(jù)的降維處理，通過提取出一部分特征值較高，最具代表性的優(yōu)秀特征，刪除不相關(guān)特征以達(dá)到降維的目的，最終目的是減少需要處理的數(shù)據(jù)量，簡化分類器計(jì)算，提高算法的識(shí)別準(zhǔn)確率。 日常生活中我們所見到的圖像都是采用像素空間來表征，這種表征方法使圖像看起來精準(zhǔn)易懂，但是這種圖像的維度是很高的，如果把這樣的圖像不經(jīng)處理直接拿來計(jì)算，工作量是非常大的。幾乎全部的識(shí)別算法都需要先將圖像降維處理，提取出對(duì)識(shí)別有用的高特征值信息投影到低維子空間中，但一定要保證低維子空間包含了圖像中絕大部分的基本 特征信息，且易于分類。人臉識(shí)別系統(tǒng)的第一步工作就是特征提取，也是關(guān)鍵性的一步，特征提取的好壞將直接影響測(cè)試結(jié)果。 下面，本文將介紹一種典型的特征提取方法，該方法是目前人臉識(shí)別算法中最常見，同時(shí)具有最重要地位的特征提取方法，并得到了廣泛的應(yīng)用和發(fā)展。 主成分分析 主成分分析 （ Principal Component Analysis， PCA）是 一種統(tǒng)計(jì)方法，它對(duì)多變量表示 的 數(shù)據(jù)集合尋找盡可能少的正交矢量 來 表征數(shù)據(jù)信息特征。 作為應(yīng)用十分廣泛的特征提取方法之一，已在模式識(shí)別、信號(hào)處理、數(shù)字圖像處理等領(lǐng)域得到了廣泛的應(yīng)用，主成分分析法的基本思想是 設(shè)法將原來眾多（比如 P 個(gè) ） 具有一定相關(guān)性指標(biāo)，重新組合成一組新的 互不相關(guān) 的 指標(biāo) 來代替原來的指標(biāo)。主成分分析，是考察多個(gè)變量間相關(guān)性 的 一種多元統(tǒng)計(jì)方法，研究如何通過少數(shù)主成分來揭示多變量間的內(nèi)部結(jié)構(gòu)，即從原始變量中 提取出 少數(shù)幾個(gè)主成分，使它們盡可能多 的 保留原始變量信息，且彼此間互不相關(guān) 。 通常數(shù)學(xué)上的處理 方法 就是將原來 P 個(gè)指標(biāo)作 線性組合 ，作為新的 綜合指標(biāo) 。最經(jīng)典的做法是用 F1（選取的第一個(gè) 線性組合 ，即第一個(gè)綜合指標(biāo)）的 方差 來表達(dá)，即 Var(F1)越大，表示 F1 包含的信息越多。因此在所有 線性組合 中選取的 F1 應(yīng)該是方差最大的 一個(gè) ，稱 F1 為第一主成分。如果第一主成分 還 不足以代表原來 P 個(gè)指標(biāo)的信息，再考慮選取 F2 即選第二個(gè) 線性組合 ，為了有效反映 原始 信息，F(xiàn)1 中 已有的信息就不再出現(xiàn)在 F2 中， 即 F1 和 F2 的協(xié)方差為零， 稱 F2 為第二主成分， 以此類推 可以構(gòu)造出第三、第四， …… ，第 P 個(gè)主成分。 設(shè)矩陣 pxnX 表示一個(gè)由 P 個(gè)記錄組成的數(shù)據(jù)集合，每個(gè)記錄有 n個(gè)屬性，即矩陣的元素 ijx 表示第 i 條記錄在第 j 個(gè)屬性上的取值，則 X 的協(xié)方差矩陣為 TS XX? 。記? ?12, , , TPX X X X? ， ? ?12, , , Tj j j jnX X X X? ， 1,2, ,jp? 。可定義如下的線性組合： XvXvPC piTjiijj ?? ?? 1 () 其中 jPC 是 1n? 的矩陣， 1,2, ,jp? ， ? ?12 , Tj j j Rjv v v v?且 1TjJvV? ， jPC 就是主成分。這樣 jPC 的協(xié)方差 ? ?? ?T T T Tj j j j j jP C P C v X X v v S v?，使用 Lagrange 方法求解等式1Tjjvv? 下 TjjvSv 的極大值，即 ? ??????????11m a xjTjjTjjjTjvvtosu b je ctvvSvvL ? () 其中 j? 是 Lagrange 乘子，使用一般求解方法，可求出最優(yōu)解 ? ? 0jjS I v???,顯然，最優(yōu)解 jv 就是原始數(shù)據(jù)協(xié)方差矩陣的特征向量， j? 是與 jv 相對(duì)應(yīng)的特征值。這樣可以利用矩陣的奇異值分解 (Singular Value Deposition, SVD)求出 S 的特征值和 特征向量。 線性辨別分析 關(guān)于線性鑒別分析 （ LDA） 的研究 可 追溯到 Fisher 在 1936 年發(fā)表的經(jīng)典論文（ Fisher R A. The use of multiple measurements in taxonomic problems），其基本思想是選擇使得 Fisher 準(zhǔn)則函數(shù)達(dá)到極值的向量作為最佳投影方向，從而使樣本在該方向上投影后，達(dá)到最大類間離散度和最小類內(nèi)離散度。在 Fisher 思想的基礎(chǔ)上， Wilks 和Duda 分別提出了鑒別矢量集概念，即尋找一組鑒別矢量構(gòu) 造 子空間，以原始樣本在該子空間的投影矢量 作為鑒別特征 來 用于識(shí)別。 LDA 采用 Fisher 線性判別函數(shù)而得以實(shí)現(xiàn)，最初被用于解決兩類的分類問題。我們一般直接利用樣本集設(shè)計(jì)分類器，來把兩類分開。具體點(diǎn)說，就是先給定某個(gè)判別函數(shù)，然后利用樣本集確定判別函數(shù)中的未知參數(shù)。線性判別函數(shù)是一種較簡單的沈陽航空 航天大學(xué) 畢業(yè)設(shè)計(jì)（論文） 11 判別函數(shù)。它首先假定判定函數(shù) g(x)是 x 的線性函數(shù)，即： ? ? 0wxwxg T ?? () 需用樣本去估計(jì) w 和 ow ，并把未知樣本 x 歸類 到具有最大判別函數(shù)值的類別中去。本文主要研究 Fisher 線性判別函數(shù)如何確定。 為了把兩個(gè)類分開，我們可以嘗試把 d 維空間的樣本直接投影到一條直線上，形成一維空間，即把維數(shù)壓縮到一維。當(dāng)把 d 維空間里的若干緊湊的集群投影到一條任意的直線上，結(jié)果可能是幾類樣本混在一起而變得無法識(shí)別。但一般情況下，總可以找到某個(gè)方向，使得在這個(gè)方向的直線上，樣本的投影能分得最開?，F(xiàn)在的問題是如何找到這條最優(yōu)的、最易于分類的投影線。 假設(shè)有 N 個(gè)樣本 12, dNx x x R? ，其中前 1N 個(gè)樣本屬于類 1? ，后 2N 個(gè)樣本屬于類 2? ，把樣本 ix 往方向?yàn)?w 的直線上投影，就可以得到： iTi xwy? () 從幾何方面看，要得到 ix 在方向 w 的直線上的投影，需要有 1w? ，而實(shí)際上 w的長度并無實(shí)際意義，只是對(duì) iy 改變比例而已，重要的是 w 的方向。我們希望落在直線上的類 1? 的樣本和類 2? 的樣本投影能很好的分開而不是混在一起?？捎脴颖揪挡顏矶攘客队爸g的可分性，設(shè) im 是每類的 iN 個(gè) d 維樣本的均值： ?,2,11 ?? ?? ixNm iwxii () 投影之后各類樣本均值： ?,2,111 ??? ?? imwxwNm iTnj jTiii () 可以得到投影后的均值差： ? ?2121 mmwmm T ??? () 只要對(duì) w 給予適當(dāng)?shù)闹稻涂梢允共钪底兊萌我獯?。事?shí)上，為使投影數(shù)據(jù)獲得較好的分離，只要求這兩個(gè)均值差比 每類的標(biāo)準(zhǔn)差較大即可，即： ?,2,1,221 ??? iSmm i () 其中，對(duì)于屬于一類的投影樣本的類內(nèi)離散度： ? ? ?,2,1,12 ????? imyS ijNji i () 把 22121 SSN???????作為所有樣本的方差估計(jì)。 2212SS? 稱為投影樣本總的類內(nèi)離散度。而 Fisher 線性判別函數(shù)被定義為這樣的一個(gè)函數(shù) Twx，它能使判決函數(shù)： ? ?2221221SS mmwJ ??? () 達(dá)到最大。顯然，為了使 J 最大，應(yīng)使兩類均值差越大越好 (各類樣本分布盡量分離開 )，而各類類內(nèi)離散度越小越好 (各類樣本內(nèi)布盡量密集 )。為把 J 表示為 w 的顯函數(shù)形式，定義樣本類內(nèi)離散度矩陣 iS 和總類內(nèi)離散度矩陣 wS 如下： ? ?? ? ?,2,1,1 ???? ?? imxmxSTNj ijijii () 21 SSSw ?? () 由于： ? ? ? ? ? ?2211iiNN TT T T Ti j i j i j ijjS w x w m w x m x m w w S w??? ? ? ? ? ??? () 2212 TS S w Sw?? () 因此： ? ? ? ? ? ?21 2 1 2 1 2 1 2 TT T Tm m w m w m w m m m m w??? ? ? ? ? ????? () 由此： ? ?? ?1 2 1 2 TbS m m m m? ? ? () 矩陣 WS 稱為總類內(nèi)離散度矩陣，是對(duì)稱的半正定的，當(dāng) nd 時(shí)它通常是非奇異的。引入 bS ， WS 可以將 Fisher 線性判別函數(shù)寫成： ? ? T bT ww S wJw w S w? () 沈陽航空 航天大學(xué) 畢業(yè)設(shè)計(jì)（論文） 13 則基于 Fisher 線性判別函數(shù)的 Fisher 準(zhǔn)則即為： ? ? a r g m a x T bopt T ww S wJw w S w??? ???? () 這個(gè)公式是數(shù)學(xué)物理中的廣義 Rayleigh 商。為求得最優(yōu)鑒別向量，將 J 對(duì) w 微分即得： ? ? ? ?? ?2 0TTT w b b wbTTw ww S w S w w S w S ww S wJw w S w w S w??????? ? ????? ?? () 需： ? ? ? ? 0TTw b b ww S w S w w S w S w?? () 設(shè) T bT ww S ww S w??，不難看出，使 J 達(dá)到極大的向量 w 必須滿足： bwS w S w?? () 很顯然這是一個(gè)求解廣義特征值的問題，若 wS 非奇異，則可得到一個(gè)一般特征值問題： 1wbS S w w?? ? () 我們把 1wbSS? 的特征向量稱為 Fisher 鑒別向量。 Fisher 鑒別向量使類間離散度與類內(nèi)離散度比值達(dá)到最大，這樣就把 高維樣本 (n 維問題 )轉(zhuǎn)化為一維樣本 (1 維問題 )并在一維空間上保持最優(yōu)的鑒別力，也就是說 Fisher 鑒別向量能將高維模式以最優(yōu)的可分性指標(biāo)轉(zhuǎn)換成一維模式。 分類器設(shè)計(jì) 分類器的設(shè)計(jì)是人臉識(shí)別系統(tǒng)設(shè)計(jì)過程中的一個(gè)重要環(huán)節(jié)。將待測(cè)圖像的特征提取出來之后，接下來就需要利用已經(jīng)提取出來的特征向量來計(jì)算辨析圖像間的相似程度，確定圖像中人臉的身份歸屬。一般情況下最常用的辨析與分類方法都是借助于模式識(shí)別和機(jī)器學(xué)習(xí)。如最近鄰方法、貝葉斯決策、人工神經(jīng)網(wǎng)絡(luò)和支持向量機(jī)等。 本文的工作重心是圖像的特征提取算法，因此分類方法選用了 最基礎(chǔ)最常用的距離分類法。所謂距離分類法，是一種簡單且直觀易懂的分類方法，它直接使用各類訓(xùn)練樣本點(diǎn)的特征集合所構(gòu)成的區(qū)域來表示各個(gè)決策域，以樣本點(diǎn)間距離作為度量樣本間相似程度的主要標(biāo)量，即定義空間中兩點(diǎn)間距離越近，則代表兩個(gè)樣本間相似度越高。樣本間距離有多種計(jì)算方法，在各種計(jì)算方法中，歐氏距離是最常見的距離分類方法： 歐氏距離又被稱為 2L 范式，廣泛應(yīng)用于向量間距離度量，