【正文】 S 的最大特征值所對應(yīng)的單位特征向量。容易證明類間散布矩陣 S1 為非負(fù)定矩陣。定義：設(shè) nmm RAAAA ??? ),.. .,( 21 ，定義1?mn 的向量 ???????????????mAAAAVec ...)( 21 這是把矩陣 A 按列向量依次排成的 向量 ， 往往稱這個程序為矩陣 A的向量化。本文選用后者為例，作 K L 變換的產(chǎn)生矩陣。 主元分析（ PCA）方法 PCA 思想與最優(yōu)投影矩陣 主成分分析 ( Principal Component Analysis， PCA) ， 又 稱 K L 變換 ， 是尋求有效的線性變換的經(jīng)典方法之一 ， 其目的是在最小均方意義下尋找最能代表原始數(shù)據(jù)的投影方向 ， 從而達(dá)到對特征空間進(jìn)行降維的目的 [11]。二是從算法本身入手 ， 通過發(fā)展直接針對于小樣本問題的算法來解決問題。 概括起來 ， 這些方法可分為以下兩類 [18]： 一是從模式樣本出發(fā) ， 在模式識別之前 ，南京郵電大學(xué) 2020 屆本科畢業(yè)論文 12 通過降低模式樣本特征向量的維數(shù)達(dá)到消除奇異性的目的。由于圖像矢量的維數(shù)一般較高 ， 比如 ， 分辨率為 112 92 的圖像對應(yīng)的圖像向量的維數(shù)高達(dá) 10304， 在如此高維的圖像向量上進(jìn)行線性鑒別分析不僅會遇到小樣本問題 ， 而且經(jīng)常需要耗費大量的時間 ， 有時還受研究條件的限制 ( 比如機(jī)器內(nèi)存小 )， 導(dǎo)致不可行。 1997年 Peter NBelhumeur， Joao P Hespanha， David J Kriengman在主成分分 析的基礎(chǔ)上又給出了“ Fisherfaces” 方法。由于人臉結(jié)構(gòu)的相似性 ， 他們認(rèn)為可以收集一些人臉圖像作為基圖 (特征圖 )， 任何人臉圖像可以近似地表示為該人臉樣本的均值與部分基圖的加權(quán)和。本質(zhì)上 PCA 方法的目的是在最小均方意義下尋找最能代表原始數(shù)據(jù)的投影。特征抽取研究肩負(fù)兩方面的使命 ： 一是尋找針對模式的最具鑒別性的描述 ， 以使此類模式的特征能最大程度地區(qū)別于彼類 ； 二是在適當(dāng)?shù)那闆r下實現(xiàn)模式數(shù)據(jù)描述的維數(shù)壓縮 ， 當(dāng)描述模式的原始數(shù)據(jù)空間對應(yīng)較大維數(shù)時 ， 這一點會非常有意義 ， 甚 至必不可缺 [2]。 Fukunaga 和 Young 等人都曾對該方法做過較深入的研究，并討論了 PCA 作為線性特征抽取方法的穩(wěn)定性問題，從而將人臉識別的研究熱點從基于局部特征的幾何特征方法引到基于全局統(tǒng)計特征的統(tǒng)計方法上來。在特征提取中，主成分 分析法（ PCA）方法是使用比較早的一個方法，也是其他特征提取方法的基礎(chǔ)。在模式識別的特征提取中，經(jīng) 常將生物的特征用數(shù)字向量來表示，比如在虹膜特征提取中， 在一張虹膜圖像中，可以把瞳孔中心為圓心，則對于圖像中虹膜范圍內(nèi)的所有像素坐標(biāo) ， 都可以對應(yīng)到一個極坐標(biāo) ( ?cos ， ?sin )，其中 r 為到圓心的距離， ? 為 ),( yx 到圓心的連線與 x 軸的夾角。 本章小結(jié) 本章介紹了三種圖像代數(shù)特征，重點了解了基于人臉臉部校準(zhǔn)圖像矢量 、 利用 KL變換與具有統(tǒng)計不相關(guān)性的最佳鑒別變換抽取人臉圖像的有效鑒別特征的方法，這些方法的了解可以幫助我們很好的理解下面幾章所介紹的內(nèi)容。人們將其應(yīng)用于特征提取中，形成了子空間法模式識別的基礎(chǔ)。容易計算出產(chǎn)生矩陣 R 的 r 個本征值 2i? 及相應(yīng)的正交歸一本征向量 ),1( rivi ???? 。為此，構(gòu)造矩陣 R 如下： KKT ZZR ???? 也稱 R 為產(chǎn)生矩陣。 在求出第一個最佳鑒別投影方向 1u 后，在下述正交條件下： 012 ?uuT 可求出使函數(shù) ??Jx 達(dá)到最大值的向量 2u ，稱為第二個最佳鑒別投影方向。 定義廣義 Fisher 準(zhǔn)則函數(shù)如下 ? ?J x x D xx D xT bT w? 其中 x 為任一 n 維列向量。下面要解決的問題是如何尋找最佳投影方向 x 使訓(xùn)練圖像樣本的投影特征具有最大的類間散布以及最小的類內(nèi)散布。 對于給定的 n 維列向量 x ，記 ? ? ? ?Y A xji ji? ， ci ,2,1 ?? ， inj ,2,1 ?? 。 最佳鑒別投影特征 設(shè) ? ? nmijA ??? 為訓(xùn)練圖像，其中 ci ,2,1 ?? ， inj ,2,1 ?? ， c 為圖像類別數(shù)， in 為第 i 類圖像的訓(xùn)練樣本數(shù)。 Hong 和 Yang 首先提出圖像奇異值特征反映了圖像的一種代數(shù)本質(zhì)，具有良好的穩(wěn)定性，對圖像噪音、光照條件等因素引起的圖像灰度變化不敏感，還證明了圖像奇異值特征具有良好的代數(shù)不變性與幾何不變性。 若矩陣 Amn? 代表一幅圖像，可將 A 的所有奇異值組成的 n 維向量： ???????????????????????0021??rnX ??? 稱為圖像 A 的奇異值特征。由此可得到： TVUA ?? 其中， ? 為對角矩陣： ? ?0,0, 21 ?? rnm di ag ????? ? 這就是奇異值分解定理。于是有： iiiT uuAA 2?? iiiT vAvA 2?? 構(gòu)造下述矩陣： ],[ 121 mrrmm uuuuuU ?? ?? ? ],[ 121 nrrnn vvvvvV ?? ?? ? 其中， ),1( mriui ??? 與 ),1( nrivi ??? 是為了矩陣表達(dá)上的方便而引入的列向量，南京郵電大學(xué) 2020 屆本科畢業(yè)論文 6 可以理解為 AAAA TT與 分別對應(yīng)于零本征值的正交歸一本征向量。假設(shè) ),1(2 rii ??? 是矩陣 TAA 的非零本征值，且按大小排列，即021 ???? r??? ? ，并將與 2i? 對應(yīng)的正交歸一本征向量記為 iu 。對于一般的矩陣也可以用正交變換化為對角矩陣，這就是所謂的奇異值分解 (Singular Value Deposition)。 Turk 與 Pentland 依據(jù)主分量分析技術(shù)抽取人臉圖像的 K－ L 變換特征。 Guo 等提出了基于離散判別函數(shù)的代數(shù)特征抽取方法，可適用于每類人臉只有一個訓(xùn)練樣本的情況。 Cheng 等定義了矩陣相似度的概念，提出了基于圖像相似性判別函數(shù)的代數(shù)特征。圖像特征一般可以分為四類 [3]：直觀性特征、灰度統(tǒng)計特征、變換系數(shù)特征與代數(shù)特 征。同時 對實驗結(jié)果 進(jìn)行了分析。 第四章 主要內(nèi)容是介紹線性鑒別算法 的相關(guān)原理和思想 。 這一章為我們下面幾章的討論提供了一些理論基礎(chǔ) 。了解模式識別系統(tǒng)的基本流程和組成的基本概念 。 本文總共分為四章進(jìn)行討論。 本文主要研究的內(nèi)容 本文就經(jīng)典的特征提取算法進(jìn)行了研究，研究的基礎(chǔ)是傳統(tǒng)的 PCA 和 LDA 算法。 縱貫歷史，人類對生物特征的認(rèn)識和利用由來己久。通過此次工作，公安部第一研究所建立了相應(yīng)的測試軟硬件環(huán)境，是國內(nèi)最早開展人體生物特征技術(shù)評測及擁有實測經(jīng)驗的部門。 2020 年公安部第一研究所組織了國內(nèi)第一次面像識別 技術(shù)測試。據(jù)不完全統(tǒng)計，目前生產(chǎn)生物特征識別產(chǎn)品的企業(yè)（主要是指紋、面像識別）近百家，社會公共安全行業(yè)制定的相關(guān)標(biāo)準(zhǔn)約 30 余項。因此，多生物特征融合識別技術(shù)近年來己成為生物特征識別技術(shù)研究領(lǐng) 域的一個熱點，也是未來生物特征應(yīng)用領(lǐng)域的必然趨勢。 多生物特征認(rèn)證系統(tǒng)比單生物特征認(rèn)證系統(tǒng)具有更好的性能。另外，在一些安全性要求極高的應(yīng)用領(lǐng)域，單生物特征識別的性能很難達(dá)到預(yù)期的需要。該技術(shù)能夠很好的解決 2D 中光照和姿勢帶來的困擾，雖然 3D 技術(shù)本身也有一些問題，但其卓越的識別性能還是吸引了更多技術(shù)廠商和應(yīng)用客戶的眼光。這一指標(biāo)的提高是至關(guān)重要的，大大縮小了與指紋技術(shù)的差距。在僅一年后，提供商聲稱改進(jìn)的技術(shù)超出了這個水平。 各項生物技術(shù)的高速發(fā)展：人臉識別技術(shù)以其非侵犯性、可接受性等眾多優(yōu)勢，近幾年來一直是世界上生物識別公司及科研院所開發(fā)的熱點，人臉識別技術(shù)在生物技術(shù)產(chǎn)業(yè)中精確度方面的發(fā)展可能是最快的。 讓人們感到驚奇的是，以前大家不大關(guān)注的生物特征如虹膜、語音、步態(tài)等現(xiàn)在又有了重大的技術(shù)突破。 信息獲取 預(yù)處理 特征提取和選擇 分類器設(shè)計 分類決策 訓(xùn)練過程 南京郵電大學(xué) 2020 屆本科畢業(yè)論文 3 下面以人臉識別為例，給出具體的識別步驟 圖 ，見 圖 圖 人臉識別步驟 國內(nèi)外生物特征技術(shù)的最新發(fā)展 近幾年生物特征領(lǐng)域三大發(fā)展引人注目，第一生物特征的多樣化發(fā)展； 第二 各項生物技術(shù)的高速發(fā)展；第三是多生物特征融合技術(shù)的研究?；?做 法是在樣本訓(xùn)練集基礎(chǔ)上確定某個判決規(guī)則，使按這種規(guī)則對被識別對象進(jìn)行分 類 錯誤識別率最小或引起的損失最小。在特征空間中的一個模式通常也叫做一個樣本，它往往可以表示為一個向量，即特征空間中的一個點。為了有效的實現(xiàn)分類識別，就要對原是數(shù)據(jù)進(jìn)行變換，得到最能反映分類本質(zhì)的特征。 由 圖像 或波形所獲得的數(shù)據(jù)量是相當(dāng)大的。這就是數(shù)據(jù)獲取的過程。在引入模糊邏輯的系統(tǒng)中，這些值還可以包括模糊邏輯值，比如很大、 大 、比較大等。 2）一維波形 如電腦、心電圖、機(jī)械震動波形等。 為了使計算機(jī)能夠?qū)Ω鞣N現(xiàn)象進(jìn) 行分類識別，要用計算機(jī)可以運算的符號來表示所研究的對象?；诮y(tǒng)計方法的模式識別系統(tǒng)主要由 4 個部分組成： 1） 數(shù)據(jù)獲取 2） 預(yù)處理 3） 特征提取和選擇 南京郵電大學(xué) 2020 屆本科畢業(yè)論文 2 4） 分類決策 下面給出一個模式識別系統(tǒng)， 見 圖 。設(shè)計是指用一定量的樣本（叫作訓(xùn)練集或?qū)W習(xí)集）進(jìn)行分類器的設(shè)計。主元分析（ Principal Component Analysis， PCA）和線性鑒別分析（ Linear Discriminant Analysis， LDA）特征提取中最為經(jīng)典和廣泛使用的方法之一。 在諸如人臉識別課題的研究中，特征提取是模式識別研究的關(guān)鍵問題，它的基本任務(wù)是找出對分類最有效的特征 [1]。由于人臉識別是非侵犯性的識別，具有直接 、 友好 、 方便的特點，所以人臉識別是人們最容易接受的 身份鑒別方式。本文將著重從人臉識別來進(jìn)行討論 ，同時在最后的實驗驗證中使用 ORL 人臉數(shù)據(jù)庫和 眼睛圖像庫 。虹膜作為重要的身份鑒別特征 ， 具有唯一性、穩(wěn)定性、可采集性、非侵犯性等優(yōu)點。 近些年，生物特征識別領(lǐng)域有了很大的進(jìn)步，比如說人臉識別、虹膜識別、人耳識別等都是近些年發(fā)展比較迅速的技術(shù)?；谏锾卣鞯纳矸蓁b別技術(shù)利用人本身所擁有的生物特征來判別人的身份 ， 這些生物特征具有“人各有異、終生不變、隨身攜帶”三個特點 ， 具有穩(wěn)定、便捷、不易偽造等優(yōu)點 ， 近年來已成為身份鑒別的熱點。金融、安全、網(wǎng)絡(luò)、 電子商務(wù)等無一不需要可靠的身份鑒別。 同時 ， 由于交通、通訊和網(wǎng)絡(luò)技術(shù)的飛速發(fā)展 ， 人類的活動范圍越來越大 ， 身份鑒別的難度和重要 性也越來越突出。最后，在 ORL 標(biāo)準(zhǔn)人臉數(shù)據(jù)庫上進(jìn)行了試驗表明，PCA 方法在普通的最近鄰分類器下最高 達(dá)到了 95%的正確率， LDA 也達(dá)到了 ％的正確率，而且識別結(jié)果十分穩(wěn)定。 特征提取是模式識別中最基本的問題之一，在人臉識別中，抽取有效的鑒別特征是解決問題的關(guān)鍵，主成分分析 ( Principal Component Analysis， PCA)和 Fisher 線性鑒別分析是屬于線性投影分析，是特征提取中最為經(jīng)典和廣泛使用的方法。在這些方法中， PCA 和 LDA 技術(shù)，已經(jīng)被證明為是兩種大有前途的方法。摘 要 由于廣泛的應(yīng)用，比如用于監(jiān)視和安全，身份鑒別，存取控制等，最近幾年，人臉識別引起了廣泛的興趣。最近的幾十年，關(guān)于人臉識別人們已經(jīng)提出了許許多多的方法。 我們要做的就是提高人臉識別的正確識別率，為了達(dá)到這個目的，我們從以下幾個方面下手：特征提取，分類器選擇。該文就有關(guān)線性投影分析的理論與算法進(jìn)行了研究。 關(guān)鍵詞 ： 主元分 析； Fisher 鑒別準(zhǔn)則； 線性鑒別分析； 特征抽取；人臉識別ABSTRACT Face recognition has been of great interest in recent years because its wide range of application such as surveillance and security ， identity authentication and access control ， etc. Numerous methods have been proposed for face recognition in the last decade. Among all these approaches ， techniques based on PCA and LDA ， have been proved to be two promising approach. In order to enhance the accuracy of the recognition， the main goal of our research， we deal with the problems as follow