【正文】 時(shí)刻 t 時(shí)刻 t+2時(shí)刻 t+1圖3－6 t時(shí)刻與t+1時(shí)刻 和 之間的關(guān)系isj 西南交通大學(xué)本科畢業(yè)設(shè)計(jì)(論文) 第 24 頁(yè)該過程整體流程圖如圖3－7所示：初始化（I 時(shí)刻）向前變量 ()ti?向前過程從I時(shí)刻開始向前遞推各個(gè) t時(shí)刻的 ()ti得到 12(),.()Tii??計(jì)算 1(|)()NttiPOi?????向后過程初始化（T時(shí)刻）向后變量 ()ti?從T 時(shí)刻開始向前遞推各個(gè) t時(shí)刻的 ()ti得到 12(),.,()Tii? 圖3－7 前向后向算法流程圖 維特比算法該算法解決了給定一個(gè)觀察值序列 和一個(gè)模型 ，在12,.TO?(,)AB???最佳的意義上，確定一個(gè)狀態(tài)序列的問題。因此，在實(shí)際應(yīng)用的時(shí)候，幾乎都用?Viterbi算法來求出 。(|)PO?由之前推導(dǎo)可知：， 11(|)())(NtijttijPabOj??????12tT??這里，求取 使得 最大是一個(gè)泛函極值問題，由于給定的訓(xùn)練數(shù)據(jù)有限，|P?因此沒有一個(gè)是最佳的方法來估計(jì) 。下圖表示了隱馬爾可夫模型三大算法之間的關(guān)系，隱馬爾可夫模型在實(shí)際中的應(yīng)用總體來說就是基于圖3－10的：觀察值序列 12,.TO?Baum－Welch算法(,)AB???Viterbi 算法觀察值序列 12,.TO前向－后向算法12,.TQq???(|)PO? 圖3－10 隱馬爾可夫算法模型的關(guān)系 隱馬爾可夫模型在人臉識(shí)別中應(yīng)用人臉識(shí)別是將待識(shí)別人臉與人臉數(shù)據(jù)庫(kù)中的人臉做比較基礎(chǔ)上的識(shí)別，所以首先應(yīng)該建立人臉的類別庫(kù)。對(duì)于一幅寬為W、高為H(WH，單位：像素)的人臉圖像，假設(shè)人臉是垂直的，那么人臉的主要特征(額頭、眼睛、鼻子、嘴巴和下巴)就在垂直方向上順序出現(xiàn)，這就意味著可以把人臉圖像建成一個(gè)從上到下的模型。狀態(tài)結(jié)構(gòu)和非零轉(zhuǎn)移概率 如圖ija3－11所示 [10]： 1 2 3 4 51a2 3a4a5a額頭 眼睛 鼻子 嘴巴 下巴圖 3－11 用于人臉識(shí)別的左右HMM狀態(tài)轉(zhuǎn)移概率 就是人臉特征與特征之間轉(zhuǎn)移的概率。以下分為2個(gè)階段：第一階段是：人臉圖像的采樣。由采樣塊生成圖像的觀察值序列有很多方法，最簡(jiǎn)單的是直接把圖像塊中的像素值作為觀察值。 基于離散余弦變換（DCT）的特征提取方法離散傅里葉變換（DFT）提供了頻譜分析最重要的工具，但DFT運(yùn)算是復(fù)數(shù)域運(yùn)算，在實(shí)際處理中并不方便。除此之外，DCT還是一種可分離的變換。則一維離散余弦變換的定義如下： （3） 10(21)())cosNxxuFuCf????其中，F(xiàn)(u)是第u個(gè)余弦變換系數(shù)：x，=0，1，2， …，N1 ，是廣義頻率變換。ATG顯然，式（3）和式（4）構(gòu)成了一維DCT變換對(duì)，比較兩式可以看出，離散余弦變換具有以下兩個(gè)特點(diǎn)：1. 在廣義頻域上，離散余弦變換的系數(shù)為實(shí)數(shù)。0,12.)f y???? 西南交通大學(xué)本科畢業(yè)設(shè)計(jì)(論文) 第 32 頁(yè)則2DDCT定義如下： （7）102(21)(21)(,)()coscosMNxyxuyvFuvCuvMN?????其中， 為變換系數(shù)矩陣中的各個(gè)元素；,(,.。即 12(,)(,),gxyuvgxyv?(21)(21))????根據(jù)變換核的可分離性，2DDCT可用兩次一維DCT來完成，本次設(shè)計(jì)就采用了這種方法，降低了算法的復(fù)雜程度。每個(gè)模型可以用單幅或多幅圖像進(jìn)行訓(xùn)練，訓(xùn)練按以下步驟進(jìn)行：（1） 把要訓(xùn)練的人臉圖像進(jìn)行同一分割（Uniformly Segmentation）提取出 西南交通大學(xué)本科畢業(yè)設(shè)計(jì)(論文) 第 33 頁(yè)人臉特征相聯(lián)系的觀察值序列 。而對(duì)于觀察概率矩陣B的初始化，我們假設(shè)：，這樣，就初始化出一個(gè)隱馬爾可夫模型 。隱馬爾可夫模型的各個(gè)參數(shù)在這個(gè)步驟中得以重新估計(jì)，得到一個(gè)新的 。模型 1前向－后向算法模型 2前向－后向算法模型 M前向－后向算法特征提取人臉圖像最大概率選擇 識(shí)別結(jié)果? 西南交通大學(xué)本科畢業(yè)設(shè)計(jì)(論文) 第 35 頁(yè) 圖3－14 HMM人臉識(shí)別框圖 改進(jìn)的隱馬爾可夫模型在人臉識(shí)別中的應(yīng)用由于左右型隱馬爾可夫模型比較的簡(jiǎn)單，它從上到下將人臉抽象為 5 個(gè)隱含的狀態(tài)，而在水平方向沒有更進(jìn)一步地進(jìn)行狀態(tài)劃分。 選用 DCT 系數(shù)作為觀察量系數(shù)能夠大大降低觀察量向量的維數(shù)，使用 DCT 系數(shù)能減小 HMM 對(duì)于噪聲、圖像旋轉(zhuǎn)或偏移及光照變化的敏感程度。每個(gè)模型用多幅圖象進(jìn)行訓(xùn)練，可以表示一個(gè)人的多個(gè)版本，如不。 窗口圖像塊的大小和 2D－DCT 系數(shù)項(xiàng)目數(shù)目，對(duì)識(shí)別精度影響顯著，窗口太小，不但訓(xùn)練時(shí)間長(zhǎng)，且識(shí)別精度反而降低。這樣的經(jīng)過改進(jìn)后的 HMM 模型我們稱之為嵌入式隱馬爾可夫模型（EHMM） 。為了估計(jì)出最接近于觀察值序列O的模型，設(shè)定門限值(|P??(Threshold)C，當(dāng) 時(shí)（此時(shí) 收斂） ，即得到訓(xùn)練出的||)(|)C??(|)PO?隱馬爾可夫模型，否則令 ，重復(fù)此步驟，直至 收斂，得到接近于觀察??| 西南交通大學(xué)本科畢業(yè)設(shè)計(jì)(論文) 第 34 頁(yè)值序列的隱馬爾可夫。用Viterbi分割取代平均分割，重新進(jìn)行參數(shù)的初始估計(jì)。（3） 將訓(xùn)練數(shù)據(jù)均勻分割，與N個(gè)狀態(tài)對(duì)應(yīng)，計(jì)算隱馬爾可夫模型的初始參數(shù)，狀態(tài)之間的轉(zhuǎn)移概率矩陣A在這里初始化。 圖3－12 將2DDCT用兩個(gè)一維DCT實(shí)現(xiàn)的流程 HMM 建模訓(xùn)練和人臉識(shí)別工作流程為了要識(shí)別人臉，必須先訓(xùn)練出一批人臉的隱馬爾可夫模型。 2DDCT逆變換定義如下： （8）102(21)(21)(,)()(,)coscosMNuv xuyvxyCFuvN??? ?其中，x，u＝0，1，2，…，M1； y，v＝0，1， 2，…，N1類似一維矩陣形式的DCT，2DDCT的矩陣形式如下： 正變換：F＝ f GTA 逆變換：f＝G F同樣，2DDCT變換具有系數(shù)為實(shí)數(shù)，正變換與逆變換的核相同的特點(diǎn)。2. 二維離散余弦變換(2DDCT)原理 [21]考慮到兩個(gè)變量，很容易一維DCT的定義推廣到二維DCT，其正變換核為： （6）2(21)(21)(,)()coscosxuyvgxyuvCuvMNMN????其中，C(u) 和C（v）的定義同式2，x，u＝0，1，2，…，M1；y，v＝0，1，2，…，N1。一維DCT的逆變換IDCT定義為： （4）102(21)()()cosNxxufCuFN???其中，x，u＝0，1，2，…，N1。由于大多數(shù)圖像的高頻分量較小，相應(yīng)于圖像高頻分量的系數(shù)經(jīng)常為零，加上人眼對(duì)高頻成分的失真不太敏感，所以可以選擇更粗的量化，使得傳送變換系數(shù)的數(shù)碼率要大大小于傳送圖像像素所用的數(shù)碼率。DCT除了具有一般的正交變換性質(zhì)外，它的變換陣的基向量能很好地描述人類語(yǔ)音信號(hào)和圖像信號(hào)的相關(guān)特征。我們采取的方法是把采樣的圖像塊做DCT變換，取其變換后的系數(shù)作為觀察值。也就是說，定義一個(gè)WL的采樣窗，采樣 窗從上到下順序采樣，每次向下移動(dòng)L的距離，這樣提取出的圖像塊就是采樣窗在人臉圖像中的采樣。 觀察值序列根據(jù)隱馬爾可夫模型的定義以及建立模型的需要(Baum—Welch算法)，應(yīng)該從人臉圖像中提取出圖像觀察值序列。事實(shí)上，在求狀態(tài)的初始參數(shù)時(shí)，我們可以按照這樣的劃分進(jìn)行，而最終求得的“狀態(tài)”，是不受這些區(qū)域限制的。 人臉圖像 HMM 模型狀態(tài)的確定對(duì)于一幅人臉的圖像，我們首先要確定隱馬爾可夫模型與它的關(guān)系，尋找為人臉圖像建立數(shù)學(xué)模型的依據(jù)。(|)PO? (,)AB???定義 為給定訓(xùn)練序列 O 和模型 時(shí)，時(shí)刻 t 時(shí) Markov 鏈處于狀態(tài) 和時(shí),tij? i?刻 t+1 時(shí)狀態(tài) 的概率，即：j?1(,),)jt titiPq??????可以推導(dǎo)出： 1[())(](, |)tijttt abOjij P???那么，t 時(shí)刻 Markov 鏈處于狀態(tài) 的概率為：i?1()(),|)(,(|)Nttttitj iiPqjO??????????在 Baum－Welch 算法導(dǎo)出的重估公式為：1()i??11,()TttTij ttiji?????11()tkttandOVTjk ttjbj????HMM 的參數(shù) 求解過程為：選取一個(gè)初始模型 ，根據(jù)觀察(,AB?? (,)AB??? 西南交通大學(xué)本科畢業(yè)設(shè)計(jì)(論文) 第 27 頁(yè)值序列，由重估公式得到一組新參數(shù)，得到一個(gè)新的模型 ，迭代下去，(,)AB?????直到 收斂為止。 西南交通大學(xué)本科畢業(yè)設(shè)計(jì)(論文) 第 25 頁(yè)我們定義 為時(shí)刻t時(shí)沿著一條路徑 ， ，… ，且 ＝ ，產(chǎn)生出 ，()i?1q2ttqi?1O，…， 的最大概率，那么求最佳狀態(tài)序列 的過程是：2Ot *O初始化： 11()(),ibiN???1()0,i??iN?遞歸： max[](,2t tijiiNjbtTj???? 11()rg),t tiji a?終結(jié)： a[()]TiNP???1rgmx[()]TTiNqi????S序列： 1,2,.Tttq???算法流程圖如圖3－8所示。(,)OPQ?Q?維特比(Viterbi)算法也是一個(gè)格型結(jié)構(gòu)，而且類似于前向算法。定義后向變量: 12(),.。即：?tiqs?tOT，求 與 間12(),.。定義前向變量： 12(),.,|)i tiPOq?????1tT?初始化： 1ib?T?遞歸： 1 11()[()])Ntiijtj????1,tjN?終結(jié)： ＝(|)PO?1()Ti?? 西南交通大學(xué)本科畢業(yè)設(shè)計(jì)(論文) 第 22 頁(yè)以下是前向法示意圖。1121(),.。(,)AB???(|)P?這是隱馬爾可夫模型最最重要的三個(gè)問題，這三個(gè)問題的解決方法是隱馬爾可夫模型應(yīng)用到實(shí)際中去的基礎(chǔ)。假設(shè)狀態(tài) 出現(xiàn)的概率為 ，如果這個(gè)tQ211(,.)trqP?概率只由前個(gè)狀態(tài)決定，即 ，則稱為一階馬爾可夫過程。根據(jù)狀態(tài)轉(zhuǎn)移的類型，HMM可分為遍歷的(ergodic)和從左到右的(1eft．right)。更形象的說， 可分為兩部分，一個(gè)是馬爾可夫鏈，由 描(,)AB???HM,A?述，產(chǎn)生的輸出為狀態(tài)序列，另一個(gè)是一個(gè)隨機(jī)過程，由 描述，產(chǎn)生的輸出為觀B察值序列。tQt?1,.MV(3) ：初始概率矢量 =( 1，… n)，其中 i＝P(q1= 1)，1≤i≤N。一個(gè)HMM的構(gòu)成元素如下：(I)N：模型中Markov鏈的狀態(tài)數(shù)N。HMM的理論早在60年代末70年代初就已經(jīng)提出并加以研究，目前已經(jīng)成功的應(yīng)用于連續(xù)語(yǔ)音識(shí)別、手勢(shì)識(shí)別及字符識(shí)別等領(lǐng)域。 HMM是一個(gè)二重馬爾可夫隨機(jī)過程，一部分是Markov鏈，這個(gè)是最基本的隨機(jī)過程，描述狀態(tài)的轉(zhuǎn)移。觀察到的事件與狀態(tài)并不是一一對(duì)應(yīng)，而是通過一組概率分布相聯(lián)系，在遇到時(shí)間有關(guān)的問題中，比如在T時(shí)刻發(fā)生的時(shí)間要受到T1時(shí)刻的直接(a) A 矩陣沒有零值的（全連接）Markov 鏈(b) A 矩陣有零值的 Markov 鏈(c) 、(d) 左－右形式的Markov 鏈 西南交通大學(xué)本科畢業(yè)設(shè)計(jì)(論文) 第 18 頁(yè)影響。如果一個(gè)過程的“將來”僅依賴“現(xiàn)在”而不依賴“過去”，則此過程具有馬爾可夫性，或稱此過程為馬爾可夫過程。 西南交通大學(xué)本科畢業(yè)設(shè)計(jì)(論文) 第 17 頁(yè)第 3 章 基于隱馬爾可夫模型 HMM 的人臉識(shí)別對(duì)于已經(jīng)測(cè)得的人臉圖像，將之與數(shù)據(jù)庫(kù)中的已經(jīng)測(cè)得的人臉進(jìn)行比較，得出識(shí)別的結(jié)果，這部分由人臉識(shí)別算法來完成。輸入圖像的邊緣、波峰值、峰谷值等被對(duì)應(yīng)于模板中的參數(shù)，而構(gòu)成一個(gè)能量函數(shù)?？勺冃文０蹇梢哉f是幾何特征方法的改進(jìn)，其基本思想是：根據(jù)臉部特征的形 西南交通大學(xué)本科畢業(yè)設(shè)計(jì)(論文) 第 16 頁(yè)狀特點(diǎn)構(gòu)造一個(gè)帶可變參數(shù)的幾何模型，并且設(shè)定一個(gè)相應(yīng)的評(píng)價(jià)函數(shù)以度量被檢測(cè)區(qū)域與模型的匹配程度。Craw 等提出一種基于形狀模板的正面人臉的定位方法。1. 通用模板匹配人臉標(biāo)準(zhǔn)模板由人工來定義，對(duì)于輸入圖像，分別計(jì)算標(biāo)準(zhǔn)模板中的臉部輪廓，眼睛，鼻子等的相關(guān)值，由相關(guān)程度決定人臉的存在。需要說明的是，長(zhǎng)期以來SVM的訓(xùn)練需要求解計(jì)算