【正文】 t,2,0)+cvGetReal2D(pCentralMoment,0,2)。one_I2 = pow(cvGetReal2D(pCentralMoment,2,0)cvGetReal2D(pCentralMoment,0,2),2) + 4*pow(cvGetReal2D(pCentralMoment,1,1),2)。tmp_21add03 = cvGetReal2D(pCentralMoment,2,1)+cvGetReal2D(pCentralMoment,0,3)。tmp_21sub03 = 3*cvGetReal2D(pCentralMoment,2,1)cvGetReal2D(pCentralMoment,0,3)。tmp_30add12 = cvGetReal2D(pCentralMoment,3,0)+cvGetReal2D(pCentralMoment,1,2)。tmp_30sub12 = cvGetReal2D(pCentralMoment,3,0)3*cvGetReal2D(pCentralMoment,1,2)。one_I3 = pow(tmp_30sub12,2)+pow(tmp_21sub03,2)。one_I4 = pow(tmp_30add12,2)+pow(tmp_21add03,2)。one_I5 = tmp_30sub12*tmp_30add12*(pow(tmp_30add12,2)3*pow(tmp_21add03,2)) +tmp_21sub03*tmp_21add03*(3*pow(tmp_30add12,2)pow(tmp_21add03,2))。one_I6 = (cvGetReal2D(pCentralMoment,2,0)cvGetReal2D(pCentralMoment,0,2))* (pow(tmp_30add12,2)pow(tmp_21add03,2))+ 4*cvGetReal2D(pCentralMoment,1,1)*tmp_30add12*tmp_21add03。one_I7 = tmp_21sub03*tmp_30add12*(pow(tmp_30add12,2)3*pow(tmp_21add03,2)) tmp_30sub12*tmp_21add03*(3*pow(tmp_30add12,2)pow(tmp_21add03,2))。 SVM訓(xùn)練模型 本節(jié)將從最優(yōu)化理論下手，講解支持向量機(jī)（SVM）的應(yīng)用。 最優(yōu)化理論 統(tǒng)計(jì)學(xué)習(xí)理論(Statistical Learning Theory，簡稱SLT)，是一種專門研究小樣本情況下機(jī)器學(xué)習(xí)規(guī)律的理論，它建立在一套較堅(jiān)實(shí)的理論基礎(chǔ)之上，為解決有限樣本學(xué)習(xí)問題提供了一個(gè)統(tǒng)一的框架。機(jī)器學(xué)習(xí)的目的是根據(jù)給定的訓(xùn)練樣本求對某個(gè)系統(tǒng)輸入輸出之間依賴關(guān)系的估計(jì)，使它能夠?qū)ξ粗敵鲎龀霰M可能準(zhǔn)確的預(yù)測，可以一般的表示為變量y和x之間存在一定的未知的依賴關(guān)系，即遵循某一未知的聯(lián)合概率F(x,y)，則機(jī)器學(xué)習(xí)的問題就是根據(jù)n個(gè)獨(dú)立同分布的觀測樣本{(x1,y1)，(x2,y2)，……，(xn,yn)}在一組函數(shù){f(x,w)}中求出一個(gè)最優(yōu)的函數(shù){f(x,w0)}對依賴關(guān)系進(jìn)行估計(jì)，使期望風(fēng)險(xiǎn)R(w)=∫L(y,f(x,w))dF(x,y)最小。由于期望風(fēng)險(xiǎn)是預(yù)測函數(shù)在整個(gè)樣本空間上的出錯(cuò)率的數(shù)學(xué)期望，因此要使其最小化必須依賴于聯(lián)合概率F(x,y)的信息。但是，在實(shí)際的機(jī)器學(xué)習(xí)問題中這一要求太強(qiáng)，樣本集的分布函數(shù)往往難以預(yù)知，這使得期望風(fēng)險(xiǎn)無法直接計(jì)算和最小化。因此傳統(tǒng)的學(xué)習(xí)方法采用了所謂經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化(即ERM)原則，即定義經(jīng)驗(yàn)風(fēng)險(xiǎn)來作為對期望風(fēng)險(xiǎn)的估計(jì)，并設(shè)計(jì)相應(yīng)的算法使之最小化。ERM準(zhǔn)則是目前絕大多數(shù)模式識(shí)別方法的基礎(chǔ)，其定義為訓(xùn)練集上的平均出錯(cuò)率，用于對整個(gè)樣本集的期望風(fēng)險(xiǎn)進(jìn)行估計(jì)。它建立在樣本數(shù)目足夠多的前提下，所提出的各種方法只有在樣本數(shù)趨向無窮大時(shí)，其性能才有理論上的保證。所以在現(xiàn)實(shí)的情況中，總是也難以取得理想的結(jié)果。但這卻是發(fā)展進(jìn)一步理想算法的基礎(chǔ)。 支持向量機(jī)支持向量機(jī)(Support Vector、 Machine)簡稱SVM。自90年代初提出以來，由于其完整的理論框架和在實(shí)際應(yīng)用中取得的很多好的效果，在機(jī)器學(xué)習(xí)領(lǐng)域受到了廣泛的重視。其理論和應(yīng)用在橫向和縱向上都有了發(fā)展。且目前支持向量機(jī)有著以下幾方面的研究熱點(diǎn)：核函數(shù)的構(gòu)造和參數(shù)的選擇；支持向量機(jī)從兩類問題向多類問題的推廣；更多的應(yīng)用領(lǐng)域的推廣；與目前其它機(jī)器學(xué)習(xí)方法的融合；與數(shù)據(jù)預(yù)處理（樣本的重要度，屬性的重要度，特征選擇等）方面方法的結(jié)合，將數(shù)據(jù)中脫離領(lǐng)域知識(shí)的信息，即數(shù)據(jù)本身的性質(zhì)融入支持向量機(jī)的算法中從而產(chǎn)生新的算法；支持向量機(jī)訓(xùn)練算法的探索等等。支持向量機(jī)主要針對線性可分情況進(jìn)行分析，對于線性不可分的情況，則通過非線性映射算法將低維空間的樣本轉(zhuǎn)化為高維特征進(jìn)行線性分析。下面首先介紹線性最優(yōu)分類超平面的有關(guān)算法。把訓(xùn)練樣本分成兩個(gè)有限子集：正樣本子集和負(fù)樣本子集。則這兩個(gè)子集對于超平面可分的條件是：存在一個(gè)單位向量Φ（||Φ||）=1和一個(gè)常數(shù)C，使得它們共同確定一個(gè)超平面，它將正樣本集和負(fù)樣本集分開，并具有最大間隔，這個(gè)平面被稱為最大間隔超平面，也就是最優(yōu)分類超平面。我們的目標(biāo)是找到構(gòu)造最優(yōu)分類超平面的有效方法。為此，我們要找到一個(gè)向量w*和一個(gè)常數(shù)（閾值）b*，使得他們滿足約束條件：并且向量w*具有最小的范數(shù)。我們知道，具有最小范數(shù)且滿足該約束條件的向量w*定義了最優(yōu)分類超平面。具有最小范數(shù)且以b=0滿足該約束條件的向量w*則定義了過原點(diǎn)的最優(yōu)分類超平面。為了找到最優(yōu)分類超平面，我們必須求解關(guān)于二者的二次規(guī)劃問題。對于二次規(guī)劃問題可以用拉格朗日乘子法求得其解。前面我們介紹了在線性空間中可分的支持向量機(jī)最優(yōu)超平面的求解，而對于線性不可分的分類問題，必須對最優(yōu)化問題作一些改動(dòng)?？梢酝ㄟ^非線性變換把樣本輸入空間轉(zhuǎn)化為某個(gè)高維空間中的線性問題，在高維空間中求線性最優(yōu)分類超平面，這樣的高維空間也稱為特征空間或高維特征空間（Hilbert空間）。假設(shè)有非線性映射Φ:Rd→H將輸入空間的樣本映射到高維（可能是無窮維）的特征空間H中。當(dāng)在特征空間H中構(gòu)造最優(yōu)超平面時(shí)，訓(xùn)練算法僅使用空間中的點(diǎn)積，即Φ(xi）.Φ(xj)，而沒有單獨(dú)的Φ(xi)出現(xiàn)。因此，如果能夠找到一個(gè)函數(shù)K，使得K(）=Φ(xi）.Φ(xj)，這樣，在高維特征空間中實(shí)際上只需進(jìn)行內(nèi)積運(yùn)算，而這種內(nèi)積運(yùn)算是可以用輸入空間中的某些特殊函數(shù)實(shí)現(xiàn)的。這些特殊的函數(shù)K就稱之為核函數(shù)。因此，在最優(yōu)分類超平面中采用適當(dāng)?shù)暮撕瘮?shù)K(xi，xj）就可以實(shí)現(xiàn)某一非線性變換后的線性分類。核函數(shù)的思想是把原本應(yīng)該在高維特征空間中的計(jì)算，通過核函數(shù)在輸入空間中即可完成，這樣就無須知道高維變換的顯式公式，況且高維變換公式一般是無法得到的。同時(shí)，核函數(shù)的引入解決了高維數(shù)帶來的麻煩。對給定的函數(shù)K(x,y)，高維特征空間中的內(nèi)積可以用輸入空間中的函數(shù)K(x,y)來表示的充要條件是：對于任意給定的函數(shù)g(x)這樣K(x,y)就對應(yīng)了特征空間中的一個(gè)內(nèi)積。 LibSVM的應(yīng)用LibSVM是用C++，Java等多種語言實(shí)現(xiàn)的開源SVM軟件包，其特點(diǎn)是可以解決分類問題、回歸問題以及分布估計(jì)等問題，提供了線性、多項(xiàng)式、徑向基和Sigmoid函數(shù)四種常用的核函數(shù)供選擇，可以有效地解決多類問題、交叉驗(yàn)證選擇參數(shù)、對不平衡樣本加權(quán)、多類問題的概率估計(jì)等，執(zhí)行效率較高，是常用的模式識(shí)別開源軟件包。LibSVM的應(yīng)用程序主要包括“svmtrain”和“svmpredict”。其中svmtrain用于svm樣本訓(xùn)練，接受特定格式的輸入，最后生成一個(gè)后綴名為“.model”的模型文件，就是訓(xùn)練得到的模型。svmpredict根據(jù)已經(jīng)訓(xùn)練好的“.model”模型文件，加上給定的輸入(測試樣本特征文件)，輸出(predict)預(yù)測測試樣本所對應(yīng)的類別(class)。另外，svmscale主要完成樣本特征數(shù)據(jù)縮放預(yù)處理的工作。LibSVM使用的數(shù)據(jù)格式為： labelindex1：value1index2：value2...其中，label是訓(xùn)練數(shù)據(jù)集的目標(biāo)值，對于分類，它是標(biāo)識(shí)某類的整數(shù)；編寫樣本的Hu矩提取批處理程序。最后程序把訓(xùn)練樣本的Hu矩?cái)?shù)據(jù)保存一個(gè)TXT文件中，然后選擇核函數(shù)（本課題中選擇的是RBF核函數(shù)）和相應(yīng)參數(shù)來訓(xùn)練SVM模型，并命名訓(xùn)練好的模型。經(jīng)過多次對于數(shù)據(jù)的測試和優(yōu)化后，即可完成訓(xùn)練任務(wù)。 手勢識(shí)別基于以上技術(shù)，本系統(tǒng)所實(shí)現(xiàn)的手勢識(shí)別的流程如圖43所示：圖43 手勢識(shí)別的流程圖 The flowchart of gesture recognition其中訓(xùn)練SVM模型部分是在離線狀態(tài)下進(jìn)行的，即在離線狀態(tài)下，采集手勢，處理后進(jìn)行訓(xùn)練，經(jīng)過多次的測試和優(yōu)化之后生成一個(gè)后綴名為“.model”的模型文件，然后在程序中加載該文件即可利用它為根據(jù)進(jìn)行手勢的判斷。也就是“離線訓(xùn)練，在線識(shí)別”。 本章小結(jié)本章是本課題的核心部分，主要講述手勢識(shí)別的各個(gè)模塊的設(shè)計(jì)和算法實(shí)現(xiàn)。首先介紹手勢識(shí)別部分可分為手圖像預(yù)處理、手圖像特征提取和圖像的SVM訓(xùn)練模型等三個(gè)子模塊。再分別介紹每個(gè)子模塊的設(shè)計(jì)。手圖像的預(yù)處理著重介紹了圖像二值化的處理方法和灰度化的實(shí)現(xiàn)，還介紹了幾種其他的實(shí)現(xiàn)方法；手圖像特征的提取，主要是介紹Hu矩的有關(guān)情況，對幾種矩的算法和意義進(jìn)行了描述；SVM訓(xùn)練模型先介紹了統(tǒng)計(jì)學(xué)習(xí)理論中的最優(yōu)化理論，并基于此理論介紹SVM的思想和方法，還單獨(dú)的講解了LibSVM的應(yīng)用情況。在分別介紹了各個(gè)子模塊的有關(guān)情況之后，根據(jù)設(shè)計(jì)情況畫出了手勢識(shí)別的流程圖，這也是實(shí)際的程序中手勢識(shí)別的處理過程。5 基于手勢識(shí)別的幻燈片控制系統(tǒng)本章主要介紹幻燈片控制的有關(guān)情況，以及如何利用接口將之與手勢識(shí)別聯(lián)系起來。還會(huì)介紹到關(guān)于OpenCV窗口的前端顯示情況和本課題設(shè)計(jì)的詳細(xì)情況。 幻燈片控制模塊本模塊主要是利用現(xiàn)有的幻燈片控制函數(shù)控制幻燈片的翻頁操作。首先介紹有關(guān)的幻燈片控制函數(shù)（所有的控制函數(shù)都在對話框文件中調(diào)用）。為了操作的方便和直觀，我們做一個(gè)對話框窗口，并在此窗口上設(shè)置一些按鈕，來控制幻燈片的操作。分別是“設(shè)置要打開的ppt文件”按鈕、“啟動(dòng)視頻”按鈕、“運(yùn)行”按鈕、“上翻”按鈕、“下翻”按鈕、“首頁”按鈕、“末頁”按鈕、“停止視頻”按鈕、“關(guān)閉”按鈕。具體如圖51所示：圖51 系統(tǒng)運(yùn)行界面 System operation interface其中涉及到的控制函數(shù)有：Onpptbegin()函數(shù)：這是用來啟動(dòng)ppt 文件的，該函數(shù)需要在設(shè)置好要打開的ppt文件后使用。Onopenppt()函數(shù)：這是用來設(shè)置要打開的的ppt文件的。該函數(shù)會(huì)自動(dòng)匹對所設(shè)置的文件，如果不是ppt文件將設(shè)置失敗。OnBUTTONRun()函數(shù)：該函數(shù)為運(yùn)行函數(shù)，調(diào)用時(shí)運(yùn)行ppt文件。OnBUTTONUp()函數(shù)：這是控制ppt文件往上翻頁的函數(shù)。具體應(yīng)用中是調(diào)用的View的Previous()函數(shù)實(shí)現(xiàn)的上翻操作。OnBUTTONDown()函數(shù)：這是控制ppt文件往下翻頁的函數(shù)。具體應(yīng)用中是調(diào)用的View的Next()函數(shù)實(shí)現(xiàn)的下翻操作。OnBUTTONQuit()函數(shù)：這是退出函數(shù)，控制運(yùn)行操作的退出。OnBUTTONClose()函數(shù)：這是關(guān)閉函數(shù)，調(diào)用時(shí)可在此再調(diào)用關(guān)閉視頻函數(shù)、退出函數(shù)和取消函數(shù)，實(shí)現(xiàn)一次性的關(guān)閉。OnBUTTONFirst()函數(shù)：這是控制ppt文件實(shí)現(xiàn)翻到首頁的函數(shù)。具體應(yīng)用中是調(diào)用的View的First()函數(shù)實(shí)現(xiàn)的。OnBUTTONLast()函數(shù)：這是控制ppt文件實(shí)現(xiàn)翻到末頁的函數(shù)。具體應(yīng)用中是調(diào)用的View的Last()函數(shù)實(shí)現(xiàn)的。這樣通過對各個(gè)不同控制函數(shù)的調(diào)用，就實(shí)現(xiàn)了對ppt文件的控制。 接口部分的設(shè)計(jì)與實(shí)現(xiàn)這是將幻燈片控制模塊和手勢識(shí)別模塊結(jié)合，實(shí)現(xiàn)總體系統(tǒng)的功能實(shí)現(xiàn)。具體的設(shè)計(jì)思路是：將手勢識(shí)別的結(jié)果（對二值化圖像計(jì)算的Hu矩特征）保存在一個(gè)全局變量中，然后進(jìn)行手勢變換的識(shí)別判斷（即從一個(gè)手勢變?yōu)榱硪粋€(gè)手勢的識(shí)別），同時(shí)根據(jù)手勢變換的不同賦予另一個(gè)全局變量不同的值，然后再在啟動(dòng)程序進(jìn)行手勢處理時(shí)（即本設(shè)計(jì)中的啟動(dòng)視頻后）進(jìn)行調(diào)用：設(shè)置一個(gè)Switch選擇語句，根據(jù)該變量的不同值調(diào)用不同的幻燈片控制函數(shù)，從而實(shí)現(xiàn)兩個(gè)部分的結(jié)合。在程序中具體的語句如下所示：{……result=judge_image(hand_Cr)。 //hand_Cr是手勢圖像二值化后的結(jié)果；//judge_image函數(shù)是計(jì)算圖像Hu矩特征的,；全局//變量result用來保存手勢識(shí)別的結(jié)果. result=1。 JudgeState_3()。//該函數(shù)用來判斷手勢的變換，并根據(jù)結(jié)果賦給變量what2do不同的值switch(what2do)//用來根據(jù)手勢變換的結(jié)果，調(diào)用不同的ppt控制函數(shù)……}其中，對于手勢變換的判斷，其具體語法為（即JudgeState_3()函數(shù)的編程）： { //last_result為前一手勢，result為當(dāng)前手勢 if (last_result!=result)//如果出現(xiàn)手勢變換 { //手勢變換中的0，1，2是訓(xùn)練好的SVM模型中定義的手勢if (last_result==0 amp。amp。 result==1) what2do=1。//如果前一手勢為0，//當(dāng)前手勢為1，賦給變量what2do為值1,以下類似； else if (last_result==1 amp。amp。 result==2) what2do=2。 else if (last_result==2 amp。amp。 result==0) what2do=3。 else if (last_result==0 amp。amp。 result==2) what2do=4。 else