【正文】 第 28 頁(yè)圖 45 部分對(duì)比結(jié)果記得我們?cè)?index 矩陣中得知 這個(gè)數(shù)字在原來(lái) distance 矩陣中排第一列中的第 5，在訓(xùn)練樣本 TA 中可以知道 TA 的中的前 10 個(gè)為 A1,中間 10 個(gè)為 A2，后 10 個(gè)為 A3，通過(guò)數(shù)學(xué)計(jì)算 5/10 為 沒(méi)有超過(guò) 1，所以其為第一類即 A1 類。如果所得數(shù)字超過(guò) 1 但不超過(guò) 2，其為第二類即 A2 類：如果所得數(shù)字超過(guò) 2 但未超過(guò) 3，其為第三類即 A3 類（ceil 是向離它最近的大整數(shù)圓整 ）其中最高識(shí)別率為圖 46 識(shí)別率由于是隨機(jī)樣本所以每次得到的結(jié)果不定，每次所得準(zhǔn)確識(shí)別率都不一定相同。隨機(jī)數(shù)判別和人臉數(shù)據(jù)庫(kù)識(shí)別的基本思想是一致的，后續(xù)工作即進(jìn)行人臉數(shù)據(jù)庫(kù) LDA 的識(shí)別分析。 LDA 在 ORL 庫(kù)中的識(shí)別成果樣本設(shè)置：Class_train_num=5。每個(gè)類別中訓(xùn)練樣本的個(gè)數(shù)：Class_num=10:樣本總數(shù)；Class_test_num= Class_num Class_train_num=5；測(cè)試樣本數(shù)；圖 47 樣本 第 29 頁(yè)圖 48 測(cè)試樣本和訓(xùn)練樣本圖 49 類間和類內(nèi)離散度圖 410 投影矩陣 W圖 412 訓(xùn)練樣本和測(cè)試樣本降維前圖 413 訓(xùn)練樣本和測(cè)試樣本降維后414 圖部分結(jié)果對(duì)比得到的最高真確識(shí)別率為 第 30 頁(yè)圖 415 識(shí)別率結(jié)果分析：傳統(tǒng) LDA 有兩個(gè)突出缺點(diǎn): 一是處理高維圖像時(shí)容易產(chǎn)生“小樣本問(wèn)題”, 即樣本維數(shù)大大超過(guò)訓(xùn)練圖像個(gè)數(shù)的問(wèn)題。 二是由此引發(fā)的邊緣類主導(dǎo)特征空間分解的問(wèn)題。所以得到的識(shí)別率是比較低的。需要引入核函數(shù)來(lái)解決這一問(wèn)題。 核函數(shù)在 ORL 庫(kù)中的識(shí)別成果 核函數(shù)方法實(shí)施步驟核函數(shù)方法是一種模塊化(Modularity)方法，它可分為核函數(shù)設(shè)計(jì)和算法設(shè)計(jì)兩個(gè)部分，具體為：（1）收集和整理樣本，并進(jìn)行標(biāo)準(zhǔn)化（2）選擇或構(gòu)造核函數(shù)（3）用核函數(shù)將樣本變換成為核函數(shù)矩陣,這一步相當(dāng)于將輸入數(shù)據(jù)通過(guò)非線性函數(shù)映射到高維特征空間；（4）在特征空間對(duì)核函數(shù)矩陣實(shí)施各種線性算法（5）得到輸入空間中的非線性模型。顯然,將樣本數(shù)據(jù)核化成核函數(shù)矩陣是核函數(shù)方法中的關(guān)鍵。注意到核函數(shù)矩陣是 MM 的對(duì)稱矩陣，其中 M 為樣本數(shù)。 在 ORL 庫(kù)中的識(shí)別過(guò)程人臉庫(kù)的讀取程序orl=zeros(112,92,10,40)。 %所有樣本for i=1:40 for j=1:10 a=imread(strcat(39。F:\rltx\ORL\s39。,num2str(i),39。\39。,num2str(j),39。.pgm39。))。 a=double(a)。 orl(:,:,j,i)=a。 第 31 頁(yè) endend樣本空間的設(shè)置class_num =40。sample_num =10。row =112。line =92。count=5。tic。count。train_num = count。%每類樣本訓(xùn)練數(shù)train_total = train_num * class_num。%40 類樣本總的訓(xùn)練數(shù) Mtest_num = sample_num train_num。%每類樣本測(cè)試數(shù)=樣本數(shù)訓(xùn)練數(shù)test_total = test_num * class_num。%40 類樣本總的測(cè)試數(shù)K 值的選取K1=zeros(train_total,train_total)。%利用 orl_train 求 K~=k(Xi,Xj),Xi 為訓(xùn)練樣本中的特征向量K2=zeros(train_total,test_total)。%利用 orl_test 求 K~=k(Xi,Xj),Xi 為測(cè)試樣本中的特征向量K 和 Ktest 兩個(gè)矩陣是非奇異矩陣，從而可以知道 K 和 Ktest 兩個(gè)矩陣是可逆的，所以 K（Xi，Xj）=K(Xj,Xi)。Ktest(Xi,Xj)=Ktest(Xj,Xi).計(jì)算可得到 K和 KtestK 的特征向量 m=50。 [U,L]=eig(K)。L1=diag(L)。[L2 index]=sort(L1)。 %以升序排序cols=size(U,2)。% 特征向量矩陣的列數(shù)for i=1:m y_temp(:,i) = U(:,index(colsi+1) )。 lsort(i)= L1( index(colsi+1) )。 % dsort 保存的是按降序排列的特征值，是一維行向量end %完成降序排列 第 32 頁(yè) for i=1:train_total y_train(:,i)=y_temp39。*K(:,i)。 y_test(:,i)=y_temp39。*K_test(:,i)。end類間散布矩陣、類內(nèi)散布矩陣、特征向量y_m_all = zeros(m,1)。y_m = zeros(m,class_num)。 for i = 1:class_num for j = 1:train_num y_m_all = y_m_all + y_train(:,j+(i1)*j)。 y_m(:,i) = y_m(:,i) + y_train(:,j+(i1)*j)。 end y_m(:,i) = y_m(:,i)/train_num。 %類平均值 end y_m_all = y_m_all / train_total。 %所有樣本平值 Sb1 = zeros(m,class_num)。 Sb = zeros(m,m)。 for i = 1:class_num Sb1(:,i) = y_m(:,i) y_m_all。 Sb = Sb + train_num*Sb1(:,i)*Sb1(:,i)39。 end %Sb=class_num*Sb1*Sb139。 Sb=Sb/train_total。 %類間散布矩陣 Sw1 = zeros(m,train_num)。 Sw = zeros(m,m)。 for i = 1:class_num for j=1:train_num kk=(i1)*train_num+j。 Sw1(:,kk) = y_train(:,kk) y_m(:,i)。 Sw = Sw + Sw1(:,kk)*Sw1(:,kk)39。 end 第 33 頁(yè) end %Sw=Sw*Sw39。 Sw=Sw/train_total。 %類內(nèi)散布矩陣 %St=Sb+Sw。 St1 = zeros(m,train_total)。 St = zeros(m,m)。 for i = 1:class_num for j=1:train_num kk=(i1)*train_num+j。 St1(:,kk) = y_train(:,kk) y_m_all。 %St = St + St1(:,kk)*St1(:,kk)39。 end end St=St1*St139。 St=St/train_total。 %整體散布矩陣 %ss = inv(Sw)*Sb。 ss = St。 k=39。 [U,L]=eig(ss)。L1=diag(L)。[L2 index]=sort(L1)。 %以升序排序cols=size(U,2)。% 特征向量矩陣的列數(shù)for i=1:kG(:,i) = U(:,index(colsi+1) )。 % vsort 是一個(gè) M*col(注:col 一般等于 M)階矩陣，保存的是按降序排列的特征向量,每一列構(gòu)成一個(gè)特征向量dsort(i)= L1( index(colsi+1) )。 % dsort 保存的是按降序排列的特征值，是一維行向量end %完成降序排列識(shí)別率orl_train_new = G39。* y_train。orl_test_new = G39。 *y_test。%計(jì)算準(zhǔn)確率的函數(shù) 第 34 頁(yè)%輸入 testsample表示經(jīng)過(guò)投影后的測(cè)試樣本,num1表示每一類測(cè)試樣本的個(gè)數(shù),%trainsample代表經(jīng)過(guò)投影后的訓(xùn)練樣本 ,num2代表每一類訓(xùn)練樣本的個(gè)數(shù)%輸出為正確率orl_train_neww=orl_train_new39。orl_test_neww=orl_test_new39。accu=0。testsampnum=size(orl_train_neww,1)。trainsampnum=size(orl_test_neww,1)。for i=1:testsampnum for j=1:trainsampnum juli(i,j)=norm(orl_train_neww(i,:)orl_test_neww(j,:))。 end [temp index]=sort(juli,1)。 if ceil(i/5)~=ceil(index(1)/5) accu=accu+1。 endendaccuracy=accu/testsampnum 部分實(shí)驗(yàn)結(jié)果圖 416 訓(xùn)練樣本和測(cè)試樣本圖 417 第 35 頁(yè)圖 418 距離矩陣圖 419 得到的 K圖 420 正確識(shí)別率 單個(gè)核函數(shù)結(jié)果分析為了測(cè)試本方法在人臉識(shí)別中的識(shí)別效果，我們?cè)?ORL 人臉數(shù)據(jù)庫(kù)中進(jìn)行了測(cè)試試驗(yàn)。選取的是多項(xiàng)式核函數(shù)在 ORL 人臉數(shù)據(jù)庫(kù)進(jìn)行，ORL 人臉數(shù)據(jù)庫(kù)由劍橋大學(xué) ATamp。T 實(shí)驗(yàn)室創(chuàng)建,包含 40 人共 400 張面部圖像,部分志愿者的圖像包括了姿態(tài),被人們采用,但由于變化模式較少,多數(shù)系統(tǒng)的識(shí)別率均可以達(dá)到 90%以上,因此 5 幅圖像作為訓(xùn)練樣本，后 5 幅圖像作為測(cè)試樣本。得到的測(cè)試結(jié)果為 %。核函數(shù)對(duì)比傳統(tǒng)的 LDA 識(shí)別能夠提高準(zhǔn)確識(shí)別率，核函數(shù)能過(guò)使得特征空間中的特征向量的維數(shù)比傳統(tǒng)LDA 更多，所得到的數(shù)據(jù)量更大，計(jì)算數(shù)據(jù)多而復(fù)雜從而提高準(zhǔn)確識(shí)別率 第 36 頁(yè)5 總結(jié) 對(duì)于 LDA 的總結(jié)優(yōu)點(diǎn)：分類識(shí)別 LDA（fisher ）算法模擬：線性鑒別分析的基本思想是將高維的模式樣本投影到最佳鑒別矢量空間，以達(dá)到抽取分類信息和壓縮特征空間維數(shù)的效果，投影后保證模式樣本在新的子空間有最大的類間距離和最小的類內(nèi)距離，即模式在該空間中有最佳的可分離性。缺點(diǎn)：傳統(tǒng) LDA 有兩個(gè)突出缺點(diǎn): 一是處理高維圖像時(shí)容易產(chǎn)生“小樣本問(wèn)題”, 即樣本維數(shù)大大超過(guò)訓(xùn)練圖像個(gè)數(shù)的問(wèn)題。 二是由此引發(fā)的邊緣類主導(dǎo)特征空間分解的問(wèn)題 對(duì)核函數(shù)的總結(jié)優(yōu)點(diǎn)：一般常見(jiàn)的降維方法是建立在正態(tài)分布這一假設(shè)基礎(chǔ)上的線性方法，顯得過(guò)于簡(jiǎn)化，因而往往不能滿足現(xiàn)實(shí)中的需要。這里將傳統(tǒng)的線性降維方法通過(guò)引入核函數(shù)推廣到非線性領(lǐng)域中。核方法可以將線性空間中的非線性問(wèn)題映射為非線性空間中的線性問(wèn)題，從而有望較好地克服以往線性處理方法處理非線性問(wèn)題所存在的不足。 缺點(diǎn)：目前沒(méi)有快速求解特征向量的方法，每張人臉新入庫(kù)時(shí)都要重新計(jì)算。 相對(duì)比較核方法可以將線性空間中的非線性問(wèn)題映射為非線性空間中的線性問(wèn)題，從而有望較好地克服以往線性處理方法處理非線性問(wèn)題所存