模式識(shí)別-2-線性判別函數(shù)與線性分類(lèi)器設(shè)計(jì)-文庫(kù)吧
2025-07-20 17:24 本頁(yè)面
【正文】 間增大，不確定區(qū)間減小，比第一種情況小的多。 1)(,1)(,2)( 231312 ?????? xgxgxg1)(,1)(,2)( 323121 ??? xgxgxg0)(3 ?xg j2212300gg???判 別 區(qū)1121300gg???判 別 區(qū)0)(12 ?xg?0)(23 ?xg0)(13 ?xg?????5530032313??gg判別區(qū)?1x2x第三種情況： 判別函數(shù)： 判別規(guī)則： 判別邊界： gi(x) =gj(x) 或 gi(x) gj(x) =0 就是說(shuō)，要判別模式 X屬于那一類(lèi)，先把 X代入 M個(gè)判別函數(shù)中，判別函數(shù)最大的那個(gè)類(lèi)別就是 X所屬類(lèi)別。 類(lèi)與 類(lèi)之間的邊界可由 gi(x) =gj(x) 或gi(x) gj(x) =0來(lái)確定。 XWxg Kk ?)( MK , . . . ,2,1???? ??小，其它最大，當(dāng) iTkixXWxg ?)(每類(lèi)都 有一個(gè)判別函數(shù) ,存在 M個(gè)判別函數(shù)，這種情況可理解為無(wú)不確定區(qū)的 二分法。 ij??右圖所示是 M=3 的例子。對(duì)于 ω 1類(lèi)模式， 必然滿足 g1(x) g2(x) 和 g1(x) g3(x) 。 假設(shè)判別函數(shù)為： 則判別邊界為： ?????????????23212211)(1)()(xxgxxxgxxxg????????????????????012)()(02)()(012)()(21322131121xxxgxgxxxgxgxxgxg2?)()( 21 xgxg ?)()( 32 xgxg ?)()( 31 xgxg ?1?3?結(jié)論： 不確定區(qū)間沒(méi)有了，所以這種是最好情況 。 用上列方程組作圖如下： 1??????)()()()(3121xgxgxgxg2??????)()()()(3212xgxgxgxg?????)()()()(1323xgxgxgxg3?0)()( 32 ?? xgxg??????0)()( 21 ?? xgxg0)()( 31 ?? xgxg問(wèn)假設(shè)未知模式 x= (x1,x2)T= (1,1)T ，則 x屬于那一類(lèi)。 把它代入判別函數(shù)： 得判別函數(shù)為： 因?yàn)? 所以模式 x= (1,1)T屬于 類(lèi)。 2?)()(),()( 1232 xgxgxgxg ??1)(,1)(,0)( 321 ???? xgxgxg).(),(),( 321 xgxgxg1??????)()()()(3121xgxgxgxg2??????)()()()(3212xgxgxgxg?????)()()()(1323 xgxg xgxg3?0)()( 32 ?? xgxg????? ?0)()( 21 ?? xgxg0)()( 31 ?? xgxg關(guān)于線性判別函數(shù)的結(jié)論： ?模式類(lèi)別若可用任一線性判別函數(shù)來(lái)劃分，這些模式就稱(chēng)為線性可分；一旦線性判別函數(shù)的參數(shù)確定，這些函數(shù)即可作為模式分類(lèi)的基礎(chǔ)。 ?對(duì)于 M（ M≥2）類(lèi)模式分類(lèi)，第一、三種情況需要M個(gè)判別函數(shù)，第兩種情況需要 M(M1)/2個(gè)判別函數(shù)。 ?對(duì)于第一種情況，每個(gè)判別函數(shù)都要把一種類(lèi)別（比如 i類(lèi)）的模式與其余 M1種類(lèi)別的模式劃分開(kāi)，而不是僅將一類(lèi)與另一類(lèi)劃分開(kāi)。 ?實(shí)際上，一個(gè)類(lèi)的模式分布要比 M1類(lèi)模式分布更聚集，因此后兩種情況實(shí)現(xiàn)模式線性可分的可能性要更大一些。 167。 廣義線性判別函數(shù) ?研究動(dòng)機(jī) ?線性判別函數(shù)簡(jiǎn)單，容易實(shí)現(xiàn)； ?非線性判別函數(shù)復(fù)雜，不容易實(shí)現(xiàn)； ?若能將非線性判別函數(shù)轉(zhuǎn)換為線性判別函數(shù)，則有利于模式分類(lèi)的實(shí)現(xiàn)。 ?基本思想 設(shè)一模式集 {x}，在模式空間 x中線性不可分，但在模式空間x*中線性可分，其中 x*的各個(gè)分量是 x的單值實(shí)函數(shù)， x*的維數(shù) k高于 x的維數(shù) n，即 x* = (f1(x), f2(x), …., f k(x)), kn 則分類(lèi)界面在 x*空間是線性的，在 x空間是非線性的，此時(shí)只要將模式 x進(jìn)行非線性變換，使之變換后得到維數(shù)更高的模式 x*，就可用線性判別函數(shù)進(jìn)行分類(lèi)。 ?廣義線性判別函數(shù) 若將非線性判別函數(shù)表示為： ? ? ? ? ? ? ? ? 12211 ?????? kkk wxfwxfwxfwxg ?式中 是模式 x的單值函數(shù)，若定義成廣義形式： ? ?? ?kixf i ,2,1, ??? ? ? ? ? ?? ?* 12 , , , ,1kf x f x f x?x其中， ， 且 ? ?1 2 1, , , ,kkw w w w ??w? ? *g ??x w x于是，有 ? ? ? ?*gg?xx由此可知，非線性判別函數(shù)已變換成線性，稱(chēng)為廣義線性判別函數(shù)。 ?廣義線性判別函數(shù)的意義 ?線性的判別函數(shù) ：若 fi(x)=ax+b是一次函數(shù)，這相當(dāng)于把 x空間進(jìn)行了尺度放縮和平移，并且在相同的尺度因子和位移因子上做變換，那么變換后仍然具有相似的線性特征。 ?fi(x)選用二次多項(xiàng)式函數(shù) ： ?對(duì)于二維情況：模式空間為 ，原判別函數(shù)為： 可線性化為： 其中 ),( 21 xxx ?? ? 221 1 1 1 2 1 2 2 2 2 1 1 2 2 3( ) ( )g x w x w x x w x w x w x w? ? ? ? ? ?? ?**g ??x w x? ?* 2 21 1 2 2 1 2, , , , , 1x x x x x x?x? ?1 1 1 2 2 2 1 2 3, , , , ,w w w w w w?w?對(duì)于 n維情況，則有 ? ?1211 1 1 1()n n n ni i i i j i j i i ni i j i ig x w x w x x w x w??? ? ? ? ?? ? ? ?? ? ? ?式中各項(xiàng)的組成包括 x各個(gè)分量的二次項(xiàng)、一次項(xiàng)和 wn+1項(xiàng)，其總項(xiàng)數(shù)為 ? ? ? ? ? ?121 / 2 12nnn n n n??? ? ? ? ?????顯然， x*的維數(shù)比 x高， w分量的數(shù)目亦與 x*的維數(shù)相同。 x*的各分量的一般式為 ? ? 12 12, , 1 , 2 , , 。 , 0 ,1sti p pf x x x p p n s t? ? ??fi(x)為 r次多項(xiàng)式函數(shù)， x是 n維的情況，則 ? ? ? ? ? ? ? ?1,0,。,2,1,21212211???rrspspspisssnpppxxxxf rr???? 其中于是，判別函數(shù) g(x)可按如下遞推： ? ? ? ?0 1ng x w ??? ? ? ? ? ? ? ?11110npppg x w x g x???? ? ? ? ? ? ? ?1 2 1 21 2 121nnp p p pp p pg x w x x g x?????? ? ? ?? ? ? ?1 2 1 21 2 1 121 rrrrn n np p p p p pp p p p prg x w x x xgx??????? ? ?討論： (1) g(x)的總項(xiàng)數(shù)為： 顯然， Nw隨 r和 n的增加會(huì)迅速增大，即使原來(lái)模式 x的維數(shù)不高，若采用次數(shù) r較高的多項(xiàng)式來(lái)變換，也會(huì)使變換后的模式 x*的維數(shù)很高，給分類(lèi)帶來(lái)很大困難（稱(chēng)為 維數(shù)災(zāi)難 ）。實(shí)際上，一般 r只取 2。 (2)采用二次多項(xiàng)式函數(shù) fi(x)的判別函數(shù)也可用矩陣形式表示： 式中， A為實(shí)對(duì)稱(chēng)矩陣。判別界面的幾何形狀由矩陣A決定：若 A=I，則判別函數(shù)為超球面；若 A為正定，則判別函數(shù)為超橢球面，軸方向?yàn)?A的本征向量方向；A為半正定，判別函數(shù)為超橢圓柱面； A為不定，判別函數(shù)為超雙曲面體。 ? ?!!!rnrnCN rrnw????? ? cxxxxg ????? bA167。 線性判別函數(shù)的性質(zhì) 一、模式空間與加權(quán)空間： ? 模式空間：由 構(gòu)成的 n維歐氏空間 。 ? W是此空間的加權(quán)向量，它決定模式的分界面 H， W與 H正交。
醫(yī)療健康相關(guān)推薦
鄂ICP備17016276號(hào)-1