1672-1、判別函數(shù)1672-2、線性判別函數(shù)1672-3、線性判別函數(shù)的(完整版)
【正文】 nT wxw2020/11/23 8 模式分類： g (x) =WTX=0 為判別邊界 。 2線性判別函數(shù)的性質(zhì) 167。 2廣義線性判別函數(shù) 167。 當(dāng) n=2時(shí)，二維情況的判別邊界為一直線。 ω1 類與其它類之間的邊界由 g1(x)=0確定 . 2?1x?????? 0)(2 ?xg0)(3 ?xg2x0)(1 ?xg1?3?1． 第一種情況 2020/11/23 11 例：已知三類 ω1,ω2,ω3的判別函數(shù)分別為： ??????????????1)(5)()(23212211xxgxxxgxxxg因此三個(gè)判別邊界為： ?????????????????01)(05)(0)(23212211xxgxxxgxxxg2020/11/23 12 作圖如下： 3?????????0)(0)(0)(321xgxgxg1?2?????????0)(0)(0)(321xgxgxg????????0)(0)(0)(321xgxgxg? ?????4IR 3IR1IR2IR1x2x0)(1 ?xg0)(2 ?xg0)(3 ?xg5512020/11/23 13 對(duì)于任一模式 X如果它的 g1(x) 0 ， g2(x) 0 ， g3(x) 0 則該模式屬于 ω1類。 對(duì)于兩類問題， M=2， 則有一個(gè)判別平面。 把它代入判別函數(shù)： 得判別函數(shù)為： 因?yàn)? 所以模式 x= (1,1)T屬于 類。這是加權(quán)空間的性質(zhì)。即 Ω1,Ω2空間，當(dāng) x在 Ω1空間時(shí) g(x)0,W指向 Ω1，為 H的正側(cè)，反之為 H的負(fù)側(cè) . 上矢量一定在 HxxxxWwxWwxWTnTnT)(,0)(021211211???????? ??超平面的幾何性質(zhì) 2020/11/23 32 1x2X1X2xWHΩ1 Ω2 g(x)0 g(x)0 2020/11/23 33 矢量到 H的正交投影 與 值成正比 其中： x p： x在 H 的投影向量 ， r是 x 到 H 的垂直距離。的位置由超平面決定正交，方向由的平面與）超平面（結(jié)論：,0)()()()(1??xgHxHxxgcWHbWWHan2020/11/23 37 一組模式樣本不一定是線性可分的，所以需要研究線性分類能力的方法，對(duì)任何容量為 N的樣本集，線性可分的概率多大呢？ （如下圖（ a）， 線性不可分） 例： 4個(gè)樣本有幾種分法。 由圖討論： 2020/11/23 41 .2),1(2:)(,),1(22:)(0是最好情況即二分能力）的估計(jì)：個(gè)樣本的線性可分性（對(duì)多線性可分能力越差。 （廣義增值模式向量） 其中： 例：如右圖。 211 )( ??? xxglx 1??322 )( ??? xxg22?12?32?21?11?11?12?32?22?21?x2020/11/23 49 設(shè) ω＝ ω1, ω2 ,…… ωm 而每一類又可以分為 子類。 2020/11/23 52 120 , , 1 , 2 , . . . ,0 , , 1 , 2 , . . . ,i j i jx i qL w xx j m??? ? ???? ? ? ??子 類 。是其中：,(1)3(21)(n2)(11 1 10120???????????? ? ???? ?? ??nnlxgWnnWWxwxxwxwWXWXWXxgnj jinjjjijjiniiiiTT分布分散。二次決策面為超二次曲21)1((??協(xié)方差為均值，為其中：大小。對(duì)于多峰二類問題：設(shè)第一類有 q個(gè)峰，則有 q個(gè)凹函數(shù)。若用 線性判別函數(shù)代表一類，就會(huì)克服上述情況。 （用均值代表一類，通過均值連線中點(diǎn)的垂直線分開） 把 ω i類可以分成 l個(gè)子類 : ∴ 分成 l個(gè)子類。因?yàn)橐阎獦颖居邢?，而未知樣本無限。即概率為 14/16。 W)x(gr ? 性質(zhì) ②： WWrxrxxpp ????)(xgx rWWq2X1XpxWxHpr2020/11/23 34 另一方面 : 11 )()( ?? ????? npTnT wrxWwxWxg1???? nTpT wrWxW)(,)()()(021WWWrWxgrWrWWWrWWrWrWxgwxWHpTTTTnpT????????????是投影的絕對(duì)值上。 TW ),( 321?2020/11/23 27 加權(quán)空間判別界面2020/11/23 28 正規(guī)化后的加權(quán)空間 2020/11/23 29 ? 在三維空間里，令 w3 = 0 則為二維權(quán)空間。 模式空間與加權(quán)空間 模式空間：由 構(gòu)成的 n維歐氏空間。 判別函數(shù)： 判別邊界： 判別條件： XW)x(g Tijij ?o)x(g ij ?jixg ij ???
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1