[工學(xué)]第5章線性判別函數(shù)-展示頁
2024-10-25 18:49本頁面
【正文】 是決策面方程 ，它是兩類模式的分界，對(duì)于二維空間情況，它是一條直線；對(duì)于三維情況，它是一個(gè)平面；而對(duì)于高維空間的情況，則是一個(gè)超平面 0Xg( )= 構(gòu)造一個(gè) 二類模式 的線性分類器，如下圖所示 ： 10 線性判別函數(shù)的幾何意義 ?決策面 (decision boundary) H 方程： g(x)=0 ?決策面將特征空間分成 決策區(qū)域 ?向量 w是決策面 H的法向量 ?g(x)是點(diǎn) x到?jīng)Q策面 H的距離的一種代數(shù)度量 ,()ppgrrrHH????wxxwxxxwx是 到 的 垂 直 距 離是 在 上 的 投 影 向 量 x1 x2 w x xp r H: g=0 R1: g0 R2: g0 w0w? ?xwg?11 線性判別函數(shù)的幾何意義 TTT0000T0( ) xwxxww w wx w w xxxxxwwwwpp ppWwrHHrg w r w rrwr??? ? ? ? ?? ? ???是 到 的 垂 直 距 離是 在 上 的 投 影 向 量（ ） ）x1 x2 w x xp r H: g=0 R1: g0 R2: g0 w0w? ?xwg?結(jié)論： 利用線性判別函數(shù)進(jìn)行決策，就是用一個(gè)超平面 把特征空間分割成兩個(gè)決策區(qū)域， 超平面方向由權(quán)向量 W決定 ， 它的位置由閾值權(quán) w0確定 =0 12 廣義線性判別函數(shù) ? 線性判別函數(shù)是形式最為簡(jiǎn)單的判別函數(shù)，但是它不能用于復(fù)雜情況 ? 例：設(shè)計(jì)一個(gè)一維分類器，使其功能為 ： ( ) ( ) ( )g x x a x b? ? ?判別函數(shù)： 12 xb x a xx b x a ??? ? ??? ? ? ??或 則 決 策如 果則 決 策13 廣義線性判別函數(shù) ? 二次函數(shù)的一般形式： 20 1 2() ? ? ?g x c c x c x? g(x)又可表示成： 映射 X→Y 1 1 02 2 123 3 21ya? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?? ? ? ?? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?y a cy x a cy x a c，31() T iiig x a y??? ?ay14 廣義線性判別函數(shù) ? 按照上述原理，任何非線性函數(shù) g(x)用級(jí)數(shù)展開成高次 多項(xiàng)式 后，都可轉(zhuǎn)化成線性來處理 ? 一種特殊映射方法： 增廣樣本向量 y與增廣權(quán)向量 a ? ?1 , . . . , , 11Tdxx????????xy? ?100, . . . , , Tdw w ww????????wa15 廣義線性判別函數(shù) 0()x w x a y? ? ?TTgw? 增廣樣本向量使特征空間增加了一維，但保持了樣本間的歐氏距離不變，對(duì)于分類效果也與原決策面相同，只是 在 Y空間中決策面是通過坐標(biāo)原點(diǎn)的 ，這在分析某些問題時(shí)具有優(yōu)點(diǎn)，因此經(jīng)常用到。 ? 線性判別函數(shù)的齊次簡(jiǎn)化： nna0 , 1 , 2 , .()N..,aayyxy???TTnNg 如 果 存 在 權(quán) 向 量 使稱 。 答： ? 樣本向量： x = (x1, x2, x3, x4, x5)T ? 權(quán)向量： w = (55, 68, 32, 16, 26)T, w0=10 ? 增廣樣本向量： y = (1, x1, x2, x3, x4, x5)T ? 增廣權(quán)向量： a = (10, 55, 68, 32, 16, 26)T 17 廣義線性判別函數(shù) 例 2： 有一個(gè)三次判別函數(shù)： z=g(x)=x3+2x2+3x+4。 答： 映射 X→ Y如下： 112223334414321yayaxyaxyax? ? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ?ya ，41()(
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1