1672-1、判別函數(shù)1672-2、線性判別函數(shù)1672-3、線性判別函數(shù)的(存儲版)
【正文】 2113122111wxwxwwxwxwwxwxwwxwxw1 2 1( ) 0( , , . . . , , )Tnng x W XW w w w w ????2020/11/23 31 g(x)=WTX=0決定一個決策界面 ， 當(dāng) g(x)為線性時，這個決策界面便是一個超平面 H， 并有以下性質(zhì)： 性質(zhì) ①： W與 H正交（如下圖所示） 假設(shè) x1,x2是 H上的兩個向量 所以 W 與 (x1x2) 垂直，即 W與 H正交。的正側(cè)，在代數(shù)距離。時，線性可分概率為時，即值，對于任意。 2廣義線性判別函數(shù) kixfwwxfwxfwxfwxgkiiikkk, .. .,2,1,)()(. ..)()()(1112211??????????? 這樣一個非線性判別函數(shù)通過映射，變換成線性判別函數(shù)。 ), .. .,( 21 liiii ???? ? 167。 A∧ B取最小 ， A∨ B取最大。則?？捎脕碚{(diào)整二類錯誤率判別規(guī)則：判別平面方程：21212221212211111221111211221,0,0)(0)()()(2)()()()(kkxxxgkkxxxxgxgxgTTTT???????????????????????????????????????1x2x?1?2?? 二次分界面關(guān)于二次判別函數(shù)，我們將在貝葉斯分類器中詳細(xì)論述。 ∴ Pi=Li1∧ Li2∧ … ∧ Lim 假設(shè)對于每個子類線性判別函數(shù) Lij都設(shè)計成： ???????21,0,0??xPxP則則判別規(guī)則：2020/11/23 53 例、設(shè)如圖 個分段判別函數(shù)有判別函數(shù)個數(shù)：這樣它有三個子類。為其中 lililili wxwxg ?,)( ?)(m a x)( ,.....,2,1 xgxg lilli ??2020/11/23 50 在各子類中找最大的判別函數(shù)作為此類的代表，則對于 M類，可定義 M個判別函數(shù) gi(x),i=1,2,…..M,因此，決策規(guī)則： 對未知模式 x， 把 x先代入每類的各子類的判別函數(shù)中，找出一個最大的子類判別函數(shù)， M類有 M個最大子類判別函數(shù)，在 M個子類最大判別函數(shù)中，再找一個最大的，則 x就屬于最大的子類判別函數(shù)所屬的那一類。 判別規(guī)則： 這是在 M類中找最近均值。 ②：如果訓(xùn)練樣本 N太多時 ，則樣本太多，運算量、存儲量太大。 2020/11/23 39 1 2 3 4 5 6 1 2 2 2 2 2 2 2 4 4 4 4 4 4 3 6 8 8 8 8 8 4 8 14 16 16 16 16 5 10 22 30 32 32 32 n),( nNDN???????????????nkkNNN nNCnNnNDnNP011 1,21,12),(),(若若線性可分概率： 2020/11/23 40 ),( nNP0543211?n5?n15?n??n1Nn? ? ?強。說明超平面則若在原點負(fù)側(cè)。 ? 解向量的變動范圍稱為解區(qū)。 加權(quán)空間：以 為變量構(gòu)成的歐氏空間 模式空間與加權(quán)空間的幾何表示如下圖： XWxg Ti?)(TnxxxxX ),. ..,( 321?121 ,. .. , ?n模式空間 2X1X1?2?1x3x4x0)( ?xg邊界? ?2xHW2020/11/23 24 模式空間 2020/11/23 25 該式表示一個通過加權(quán)空間原點的平面，此平面就是加權(quán)空間圖中的平面① ,同樣令 g (x2) =g (x3) =g (x4)=0， 分別作出通過加權(quán)空間原點的平面②③④，圖中用陰影表示的部分是各平面的正側(cè)。 () TkKg x W X? mK ,...,2,1?0)()()()( ??? xgxgxgxg ijji 或0)()()()( ??? xgxgxgxg ijji 或() iTkk xg x W X ???? ??最 大 ， 當(dāng)小 ， 其 它2020/11/23 20 右圖所示是 m=3 的例子。 另一種情況是 IR2區(qū)域，判別函數(shù)都為負(fù)值?？煞秩N情況： ：每一模式類與其它模式類間可用單個判別平面把一個類分開。 22 線性判別函數(shù) 我們現(xiàn)在對兩類問題和多類問題分別進(jìn)行討論。2020/11/23 1 167。 維空間的一個向量是 n),...,( 321XxxxxX Tn?2020/11/23 3 例如下圖：三類的分類問題，它們的邊界線就是一個判別函數(shù) 1?2?3?邊界2x1x2020/11/23 4 判別函數(shù)包含兩類： 一類是線性判別函數(shù)： ?線性判別函數(shù) ?廣義線性判別函數(shù) 所謂廣義線性判別函數(shù)就是把非線性判別函數(shù)映射到另外一個空間變成線性判別函數(shù) ?分段線性判別函數(shù) 另一類是非線性判別函數(shù) 2020/11/23 5 167。 ????????21,0,0)(??xxXWxg T2020/11/23 9 (二 ) 多類問題 對于多類問題，模式有 ω1 ,ω2 , … , ω m 個類別。如圖中 IR1,IR3， IR4區(qū)域。類與類之間的邊界可由 來確定。 W是此空間的加權(quán)向量，它決定模式的分界面 H， W與 H正交。如圖： ? 給定一個模式 X， 就決定一條直線： ? 即分界面 H， W與 H正交， W稱為解向量。在因為 這是超平面的第二個性質(zhì)，矢量 x到超平面的正交投影 正比與
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1