文本分類ii-支持向量機(jī)sv(編輯修改稿)
2025-06-15 00:16 本頁(yè)面
【文章內(nèi)容簡(jiǎn)介】 兩個(gè)類別分類 。 廣義線性判別函數(shù) 在一維空間中 ， 沒(méi)有任何一個(gè)線性函數(shù)能解決下述劃分問(wèn)題 （ 黑紅各代表一類數(shù)據(jù) ） ， 可見(jiàn)線性判別函數(shù)有一定的局限性 。 廣義線性判別函數(shù) ? 如果建立一個(gè)二次判別函數(shù) g(x)=(xa)(xb)， 則可以很好的解決上述分類問(wèn)題 。 ? 決策規(guī)則仍是：如果 g(x)0，則判定 x屬于 C1，如果g(x)0，則判定 x屬于 C2，如果 g(x)=0，則可以將 x任意分到某一類或者拒絕判定。 廣義線性判別函數(shù) 廣義線性判別函數(shù) 設(shè)計(jì)線性分類器 Fisher線性判別方法 ? 如： Fisher線性判別方法 ， 主要解決把 d維空間的樣本投影到一條直線上 ， 形成一維空間 ， 即把維數(shù)壓縮到一維 。 ? 然而在 d維空間分得很好的樣本投影到一維空間后 ， 可能混到一起而無(wú)法分割 。 ? 但一般情況下總可以找到某個(gè)方向 ， 使得在該方向的直線上 ，樣本的投影能分開(kāi)的最好 。 ? 目的是降維 ,在低維空間中分割 Outline ? SVM的理論基礎(chǔ) ? 線性判別函數(shù)和判別面 ? 最優(yōu)分類面 ? 支持向量機(jī) ? SVM的研究與應(yīng)用 最優(yōu)分類面 ? SVM 是從線性可分情況下的最優(yōu)分類面發(fā)展而來(lái)的 , 基本思想可用圖 2的兩維情況說(shuō)明 . 圖中 , 方形點(diǎn)和圓形點(diǎn)代表兩類樣本 , H 為分類線 ,H1, H2分別為過(guò)各類中離分類線最近的樣本且平行于分類線的直線 , 它們之間的距離叫做 分類間隔 (margin)。 所謂最優(yōu)分類線就是要求分類線不但能將兩類正確分開(kāi) (訓(xùn)練錯(cuò)誤率為 0),而且使分類間隔最大 . 推廣到高維空間，最優(yōu)分類線就變?yōu)?最優(yōu)分類面 。 最優(yōu)分類面 如何求最優(yōu)分類面 最優(yōu)分類面 Outline ? SVM的理論基礎(chǔ) ? 線性判別函數(shù)和判別面 ? 最優(yōu)分類面 ? 支持向量機(jī) ? SVM的研究與應(yīng)用 支持向量機(jī) 所得到的最優(yōu)分類函數(shù)為： ? 該式只包含待分類樣本與訓(xùn)練樣本中的支持向量的內(nèi)積運(yùn)算，可見(jiàn) ,要解決一個(gè)特征空間中的最優(yōu)線性分類問(wèn)題 ,我們只需要知道這個(gè)空
法律信息相關(guān)推薦
鄂ICP備17016276號(hào)-1