北大svm講義ppt課件-免費(fèi)閱讀
【正文】 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 支持向量機(jī)的研究 ? 對(duì)支持向量機(jī)的研究主要集中在對(duì) SVM本身性質(zhì)的研究以及加大支持向量機(jī)應(yīng)用研究的深度和廣度兩方面。 ? ② 支持向量樣本集具有一定的魯棒性 。 ? ③ 支持向量是 SVM的訓(xùn)練結(jié)果 ,在 SVM分類決策中起決定作用的是支持向量。 網(wǎng)絡(luò)研究所 最優(yōu)分類面 信息科學(xué)技術(shù)學(xué)院 ? 但一般情況下總可以找到某個(gè)方向 ， 使得在該方向的直線上 ，樣本的投影能分開(kāi)的最好 。 網(wǎng)絡(luò)研究所 廣義線性判別函數(shù) ? 如果建立一個(gè)二次判別函數(shù) g(x)=(xa)(xb)， 則可以很好的解決上述分類問(wèn)題 。 ?判別函數(shù) g(x)正比于 x點(diǎn)到超平面的代數(shù)距離（帶正負(fù)號(hào)）。 ? 當(dāng) g(x)是線性函數(shù)時(shí) ， 這個(gè)平面被稱為 “ 超平面 ” (hyperplane)。 網(wǎng)絡(luò)研究所 SVM ? 由于 SVM 的求解最后轉(zhuǎn)化成二次規(guī)劃問(wèn)題的求解，因此 SVM 的解是全局唯一的最優(yōu)解 ? SVM在解決小樣本、非線性及高維模式識(shí)別問(wèn)題中表現(xiàn)出許多特有的優(yōu)勢(shì)，并能夠推廣應(yīng)用到函數(shù)擬合等其他機(jī)器學(xué)習(xí)問(wèn)題中 ? Joachims 最近采用 SVM在 Reuters21578來(lái)進(jìn)行文本分類，并聲稱它比當(dāng)前發(fā)表的其他方法都好 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 過(guò)學(xué)習(xí)問(wèn)題 ?“過(guò)學(xué)習(xí)問(wèn)題 ” ：某些情況下，當(dāng)訓(xùn)練誤差過(guò)小反而會(huì)導(dǎo)致推廣能力的下降。 網(wǎng)絡(luò)研究所 Outline ?SVM的理論基礎(chǔ) ?線性判別函數(shù)和判別面 ?最優(yōu)分類面 ?支持向量機(jī) ? SVM的研究與應(yīng)用 信息科學(xué)技術(shù)學(xué)院 而 單純的經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化會(huì)產(chǎn)生 “ 過(guò)學(xué)習(xí)問(wèn)題 ” ，其推廣能力較差。 ? Vapnik 提出的支持向量機(jī)（ Support Vector Machine, SVM）以訓(xùn)練誤差作為優(yōu)化問(wèn)題的約束條件，以置信范圍值最小化作為優(yōu)化目標(biāo)，即 SVM是一種基于結(jié)構(gòu)風(fēng)險(xiǎn)最小化準(zhǔn)則的學(xué)習(xí)方法，其推廣能力明顯優(yōu)于一些傳統(tǒng)的學(xué)習(xí)方法。該圖類似于一個(gè)神經(jīng)元。 當(dāng) x=0時(shí) ， 表示原點(diǎn)到超平面的距離 ， r0= g(0)/||w||=w0/||w||， 標(biāo)示在上圖中 。 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 設(shè)計(jì)線性分類器 信息科學(xué)技術(shù)學(xué)院 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 核函數(shù)的選擇 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 SVM方
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1