北大svm講義ppt課件-wenkub
2023-05-21 12:18:54 本頁面
【正文】 則為 ? 如果 g(x)0， 則判定 x屬于 C1， ? 如果 g(x)0， 則判定 x屬于 C2， ? 如果 g(x)=0， 則可以將 x任意 分到某一類或者拒絕判定 。 ?形成時(shí)期在 1992— 1995年。無論這些樣本是由什么模型產(chǎn)生的，我們總可以用y=sin(w*x)去擬合，使得訓(xùn)練誤差為 0. 信息科學(xué)技術(shù)學(xué)院 ? 推廣能力 是指 : 將學(xué)習(xí)機(jī)器 (即預(yù)測函數(shù) ,或稱學(xué)習(xí)函數(shù)、學(xué)習(xí)模型 )對(duì)未來輸出進(jìn)行正確預(yù)測的能力。 統(tǒng)計(jì)學(xué)習(xí)理論（ STL）研究有限樣本情況下的機(jī)器學(xué)習(xí)問題。支持向量機(jī) （ support vector machine， SVM） Wang Jimin Nov 18, 2022 信息科學(xué)技術(shù)學(xué)院 SVM的理論基礎(chǔ)就是統(tǒng)計(jì)學(xué)習(xí)理論。 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 SVM ? 根據(jù)統(tǒng)計(jì)學(xué)習(xí)理論，學(xué)習(xí)機(jī)器的實(shí)際風(fēng)險(xiǎn)由經(jīng)驗(yàn)風(fēng)險(xiǎn)值和置信范圍值兩部分組成。 信息科學(xué)技術(shù)學(xué)院 0() Tg x w x w??信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 超平面 ? 方程 g(x)=0定義了一個(gè)判定面 ， 它把歸類于 C1的點(diǎn)與歸類于 C2的點(diǎn)分開來 。 網(wǎng)絡(luò)研究所 判別函數(shù) g(x)是特征空間中某點(diǎn) x到超平面的距離的一種代數(shù)度量 從下圖容易看出 | | | |pwx x rw??信息科學(xué)技術(shù)學(xué)院 ?超平面的方向由法向量 w確定，它的位置由閾值 w0確定。 例如 ? 可以把 k類問題轉(zhuǎn)化為 k個(gè)兩類問題 ， 其中第 i 個(gè)問題是用線性判別函數(shù)把屬于 Ci類與不屬于 Ci類的點(diǎn)分開 。 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 廣義線性判別函數(shù) 信息科學(xué)技術(shù)學(xué)院 ? 然而在 d維空間分得很好的樣本投影到一維空間后 ， 可能混到一起而無法分割 。 網(wǎng)絡(luò)研究所 最優(yōu)分類面 ? SVM 是從線性可分情況下的最優(yōu)分類面發(fā)展而來的 , 基本思想可用圖 2的兩維情況說明 . 圖中 , 方形點(diǎn)和圓形點(diǎn)代表兩類樣本 , H 為分類線 ,H1, H2分別為過各類中離分類線最近的樣本且平行于分類線的直線 , 它們之間的距離叫做 分類間隔 (margin)。 網(wǎng)絡(luò)研究所 如何求最優(yōu)分類面 信息科學(xué)技術(shù)學(xué)院 ? 對(duì)非線性問題 , 可以通過非線性變換轉(zhuǎn)化為某個(gè)高維空間中的線性
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1