北大svm講義ppt課件(存儲(chǔ)版)
【正文】 法的特點(diǎn) ? SVM 的最終決策函數(shù)只由少數(shù)的支持向量所確定 ,計(jì)算的復(fù)雜性取決于支持向量的數(shù)目 ,而不是樣本空間的維數(shù) ,這在某種意義上避免了 “ 維數(shù)災(zāi)難 ” 。 ?SVM 通過(guò)核函數(shù)實(shí)現(xiàn)到高維空間的非線性映射 ,所以適合于解決本質(zhì)上非線性的分類、回歸和密度函數(shù)估計(jì)等問(wèn)題。 網(wǎng)絡(luò)研究所 SVM分類算法 ? SVM分類算法 ? 訓(xùn)練好 SVM分類器后 ,得到的支持向量被用來(lái)構(gòu)成決策分類面。 網(wǎng)絡(luò)研究所 Outline ?SVM的理論基礎(chǔ) ?線性判別函數(shù)和判別面 ?最優(yōu)分類面 ?支持向量機(jī) ? SVM的研究與應(yīng)用 信息科學(xué)技術(shù)學(xué)院 ? 主要有：分解方法、修改優(yōu)化問(wèn)題法、增量學(xué)習(xí)法、幾何方法等分別討論。 網(wǎng)絡(luò)研究所 Outline ?SVM的理論基礎(chǔ) ?線性判別函數(shù)和判別面 ?最優(yōu)分類面 ?支持向量機(jī) ? SVM的研究與應(yīng)用 信息科學(xué)技術(shù)學(xué)院 從本質(zhì)上看 ,它避開(kāi)了從歸納到演繹的傳統(tǒng)過(guò)程 ,實(shí)現(xiàn)了高效的從訓(xùn)練樣本到預(yù)報(bào)樣本的 “ 轉(zhuǎn)導(dǎo)推理 ” (transductive inference) ,大大簡(jiǎn)化了通常的分類和回歸等問(wèn)題。 ? 對(duì)非線性問(wèn)題 , 可以通過(guò)非線性變換轉(zhuǎn)化為某個(gè)高維空間中的線性問(wèn)題 , 在變換空間求最優(yōu)分類面 . 這種變換可能比較復(fù)雜 , 因此這種思路在一般情況下不易實(shí)現(xiàn) . * * * *1( ) s g n { } s g n { ( ) }ki i iif x w x b y x x b??? ? ? ? ??信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 最優(yōu)分類面 ? SVM 是從線性可分情況下的最優(yōu)分類面發(fā)展而來(lái)的 , 基本思想可用圖 2的兩維情況說(shuō)明 . 圖中 , 方形點(diǎn)和圓形點(diǎn)代表兩類樣本 , H 為分類線 ,H1, H2分別為過(guò)各類中離分類線最近的樣本且平行于分類線的直線 , 它們之間的距離叫做 分類間隔 (margin)。 網(wǎng)絡(luò)研究所 廣義線性判別函數(shù) 信息科學(xué)技術(shù)學(xué)院 例如 ? 可以把 k類問(wèn)題轉(zhuǎn)化為 k個(gè)兩類問(wèn)題 ， 其中第 i 個(gè)問(wèn)題是用線性判別函數(shù)把屬于 Ci類與不屬于 Ci類的點(diǎn)分開(kāi) 。 網(wǎng)絡(luò)研究所 判別函數(shù) g(x)是特征空間中某點(diǎn) x到超平面的距離的一種代數(shù)度量 從下圖容易看出 | | | |pwx x rw??信息科學(xué)技術(shù)學(xué)院 0() Tg
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1