北大svm講義ppt課件(完整版)
【正文】 替向高維空間的非線性映射 。 網(wǎng)絡(luò)研究所 最優(yōu)分類面 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 Fisher線性判別方法 ? 如： Fisher線性判別方法 ， 主要解決把 d維空間的樣本投影到一條直線上 ， 形成一維空間 ，即把維數(shù)壓縮到一維 。 網(wǎng)絡(luò)研究所 廣義線性判別函數(shù) 在一維空間中 ， 沒(méi)有任何一個(gè)線性函數(shù)能解決下述劃分問(wèn)題 （ 黑紅各代表一類數(shù)據(jù) ） ， 可見(jiàn)線性判別函數(shù)有一定的局限性 。 總之 ： ?線性判別函數(shù)利用一個(gè)超平面把特征空間分隔成兩個(gè)區(qū)域。 0() Tg x w x w??信息科學(xué)技術(shù)學(xué)院 ?形成時(shí)期在 1992— 1995年。 ? 推廣能力 是指 : 將學(xué)習(xí)機(jī)器 (即預(yù)測(cè)函數(shù) ,或稱學(xué)習(xí)函數(shù)、學(xué)習(xí)模型 )對(duì)未來(lái)輸出進(jìn)行正確預(yù)測(cè)的能力。支持向量機(jī) （ support vector machine， SVM） Wang Jimin Nov 18, 2022 信息科學(xué)技術(shù)學(xué)院 信息科學(xué)技術(shù)學(xué)院 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 超平面 ? 方程 g(x)=0定義了一個(gè)判定面 ， 它把歸類于 C1的點(diǎn)與歸類于 C2的點(diǎn)分開(kāi)來(lái) 。 ?超平面的方向由法向量 w確定，它的位置由閾值 w0確定。 信息科學(xué)技術(shù)學(xué)院 ? 然而在 d維空間分得很好的樣本投影到一維空間后 ， 可能混到一起而無(wú)法分割 。 網(wǎng)絡(luò)研究所 如何求最優(yōu)分類面 信息科學(xué)技術(shù)學(xué)院 ? ② 對(duì)特征空間劃分的最優(yōu)超平面是 SVM的目標(biāo) ,最大化分類邊際的思想是 SVM方法的核心 。這種 “ 魯棒 ” 性主要體現(xiàn)在 : ? ① 增、刪非支持向量樣本對(duì)模型沒(méi)有影響 。 信息科學(xué)技術(shù)學(xué)院 ? 解決方法如：縮減集 (Reduced Set) SVM方法，采用縮減集代替支持向量集 ,縮減集中的向量不是支持向量 ,數(shù)目比支持向量少 ,但它們?cè)诜诸悰Q策函數(shù)中的形式與支持向量相同。 網(wǎng)絡(luò)研究所 多類 SVM算法 ? SVM本質(zhì)上是兩類分類器 . ? 常用的 SVM多值分類器構(gòu)造方法有 : 信息科學(xué)技術(shù)學(xué)院 ? SVM訓(xùn)練算法 ? 傳統(tǒng)的利用標(biāo)準(zhǔn)二次型優(yōu)化技術(shù)解決對(duì)偶問(wèn)題的方法 ,是 SVM訓(xùn)練算法慢及受到訓(xùn)練樣本集規(guī)模制約的主要原因。 ? ③ 有些成功的應(yīng)用中 ,SVM 方法對(duì)核的選取不敏感。 ? SVM 是一種有堅(jiān)實(shí)理論基礎(chǔ)的新穎的小樣本
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1