《北大svm講義》ppt課件(文件)
【正文】 問題 , 在變換空間求最優(yōu)分類面 . 這種變換可能比較復(fù)雜 , 因此這種思路在一般情況下不易實現(xiàn) . * * * *1( ) s g n { } s g n { ( ) }ki i iif x w x b y x x b??? ? ? ? ??信息科學(xué)技術(shù)學(xué)院 ? ② 對特征空間劃分的最優(yōu)超平面是 SVM的目標(biāo) ,最大化分類邊際的思想是 SVM方法的核心 。從本質(zhì)上看 ,它避開了從歸納到演繹的傳統(tǒng)過程 ,實現(xiàn)了高效的從訓(xùn)練樣本到預(yù)報樣本的 “ 轉(zhuǎn)導(dǎo)推理 ” (transductive inference) ,大大簡化了通常的分類和回歸等問題。這種 “ 魯棒 ” 性主要體現(xiàn)在 : ? ① 增、刪非支持向量樣本對模型沒有影響 。 網(wǎng)絡(luò)研究所 Outline ?SVM的理論基礎(chǔ) ?線性判別函數(shù)和判別面 ?最優(yōu)分類面 ?支持向量機 ? SVM的研究與應(yīng)用 信息科學(xué)技術(shù)學(xué)院 信息科學(xué)技術(shù)學(xué)院 ? 主要有：分解方法、修改優(yōu)化問題法、增量學(xué)習(xí)法、幾何方法等分別討論。 ? 解決方法如：縮減集 (Reduced Set) SVM方法，采用縮減集代替支持向量集 ,縮減集中的向量不是支持向量 ,數(shù)目比支持向量少 ,但它們在分類決策函數(shù)中的形式與支持向量相同。 網(wǎng)絡(luò)研究所 Outline ?SVM的理論基礎(chǔ) ?線性判別函數(shù)和判別面 ?最優(yōu)分類面 ?支持向量機 ? SVM的研究與應(yīng)用 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 多類 SVM算法 ? SVM本質(zhì)上是兩類分類器 . ? 常用的 SVM多值分類器構(gòu)造方法有 : 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 SVM分類算法 ? SVM分類算法 ? 訓(xùn)練好 SVM分類器后 ,得到的支持向量被用來構(gòu)成決策分類面。 ? SVM訓(xùn)練算法 ? 傳統(tǒng)的利用標(biāo)準(zhǔn)二次型優(yōu)化技術(shù)解決對偶問題的方法 ,是 SVM訓(xùn)練算法慢及受到訓(xùn)練樣本集規(guī)模制約的主要原因。 ?SVM 通過核函數(shù)實現(xiàn)到高維空間的非線性映射 ,所以適合于解決本質(zhì)上非線性的分類、回歸和密度函數(shù)估計等問題。 ? ③ 有些成功的應(yīng)用中 ,SVM 方法對核的選取不敏感。 網(wǎng)絡(luò)研究所 SVM方法的特點 ? SVM 的最終決策函數(shù)只由少數(shù)的支持向量所確定 ,計算的復(fù)雜性取決于支持向量的數(shù)目 ,而不是樣本空間的維數(shù) ,這在某種意義上避免了 “ 維數(shù)災(zāi)難 ” 。 ? SVM 是一種
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1