北大svm講義ppt課件-wenkub.com
2025-05-03 12:18 本頁面
【正文】 網(wǎng)絡(luò)研究所 SVM package 信息科學(xué)技術(shù)學(xué)院 對(duì)于大規(guī)模樣本集問題 ,SVM訓(xùn)練得到的支持向量數(shù)目很大 ,則進(jìn)行分類決策時(shí)的計(jì)算代價(jià)就是一個(gè)值得考慮的問題。 ? 目前已提出了許多解決方法和改進(jìn)算法 ,主要是從如何處理大規(guī)模樣本集的訓(xùn)練問題、提高訓(xùn)練算法收斂速度等方面改進(jìn)。 ?支持向量方法也為樣本分析、因子篩選、信息壓縮、知識(shí)挖掘和數(shù)據(jù)修復(fù)等提供了新工具。 信息科學(xué)技術(shù)學(xué)院 ? 少數(shù)支持向量決定了最終結(jié)果 ,這不但可以幫助我們抓住關(guān)鍵樣本、 “ 剔除 ” 大量冗余樣本 ,而且注定了該方法不但算法簡(jiǎn)單 ,而且具有較好的 “ 魯棒 ” 性。它基本上不涉及概率測(cè)度及大數(shù)定律等 ,因此不同于現(xiàn)有的統(tǒng)計(jì)方法。 網(wǎng)絡(luò)研究所 SVM方法的特點(diǎn) ? ① 非線性映射是 SVM方法的理論基礎(chǔ) ,SVM利用內(nèi)積核函數(shù)代替向高維空間的非線性映射 。 網(wǎng)絡(luò)研究所 支持向量機(jī) 上節(jié)所得到的最優(yōu)分類函數(shù)為： ? 該式只包含待分類樣本與訓(xùn)練樣本中的支持向量的內(nèi)積 運(yùn)算，可見 ,要解決一個(gè)特征空間中的最優(yōu)線性分類問題 ,我們只需要知道這個(gè)空間中的內(nèi)積運(yùn)算即可。 網(wǎng)絡(luò)研究所 最優(yōu)分類面 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 Outline ?SVM的理論基礎(chǔ) ?線性判別函數(shù)和判別面 ?最優(yōu)分類面 ?支持向量機(jī) ? SVM的研究與應(yīng)用 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 Fisher線性判別方法 ? 如： Fisher線性判別方法 ， 主要解決把 d維空間的樣本投影到一條直線上 ， 形成一維空間 ，即把維數(shù)壓縮到一維 。 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 廣義線性判別函數(shù) 在一維空間中 ， 沒有任何一個(gè)線性函數(shù)能解決下述劃分問題 （ 黑紅各代表一類數(shù)據(jù) ） ， 可見線性判別函數(shù)有一定的局限性 。 網(wǎng)絡(luò)研究所 多類的情況 ?利用線性判別函數(shù)設(shè)計(jì)多類分類器有多種方法 。 總之 ： ?線性判別函數(shù)利用一個(gè)超平面把特征空間分隔成兩個(gè)區(qū)域。 注意到： x1x2表示 超平面上的一個(gè)向量 信息科學(xué)技術(shù)學(xué)院 0() Tg x w x w??信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 線性判別函數(shù)和判別面 ?一個(gè)線性判別函數(shù) (discriminant function)是指由 x的各個(gè)分量的線性組合而成的函數(shù) ?兩類情況 :對(duì)于兩類問題的決策規(guī)
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1