《北大svm講義》ppt課件-文庫吧
2025-04-21 12:18 本頁面
【正文】 utline ?SVM的理論基礎(chǔ) ?線性判別函數(shù)和判別面 ?最優(yōu)分類面 ?支持向量機(jī) ? SVM的研究與應(yīng)用 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 線性判別函數(shù)和判別面 ?一個線性判別函數(shù) (discriminant function)是指由 x的各個分量的線性組合而成的函數(shù) ?兩類情況 :對于兩類問題的決策規(guī)則為 ? 如果 g(x)0， 則判定 x屬于 C1， ? 如果 g(x)0， 則判定 x屬于 C2， ? 如果 g(x)=0， 則可以將 x任意 分到某一類或者拒絕判定 。 0() Tg x w x w??信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 線性判別函數(shù) ? 下圖表示一個簡單的線性分類器，具有 d個輸入的單元，每個對應(yīng)一個輸入向量在各維上的分量值。該圖類似于一個神經(jīng)元。 0() Tg x w x w??信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 超平面 ? 方程 g(x)=0定義了一個判定面 ， 它把歸類于 C1的點與歸類于 C2的點分開來 。 ? 當(dāng) g(x)是線性函數(shù)時 ， 這個平面被稱為 “ 超平面 ” (hyperplane)。 ? 當(dāng) x1和 x2都在判定面上時 ， ? 這表明 w和超平面上任意向量正交 ， 并稱 w為超平面的法向量 。 注意到： x1x2表示 超平面上的一個向量 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 判別函數(shù) g(x)是特征空間中某點 x到超平面的距離的一種代數(shù)度量 從下圖容易看出 | | | |pwx x rw??信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 ? 上式也可以表示為： r= g(x)/||w||。 當(dāng) x=0時 ， 表示原點到超平面的距離 ， r0= g(0)/||w||=w0/||w||， 標(biāo)示在上圖中 。 總之 ： ?線性判別函數(shù)利用一個超平面把特征空間分隔成兩個區(qū)域。 ?超平面的方向由法向量 w確定，它的位置由閾值 w0確定。 ?判別函數(shù) g(x)正比于 x點到超平面的代數(shù)距離（帶正負(fù)號）。當(dāng) x點在超平面的正側(cè)時， g(x)0；當(dāng) x點在超平面的負(fù)側(cè)時， g(x)0 信息科學(xué)技術(shù)學(xué)院 網(wǎng)絡(luò)研究所 多類的情況 ?利用線性判別函數(shù)設(shè)計多類分類器有多種方法 。 例如 ? 可以把 k類問題轉(zhuǎn)化為 k個兩類問題 ， 其中第 i 個問題是用線性判別
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1