svm分類器中的最優(yōu)化問題-資料下載頁
2025-08-05 00:04本頁面
【正文】 （用黑圈圈起來的藍(lán)色的數(shù)據(jù)點(diǎn)）的存在，導(dǎo)致分類的超平面發(fā)生了偏離。分類的超平面本應(yīng)該是中間的那根紅線，但是由于離群點(diǎn)的存在，發(fā)生了偏差，變成了中間那條黑色的虛線。這樣一來，當(dāng)我們用這個(gè)學(xué)習(xí)好的SVM分類器對新的數(shù)據(jù)點(diǎn)進(jìn)行分類的時(shí)候就有可能發(fā)生誤判。為了解決這個(gè)問題，我們將離群點(diǎn)移回本來的位置，這就通過在約束條件中添加松弛變量ci(i=1,2,……,n)來實(shí)現(xiàn)，ci就對應(yīng)于數(shù)據(jù)點(diǎn)允許偏離的距離。原來的約束條件式（）就變成 yici≥1 ，i=1,2,……,n （）但是ci的取值也必須受到約束，即i=1nci要盡可能小。那么目標(biāo)函數(shù)就由（）變?yōu)椋? min 122+βi=1nci （）β是一個(gè)參數(shù)，用來控制目標(biāo)函數(shù)中兩項(xiàng)（即尋求間隔最大的分割超平面和保證數(shù)據(jù)點(diǎn)偏差量最?。┑臋?quán)重。那么這個(gè)最優(yōu)化問題變?yōu)椋? min 122+βi=1nci ≥1 ，i=1,2,……,n ci≥0 , i=1,2,……,n其求解方法與第三節(jié)中的方法一致。五、 存在的問題這樣構(gòu)建的分類器對于線性可分的情況很有效，但是對于線性不可分的情況，例如圖（6）中的情況，其效果就不那么好了。需要去構(gòu)造一些新的最優(yōu)化問題來對非線性可分的數(shù)據(jù)進(jìn)行分類。 圖（6）參考文獻(xiàn)《支持向量機(jī)導(dǎo)論》，[美] Nello Cristianini / John ShaweTaylor 著；《Statistical behavior and consistency of classification methods based on convex risk minimization》張潼《Statistical analysis of some multicategory large margin classification methods張潼拉格朗日乘子法和KKT條件A Tutorial on Support Vector Regressio
環(huán)評公示相關(guān)推薦
鄂ICP備17016276號-1