神經(jīng)網(wǎng)絡(luò)配套ch12pressv(編輯修改稿)
2025-01-31 16:17 本頁面
【文章內(nèi)容簡介】 ， 落入間隔區(qū)，在分界面的正確一側(cè) 松弛變量 時， 落入分界面的錯誤一側(cè) 此時，使得權(quán)向量和松弛變量最小化代價函數(shù)為 其中 是個常數(shù)，由使用者選定控制對錯分樣本的懲罰程度 支持向量機 ????? NiiT C121),( ??0?i? iiTi bxwy ???? 1)( Ni ,...,2,1?0?C0?i? ix10 ?? i? ixi??1 ix12+ 12 ? 對偶問題為： 尋找 Lagrange乘子 最大化目標(biāo)函數(shù) 滿足約束條件 和 （此項與前面線性可分情況結(jié)果不同） 支持向量機 jNiNjTijijiNii xxyyQ ? ??? ????1 11 21)( ?????? ?Ni ii y1 0? Ci ???012+ 13 ? 支持向量機的設(shè)計算法 – 在能夠進行變換 的情況下： （ 1）在約束條件 和 （或 ）下求函數(shù) 極大值點 ； （ 2）計算最優(yōu)權(quán)值和偏置值： ， ； （ 3）支持向量機的最優(yōu)分界面為： 。 – 在選擇核函數(shù) 避免進行變換情況下，不同處有： （ 1）求函數(shù) 極大值點 ； （ 2）計算最優(yōu)權(quán)值： ，其中 是隱層輸出； （ 3）支持向量機的最優(yōu)分界面為： 支持向量機 ()x??? ?Ni ii y1 0? Ci ???00i? ?1 1 11( ) ( ) ( )2N N N Ti i j i j i ji i jQ y y x x? ? ? ?? ? ?? ? ? ?? ? ?**1()sN i i iiw y x?????*?iTi xwyb ** ??**1( ) ( ) 0N Ti i iiy x x b??? ? ? ??( , )iK x x1 1 11( ) ( , )2N N Ni i j i j i ji i jQ y y K x x? ? ? ?? ? ???? ? ?**1?sNi i iiw y y??? ?*??iy**1( , ) 0N i i iiy K x x b?????12+ 14 ? 支持向量機的特點 – 適合對小樣本數(shù)據(jù)的學(xué)習(xí)，注重樣本自身信息，而非產(chǎn)生樣本的規(guī)律（概率及條件概率等）。 – 網(wǎng)絡(luò)結(jié)構(gòu)簡單，只有一個隱層，隱層的節(jié)點數(shù)由所求得的支持向量個數(shù)自動決定。 – 可以根據(jù)核函數(shù)的選擇自動計算重要的網(wǎng)絡(luò)參數(shù)。 – 在解決模式分類問題方面，能提供較好的泛化性能。 – 有些參數(shù)（如控制對錯分樣本懲罰程度的 C） 不易確定。 – 雖然可以不需知道非線性映射 的具體形式，但非線性映射的核函數(shù) 不易得。判定一個給定的核函數(shù)是否滿足 Mercer定理條件是一件困難事。 – 在待分類的模式為線性不可分時，怎樣控制支持向量的選擇是一個困難的問題。 支持向量機 )(??),( xxK i12+ 15 ? 支持向量機類型的 RBF網(wǎng)絡(luò)和 MLP網(wǎng)絡(luò) – RBF網(wǎng)絡(luò) ? Gauss核函數(shù) ； ? 對所有核相同，由設(shè)計者預(yù)先指定； ? 隱層節(jié)點的數(shù)量由支持向量的個數(shù)自動決定； ? 中心由支持向量的值自動決定。 – 單隱層 MLP網(wǎng)絡(luò) ? Sigmoid核函數(shù)
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1