第11章圖象模式識別(編輯修改稿)
2024-11-03 16:42 本頁面
【文章內(nèi)容簡介】 i wxwd x第 19頁 第 10講 章毓晉 (THEEIE) 感知機 ? 對模式矢量增加第 n + 1個元素 ? 構(gòu)建一個擴充模式矢量 y，讓 yi = xi， i = 1, 2, …, n，且后面加一個元素 yn+1 = 1 其中 y = [y1 y2 … yn 1]T是個擴充模式矢量， w = [w1 w2 … wn wn+1]T是個權(quán)矢量 ? 關(guān)鍵問題：用模式矢量的給定訓(xùn)練集確定 w ywx T11)( ?? ???niii xwd第 20頁 第 10講 章毓晉 (THEEIE) 感知機 1. 線性可分類 由兩個線性可分訓(xùn)練集獲取權(quán)矢量 令 w(1)代表一個任意選定的初始權(quán)矢量 如果 y(k) ? s1， wT(k)y(k) ≤ 0 如果 y(k) ? s2， wT(k)y(k) ≥ 0 否則： )()()1( kckk yww ???)()()1( kckk yww ???)()1( kk ww ??第 21頁 第 10講 章毓晉 (THEEIE) 感知機 1. 線性可分類 兩個訓(xùn)練集，每個包括兩個模式 先將模式擴充，對類 s1得到訓(xùn)練集 {[0 0 1]T, [0 1 1]T}，對類 s2得到訓(xùn)練集 {[1 0 1]T, [1 1 1]T} 第 22頁 第 10講 章毓晉 (THEEIE) 感知機 2. 線性不可分類 最小化實際響應(yīng)和希望響應(yīng)間的誤差 沿 J(w)負梯度的方向逐步增加 w以尋找上述函數(shù)的最小值。最小值應(yīng)在 r = wTy時出現(xiàn) 通用的梯度下降算法可寫成： 2T )(21)( yww ?? rJ)()()()1(kJkk???????????? ?? ? )( )()()()()1( T kkkkrkk yy ???? ?第 23頁 第 10講 章毓晉 (THEEIE) 感知機 2. 線性不可分類 寫成德爾塔（ Delta）校正算法的形式 權(quán)矢量的誤差 誤差的變化量 改變權(quán)重能將誤差減少 a||y(k)||2，下一輪繼續(xù) )()( kke yw ??? ?)()()()( T kkkrke yw??2T )()()()()( kkekkkee yyy ??????? ??第 24頁 第 10講 章毓晉 (THEEIE) 支持向量機 1. 線性可分類 線性分類器的設(shè)計目的：要設(shè)計一個超平面 ? 滿足條件的超平面 一般不惟一 ? 離開兩個類都比較 遠的超平面分類的結(jié)果 會更好些，可能的錯誤率 也會 更小一些 0)( 0T ??? wxg xw第 25頁 第 10講 章毓晉 (THEEIE) 支持向量機 1. 線性可分類 對每個朝向，與兩個類距離相等的超平面應(yīng)該是與兩個類都有最大距離的超平面 確定能給出類距離 最大的朝向的超平面 從一個點到一個超 平面的距離 w/)( xgd ?第 26頁 第 10講 章毓晉 (THEEIE) 支持向量機 1. 線性可分類 對每個類 si，記其標(biāo)號為 ti，其中 t1 = 1， t2 = –1?，F(xiàn)在問題變?yōu)椋河嬎愠矫娴?w和 w0，在滿足下列條件 的情況下最小化 用拉格朗日乘數(shù)法來解 Niwt ii . . . ,2,11)( 0T ???xw221)( wwC ???????Niiii wtwL10TT0 ]1)([21),( xw ??第 27頁 第 10講 章毓晉 (THEEIE) 支持向量機 1
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1