第11章圖象模式識(shí)別(編輯修改稿)
2024-11-03 16:42 本頁面
【文章內(nèi)容簡(jiǎn)介】 i wxwd x第 19頁 第 10講 章毓晉 (THEEIE) 感知機(jī) ? 對(duì)模式矢量增加第 n + 1個(gè)元素 ? 構(gòu)建一個(gè)擴(kuò)充模式矢量 y，讓 yi = xi， i = 1, 2, …, n，且后面加一個(gè)元素 yn+1 = 1 其中 y = [y1 y2 … yn 1]T是個(gè)擴(kuò)充模式矢量， w = [w1 w2 … wn wn+1]T是個(gè)權(quán)矢量 ? 關(guān)鍵問題：用模式矢量的給定訓(xùn)練集確定 w ywx T11)( ?? ???niii xwd第 20頁 第 10講 章毓晉 (THEEIE) 感知機(jī) 1. 線性可分類 由兩個(gè)線性可分訓(xùn)練集獲取權(quán)矢量 令 w(1)代表一個(gè)任意選定的初始權(quán)矢量 如果 y(k) ? s1， wT(k)y(k) ≤ 0 如果 y(k) ? s2， wT(k)y(k) ≥ 0 否則： )()()1( kckk yww ???)()()1( kckk yww ???)()1( kk ww ??第 21頁 第 10講 章毓晉 (THEEIE) 感知機(jī) 1. 線性可分類 兩個(gè)訓(xùn)練集，每個(gè)包括兩個(gè)模式 先將模式擴(kuò)充，對(duì)類 s1得到訓(xùn)練集 {[0 0 1]T, [0 1 1]T}，對(duì)類 s2得到訓(xùn)練集 {[1 0 1]T, [1 1 1]T} 第 22頁 第 10講 章毓晉 (THEEIE) 感知機(jī) 2. 線性不可分類 最小化實(shí)際響應(yīng)和希望響應(yīng)間的誤差 沿 J(w)負(fù)梯度的方向逐步增加 w以尋找上述函數(shù)的最小值。最小值應(yīng)在 r = wTy時(shí)出現(xiàn) 通用的梯度下降算法可寫成： 2T )(21)( yww ?? rJ)()()()1(kJkk???????????? ?? ? )( )()()()()1( T kkkkrkk yy ???? ?第 23頁 第 10講 章毓晉 (THEEIE) 感知機(jī) 2. 線性不可分類 寫成德爾塔（ Delta）校正算法的形式 權(quán)矢量的誤差 誤差的變化量 改變權(quán)重能將誤差減少 a||y(k)||2，下一輪繼續(xù) )()( kke yw ??? ?)()()()( T kkkrke yw??2T )()()()()( kkekkkee yyy ??????? ??第 24頁 第 10講 章毓晉 (THEEIE) 支持向量機(jī) 1. 線性可分類 線性分類器的設(shè)計(jì)目的：要設(shè)計(jì)一個(gè)超平面 ? 滿足條件的超平面 一般不惟一 ? 離開兩個(gè)類都比較 遠(yuǎn)的超平面分類的結(jié)果 會(huì)更好些，可能的錯(cuò)誤率 也會(huì) 更小一些 0)( 0T ??? wxg xw第 25頁 第 10講 章毓晉 (THEEIE) 支持向量機(jī) 1. 線性可分類 對(duì)每個(gè)朝向，與兩個(gè)類距離相等的超平面應(yīng)該是與兩個(gè)類都有最大距離的超平面 確定能給出類距離 最大的朝向的超平面 從一個(gè)點(diǎn)到一個(gè)超 平面的距離 w/)( xgd ?第 26頁 第 10講 章毓晉 (THEEIE) 支持向量機(jī) 1. 線性可分類 對(duì)每個(gè)類 si，記其標(biāo)號(hào)為 ti，其中 t1 = 1， t2 = –1?，F(xiàn)在問題變?yōu)椋河?jì)算超平面的 w和 w0，在滿足下列條件 的情況下最小化 用拉格朗日乘數(shù)法來解 Niwt ii . . . ,2,11)( 0T ???xw221)( wwC ???????Niiii wtwL10TT0 ]1)([21),( xw ??第 27頁 第 10講 章毓晉 (THEEIE) 支持向量機(jī) 1
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1