模式識(shí)別導(dǎo)論三ppt課件(完整版)
【正文】 Y XT?? 22 WY XT?類(lèi)間分離性越大越好|)(||| 2121 XXWYY T ???? ? ? ? WSWNX XTXTyY YY iTi iiii ?? ??? ?? ?? WW 222?WSW T 121 ?? WSW T 222 ??i=1,2 i=1,2 ? ? ? ?i Tiii XXNX XXS ?? ?? ?其中 ? ?? ?? ????2222 NX XXXXST? ?? ?? ?? ?? 1111 NX XXXXS T? ?2 21 2212||)(?? ??? YYWJFi s h e r 準(zhǔn)則函數(shù)有所以? ? ? ? WSWXW TXW TYYWJ bT???? 21 221 2)( 的分子? ? ? ?2121 XXXXS Tb ???其中WSWWSWWSWWJ wTTT ???? 212 21 2)( ??的分母小越好。 若有某個(gè)或某 幾 個(gè)子類(lèi)不滿(mǎn)足條件即： 存在 Wi n(k)使 Wj n (k) xj ≤Wi n (k)l xj i≠j 所以 xj 錯(cuò)分類(lèi)，要修改權(quán)向量。 w1Tx0 w4Tx≥0 w3Tx≥0 w2Tx≥0 Y N Y Y N N ω1 ω1 ω2 ω2 N Y ω1 樹(shù)狀決策框圖 167。 雖然它 可以把線性不可分的樣本分開(kāi) ， 但當(dāng)樣本很多時(shí) ， 使方 程的項(xiàng)數(shù)太多 ， 增大計(jì)算量 。 α為系數(shù) xk為某一特定點(diǎn) 上圖是這些函數(shù)在一維時(shí)的圖形 ， 第三條是振蕩曲線 ， 只有第一周期才是可用范圍 。 ρkxj ③ 重復(fù)以上迭代 ,直到收斂 ,此法 類(lèi)似于固定增量法 . 當(dāng)每類(lèi)應(yīng)分成的子類(lèi)數(shù)也不知 時(shí) ， 這是最一般情況 ， 方法很 多 ， 舉例如下 。 ? ?XXSWWJ w 211)( ?? ?求極值得對(duì)WSWWSW)(wTbT?WJ所以其中 Sw為類(lèi)內(nèi)散布矩陣 , Sb為類(lèi)間散布矩陣 現(xiàn)在我們已把一個(gè) n維的問(wèn)題轉(zhuǎn)化為一維的問(wèn)題 。 ? 因最小平方誤差法的 J(W)的解為 ? 因?yàn)?XW=b b應(yīng) 為正值 ? c為矯正系數(shù) 當(dāng) （ XWkbk） ≤0 時(shí) 當(dāng) （ XWkbk） ＞ 0 時(shí) ? ? bXbXXX TW T ?? ?? 1|]|[ kkkkk bXWbXWcbb ?? ?＝的增量為 ?kkk bbbb ???? 1前后兩次迭代后，對(duì)的增量為其中 bb k?0＝kb?][2 kkk bXWcb ?＝?? 引入誤差矢量 ek ek=XWkbk判斷是否線性可分 ? 所以 J(W)的解為 初始條件 W1=X+b1并且 b10 ? 迭代時(shí)檢測(cè) 如果 ek≥0時(shí) ， XW b， 系統(tǒng)線性可分 ， 迭代收斂 如果 ek0時(shí) ， XW b， 系統(tǒng)線性不可分 ， 迭代不收斂 ? 我們用下面的例子來(lái)說(shuō)明 ek的作用 |]|[ kkk eeCb ???]|[][ |11 kKkkKkKKk eeXcWbXbXbbXbXW ???????? ??????? ??因此上式可以寫(xiě)成 ? 例題： ω1={(0,0)T,(0,1)T} ω2={(1,0)T,(1,1)T} ? 解：正規(guī)化 對(duì) ω2取負(fù) ， 有 ????????????????????????????111101110100X? ???????????????????????2/12/12/12/311111111211XXX TX TX的規(guī)范矩陣為 x2 x1 x1 x2 x3 x4 取 b1=(1,1,1,1)T c=1 W1=X+b1=(2,0,1)T 所以 W1為所求解 e1=XW1b1=0 系統(tǒng)線性可分 ? ? 01111102111101110100,1 ???????????? ???????????????????TWX因?yàn)? 若四個(gè)樣本變成： ω1={(0,0)T,(1,1)T} ω2={(0,1)T,(1,0)T} 解： 取 b1=(1,1,1,1)T c=1 W1=X+b1=(0,0,0)T e1=XW1b1=(1,1,1,1)T0 系統(tǒng)線性不可分 C為校正系數(shù) ,取 0＜ C ≤1 在算法進(jìn)行過(guò)程中 ， 應(yīng)在每一次迭代時(shí) ， 檢測(cè) ek 的值 。 ??????????????????????????NnNNnN XXXXXXXXXXX.................................21211121121? ?N ..... 2,1, XXX TX ?令? ? 給定的任意正常數(shù)N ..... 2,1, bbb Tb ?每個(gè)樣本有 n個(gè)特征 定義誤差向量： e=XWb≠0 把平方誤差作為目標(biāo)函數(shù) W的優(yōu)化就是使 J(W)最小 。 x1 x2 x3 2 H 3 H1 4 H2 5 W區(qū)間 + ? 感知器算法： wk 如 wkTx≤0并且 x∈ ω1 wk+1= wkρkx 如 wkTx≥0并且 x∈ ω2 wk+1= wkρkx ， wk不修正 如 wkTx＞ 0并且 x∈ ω1 如 wkTx＜ 0并且 x∈ ω2 wk+1= wk + H wk+1
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1