模式識別導(dǎo)論三ppt課件(參考版)
2025-05-04 02:36本頁面
【正文】 雖然它 可以把線性不可分的樣本分開 ， 但當(dāng)樣本很多時 ， 使方 程的項(xiàng)數(shù)太多 ， 增大計(jì)算量 。 K1(xx1)177。 算法 : 設(shè)初始電位為 K0(x)=0 x1計(jì)算積累電位 K1(x) 若 x∈ ω1 K1(x)= K0(x)+K(xx1) 若 x∈ ω2 K1(x)= K0(x)K(xx1) 設(shè) ω1為正電荷 ,ω2為負(fù)電荷 在 K0(x)=0時 若 x1∈ ω1 K1(x)= K(xx1) 若 x1∈ ω2 K1(x)= K(xx1) 2. 輸入樣本 x2計(jì)算積累電荷有以下幾種情況 a. 若 x2∈ ω1 并且 K1(x2)0 若 x2∈ ω2 并且 K1(x2)0 K1(x)= K2(x) 不修正 b. 若 x2∈ ω1 并且 K1(x2)≤0 若 x2∈ ω2 并且 K1(x2)≥0 K2(x)= K1(x)177。 α為系數(shù) xk為某一特定點(diǎn) 上圖是這些函數(shù)在一維時的圖形 ， 第三條是振蕩曲線 ， 只有第一周期才是可用范圍 。 w1Tx0 w4Tx≥0 w3Tx≥0 w2Tx≥0 Y N Y Y N N ω1 ω1 ω2 ω2 N Y ω1 樹狀決策框圖 167。 ③ 如果每個部分仍包含兩類 , 繼續(xù)上面的過程 。 如圖所示 ① 先用兩類線性判別函數(shù)求 出 W1,超平面 H1分成兩個區(qū) 間 ,每個區(qū)間包含兩類 。 ρkxj ③ 重復(fù)以上迭代 ,直到收斂 ,此法 類似于固定增量法 . 當(dāng)每類應(yīng)分成的子類數(shù)也不知 時 ， 這是最一般情況 ， 方法很 多 ， 舉例如下 。 若有某個或某 幾 個子類不滿足條件即： 存在 Wi n(k)使 Wj n (k) xj ≤Wi n (k)l xj i≠j 所以 xj 錯分類，要修改權(quán)向量。 32 分段線形分類器的設(shè)計(jì) 先求子類的權(quán)向量 Wi l， 再求總的權(quán)向量 Wi 1. 已知子類劃分時的設(shè)計(jì)方法 把每一個子類作為獨(dú)立類，利用每個子類的訓(xùn)練樣本， 求每個子類的線性判別函數(shù)，總的判別函數(shù)就可獲得。 Y=WTX0 則 X∈ ω2。 ? ?XXSWWJ w 211)( ?? ?求極值得對WSWWSW)(wTbT?WJ所以其中 Sw為類內(nèi)散布矩陣 , Sb為類間散布矩陣 現(xiàn)在我們已把一個 n維的問題轉(zhuǎn)化為一維的問題 。 w(y) w y1 y2 x2 x1 ω1 ω2 投影樣本之間的分離性用投影樣本之差表示 投影樣本類內(nèi)離散度 : XXNXNyY YNYY iiiiii WW11 TT ????? ??空間的投影均值在???NxiiiXNxX 1空間的均值：在11 WY XT?? 22 WY XT?類間分離性越大越好|)(||| 2121 XXWYY T ???? ? ? ? WSWNX XTXTyY YY iTi iiii ?? ??? ?? ?? WW 222?WSW T 121 ?? WSW T 222 ??i=1,2 i=1,2 ? ? ? ?i Tiii XXNX XXS ?? ?? ?其中 ? ?? ?? ????2222 NX XXXXST? ?? ?? ?? ?? 1111 NX XXXXS T? ?2 21 2212||)(?? ??? YYWJFi s h e r 準(zhǔn)則函數(shù)有所以? ? ? ? WSWXW TXW TYYWJ bT???? 21 221 2)( 的分子? ? ? ?2121 XXXXS Tb ???其中WSWWSWWSWWJ wTTT ???? 212 21 2)( ??的分母小越好。若適當(dāng)選擇 W的方向，可以使二類分開。 ???????????????????????????101110111100Xx2 x1 1 1 ?????????????????????2/12/12/12/31111111121X六 Fisher分類準(zhǔn)則 現(xiàn)在討論通過 映射投影來降低 維數(shù)的方法。 ? 因最小平方誤差法的 J(W)的解為 ? 因?yàn)?XW=b b應(yīng) 為正值 ? c為矯正系數(shù) 當(dāng) （ XWkbk） ≤0 時 當(dāng) （ XWkbk） ＞ 0 時 ? ? bXbXXX TW T ?? ?? 1|]|[ kkkkk bXWbXWcbb ?? ?＝的增量為 ?kkk bbbb ???? 1前后兩次迭代后，對的增量為其中 bb k?0＝kb?][2 kkk bXWcb ?＝?? 引入誤差矢量 ek ek=XWkbk判斷是否線性可分 ? 所以 J(W)的解為 初始條件 W1=X+b1并且 b10 ? 迭代時檢測 如果 ek≥0時 ， XW b， 系統(tǒng)線性可分 ， 迭代收斂 如果 ek0時 ， XW b， 系統(tǒng)線性不可分 ， 迭代不收斂 ? 我們用下面的例子來說明 ek的作用 |]|[ kkk eeCb ???]|[][ |11 kKkkKkKKk eeXcWbXbXbbXbXW ???????? ??????? ??因此上式可以寫成 ? 例題： ω1={(0,0)T,(0,1)T} ω2={(1,0)T,(1,1)T} ? 解：正規(guī)化 對 ω2取負(fù) ， 有 ??????????????
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1