模式識(shí)別導(dǎo)論(三)ppt-分類器的設(shè)計(jì)線性分類器的設(shè)計(jì)分段線性-閱讀頁
2025-01-22 21:46本頁面
【正文】 ????????????????????????????111101110100X? ???????????????????????2/12/12/12/311111111211XXX TX TX的規(guī)范矩陣為 x2 x1 x1 x2 x3 x4 取 b1=(1,1,1,1)T c=1 W1=X+b1=(2,0,1)T 所以 W1為所求解 e1=XW1b1=0 系統(tǒng)線性可分 ? ? 01111102111101110100,1 ???????????? ???????????????????TWX因?yàn)? 若四個(gè)樣本變成： ω1={(0,0)T,(1,1)T} ω2={(0,1)T,(1,0)T} 解： 取 b1=(1,1,1,1)T c=1 W1=X+b1=(0,0,0)T e1=XW1b1=(1,1,1,1)T0 系統(tǒng)線性不可分 C為校正系數(shù) ,取 0＜ C ≤1 在算法進(jìn)行過程中 ， 應(yīng)在每一次迭代時(shí) ， 檢測(cè) ek 的值 。 ???????????????????????????101110111100Xx2 x1 1 1 ?????????????????????2/12/12/12/31111111121X六 Fisher分類準(zhǔn)則 現(xiàn)在討論通過 映射投影來降低 維數(shù)的方法。若適當(dāng)選擇 W的方向，可以使二類分開。 w(y) w y1 y2 x2 x1 ω1 ω2 投影樣本之間的分離性用投影樣本之差表示 投影樣本類內(nèi)離散度 : XXNXNyY YNYY iiiiii WW11 TT ????? ??空間的投影均值在???NxiiiXNxX 1空間的均值：在11 WY XT?? 22 WY XT?類間分離性越大越好|)(||| 2121 XXWYY T ???? ? ? ? WSWNX XTXTyY YY iTi iiii ?? ??? ?? ?? WW 222?WSW T 121 ?? WSW T 222 ??i=1,2 i=1,2 ? ? ? ?i Tiii XXNX XXS ?? ?? ?其中 ? ?? ?? ????2222 NX XXXXST? ?? ?? ?? ?? 1111 NX XXXXS T? ?2 21 2212||)(?? ??? YYWJF i s h e r 準(zhǔn)則函數(shù)有所以? ? ? ? WSWXW TXW TYYWJ bT???? 21 221 2)( 的分子? ? ? ?2121 XXXXS Tb ???其中WSWWSWWSWWJ wTTT ???? 212 21 2)( ??的分母小越好。 ? ?XXSWWJ w 211)( ?? ?求極值得對(duì)WSWWSW)(wTbT?WJ所以其中 Sw為類內(nèi)散布矩陣 , Sb為類間散布矩陣 現(xiàn)在我們已把一個(gè) n維的問題轉(zhuǎn)化為一維的問題 。 Y=WTX0 則 X∈ ω2。 32 分段線形分類器的設(shè)計(jì) 先求子類的權(quán)向量 Wi l， 再求總的權(quán)向量 Wi 1. 已知子類劃分時(shí)的設(shè)計(jì)方法 把每一個(gè)子類作為獨(dú)立類，利用每個(gè)子類的訓(xùn)練樣本， 求每個(gè)子類的線性判別函數(shù)，總的判別函數(shù)就可獲得。 若有某個(gè)或某 幾 個(gè)子類不滿足條件即： 存在 Wi n(k)使 Wj n (k) xj ≤Wi n (k)l xj i≠j 所以 xj 錯(cuò)分類，要修改權(quán)向量。 ρkxj ③ 重復(fù)以上迭代 ,直到收斂 ,此法 類似于固定增量法 . 當(dāng)每類應(yīng)分成的子類數(shù)也不知 時(shí) ， 這是最一般情況 ， 方法很 多 ， 舉例如下 。 如圖所示 ① 先用兩類線性判別函數(shù)求 出 W1,超平面 H1分成兩個(gè)區(qū) 間 ,每個(gè)區(qū)間包含兩類 。 ③ 如果每個(gè)部分仍包含兩類 , 繼續(xù)上面的過程 。 w1Tx0 w4Tx≥0 w3Tx≥0 w2Tx≥0 Y N Y Y N N ω1 ω1 ω2 ω2 N Y ω1 樹狀決策框圖 167。 α為系數(shù) xk為某一特定點(diǎn) 上圖是這些函數(shù)在一維時(shí)的圖形 ， 第三條是振蕩曲線 ， 只有第一周期才是可用范圍 。 算法 : 設(shè)初始電位為 K0(x)=0 x1計(jì)算積累電位 K1(x) 若 x∈ ω1 K1(x)= K0(x)+K(xx1) 若 x∈ ω2 K1(x)= K0(x)K(xx1) 設(shè) ω1為正電荷 ,ω2為負(fù)電荷 在 K0(x)=0時(shí) 若 x1∈ ω1 K1(x)= K(xx1) 若 x1∈ ω2 K1(x)= K(xx1) 2. 輸入樣本 x2計(jì)算積累電荷有以下幾種情況 a. 若 x2∈ ω1 并且 K1(x2)0 若 x2∈ ω2 并且 K1(x2)0 K1(x)= K2(x) 不修正 b. 若 x2∈ ω1 并且 K1(x2)≤0 若 x2∈ ω2 并且 K1(x2)≥0 K2(x)= K1(x)177。 K1(xx1)177。 雖然它 可以把線性不可分的樣本分開 ， 但當(dāng)樣本很多時(shí) ， 使方 程的項(xiàng)數(shù)太多 ， 增大計(jì)
高考資料相關(guān)推薦
鄂ICP備17016276號(hào)-1