第6章-近鄰法-資料下載頁
2025-08-15 23:48本頁面
【正文】 ?? ????????????? ?? ? ? ??? ? ? ???? ? ? ?? ? ? ???xxxxxxxxxxxxxxxx x x xxx22()? xx i?第 6章 近鄰法 返回本章首頁 第 M次剪輯后， 的最近鄰樣本屬于 的概率為 2122121 1 1 2 1 2 12 1 2 11222121 1 2()()( ) ( )( ) ( ) ( ) ( ) ( )( ) ( ) 1( ) ( )l i m ( ) m i n ( ) , ( )MMMMMMMiMiEM M MEMMPPPP e P PPPPPP e P P?????? ? ? ? ? ????????? ? ??????? ????????? ? ???xxxxx x x x xxxxxx x xx i?第 6章 近鄰法 返回本章首頁 1221 1 2 2221221 2 1 222112l i m ( )( ) 1 ( ) ( ) 1 ( )l i m( ) ( )1 ( ) ( ) ( ) 1 ( )l i m1 ( ) ( )m i n ( ) , ( )MMMMMMEMMMMPeP P P PPPP P P PPPPP? ? ? ???? ? ? ????????????? ? ? ? ? ? ?? ? ? ???? ? ? ? ? ? ? ? ?? ? ? ? ? ??? ? ???? ? ???xx x x xxxx x x xxxxx第 6章 近鄰法 可做拒絕決策的近鄰法 返回本章首頁 在運(yùn)用 k— 近鄰法時，為克服 k個近鄰元屬于不同類別的樣本數(shù)的偶然性，采用的方法之一是增大 k ，然而這仍然不能完全消除 k個近鄰元類別的偶然性。我們說若 k個近鄰元中某一類的樣本數(shù)占很大的優(yōu)勢，則誤判的可能性就較??；如果是微弱優(yōu)勢，則作出判別決策，誤判的可能性就很大。進(jìn)一步，在某些實(shí)際問題中誤判的風(fēng)險(xiǎn)很大的話，則會付出很大的代價，因此在這種情況下引入拒絕決策就很有必要了，一般記為 類。 下面我們結(jié)合前面講述的 k— 近鄰法和剪輯近鄰法進(jìn)行分析。 0?第 6章 近鄰法 返回本章首頁 1 具有拒絕決策的 k— 近鄰法 對于兩類問題，引入了拒絕決策 k— 近鄰法的思想是，根據(jù)可信性要求選定一個 值，應(yīng)使 ，如果待識別模式 的 k個近鄰中有大于或等于 個樣本屬于某一類 ,則判 ，否則拒絕作出類別決策。 的 k個近鄰元至少有 個來自 類的漸近概率為 k? 12kk???x k?i? i??x1 1 2( ) ( ) ( )kl l k lklkC P P? ? ? ? ???? ?x x xx k? 1?2 2 1120( ) ( ) ( )( ) ( )kl l k lklkkkl l k lklC P PC P P? ? ? ??????????????x x xxx第 6章 近鄰法 返回本章首頁 當(dāng) 的 個近鄰中有少于 個屬于同一類時，則考慮拒絕，這時的概率為 k?x k0121 2 1 201121()1 ( ) ( )1 ( ) ( ) ( ) ( )( ) ( )k k kl l k l l l k lkkl k lkl l k lkl k kC P P C P PC P P??? ? ? ?? ? ? ??????????????? ? ?? ? ? ? ?????? ? ?????????xxxx x x xxx0 1 2( ) ( ) ( ) 1? ? ? ? ? ?? ? ?x x x0()?? x第 6章 近鄰法 返回本章首頁 決策的錯誤率 決策的拒絕率 2 具有拒絕決策的剪輯近鄰法 拒絕決策的近鄰法推廣到剪輯近鄰法。 首先選定 和 ，然后我們按以下的步驟對樣本集進(jìn)行剪輯，然后用剪輯樣本集對待識別模式進(jìn)行分類。 x10 1 21( ) ( ) ( )k l l k lkl k kC P P? ? ? ?????? ? ?? ?x x x1 2 2 1( ) ( ) ( ) ( ) ( )P e P P? ? ? ? ? ???x x x x xk 12kk???第 6章 近鄰法 返回本章首頁 步驟如下： （ 1）對于訓(xùn)練集 中的每個樣本 ，從 中找出它的 個近鄰元； （ 2）如果 的 個近鄰至少有 個屬于 類，則記類別標(biāo)簽 ，否則 。 （ 3）在 中只保留 和 的樣本，即去掉被錯分類的樣本。 （ 4）將 的那些樣本 歸為拒絕類 ，從而組成含有三類剪輯樣本集 。 （ 5）利用 和最近鄰規(guī)則對待識別模式 進(jìn)行分類決策。 xNX12kk???jxNXkjx k i?( ) ( 1 , 2 )jB i i??x ( ) 0jB ?xNX( ) 0jB ?x ( ) ( 1 , 2 )jiB i i?? ? ?x( ) 0jB ?x jx 0?NRXNRX x第 6章 近鄰法 THANK YOU VERY MUCH ！ 本章到此結(jié)束 下一章“ 特征選擇和特征提取” 返回本章首頁 結(jié) 束放映
電大資料相關(guān)推薦
鄂ICP備17016276號-1