第6章-近鄰法(參考版)
2024-08-26 23:48本頁面
【正文】 xNX12kk???jxNXkjx k i?( ) ( 1 , 2 )jB i i??x ( ) 0jB ?xNX( ) 0jB ?x ( ) ( 1 , 2 )jiB i i?? ? ?x( ) 0jB ?x jx 0?NRXNRX x第 6章 近鄰法 THANK YOU VERY MUCH ！ 本章到此結(jié)束 下一章“ 特征選擇和特征提取” 返回本章首頁 結(jié) 束放映 。 （ 4）將 的那些樣本 歸為拒絕類 ，從而組成含有三類剪輯樣本集 。 x10 1 21( ) ( ) ( )k l l k lkl k kC P P? ? ? ?????? ? ?? ?x x x1 2 2 1( ) ( ) ( ) ( ) ( )P e P P? ? ? ? ? ???x x x x xk 12kk???第 6章 近鄰法 返回本章首頁 步驟如下： （ 1）對于訓(xùn)練集 中的每個(gè)樣本 ，從 中找出它的 個(gè)近鄰元； （ 2）如果 的 個(gè)近鄰至少有 個(gè)屬于 類，則記類別標(biāo)簽 ，否則 。 的 k個(gè)近鄰元至少有 個(gè)來自 類的漸近概率為 k? 12kk???x k?i? i??x1 1 2( ) ( ) ( )kl l k lklkC P P? ? ? ? ???? ?x x xx k? 1?2 2 1120( ) ( ) ( )( ) ( )kl l k lklkkkl l k lklC P PC P P? ? ? ??????????????x x xxx第 6章 近鄰法 返回本章首頁 當(dāng) 的 個(gè)近鄰中有少于 個(gè)屬于同一類時(shí)，則考慮拒絕，這時(shí)的概率為 k?x k0121 2 1 201121()1 ( ) ( )1 ( ) ( ) ( ) ( )( ) ( )k k kl l k l l l k lkkl k lkl l k lkl k kC P P C P PC P P??? ? ? ?? ? ? ??????????????? ? ?? ? ? ? ?????? ? ?????????xxxx x x xxx0 1 2( ) ( ) ( ) 1? ? ? ? ? ?? ? ?x x x0()?? x第 6章 近鄰法 返回本章首頁 決策的錯(cuò)誤率 決策的拒絕率 2 具有拒絕決策的剪輯近鄰法 拒絕決策的近鄰法推廣到剪輯近鄰法。 下面我們結(jié)合前面講述的 k— 近鄰法和剪輯近鄰法進(jìn)行分析。我們說若 k個(gè)近鄰元中某一類的樣本數(shù)占很大的優(yōu)勢，則誤判的可能性就較??；如果是微弱優(yōu)勢，則作出判別決策，誤判的可能性就很大。這里從理論上對二類問題重復(fù)剪輯最近鄰法的錯(cuò)誤率進(jìn)行分析。 定理 ：當(dāng)樣本數(shù) 時(shí)， 。 第一步：利用參照集中的樣本 采用最近鄰法對考試集中的樣本 進(jìn)行分類，剪輯掉 中被錯(cuò)分類的樣本，具體的說就是： 是 的最近鄰元，剪輯掉 中不與 同類 余下的部分構(gòu)成剪輯樣本集 。這種方法的性能在理論上明顯好于一般的最近鄰法。對于給定的 的條件錯(cuò)誤率為 12, , , kx x x12( 1 ) 21101( 1 ) 2120( 1 ) 221( 1 ) 20111( ) (( ) ( )()( ) ( )1 ( )1)( ) (( ))))( 1(kNkkjj jkkj j k jkjkj j k jkjkkjj jkjkjC P PC P PPPPP e PPP C PCP??????????? ???????????????? ? ???? ? ? ? ? ?? ? ??????????x xxxxxxxxxxxxxN??xx x第 6章 近鄰法 返回本章首頁 ( 1 ) 21 1 101 1 1( 1 ) 21 1 1 1( 1 ) 21 2 1 1( ) ( ) ( ) 1 ( )1 ( ) ( ) 1 ( )( ) 1 2 ( ) ( ) 1( ) m i n ( ) , ( ) m i n ( ) , 1 (()kkjjkjN kjkkjj jkjkkkjj jkjkP e P C P PP C P PP P CP e P P PPPP? ? ?? ? ?? ? ? ?? ? ? ?????????????? ? ? ???? ? ? ? ? ? ?? ? ? ?? ? ? ? ? ?? ? ? ? ?????? ? ? ????x x x xx x xx x x xx x x xx( 1 ) 2)( ) ( )( ) 1 2 1( ) ( )kkjjkjN kjkP e CP e P e P e P e? ? ? ??????? ? ? ?? ? ???????????x x x xx第 6章 近鄰法 返回本章首頁 漸近平均錯(cuò)誤率 這里定義 Bayes條件錯(cuò)誤率 的函數(shù) 為大于 的最小凹函數(shù)，即對所有的 ()kNP E P e????? ?? x()Pe? x ()kC P e?????x()kNPe?? x( ) ( )kNkP e
電大資料相關(guān)推薦
鄂ICP備17016276號-1