第6章-近鄰法(編輯修改稿)
2024-09-11 23:48 本頁面
【文章內(nèi)容簡介】 ??xx x xxxxx其 它其 它其 它???第 6章 近鄰法 返回本章首頁 1021201111 , 0( ) 1 ( ) 1 0 , 11( ) ( ) ( 1 ) ( ) 111 ( ) ( ) 1 ( ) mcrccrccciiicrxP e P ccc c rP P e p d p d rc c cP P p d p d Pc???????????? ? ??? ? ? ?????? ? ? ? ? ??? ? ? ?? ? ? ? ?? ? ? ?? ? ? ???????xxx x x x xx x x x x其 它課后習(xí)題 P160： P81： 第 6章 近鄰法 k— 近鄰法 返回本章首頁 k— 近鄰法是在近鄰法的基礎(chǔ)上加以改進(jìn)而來的，這個(gè)法則就是在 的 k 個(gè)近鄰中，按出現(xiàn)最多的樣本類別來作為 的類別。前面我們?cè)敿?xì)討論了近鄰法的錯(cuò)誤率的表達(dá)式及其上下界。同樣，對(duì)于 k— 近鄰法則，我們也討論一下錯(cuò)誤率的問題，這里以 和 二類問題為例。為避免出現(xiàn) 而不能判決的情況，我們?nèi)? 為奇數(shù)。對(duì)待識(shí)別模式 誤分類有以下兩種情況： x1?xx2?12kk? 12k k k??( 1 ) 21 2 1 12120( 1 ) 221201211 212 ( ) ( )( ) ( ) 2kj j k jkjkj j k jkjkk k kkkC P PPPkk C?? ?? ??????????? ? ????? ?? ? ?????xxxxxx第 6章 近鄰法 返回本章首頁 前面我們已經(jīng)說過，當(dāng) ， 的 k 個(gè)已知類別的最近鄰樣本 以概率 1 收斂于 ，所以這 k 個(gè)樣本可以不標(biāo)出下標(biāo)，統(tǒng)記為 。對(duì)于給定的 的條件錯(cuò)誤率為 12, , , kx x x12( 1 ) 21101( 1 ) 2120( 1 ) 221( 1 ) 20111( ) (( ) ( )()( ) ( )1 ( )1)( ) (( ))))( 1(kNkkjj jkkj j k jkjkj j k jkjkkjj jkjkjC P PC P PPPPP e PPP C PCP??????????? ???????????????? ? ???? ? ? ? ? ?? ? ??????????x xxxxxxxxxxxxxN??xx x第 6章 近鄰法 返回本章首頁 ( 1 ) 21 1 101 1 1( 1 ) 21 1 1 1( 1 ) 21 2 1 1( ) ( ) ( ) 1 ( )1 ( ) ( ) 1 ( )( ) 1 2 ( ) ( ) 1( ) m i n ( ) , ( ) m i n ( ) , 1 (()kkjjkjN kjkkjj jkjkkkjj jkjkP e P C P PP C P PP P CP e P P PPPP? ? ?? ? ?? ? ? ?? ? ? ?????????????? ? ? ???? ? ? ? ? ? ?? ? ? ?? ? ? ? ? ?? ? ? ? ?????? ? ? ????x x x xx x xx x x xx x x xx( 1 ) 2)( ) ( )( ) 1 2 1( ) ( )kkjjkjN kjkP e CP e P e P e P e? ? ? ??????? ? ? ?? ? ???????????x x x xx第 6章 近鄰法 返回本章首頁 漸近平均錯(cuò)誤率 這里定義 Bayes條件錯(cuò)誤率 的函數(shù) 為大于 的最小凹函數(shù)，即對(duì)所有的 ()kNP E P e????? ?? x()Pe? x ()kC P e?????x()kNPe?? x( ) ( )kNkP e C P e??? ??? ??xxx? ? ? ?( ) ( ) ( ) ( )kN k k kP E P e E C P e C E P e C P? ? ???? ? ? ? ? ?? ? ? ?? ? ? ? ? ?x x x ( )kNkk P C P ???11( ) ( ) ( ) 2 ( 1 )21kkcP P C P C P C PP P P PcPP? ? ? ? ?? ? ???? ? ? ? ? ? ???? ? ??????第 6章 近鄰法 返回本章首頁 近鄰法則討論 11( ) ( ) ( ) 2 ( 1 )21kkP P C P C P C P P PcP P P Pc? ? ? ? ? ??? ? ?? ? ? ? ? ? ???? ? ??? ???P( 1 )cc?( 1 )cc?P?0P0 . 50 . 5P?1k ? ()kCP?5k ? 7k ?0第 6章 近鄰法 返回本章首頁 從上面可以看出近鄰法有方法簡單的優(yōu)點(diǎn)，但也存在這一些缺點(diǎn)： （ 1）存儲(chǔ)量和計(jì)算量都很大； （ 2）沒有考慮決策的風(fēng)險(xiǎn)，如果決策的錯(cuò)誤代價(jià)很大時(shí)，會(huì)產(chǎn)生很大的風(fēng)險(xiǎn)； （ 3）以上的分析 —— 漸近平均錯(cuò)誤率，都是建立在樣本數(shù)趨向無窮大的條件下得來的，在實(shí)際應(yīng)用時(shí)大多是無法實(shí)現(xiàn)的。 第 6章
電大資料相關(guān)推薦
鄂ICP備17016276號(hào)-1