決策樹和模型評(píng)估課件-展示頁(yè)
2025-01-20 19:41本頁(yè)面
【正文】 011 10 01 11= fff f f f?? ? ? ?正 確 預(yù) 測(cè) 數(shù)準(zhǔn) 確 率 預(yù) 測(cè) 總 數(shù) 10 0111 10 01 11= f f f f?? ? ? ?錯(cuò) 誤 預(yù) 測(cè) 數(shù)差 錯(cuò) 率 預(yù) 測(cè) 總 數(shù)預(yù)測(cè)的類 類 =1 類 =0 實(shí)際 的數(shù) 類 =1 f11 f10 類 =0 f01 f00 分類過程 A p p l y M o d elI n d u c t i o nD e d u c t i o nL ea r n M o d elM o d e lTid A t t r i b 1 A t t r i b 2 A t t r i b 3 C l a s s 1 Yes L a rg e 125K No 2 No Me d iu m 100K No 3 No S m a ll 70K No 4 Yes Me d iu m 120K No 5 No L a rg e 95K Yes 6 No Me d iu m 60K No 7 Yes L a rg e 220K No 8 No S m a ll 85K Yes 9 No Me d iu m 75K No 10 No S m a ll 90K Yes 10 T i d A t t r i b 1 A t t r i b 2 A t t r i b 3 Class 11 No S m a ll 55K ? 12 Y e s Me d iu m 80K ? 13 Y e s L a rg e 110K ? 14 No S m a ll 95K ? 15 No L a rg e 67K ? 10 T e s t S e tL e a r n i n ga l g o r i t h mT r a i n i n g S e tA p p l y M o d elI n d u c t i o nD e d u c t i o nL ea r n M o d elM o d e lTid A t t r i b 1 A t t r i b 2 A t t r i b 3 C l a s s 1 Yes L a rg e 125K No 2 No Me d iu m 100K No 3 No S m a ll 70K No 4 Yes Me d iu m 120K No 5 No L a rg e 95K Yes 6 No Me d iu m 60K No 7 Yes L a rg e 220K No 8 No S m a ll 85K Yes 9 No Me d iu m 75K No 10 No S m a ll 90K Yes 10 T i d A t t r i b 1 A t t r i b 2 A t t r i b 3 Class 11 No S m a ll 55K ? 12 Y e s Me d iu m 80K ? 13 Y e s L a rg e 110K ? 14 No S m a ll 95K ? 15 No L a rg e 67K ? 10 T e s t S e tL e a r n i n ga l g o r i t h mT r a i n i n g S e t訓(xùn)練集 檢驗(yàn)集 學(xué)習(xí)模型 學(xué)習(xí)模型 學(xué)習(xí)算法 模型 分類技術(shù) ? 基于決策樹的方法 Decision Tree based Methods ? 基于規(guī)則的方法 Rulebased Methods ? 基于記憶的推理 Memory based reasoning ? 神經(jīng)網(wǎng)絡(luò) Neural Networks ? 樸素貝葉斯和貝葉斯信念網(wǎng)絡(luò) Na239。 ?樹中包含三種結(jié)點(diǎn)： – 根結(jié)點(diǎn) – 內(nèi)部結(jié)點(diǎn) – 葉結(jié)點(diǎn) 非終結(jié)點(diǎn) 。 假設(shè) t表示結(jié)點(diǎn)， Dt 表示與結(jié)點(diǎn) t相關(guān)聯(lián)的訓(xùn)練記錄集， y={y1,y2,…,yc}是類標(biāo)號(hào) ? Hunt算法的遞歸定義 : – 如果 Dt 中所有記錄都屬于 同一個(gè)類 yt, 則 t就是葉子節(jié)點(diǎn)，并用 yt標(biāo)號(hào) – 如果 Dt 是一個(gè) 空集 ，那么 t就是葉子節(jié)點(diǎn)，其標(biāo)號(hào)為其父結(jié)點(diǎn)上訓(xùn)練記錄中的多數(shù)類 Tid Re f und Marital Stat u s Taxable In e Che a t 1 Yes Single 125K No 2 No Marr i ed 100K No 3 No Single 70K No 4 Yes Marr i ed 120K No 5 No Divor ce d 95K Yes 6 No Marr i ed 60K No 7 Yes Divor ce d 220K No 8 No Single 85K Yes 9 No Marr i ed 75K No 10 No Singl e 90K Yes 10 Dt ? – 如果 Dt 中包含屬于 多個(gè)類 的記錄，則選擇一個(gè) 屬性測(cè)試條件 ，將記錄劃分成若干個(gè)子集。 例 P93～ P95 預(yù)測(cè)拖欠銀行貸款的貸款者 Ti d 有房者 婚姻 狀況 收入 拖欠 貸款者 1 Yes Single 125K No 2 No Marr i ed 100K No 3 No Single 70K No 4 Yes Marr i ed 120K No 5 No Divor ce d 95K Yes 6 No Marr i ed 60K No 7 Yes Divor ce d 220K No 8 No Single 85K Yes 9 No Marr i ed 75K No 10 No Single 90K Yes 10 如何生成決策樹？ ?貪婪策略 . – 每次選擇屬性劃分條件時(shí)，選擇劃分?jǐn)?shù)據(jù)的 最優(yōu) 標(biāo)準(zhǔn) . ?決策樹歸納的設(shè)計(jì)問題 –
研究報(bào)告相關(guān)推薦
鄂ICP備17016276號(hào)-1