決策樹分類器培訓課件(參考版)
2025-01-16 19:41本頁面
【正文】 04. ? Thair Nu Phyu （ 2023） Survey of Classification Techniques in Data Mining， IMECS 2023, ? C. Aggarwal and C. Zhai （ 2023） A Survey of Text Classification Algorithms，Mining Text Data， 2023, pp 163222 ? Zhengzheng Xing, Jian Pei, Eamonn J. Keogh: A brief survey on sequence classification. SIGKDD Explorations 12(1): 4048 (2023) ? Shehroz S. Khan, Michael G. Madden: A Survey of Recent Trends in One Class Classification. AICS 2023:188197 ? M. Aly, (2023)Survey on Multiclass Classification Methods,Neural works (2023). 2023/1/31 Guilin 71 Thanks!!! Questions? 。 訓練數(shù)據(jù)用于 歸納分類器 ，測試數(shù)據(jù)用來 評估分類器 ? 訓練分類器時的目標是 最大化預測 測試數(shù)據(jù)的精度 ，即，該分類器基本上 體現(xiàn)兩個 （訓練和測試） 集合的共同結構 ? 過度擬合 （ overfitting）問題：擬合訓練數(shù)據(jù)的效果很好，擬合測試數(shù)據(jù)的效果很差 2023/1/31 Guilin 11 舉例說明（訓練數(shù)據(jù)） 2023/1/31 Guilin 12 舉例說明（決策樹） 2023/1/31 Guilin 13 舉例說明（測試數(shù)據(jù)） ? 決策樹是用于預測一個數(shù)據(jù)的類 ? 問題： Alex, Buddy and Cheery使用哪種交通工具？ 2023/1/31 Guilin 14 舉例說明（決策樹的運用） ? 從根節(jié)點 Travel cost per km開始 ? 如果 Travel Cost = expensive， Transportation mode = car ? 如果 Travel Cost = standard， Transportation mode = train ? 如果 Travel Cost = cheap，決策樹需要檢查下一個節(jié)點Gender ? 如果 Gender = male， Transportation mode = bus ? 如果 Gender = female，決策樹需要檢查下一個節(jié)點 Car ownership ? 如果 Car ownership = 0， Transportation mode = bus，否則Transportation mode = train 2023/1/31 Guilin 15 舉例說明（決策樹） 2023/1/31 Guilin 16 舉例說明（決策樹產(chǎn)生的規(guī)則） ? 每個葉節(jié)點產(chǎn)生一條規(guī)則 ? Rule 1： If Travel cost = expensive then Mode = car ? Rule 2： If Travel cost = standard then Mode = train ? Rule 3： If Travel cost = cheap ? Gender = male then Mode = bus ? Rule 4： If Travel cost = cheap ? Gender = female ? Car ownership = 0 then Mode = bus ? Rule 5： If Travel cost = cheap ? Gender = female ? Car ownership = 1 then Mode = train 2023/1/31 Guilin 17 舉例說明（預測） ? 根據(jù)上面的決策樹或者規(guī)則，回答前面的問題就很簡單、直接 ? Alex： Travel cost = standard，所以，無論其它屬性取什么值，可以預測他的交通工具是 train ? Buddy： Travel cost = cheap并且 Gender = male，則可以預測他的交通工具是 bus ? Cherry： Travel cost = cheap并且 Gender = female 并且 Car ownership = 1，則可以預測他的交通工具是 train 2023/1/31 Guilin 18 決策樹的缺點 ?多數(shù)決策樹算法采用 貪心策略 ：按照設定的啟發(fā)式信息搜索最佳樹 ?無回溯 ?非窮近搜索 ，但可能 剪枝 2023/1/31 Guilin 19 如何建構決策樹？ ? 決策樹很簡單，但實現(xiàn)建構一棵好的樹是很困難的 ? 在上面的例子中，屬性 Ine level沒有用于交通工具的分類 ? 建構一棵樹通常的辦法（ 啟發(fā)式信息 ）是度量數(shù)據(jù)集的不純度（ impurity） ? Entropy ? Gini inde
規(guī)章制度相關推薦
鄂ICP備17016276號-1