決策樹和模型評估課件-文庫吧資料
2025-01-18 19:41本頁面
【正文】 義： p(i|t)表示結(jié)點 t中，屬于類 i的記錄所占的比例，常簡記為 pi。并對每個子集進(jìn)行遞歸分類。包含屬性 測試條件，用于分開不同特性的記錄 每個葉結(jié)點都賦予一個 類標(biāo)號 決策樹 例 1 Ti d 有房者 婚姻 狀況 收入 拖欠 貸款者 1 Yes Single 125K No 2 No Marr i ed 100K No 3 No Single 70K No 4 Yes Marr i ed 120K No 5 No Divor ce d 95K Yes 6 No Marr i ed 60K No 7 Yes Divor ce d 220K No 8 No Single 85K Yes 9 No Marr i ed 75K No 10 No Single 90K Yes 10 有房產(chǎn) 婚姻狀況 收入 YES NO NO NO Yes No Married Single, Divorced 80K 80K 屬性劃分 訓(xùn)練數(shù)據(jù) 模型：決策樹 決策樹 例 2 MarSt Refund TaxInc YES NO NO NO Yes No Married Single, Divorced 80K 80K 對于相同的數(shù)據(jù)，能構(gòu)造多種不同的決策樹 Ti d 有房者 婚姻 狀況 收入 拖欠 貸款者 1 Yes Single 125K No 2 No Marr i ed 100K No 3 No Single 70K No 4 Yes Marr i ed 120K No 5 No Divor ce d 95K Yes 6 No Marr i ed 60K No 7 Yes Divor ce d 220K No 8 No Single 85K Yes 9 No Marr i ed 75K No 10 No Single 90K Yes 10 決策樹應(yīng)用過程：使用模型測試數(shù)據(jù)－ 1 Refund MarSt TaxInc YES NO NO NO Yes No Married Single, Divorced 80K 80K Ref un d Ma ri tal S tatu s Taxa bl e I nco m e Chea t No Ma rri ed 80K ? 10 檢驗數(shù)據(jù) 從樹根開始 使用模型測試數(shù)據(jù)－ 2 Refund MarSt TaxInc YES NO NO NO Yes No Married Single, Divorced 80K 80K Ref un d Ma ri tal S tatu s Taxa bl e I nco m e Chea t No Ma rri ed 80K ? 10 Test Data 使用模型測試數(shù)據(jù)－ 3 Refund MarSt TaxInc YES NO NO NO Yes No Married Single, Divorced 80K 80K Ref un d Ma ri tal S tatu s Taxa bl e I nco m e Chea t No Ma rri ed 80K ? 10 Test Data 使用模型測試數(shù)據(jù)－ 4 Refund MarSt TaxInc YES NO NO NO Yes No Married Single, Divorced 80K 80K Ref un d Ma ri tal S tatu s Taxa bl e I nco m e Chea t No Ma rri ed 80K ? 10 Test Data 使用模型測試數(shù)據(jù)－ 5 Refund MarSt TaxInc YES NO NO NO Yes No Married Single, Divorced 80K 80K Ref un d Ma ri tal S tatu s Taxa bl e I nco m e Chea t No Ma rri ed 80K ? 10 Test Data 使用模型測試數(shù)據(jù)－ 6 Refund MarSt TaxInc YES NO NO NO Yes No Married Single, Divorced 80K 80K Ref un d Ma ri tal S tatu s Taxa bl e I nco m e Chea t No Ma rri ed 80K ? 10 Test Data 將 Cheat賦值為 “No” 決策樹構(gòu)造算法 ?多種算法 : – Hunt 算法 (最早方法之一 ) – CART（ classification and regression trees） – ID3, – SLIQ,SPRINT Hunt 算法結(jié)構(gòu) ? Hunt算法的思想是 將訓(xùn)練記錄相繼劃分成“較純”的子集，以遞歸方式建立決策樹。ve Bayes and Bayesian Belief Networks ? 支持向量機 Support Vector Machines 決策樹定義 ?決策樹是由結(jié)點和有向邊組成的層次結(jié)構(gòu)。訓(xùn)練集用來創(chuàng)建模型，檢驗集用來驗證模型的有效性。Data Mining 第四章 分類：基本概念、決策樹和模型評估 預(yù)備知識 解決分類問題的一般方法 分類例子 ?預(yù)測癌細(xì)胞是良性還是惡性 ?將信用卡交易分為合法和欺詐 ? …… 分類：定義 ? 給定一個記錄集 – 每個記錄包含一個屬性集，通常最后一個屬性是該記錄的分類（ class ）屬性 . ? 目標(biāo)：找到一個模型（從其余屬性值到分類屬性的轉(zhuǎn)換函數(shù)），實現(xiàn)對未知分類的記錄進(jìn)行盡可能精確地分類。 – 通常，將給定的數(shù)據(jù)集分為 訓(xùn)練集（ training set ）和 檢驗集（ test set ） 。 ? 分類性能度量： 11 0
研究報告相關(guān)推薦
鄂ICP備17016276號-1