決策樹培訓講義(編輯修改稿)
2025-01-31 19:36 本頁面
【文章內容簡介】 n1=4 I(16,4)=－ ((4/16)*log2(4/16)+(12/16)*log2(12/16))= E(年齡 )=(6/16)*I(6,1)+(10/16)*I(10,3)= Gain(年齡 )=I(16,4)E(年齡 )= ? Gain(年齡 )= ? Max:作為第一個分類依據 2023/1/31 ? Gain(性別 )= ? Gain(家庭所得 )= Example(續(xù) ) 18 ? Gain(家庭所得 )= I(7,3)=((3/7)*log2(3/7)+(4/7)*log2(4/7))= ? Gain(年齡 )= ? Gain(年齡 )= I(9,1)=((1/9)*log2(1/9)+(8/9)*log2(8/9))= ? Gain(家庭所得 )= 2023/1/31 Example(end)ID3算法 19 分類規(guī)則 ： IF性別 =Female AND家庭所得 = 低所得 THEN購買 RV房車 =否 IF性別 =Female AND家庭所得 = 小康 THEN購買 RV房車 =否 IF性別 =Female AND家庭所得 = 高所得 THEN購買 RV房車 =是 IF性別 =Male AND年齡 35 THEN購買 RV房車 =否 IF性別 =Male AND年齡 ≧ 35 THEN購買 RV房車 =是 ? 資料 ? Decision Tree 2023/1/31 （四） Decision Tree的建立過程 20 決策樹的停止 ? 決策樹是通過 遞歸分割 (recursive partitioning)建立而成，遞歸分割是一種把數據分割成不同小的部分 的迭代過程 。 ? 如果有以下情況發(fā)生，決策樹將 停止分割： ?該群數據的每一筆數據都已經歸類到同一類別。 ?該群數據已經沒有辦法再找到新的屬性來進行節(jié)點分割。 ?該群數據已經沒有任何尚未處理的數據。 2023/1/31 決策樹的剪枝 (pruning) 21 ? 決策樹學習可能遭遇 模型過度 擬合 （ over fitting） 的問題，過度擬合是指模型過度訓練，導致模
環(huán)評公示相關推薦
鄂ICP備17016276號-1