3第三章決策樹-預覽頁
【正文】 法 (,) 14 2023/2/13 ? Quinlan(1979)提出，以 Shannon(1949)的信息論為依據(jù)。 ? 如果有以下情況發(fā)生，決策樹將 停止分割： ?該群數(shù)據(jù)的每一筆數(shù)據(jù)都已經(jīng)歸類到同一類別。 ? 如何處理過度擬合呢？對決策樹進行修剪。 ? 確定閥值法：在構(gòu)造樹時，可將信息增益用于評估岔的優(yōu)良性。通過刪除節(jié)點的分枝，剪掉葉節(jié)點。 2023/2/13 應用案例：在農(nóng)業(yè)中的應用 2023/2/13 24 第一步：屬性離散化 2023/2/13 25 第二步：概化（泛化） 2023/2/13 26 第三步：計算各屬性的期望信息 2023/2/13 27 =(17/30)*LOG((17/30),2)+(10/30)*LOG((10/30),2)+(3/30)*LOG((3/30),2) 計算各屬性的信息增益 2023/2/13 28 第四步：決策樹 2023/2/13 29 案例 2：銀行違約率 2023/2/13 30 2023/2/13 31 案例 3 對電信客戶的流失率分析 2023/2/13 32 數(shù)據(jù)倉庫 條件屬性 類別屬性 客戶是否流失 案例 4：在銀行中的應用 2023/2/13 33 案例 5：個人信用評級 2023/2/13 34 個人信用評級決策樹 （五） 其他算法 35 ? ? Gini Index算法 ? CART算法 ? PRISM算法 ? CHAID算法 2023/2/13 36 ? ，適用在處理大數(shù)據(jù)集，采用 Boosting（提升）方式提高模型準確率，又稱為 Boosting Trees，在軟件上的計算速度比較快，占用的內(nèi)存資源較少。 2023/2/13 ? 集合 T包含 N個類別的記錄，那么其 Gini指標就是 ? 如果集合 T分成兩部分 N1 和 N2。 2023/2/13 2023/2/13 43 構(gòu)建樹的步驟： 2023/2/13 44 2023/2/13 45 演講完畢，謝謝觀看！
環(huán)評公示相關推薦
鄂ICP備17016276號-1