決策樹c45算法總結-資料下載頁
2025-01-14 19:39本頁面
【正文】 樹規(guī)模的方法稱為剪枝，一種是先剪枝，一種是后剪枝。所謂先剪枝，實際上是控制決策樹的生長；后剪枝 是指，對完全生成的決策樹進行修剪 。 先 剪枝： 1) 數據劃分法。劃分數據成訓練樣本和測試樣本，使用用訓練樣本進行訓練，使用測試樣本進行樹生長檢驗。 2) 閾值法。當某節(jié)點的信息增益小于某閾值時，停止樹生長。 3) 信息增益的統(tǒng)計顯著性分析。從已有節(jié)點獲得的所有信息增益統(tǒng)計其分布，如果繼續(xù)生長得到的信息增 益與該分布相比不顯著，則停止樹的生長。 優(yōu)點： 簡單直接； 缺點： 對于不回溯的貪婪算法，缺乏后效性考慮，可能導致樹 提前停止 。 過擬合問題 后剪枝： 1) 減少分類錯誤修剪法。使用獨立的剪枝集估計剪 枝前后的分類錯誤率，基于此進行剪枝。 2) 最小代價與復雜性折中的剪枝。對剪枝后的樹綜 合評價錯誤率和復雜性，決定是否剪枝。 3) 最小描述長度準則。最簡單的樹就是最好的樹。對決策樹進行編碼，通過剪枝得到編碼最小的樹。 4) 規(guī)則 后剪枝。將訓練完的決策樹轉換成規(guī)則，通過刪除不會降低估計精度的前件修剪每一條規(guī)則。 優(yōu)點 : 實際應用中有效 缺點： 數據量大時，計算代價較大。 ，它使用訓練集生成決策樹又用它來進行剪枝，不需要獨立的剪枝集 。 Weka J48算法參數 是否對離散屬性進行二元分裂 ? 剪枝過程中的置信因子，值越小剪枝越多 ? 設置為 true，控制臺會輸出調試信息 ? 葉節(jié)點的最小實例數 ? 定義用來剪枝的樣本比例 ? 是否使用減少誤差剪枝法 ? 是否保存訓練樣本數據 ? 使用減小誤差剪枝法中的隨機種子參數 ? 修剪時是否考慮子樹上升 ? 是否剪枝 ? 是否在對葉子計數時使用拉普拉斯平滑 Weka J48算法源碼解析 Weka J48算法源碼解析 高級類 J48 Weka J48算法源碼解析 可剪枝的 Weka J48算法源碼解析 分類樹 Weka J48算法源碼解析 分類樹 Weka J48算法源碼解析 Weka J48算法源碼解析 Weka J48算法源碼解析 Weka J48算法源碼解析 選擇分裂屬性 Weka J48算法源碼解析 處理離散屬性 Weka J48算法源碼解析 計算增益 Weka J48算法源碼解析 計算增益率 Weka J48算法源碼解析 熵和條件熵 Weka J48算法源碼解析 屬性熵 Weka J48算法源碼解析 處理連續(xù)屬性 Weka J48算法源碼解析 處理連續(xù)屬性 Weka J48算法源碼解析 處理所有可能的分裂點 Weka J48算法源碼解析 剪枝算法 Weka J48算法源碼解析 剪枝算法 Weka J48算法源碼解析 計算錯誤率
外語相關推薦
鄂ICP備17016276號-1