培訓(xùn)資料決策樹算法及應(yīng)用拓展(41頁)-管理培訓(xùn)-展示頁
2024-08-30 18:19本頁面
【正文】 新生成數(shù)據(jù) ? 類標號變化：舊樹中的節(jié)點類標號發(fā)生了變化 ? 錯誤率 的變化 ? 覆蓋率 的變化：某個節(jié)點具有的數(shù)據(jù)量的比率 小結(jié) ? Building Decision Tree算法 ? Pruning Decision Tree算法 ? Public 算法 ? Public(1)算法 ? Public(s)算法 ? Public(v)算法 ? 識別數(shù)據(jù)變化的挖掘算法 個人觀點 計算分裂點屬性代價下界的算法代碼 2?sn2?snProcedure ComputeMinCostS(Node N) If K=1 return (C(S)+1) S=1 tmpCost=2*S+1+S*log a +∑ni i=s+1..k While S+1k and 2+log a do{ tmpCost=tmpCost+2+log a – s++ } Return min {C(S)+1,tmpCost } } 。Prune(Node N) If N是仍待擴展的結(jié)點， return N節(jié)點的代價下界 If N是純節(jié)點或不可擴展的葉節(jié)點 ， return (C(S)+1) 兩個子節(jié)點 N N2 minCost1= Computeamp。Prune(Node N1) minCost2= Computeamp。 其中， v是該節(jié)點上不同屬性值的個數(shù) ? 編碼每個樹葉上的記錄分類的代價 )22lo g ( ?v)1log ( ?v剪枝算法 ? 設(shè) N為欲計算其最小代價的節(jié)點 ? 兩種情形： ? N是葉結(jié)點 ——C(S)+1 ——Cost1 ? N是內(nèi)部節(jié)點，有兩個子節(jié)點 N N2 ?已剪去 N N2， N成為葉子節(jié)點 ——Cost1 ?計算 N節(jié)點及其子樹的代價，使用遞歸過程 Csplit(N)+1+minCost1+minCost2 ——Cost2 比較 Cost1和 Cost2，選取 代價較小者 作為返回值 計算最小子樹代價的偽代碼 Procedure ComputeCostamp。決策樹算法及應(yīng)用拓展 ? 內(nèi)容簡介： ? 概述 ? 預(yù)備知識 ?決策樹生成 (Building Decision Tree) ?決策樹剪枝 (Pruning Decision Tree) ? 捕捉變化數(shù)據(jù)的挖掘方法 ? 小結(jié) 概述 (一 ) ? 傳統(tǒng)挖掘方法的局限性 ? 只重視從數(shù)據(jù)庫中提取規(guī)則，忽視了庫中數(shù)據(jù)的變化 ? 挖掘所用的數(shù)據(jù)來自穩(wěn)定的環(huán)境，人為干預(yù)較少 概述 (二 ) ? 捕捉新舊數(shù)據(jù)變化的目的： ? 挖掘出變化的趨勢 ?例：啤酒 ——尿布 ? 阻止 /延緩不利變化的發(fā)生 ?例：金融危機 ——銀行的信貸策略 ? 差異挖掘算法的主要思想： ? 合理 比較新 /舊數(shù)據(jù)的挖掘結(jié)果，并清晰的描述其變化部分 預(yù)備知識一 (Building Tree) ? 基本思想： ? 用途：提取分類規(guī)則，進行分類預(yù)測 判定樹分類算法 output 訓(xùn)練集 決策樹 input 使用決策樹進行分類 ? 決策樹 ? 一個樹性的結(jié)構(gòu) ? 內(nèi)部節(jié)點上選用一個屬性進行分割 ? 每個分叉都是分割的一個部分 ? 葉子節(jié)點表示一個分布 ? 決策樹生成算法分成兩個步驟 ? 樹的生成 ? 開始，數(shù)據(jù)都在根節(jié)點 ? 遞歸的進行數(shù)據(jù)分片 ? 樹的修剪 ? 去掉一些可能是噪音或者異常的數(shù)據(jù) ? 決策樹使用 : 對未知數(shù)據(jù)進行分割 ? 按照決策樹上采用的分割屬性逐層往下，直到一個葉子節(jié)點 決策樹算法 ? 基本算法（貪心算法） ? 自上而下分而治之的方法 ? 開始時，所有的數(shù)據(jù)都在根節(jié)
高考資料相關(guān)推薦
鄂ICP備17016276號-1