銀行客戶滿意度分析論(編輯修改稿)
2025-02-04 11:16 本頁面
【文章內(nèi)容簡介】 提高數(shù)據(jù) 準確估計 在選擇 屬性過程 中避免了因為 有監(jiān)督 的 過濾器 的 使用而而 導致減少后的一部分數(shù)據(jù)用于 模型測試的 過程中，在選擇屬性中回 導致 已經(jīng)看到了 測試數(shù)浙江大學寧波理工學院數(shù)據(jù)挖掘競賽論文報告 8 / 16 據(jù)中 要使用的屬性，從而影響模型構(gòu)建 有 偏倚的準確性估計。 ? 提高屬性 選擇 效率 該方法 是利用算法，讓學習器對數(shù)據(jù)進行 自己 學習選擇，提取重要影響因素，這種軟件 自己學習 選擇得到的數(shù)據(jù)結(jié)果比 手工選擇相關(guān)屬性 具有 更加 高的 準確率 。 我們想要利用上面的方法篩選得到 需要的 訓練子集 ， 這個訓練 子集 對 總體的影響程度相關(guān)性比較大。 利用這些對 模型訓練起較大作用的數(shù)據(jù)，從而建立一個更科學的決策樹模型，使得這個模型可以應(yīng)用于測試 數(shù)據(jù)，從而進行相關(guān)的結(jié)果預測。 最后我們 得到的訓練 子集為 如下 10個： 圖 3 圖 4 步驟 2： 建模 amp。預測 建模 將上面 預處理 得到的 訓練子集 ， 打開 分類面板， 利用 weka 的分類算法浙江大學寧波理工學院數(shù)據(jù)挖掘競賽論文報告 9 / 16 —— 決策樹 （ J48） 。采取預剪枝 的的優(yōu)化方法，設(shè)定 枝節(jié) 的閾值為 10，置信區(qū)間為 決策樹 預設(shè) ，進行分類處理 。 該算法 的 原理 是 通過對屬性的信息熵的計算，以信息增益量為度量進行劃分分裂結(jié)點， 選取信息增益量最小的作為根節(jié)點，下面就重復上面的步驟依次將節(jié)點分裂完全，最終知道該節(jié)點只有一個分裂方向或者該節(jié)點的分裂枝節(jié)小于閾 值，則停止分裂。 建模過程中， 我們一決策目標 TARGET 為樣本的類別，屬性值具體如下： @attribute TARGET {0 , 1} 為了知道不同特征屬性的銀行客戶最終滿意程度，我們需要做的是建立一個合理的決策樹模型，篩選出需要的屬性特征作為決策節(jié)點。 其中決策樹的核心算法是 J48，他不是一個算法，而是一組算法，其中包括剪枝與非剪枝 J48?？墒?， 一個元組本身有很多屬性，我們怎么知道首先要對哪個屬性進行判斷，接下來要對哪個屬性進行判斷？ 這個時候算法原理是利用了 屬性選擇度量 來解決這個問題的。 屬性選擇度量 又稱分裂規(guī)則，因為它們決定給定節(jié)點上的元組如何分裂。屬性選擇度量提供了每個屬性描述給定訓練元組的秩評定，具有最好度量得分的屬性被選作給定元組的分裂屬性。目前比較流行的屬性選擇度量有信息增益、增益率和 Gini指標。 因為 J48與 ，這里我們利用 ，該算法主要包括有 如下一個公式： （ 1）信息熵 ： pi表示該節(jié)點上類別 i的訓練記錄所占的比例 ； （ 2）劃分信息熵： 現(xiàn)在假定按照屬性 A劃分 D中的元組，且屬性 A將 D劃分成 v個不同的類。在該劃分之后，為了得到準確的分類還需要的信息由下面 的式子度量： （ 3）信息增益 ： 信息增益定義為原來的信息需求（即僅基于類比例）浙江大學寧波理工學院數(shù)據(jù)挖掘競賽論文報告 10 / 16 與新需求（即對 A劃分之后得到的）之間的差 ； （ 4）分裂信息： 一般說來，對于一個具有多個屬性的元組，用一個屬性就將它們完全分開幾乎不可能，否則的話，決策樹的深度就只能是 2了。從這里可以看出，一旦 選擇一個屬性 A，假設(shè)將元組分成了兩個部分 A1 和 A2，由于 A1 和 A2還可以用其它屬性接著再分，所以又引出一個新的問題：接下來我們要選擇哪個屬性來分類？對 D中元組分類所需的期望信息是 Info(D) ,那么同理，當我們通過 A將 D劃分成 v個子集 Dj(j=1,2,? ,v)之后，我們要對 Dj的元組進行分類，需要的期望信息就是 Info(Dj),而一共有 v個類，所以對 v個集合再分類，需要的信息就是公式（ 2）了。 但是，使用信息增益的話其實是有一個缺點，那就是它偏向于具有大量值的屬性。 正是基于此，信息增益率這樣一
公司管理相關(guān)推薦
鄂ICP備17016276號-1