決策樹分析技巧培訓(xùn)課件-資料下載頁(yè)
2026-01-04 19:35本頁(yè)面
【正文】 別差異，就對(duì)這項(xiàng)結(jié)果使用卡方分析檢驗(yàn)。根據(jù)檢驗(yàn)，能夠產(chǎn)生最大差異分類的預(yù)測(cè)變數(shù)，就被選為當(dāng)前這個(gè)節(jié)點(diǎn)的分隔變數(shù)。 49 CHAID 限制決策樹的成長(zhǎng)： 在 CHAID演算法中，決策樹持續(xù)成長(zhǎng)，直到再也沒有任何區(qū)隔能在分類上達(dá)到統(tǒng)計(jì)顯著性差異為止。 50 其他決策樹的變化 一次使用超過一個(gè)變數(shù)： 至今我們討論的三個(gè)演算法都是用在測(cè)試單一變項(xiàng)來形成每一個(gè)分隔。這個(gè)方法可能會(huì)有一些問題。其中之一會(huì)造成決策樹擁有超過我們所需的節(jié)點(diǎn)。額外的節(jié)點(diǎn)會(huì)造成不便，因?yàn)橹挥械竭_(dá)某一個(gè)節(jié)點(diǎn)的訓(xùn)練組資料有能夠引發(fā)下一層的分支樹。每一個(gè)節(jié)點(diǎn)的案例越少，得出的分類可靠性就越低。為了簡(jiǎn)化說明，我們假設(shè)只有三個(gè)人投票。 51 其他決策樹的變化 52 其他決策樹的變化 我們將這個(gè)情形當(dāng)成訓(xùn)練資料， CART或其他任何可以根據(jù)單一屬性的數(shù)值來分隔建構(gòu)二分法決策樹的演算法，都會(huì)建構(gòu)出下圖的決策樹。這個(gè)決策樹完美的將訓(xùn)練組資料分組，但需要五個(gè)內(nèi)部分隔節(jié)點(diǎn)。 若以邏輯和函數(shù)來合併特性形成結(jié)合，我們就可以獲得如下圖那樣更簡(jiǎn)化的決策樹。這個(gè)決策樹顯示使用變數(shù)結(jié)合能獲得的另一個(gè)潛在優(yōu)點(diǎn)。這個(gè)決策樹如今更能夠表現(xiàn)分類上顯示的無異議的觀念：『當(dāng)所有投票人意見一致，這項(xiàng)決策就是無異議?！? 53 其他決策樹的變化 54 其他決策樹的變化 55 其他決策樹的變化 以機(jī)械學(xué)習(xí)研究者的行話來說，一個(gè)看一眼就能夠了解的決策樹，具有方便理解的性質(zhì)。機(jī)械學(xué)習(xí)領(lǐng)域的一些研究者，非常強(qiáng)調(diào)這個(gè)觀念，但似乎只有在這些學(xué)者以一些小型的，組織完整的資料在建構(gòu)他們的研究時(shí)，才能獲得這樣完美的結(jié)果。 56 讓超平面傾斜： 傳統(tǒng)的決策樹檢驗(yàn)一個(gè)節(jié)點(diǎn)的單一變數(shù)值，只能形成方形區(qū)域。在一個(gè)二維空間， Y ? N這種測(cè)試形式，形成一個(gè)由與 Y軸垂直且與 X軸平行的直線所界定的區(qū)域。藉由選擇不同的Ｎ值，我們可以讓這條直線上下移動(dòng)，但無法改變其斜率。同樣的，在一個(gè)多維的空間，根據(jù)單一變數(shù)所做的檢驗(yàn)定義出一個(gè)超平面，這個(gè)平面和用來進(jìn)行檢驗(yàn)的這個(gè)變數(shù)所代表的軸垂直，而與其他所有軸平行。 其他決策樹的變化 57 問題是有些東西不適合放進(jìn)方形區(qū)域裡，下圖顯示了這個(gè)問題：這兩個(gè)區(qū)域?qū)嶋H上是由一條對(duì)角線劃分，需要一個(gè)更深入的決策樹才能產(chǎn)生足夠的方形區(qū)域來約略正確的將其劃分。真正的辦法是用屬性的線性合併輕易解決問題。多個(gè)軟體工具嘗試以變數(shù)數(shù)值的加權(quán)總數(shù)來做分，讓超平面傾斜，而且有多種方法可以選擇加權(quán)方式。這些衍生變數(shù)可能是多個(gè)其他變數(shù)的函數(shù)，或者可能是對(duì)數(shù)，平方根，立方，絕對(duì)值，或其他單一變數(shù)函數(shù)。 其他決策樹的變化 58 其他決策樹的變化 59 類神經(jīng)樹： 在每一個(gè)節(jié)點(diǎn)就多個(gè)變數(shù)進(jìn)行合併性輸入的一個(gè)方法，就是將每一個(gè)節(jié)點(diǎn)組成一個(gè)小型的類神經(jīng)網(wǎng)路。Torrent Systems的一套資料探礦套裝軟體其中一項(xiàng)工具就有使用這個(gè)方法。當(dāng)我們碰到方形區(qū)域無法順利描述出讓類別真正形狀的領(lǐng)域，類神經(jīng)可以得出更正確的分類。從使用者的觀點(diǎn)，這種混合技術(shù)在類神經(jīng)網(wǎng)路領(lǐng)域在決策樹領(lǐng)域更常見，因?yàn)榕c類神經(jīng)網(wǎng)路結(jié)後，決策樹將無法解釋其決策，即使如以下形式(W1X1+W2X2+W3X3+…) ? N，其規(guī)則以藉由每一個(gè)節(jié)點(diǎn)變數(shù)的線性組合來以決策樹方法獲得，但在類神經(jīng)網(wǎng)就很容易讓人迷惑。 其他決策樹的變化 60 決策樹的優(yōu) 、 缺點(diǎn) 優(yōu)點(diǎn) ： ●決策樹可以產(chǎn)生易於了解的規(guī)則。 ●決策樹不需要太多計(jì)算就可進(jìn)行分類。 ●決策樹能夠處理連續(xù)與 類別型的資料 。 ●決策樹提供清楚的指引，告訴我們?cè)谶M(jìn)行預(yù) 測(cè)和分類時(shí)哪一個(gè)變是最重要。 缺點(diǎn) ： ●遇上太多類別時(shí)容易犯錯(cuò) 。 ●對(duì)非方型區(qū)域無能為力。 61
黨政相關(guān)相關(guān)推薦
鄂ICP備17016276號(hào)-1