決策樹分析及spss實(shí)現(xiàn)(ppt61頁(yè))(參考版)
2025-01-15 19:35本頁(yè)面
【正文】 ●對(duì)非方型區(qū)域無(wú)能為力。 ●決策樹提供清楚的指引，告訴我們?cè)谶M(jìn)行預(yù) 測(cè)和分類時(shí)哪一個(gè)變是最重要。 ●決策樹不需要太多計(jì)算就可進(jìn)行分類。從使用者的觀點(diǎn)，這種混合技術(shù)在類神經(jīng)網(wǎng)路領(lǐng)域在決策樹領(lǐng)域更常見，因?yàn)榕c類神經(jīng)網(wǎng)路結(jié)後，決策樹將無(wú)法解釋其決策，即使如以下形式(W1X1+W2X2+W3X3+…) ? N，其規(guī)則以藉由每一個(gè)節(jié)點(diǎn)變數(shù)的線性組合來(lái)以決策樹方法獲得，但在類神經(jīng)網(wǎng)就很容易讓人迷惑。Torrent Systems的一套資料探礦套裝軟體其中一項(xiàng)工具就有使用這個(gè)方法。這些衍生變數(shù)可能是多個(gè)其他變數(shù)的函數(shù)，或者可能是對(duì)數(shù)，平方根，立方，絕對(duì)值，或其他單一變數(shù)函數(shù)。真正的辦法是用屬性的線性合併輕易解決問(wèn)題。同樣的，在一個(gè)多維的空間，根據(jù)單一變數(shù)所做的檢驗(yàn)定義出一個(gè)超平面，這個(gè)平面和用來(lái)進(jìn)行檢驗(yàn)的這個(gè)變數(shù)所代表的軸垂直，而與其他所有軸平行。在一個(gè)二維空間， Y ? N這種測(cè)試形式，形成一個(gè)由與 Y軸垂直且與 X軸平行的直線所界定的區(qū)域。機(jī)械學(xué)習(xí)領(lǐng)域的一些研究者，非常強(qiáng)調(diào)這個(gè)觀念，但似乎只有在這些學(xué)者以一些小型的，組織完整的資料在建構(gòu)他們的研究時(shí)，才能獲得這樣完美的結(jié)果。這個(gè)決策樹如今更能夠表現(xiàn)分類上顯示的無(wú)異議的觀念： 『 當(dāng)所有投票人意見一致，這項(xiàng)決策就是無(wú)異議。 若以邏輯和函數(shù)來(lái)合併特性形成結(jié)合，我們就可以獲得如下圖那樣更簡(jiǎn)化的決策樹。 52 其他決策樹的變化 53 其他決策樹的變化 我們將這個(gè)情形當(dāng)成訓(xùn)練資料， CART或其他任何可以根據(jù)單一屬性的數(shù)值來(lái)分隔建構(gòu)二分法決策樹的演算法，都會(huì)建構(gòu)出下圖的決策樹。每一個(gè)節(jié)點(diǎn)的案例越少，得出的分類可靠性就越低。其中之一會(huì)造成決策樹擁有超過(guò)我們所需的節(jié)點(diǎn)。 51 其他決策樹的變化 一次使用超過(guò)一個(gè)變數(shù)： 至今我們討論的三個(gè)演算法都是用在測(cè)試單一變項(xiàng)來(lái)形成每一個(gè)分隔。根據(jù)檢驗(yàn)，能夠產(chǎn)生最大差異分類的預(yù)測(cè)變數(shù)，就被選為當(dāng)前這個(gè)節(jié)點(diǎn)的分隔變數(shù)。 卡方分析 (chisquared )這是對(duì)應(yīng)於 CHAID的前兩個(gè)字母縮寫。第二步，三個(gè)或更多的預(yù)測(cè)變數(shù)群組以二分法被重新分隔。這些子節(jié)點(diǎn)被選擇的方式是輸出變數(shù)遇上某個(gè)特定數(shù)值的機(jī)率隨著節(jié)點(diǎn)不同而有所差異。 另一個(gè)差異是 CHAID只限於類別變數(shù)使用，連續(xù)變數(shù)必頇被區(qū)隔成幾個(gè)區(qū)段範(fàn)圍，或是以高，中，低等類別來(lái)取代。CHAID是從更早的一套自動(dòng)互動(dòng)偵測(cè)系統(tǒng) AID衍生而來(lái)，後者是摩根（ . Man）與?？固?(. Sonquist)在 1963年提出。 42 43 CHAID CHAID是哈根（ . Hartigan）在 1975年率先提出的演算法，這是本章所討論的最古老的演算法。 ?看球賽加上地主隊(duì)輸球加上跟朋友出門，就會(huì)得出 啤酒 。下圖的決策樹部分得出以下的規(guī)則： ?看球賽加上地主隊(duì)獲勝加上跟朋友出門，就會(huì)得出 啤酒 。因此， 樹的相同資料來(lái)決定該如何加以修剪。 40 修剪決策樹： CART使用決策樹的分散度為度量，來(lái)標(biāo)記不同的分支樹，然後以沒(méi)有見過(guò)的預(yù)先分類好的資料（測(cè)試組）來(lái)測(cè)試這些分支樹。 與 CART差異 ： 培養(yǎng)決策樹： CART之間的第一個(gè)差異是 CART在每一個(gè)節(jié)點(diǎn)都呈現(xiàn)二分法，因此產(chǎn)生二分式?jīng)Q策樹，而 個(gè)節(jié)點(diǎn)產(chǎn)不同數(shù)目的分支。我們可以把問(wèn)題列入考量，以一個(gè)使用加權(quán)方式將錯(cuò)誤分類的機(jī)率加倍的代價(jià)函數(shù)，來(lái)取代錯(cuò)誤率。 當(dāng)然在醫(yī)療診斷上，一個(gè)錯(cuò)誤的陰性診斷（ negative）也許會(huì)比錯(cuò)誤的陽(yáng)性診斷（ positive）傷害更大。 38 分類與迴歸樹 （ CART） 將代價(jià)列入考量 : 我們討論至此，只使用錯(cuò)誤率作為評(píng)估一個(gè)分支樹良莠的依據(jù)。 37 分類與迴歸樹 （ CART） 評(píng)估最佳的分支樹：
畢業(yè)設(shè)計(jì)相關(guān)推薦
鄂ICP備17016276號(hào)-1