【正文】 當(dāng)我們碰到方形區(qū)域無法順利描述出讓類別真正形狀的領(lǐng)域，類神經(jīng)可以得出更正確的分類。這個決策樹完美的將訓(xùn)練組資料分組，但需要五個內(nèi)部分隔節(jié)點。 45 CHAID 培養(yǎng)決策樹： 如同其他兩種方法， CHAID演算利用輸入變數(shù)找出一個方法，將訓(xùn)練組資料分隔成兩個或兩個以上子節(jié)點。 39 ，是澳州研究者昆蘭（ J. Ross Quinlan）多年努力成果。很顯的。當(dāng)我們無法找到任何分隔可以顯著降低一個節(jié)點的分散度，我們就將其標(biāo)示為葉部節(jié)點。因此，第一的任務(wù)是決定哪一個自變數(shù)可以成最好的分隔變數(shù)。 15 決策樹基本觀念 16 決策樹基本觀念 表現(xiàn)多維度 : 當(dāng)我們將資料丟進(jìn)格子中，它們落到特定的層內(nèi)並以此分類。 ●如果是一個葉部節(jié)點，可觀察資料分類的方式。這項以樹狀圖為基礎(chǔ)的方法，其吸引人之處在於決策樹具有規(guī)則，和類神經(jīng)網(wǎng)路不同。 從根部到每一個葉部都有一套獨特的路徑，這個路徑就是用來分類資料規(guī)則的一種表達(dá)方式。這類直條圖可以使用直條的頻色或形狀來 顯示對應(yīng)規(guī)則的錯誤率。 21 分類與迴歸樹 （ CART） 22 分類與迴歸樹 （ CART） numbers 23 分類與迴歸樹 （ CART） 找出起始的分隔 : 在過程中的一開始，我們有一個預(yù)先分類好的訓(xùn)練和資料。如果這個變數(shù)只遇上一個數(shù)值，我們就將其排除，因為它無法被用來創(chuàng)造一個分隔。這個規(guī)則有助於將訓(xùn)練資料分類，但如果在更寬廣的世界上，馬丁是一個很少見的名，而且這個名字和身高又沒有特別的關(guān)連，那麼這個規(guī)則比沒用還糟糕。 當(dāng)然在醫(yī)療診斷上，一個錯誤的陰性診斷（ negative）也許會比錯誤的陽性診斷（ positive）傷害更大。CHAID是從更早的一套自動互動偵測系統(tǒng) AID衍生而來，後者是摩根（ . Man）與?？固?(. Sonquist)在 1963年提出。每一個節(jié)點的案例越少，得出的分類可靠性就越低。這些衍生變數(shù)可能是多個其他變數(shù)的函數(shù)，或者可能是對數(shù)，平方根，立方，絕對值，或其他單一變數(shù)函數(shù)。 ●決策樹不需要太多計算就可進(jìn)行分類。這個決策樹如今更能夠表現(xiàn)分類上顯示的無異議的觀念： 『 當(dāng)所有投票人意見一致，這項決策就是無異議。第二步，三個或更多的預(yù)測變數(shù)群組以二分法被重新分隔。 40 修剪決策樹： CART使用決策樹的分散度為度量，來標(biāo)記不同的分支樹，然後以沒有見過的預(yù)先分類好的資料（測試組）來測試這些分支樹。 32 分類與迴歸樹 （ CART） 33 分類與迴歸樹 （ CART） 確認(rèn)入選的分支決策樹： 我們的目標(biāo)是首先將提供最少額外預(yù)測能力的分支先修剪掉?；仡櫱皥D，圖中選取了從根部到標(biāo)示為『 女性 』 的葉部路徑。對於一組資料的 『 分散度指標(biāo) 』（ index of diversity）有多種計算方式。仔細(xì)的看，我們可以發(fā)現(xiàn)某些層在分類上表現(xiàn)很好，或是聚集了大量資料。第四章中的電影迷資料庫。隨後我們進(jìn)一步介紹如何以 CART、 CHAID演算法建構(gòu)決策樹。 決策樹基本觀念 6 一筆資料從根部的節(jié)點進(jìn)入決策樹。和決策樹根部節(jié)點有關(guān)的測試將下層分成兩個或更多部分。在下圖中，我們將顥示在這種分類問題上，決策樹超越純粹統(tǒng)計方法的優(yōu)點。我們從每個變數(shù)中找出最能降低分散度的最佳分隔變數(shù)，勝利者就被選為根節(jié)點的分隔變數(shù)。每一個葉部的錯誤率乘上資料抵達(dá)葉部的機率 (分配到資料的比例 )，加起來的總數(shù)就是整個決策樹的錯誤率。入選分支樹應(yīng)用在評估組所得出的錯誤率，來預(yù)期這個分支樹在未經(jīng)分類的資料上使用時的錯誤率。 ?看球賽加上地主隊輸球加上待在家裡，就會得出 牛奶 。這個方法可能會有一些問題。 其