決策樹(shù)算法-展示頁(yè)
2025-01-19 19:47本頁(yè)面
【正文】 的一個(gè)決策點(diǎn)和每個(gè)可能輸出的一個(gè)分枝 (如圖 73a中的 A,B和 C節(jié)點(diǎn) ) ? 假設(shè)選擇有 n個(gè)輸出 (所給屬性的 n個(gè)值 )的檢驗(yàn)，把訓(xùn)練樣本集 T分區(qū)成子集T1,T2,… ,Tn。 根據(jù)某一屬性 ，選擇具有一個(gè)或更多互斥的輸出 {O1,O2,… ,On}的合適檢驗(yàn)。 3. T包含屬于不同類(lèi)的樣本。 2. T不包含樣本。用{C1,C2,… ,CK}來(lái)表示這些類(lèi)，集合 T所含的內(nèi)容信息有 3種可能性： 1. T包含一個(gè)或更多的樣本，全部屬于單個(gè)的類(lèi) Cj。 ? 例如，如圖 73a為決策樹(shù)分類(lèi)模型，待分類(lèi)有樣本如圖 73b所示，由決策樹(shù)分類(lèi)模型可得出待分類(lèi)樣本為類(lèi) 2。決策樹(shù)可以用來(lái)對(duì)一個(gè)新樣本進(jìn)行分類(lèi)，這種分類(lèi)從該樹(shù)的根節(jié)點(diǎn)開(kāi)始，然后移動(dòng)樣本直至達(dá)葉節(jié)點(diǎn)?；谛畔⒌脑囂椒ㄟx擇的是可以給出最高信息的屬性，即這個(gè)屬性是使樣本分類(lèi)的結(jié)果子樹(shù)所需的信息最小。 ? 基于信息論的方法堅(jiān)持對(duì)數(shù)據(jù)庫(kù)中一個(gè)樣本進(jìn)行分類(lèi)時(shí)所做檢驗(yàn)的數(shù)量最小。 ? 該算法的關(guān)鍵性決策是對(duì)節(jié)點(diǎn)屬性值的選擇。 2. 這個(gè)算法遞歸地應(yīng)用于每個(gè)子節(jié)點(diǎn)，直到一個(gè)節(jié)點(diǎn)上的所有樣本都分區(qū)到某個(gè)類(lèi)中。對(duì)屬性的每一個(gè)值產(chǎn)生一分枝。 ? 生成決策樹(shù)的一個(gè)著名的算法是Quinlan的 ID3算法， 。不論屬性 Y的值是多少，值 X 1的樣本都屬于類(lèi) 1。該問(wèn)題有兩個(gè)屬性 X,Y。 ? 決策樹(shù)包含屬性已被檢驗(yàn)的節(jié)點(diǎn)，一個(gè)節(jié)點(diǎn)的輸出分枝和該節(jié)點(diǎn)的所有可能的檢驗(yàn)結(jié)果相對(duì)應(yīng)。 決策樹(shù) ? 從數(shù)據(jù)中生成分類(lèi)器的一個(gè)特別有效的方法是生成一個(gè)決策樹(shù)。它可以根據(jù)有效的屬性輸入值預(yù)測(cè)一些實(shí)體 (所給樣本 )的類(lèi)。由一組輸入的屬性值向量 (也叫屬性向量 )和相應(yīng)的類(lèi)，用基于歸納學(xué)習(xí)算法得出分類(lèi)。第七章 決策樹(shù)和決策規(guī)則 本章目標(biāo) ? 分析解決分類(lèi)問(wèn)題的基于邏輯的方法的特性 . ? 描述決策樹(shù)和決策規(guī)則在最終分類(lèi)模型中的表述之間的區(qū)別 . ? 介紹 . ? 了解采用修剪方法降低決策樹(shù)和決策規(guī)則的復(fù)雜度 . ? 決策樹(shù)和決策規(guī)則是解決實(shí)際應(yīng)用中分類(lèi)問(wèn)題的數(shù)據(jù)挖掘方法。 ? 一般來(lái)說(shuō)，分類(lèi)是把數(shù)據(jù)項(xiàng)映射到其中一個(gè)事先定義的類(lèi)中的這樣一個(gè)學(xué)習(xí)函數(shù)的過(guò)程。 ? 學(xué)習(xí)的目標(biāo)是構(gòu)建一個(gè)分類(lèi)模型，通常也叫分類(lèi)器。是一個(gè)在樣本其他屬性已知的情況下預(yù)測(cè)另外一個(gè)屬性 (樣本的類(lèi) )的模型 (分類(lèi)的結(jié)果 )。它是一種基于邏輯的方法，通過(guò)一組輸入 輸出樣本構(gòu)建決策樹(shù)的有指導(dǎo)學(xué)習(xí)方法。 ? 圖 72是一個(gè)簡(jiǎn)單的決策樹(shù)。 所有屬性
化學(xué)相關(guān)推薦
鄂ICP備17016276號(hào)-1