決策樹和決策規(guī)則培訓(xùn)教材-展示頁
2025-01-19 18:38本頁面
【正文】 的一個(gè)決策點(diǎn)和每個(gè)可能輸出的一個(gè)分枝 (如圖 73a中的 A,B和 C節(jié)點(diǎn) ) ? 假設(shè)選擇有 n個(gè)輸出 (所給屬性的 n個(gè)值 )的檢驗(yàn)，把訓(xùn)練樣本集 T分區(qū)成子集T1,T2,… ,Tn。 根據(jù)某一屬性 ，選擇具有一個(gè)或更多互斥的輸出 {O1,O2,… ,On}的合適檢驗(yàn)。 3. T包含屬于不同類的樣本。 2. T不包含樣本。用{C1,C2,… ,CK}來表示這些類，集合 T所含的內(nèi)容信息有 3種可能性： 1. T包含一個(gè)或更多的樣本，全部屬于單個(gè)的類 Cj。 ? 例如，如圖 73a為決策樹分類模型，待分類有樣本如圖 73b所示，由決策樹分類模型可得出待分類樣本為類 2。決策樹可以用來對一個(gè)新樣本進(jìn)行分類，這種分類從該樹的根節(jié)點(diǎn)開始，然后移動(dòng)樣本直至達(dá)葉節(jié)點(diǎn)?；谛畔⒌脑囂椒ㄟx擇的是可以給出最高信息的屬性，即這個(gè)屬性是使樣本分類的結(jié)果子樹所需的信息最小。 ? 基于信息論的方法堅(jiān)持對數(shù)據(jù)庫中一個(gè)樣本進(jìn)行分類時(shí)所做檢驗(yàn)的數(shù)量最小。 ? 該算法的關(guān)鍵性決策是對節(jié)點(diǎn)屬性值的選擇。 2. 這個(gè)算法遞歸地應(yīng)用于每個(gè)子節(jié)點(diǎn)，直到一個(gè)節(jié)點(diǎn)上的所有樣本都分區(qū)到某個(gè)類中。對屬性的每一個(gè)值產(chǎn)生一分枝。 ? 生成決策樹的一個(gè)著名的算法是Quinlan的 ID3算法， 。不論屬性 Y的值是多少，值 X 1的樣本都屬于類 1。該問題有兩個(gè)屬性 X,Y。 ? 決策樹包含屬性已被檢驗(yàn)的節(jié)點(diǎn)，一個(gè)節(jié)點(diǎn)的輸出分枝和該節(jié)點(diǎn)的所有可能的檢驗(yàn)結(jié)果相對應(yīng)。 決策樹 ? 從數(shù)據(jù)中生成分類器的一個(gè)特別有效的方法是生成一個(gè)決策樹。它可以根據(jù)有效的屬性輸入值預(yù)測一些實(shí)體 (所給樣本 )的類。由一組輸入的屬性值向量 (也叫屬性向量 )和相應(yīng)的類，用基于歸納學(xué)習(xí)算法得出分類。第七章 決策樹和決策規(guī)則 本章目標(biāo) ? 分析解決分類問題的基于邏輯的方法的特性 . ? 描述決策樹和決策規(guī)則在最終分類模型中的表述之間的區(qū)別 . ? 介紹 . ? 了解采用修剪方法降低決策樹和決策規(guī)則的復(fù)雜度 . ? 決策樹和決策規(guī)則是解決實(shí)際應(yīng)用中分類問題的數(shù)據(jù)挖掘方法。 ? 一般來說，分類是把數(shù)據(jù)項(xiàng)映射到其中一個(gè)事先定義的類中的這樣一個(gè)學(xué)習(xí)函數(shù)的過程。 ? 學(xué)習(xí)的目標(biāo)是構(gòu)建一個(gè)分類模型，通常也叫分類器。是一個(gè)在樣本其他屬性已知的情況下預(yù)測另外一個(gè)屬性 (樣本的類 )的模型 (分類的結(jié)果 )。它是一種基于邏輯的方法，通過一組輸入 輸出樣本構(gòu)建決策樹的有指導(dǎo)學(xué)習(xí)方法。 ? 圖 72是一個(gè)簡單的決策樹。 所有屬性
黨政相關(guān)相關(guān)推薦
鄂ICP備17016276號-1