決策樹(shù)分類(lèi)算法的應(yīng)用、進(jìn)展和發(fā)展前景-在線(xiàn)瀏覽
2025-07-13 07:22本頁(yè)面
【正文】 為 I1。計(jì)算 I2/I1， 若商大于給定閾值 ,則對(duì)屬性值進(jìn)行概化 ,否則刪除該屬性。這使得產(chǎn)生的決策樹(shù)更加緊湊 ,大大減小了樹(shù)的尺寸 ,而且精度也沒(méi)有明顯地降低。之后 ,又進(jìn)一步提出了迭代 ITA的思想 ,并將其應(yīng)用于 ,更好地保留了原始數(shù)據(jù)庫(kù)中的類(lèi)分布。直接利用這種數(shù)據(jù)集來(lái)產(chǎn)生決策樹(shù)會(huì)增加存儲(chǔ)和計(jì)算方面的負(fù)擔(dān)。利用粗糙集理論中的不可分辨關(guān)系將數(shù)據(jù)集進(jìn)行屬性歸約和數(shù)據(jù)過(guò)濾，去除與決策無(wú)關(guān)的多余信息也是當(dāng)前比較熱門(mén)的研究。 ?? ?ci ii pp1 2log抽樣方法 ? 在進(jìn)行數(shù)據(jù)挖掘的分類(lèi)任務(wù)時(shí)利用抽樣方法也可以提高決策樹(shù)的效率，特別是當(dāng)我們對(duì)算法的效率要求很高時(shí)。對(duì)數(shù)據(jù)集進(jìn)行抽樣是指利用統(tǒng)計(jì)抽樣方法抽取整個(gè)數(shù)據(jù)集的一個(gè)子集，用該子集產(chǎn)生一棵決策樹(shù)對(duì)未知樣本進(jìn)行分類(lèi)或者從中抽取分類(lèi)規(guī)則。因此這種做法是以犧牲精確度為代價(jià)來(lái)提高運(yùn)算效率的。 抽樣方法 ? 樹(shù)構(gòu)造階段在內(nèi)部節(jié)點(diǎn)（屬性）進(jìn)行屬性選擇時(shí)，如果面對(duì)的是連續(xù)值屬性，我們一般按如下方法選擇最優(yōu)分裂點(diǎn)（ split）：設(shè) A為連續(xù)值屬性 ,最多可能有 n個(gè)屬性值。按照排序后的順序依次取分裂點(diǎn)，計(jì)算其屬性選擇度量值，如信息增益、基尼指數(shù)等，從而得到最優(yōu)劃分。對(duì)于連續(xù)值屬性 ,為了在內(nèi)部節(jié)點(diǎn)選擇最優(yōu)分裂點(diǎn)需要對(duì)每個(gè)屬性的每個(gè)取值計(jì)算其相應(yīng)的基尼指數(shù)。針對(duì)這一問(wèn)題 ,出， 可以選擇一個(gè)合適的間隔 ,利用它來(lái)選擇每個(gè)數(shù)值型屬性的某些取值而不是全部取值來(lái)計(jì)算其基尼指數(shù) ,這樣計(jì)算量會(huì)大大降低。 抽樣方法 Khaled Alsabti等人提出了一種新的決策樹(shù)分類(lèi)器CLOUDS,提供了兩種確定數(shù)值型屬性最優(yōu)分裂點(diǎn)的新方法 SS和 SS采用分位技術(shù)將每一個(gè)數(shù)值型屬性的取值范圍分為若干個(gè)區(qū)間 (每一個(gè)區(qū)間包含的數(shù)據(jù)點(diǎn)基本相等 ),計(jì)算每個(gè)區(qū)間兩個(gè)端點(diǎn)的基尼指數(shù)并將基尼指數(shù)最小的點(diǎn)作為最優(yōu)分裂點(diǎn)進(jìn)行下一步的分枝。若區(qū)間的基尼指數(shù)下限小于最小基尼指數(shù) ,則將區(qū)間保留 。 SSE的精度要高于SS,但是計(jì)算量也大。與傳統(tǒng)的決策樹(shù)算法相比 ,明顯地降低了運(yùn)算的復(fù)雜度而且產(chǎn)生的決策樹(shù)在精度和規(guī)模上也保持了較高的質(zhì)量。然而這樣也可能漏掉數(shù)據(jù)中有價(jià)值的信息。Manish Mehta等人提出的 SLIQ和 Shafer .等人提出的 SPRINT是能對(duì)大型數(shù)據(jù)集進(jìn)行處理的決策樹(shù)算法 ,它們都能處理連續(xù)值屬性和離散值屬性。 ? SLIQ使用若干駐留磁盤(pán)的屬性表和單個(gè)駐留內(nèi)存的類(lèi)表。每個(gè)元組由屬性表中鏈接
畢業(yè)設(shè)計(jì)相關(guān)推薦
鄂ICP備17016276號(hào)-1