決策樹(shù)分類(lèi)算法的應(yīng)用、進(jìn)展和發(fā)展前景(完整版)
【正文】 則。之后 ,又進(jìn)一步提出了迭代 ITA的思想 ,并將其應(yīng)用于 ,更好地保留了原始數(shù)據(jù)庫(kù)中的類(lèi)分布。 數(shù)據(jù)預(yù)處理 ? 針對(duì)這個(gè)問(wèn)題 ,有專(zhuān)家提出了一種新的基于信息增益比的數(shù)據(jù)概化方法 ITA。在這樣的數(shù)據(jù)集上進(jìn)行分析會(huì)花費(fèi)很長(zhǎng)時(shí)間使得挖掘任務(wù)不可行。當(dāng)前最有影響的決策樹(shù)算法是 Quinlan于 1986年提出的 ID3和 1993年提出的 。針對(duì)以上問(wèn)題許多學(xué)者提出了處理大型數(shù)據(jù)集的決策樹(shù)算法。使用 AOI方法可能出現(xiàn)的問(wèn)題是 :如果屬性概化得太高可能導(dǎo)致過(guò)分概化 ,產(chǎn)生的規(guī)則可能沒(méi)有多少信息 。 ? ITA較好地保留了原始數(shù)據(jù)庫(kù)中的類(lèi)分布 ,數(shù)據(jù)庫(kù)的尺寸也大大減小。將利用粗糙集簡(jiǎn)化后的數(shù)據(jù)集作為輸入產(chǎn)生的決策樹(shù)會(huì)更加緊湊。先對(duì)數(shù)據(jù)集按照屬性 A從小到大進(jìn)行排序排序后的結(jié)果為 a1， a2， … 。SSE是 SS的改進(jìn)算法 ,它利用求出最小基尼指數(shù)并估計(jì)出每一個(gè)區(qū)間上基尼指數(shù)的下限。所以有必要研究能夠直接對(duì)大型數(shù)據(jù)集進(jìn)行處理而運(yùn)行時(shí)間不會(huì)太長(zhǎng)的決策樹(shù)算法。 SLIQ采用了 MDL的方法來(lái)修剪樹(shù)。當(dāng)訓(xùn)練集非常大時(shí) ,SPRINT的效率有待考驗(yàn)。 尋找新的構(gòu)造決策樹(shù)的方法 ? 自從 Quinlan提出 ID3和 ,有不少專(zhuān)家提出了其他構(gòu)造決策樹(shù)的方法 ,如由 Brieman等人提出的 CART方法和由 Kass提出的 CHAID方法。 DI修剪法。近幾年有關(guān)這方面的研究取得了一些進(jìn)展。 ? 決策樹(shù)與神經(jīng)網(wǎng)絡(luò)相比所具有的最大優(yōu)點(diǎn)就是訓(xùn)練決策樹(shù)的時(shí)間遠(yuǎn)遠(yuǎn)低于訓(xùn)練神經(jīng)網(wǎng)絡(luò)的時(shí)間。 謝謝！ 。到底如何取舍需要具體問(wèn)題具體分析。前面介紹的決策樹(shù)技術(shù)與模糊集合原理的結(jié)合就是一個(gè)不錯(cuò)的選擇。 DI修剪法將保持那些雖不能減小錯(cuò)誤率但能指出一些特殊性質(zhì)的群體的子樹(shù)。此方法在決策樹(shù)構(gòu)造階段加入了專(zhuān)家知識(shí)，這樣便于用戶(hù)更深地理解產(chǎn)生決策樹(shù)的數(shù)據(jù)及最終產(chǎn)生的決策樹(shù)。 決策樹(shù)分類(lèi)算法的發(fā)展前景 目前決策樹(shù)技術(shù)的主要研究方向有以下幾點(diǎn) : ? 決策樹(shù)算法的并行性研究 ? 尋找新的構(gòu)造決策樹(shù)的方法 ? 3 、尋找更好的簡(jiǎn)化決策樹(shù)的方法 ? 4. 研究產(chǎn)生決策樹(shù)的訓(xùn)練和檢驗(yàn)數(shù)據(jù)的大小及特性與決策樹(shù)特性之間的關(guān)系 ? ? ? ? 決策樹(shù)算法的并行性研究 ? Chan和 Stolfo提出，可以將樣本劃分成子集或者從原始數(shù)據(jù)集中抽取若干子集，使得每個(gè)子集可以放在內(nèi)存中；然后由每個(gè)子集構(gòu)造一棵決策樹(shù)；最后，輸出
畢業(yè)設(shè)計(jì)相關(guān)推薦
鄂ICP備17016276號(hào)-1