決策樹(shù)信息論c45算法(參考版)
2025-01-16 19:41本頁(yè)面
【正文】 將分割屬性化為 問(wèn)題：對(duì)于連續(xù)取值的分割屬性，閾值 =？ 方法： ? 在表格中連續(xù)值分割屬性取值 ? 對(duì)每個(gè) 計(jì)算增益比例，找到最大值即可 ID3缺點(diǎn) 3：無(wú)法對(duì)未知分割屬性進(jìn)行處理 原因：某分割屬性 Y的一個(gè)取值 由于一些原因未被計(jì)入 解決方法：平均值代替 概率法代替 決策樹(shù) IFTHEN 規(guī)則編程 IF 年齡 30 THEN 不見(jiàn) IF 年齡 =30 AND 長(zhǎng)相 =丑 THEN 不見(jiàn) IF年齡 =30 AND 長(zhǎng)相 =帥 or中等 AND 收入 =高 THEN 見(jiàn) IF年齡 =30 AND 長(zhǎng)相 =帥 or中等 AND 收入 =中等 AND 公務(wù)員 =是 THEN 見(jiàn) IF年齡 =30 AND 長(zhǎng)相 =帥 or中等 AND 收入 =中等 AND 公務(wù)員 =不是 THEN 不見(jiàn) IF年齡 =30 AND 長(zhǎng)相 =帥 or中等 AND 收入 =低 THEN 不見(jiàn) ID3缺點(diǎn) 3： 無(wú)樹(shù)剪枝，易受噪聲和波動(dòng)影響 解決方法： K階交叉驗(yàn)證 數(shù)據(jù)集 (一組 表格 ) 子集 1 子集 2 子集 3 子集 4 子集 5 子集 6 子集 7 子集 8 決策樹(shù) 1 用 于 生 成 樹(shù) 用于驗(yàn)證 K=8的 8階交叉驗(yàn)證 錯(cuò)誤數(shù) 1 數(shù)據(jù)集 (一組 表格 ) 子集 2 子集 1 子集 3 子集 4 子集 5 子集 6 子集 7 子集 8 決策樹(shù) 2 用 于 生 成 樹(shù) 用于驗(yàn)證 K=8的 8階交叉驗(yàn)證 錯(cuò)誤數(shù) 2 數(shù)據(jù)集 (一組 表格 ) 子集 3 子集 1 子集 2 子集 4 子集 5 子集 6 子集 7 子集 8 決策樹(shù) 3 用 于 生 成 樹(shù) 用于驗(yàn)證 K=8的 8階交叉驗(yàn)證 錯(cuò)誤數(shù) 3 數(shù)據(jù)集 (一組 表格 ) 子集 4 子集 1 子集 2 子集 3 子集 5 子集 6 子集 7 子集 8 決策樹(shù) 4 用 于 生 成 樹(shù) 用于驗(yàn)證 K=8的 8階交叉驗(yàn)證 錯(cuò)誤數(shù) 4 數(shù)據(jù)集 (一組 表格 ) 子集 5 子集 1 子集 2 子集 3 子集 4 子集 6 子集 7 子集 8 決策樹(shù) 5 用 于 生 成 樹(shù) 用于驗(yàn)證 K=8的 8階交叉驗(yàn)證 錯(cuò)誤數(shù) 5 數(shù)據(jù)集 (一組 表格 ) 子集 6 子集 1 子集 2 子集 3 子集 4 子集 5 子集 7 子集 8 決策樹(shù) 6 用 于 生 成 樹(shù) 用于驗(yàn)證 K=8的 8階交叉驗(yàn)證 錯(cuò)誤數(shù) 6 數(shù)據(jù)集 (一組 表格 ) 子集 7 子集 1 子集 2 子集 3 子集 4 子集 5 子集 6 子集 8 決策樹(shù) 7 用 于 生 成 樹(shù) 用于驗(yàn)證 K=8的 8階交叉驗(yàn)證 錯(cuò)誤數(shù) 7 數(shù)據(jù)集 (一組 表格 ) 子集 8 子集 1 子集 2 子集 3 子集 4 子集 5 子集 6 子集 7 決策樹(shù) 8 用 于 生 成 樹(shù) 用于驗(yàn)證 K=8的 8階交叉驗(yàn)證 錯(cuò)誤數(shù) 8 樹(shù) 1 錯(cuò) 1 樹(shù) 2 錯(cuò) 2 樹(shù) 3 錯(cuò) 3 樹(shù) 4 錯(cuò) 4 樹(shù) 5 錯(cuò) 5 樹(shù) 6 錯(cuò) 6 樹(shù) 7 錯(cuò) 7 樹(shù) 8 錯(cuò) 8 決 策 樹(shù) 最 終 版 僅用于小規(guī)模數(shù)據(jù) … （選擇掌握） C語(yǔ)言的實(shí)現(xiàn) 網(wǎng)絡(luò)鏈接： 本機(jī)文件： .doc 參考文獻(xiàn) ? ails/7188639 ? ? ? ? ? s/5278576 參考文獻(xiàn) 參考文獻(xiàn) ? 參考文獻(xiàn) ? 《數(shù)據(jù)挖掘原理與算法》科學(xué)出版社 邵峰晶等編著； ? 《數(shù)據(jù)挖掘算法與應(yīng)用》北京大學(xué)出版社 梁循編著 ? 《現(xiàn)代通信原理》清華大學(xué)出版社 曹志剛等編著 。 如果把連續(xù)值看成離散值，則會(huì)產(chǎn)生分割屬性的偏向問(wèn)題。 ? 在 ，如果分割屬性取值很大，則 21( ) ( ) l og ( )( | ) H ( X ) H ( X |Y)( , )( ) ( )NiiiH Y P y P yI X YG X YH Y H Y????? 增 大而 減 小 21( | ) H ( X ) H ( X |Y)( , )( ) ( )( ) 1( ) ( ) l og ( ) 0( | ) H ( X ) H ( X |Y)( , )( ) ( )iNiiiI X YG X YH Y H YPyH Y P y P yI X YG X YH Y H Y????????對(duì) 于當(dāng) 某 一 個(gè) 時(shí) ， 近 似 于 。信息增益極大幾率增高。 例如用“身份證號(hào)”區(qū)分“相親”，顯然沒(méi)有任何意義，但是確實(shí)符合 ID3算法。 7) 此時(shí)形成二分的決策樹(shù)，即只有兩個(gè)可能結(jié)果 ID3算法（選擇掌握） ID3算法用
規(guī)章制度相關(guān)推薦
鄂ICP備17016276號(hào)-1