決策樹-wenkub
2023-02-12 02:52:04 本頁面
【正文】 在決策樹各個結(jié)點上應(yīng)用信息增益準(zhǔn)則選擇特征遞歸地構(gòu)建決策樹。 風(fēng) ，取值為：有風(fēng)，無風(fēng)。在這種兩個類別的歸納任務(wù)中， P類和 N類的實體分別稱為概念的 正例和反例 。 決策樹算法 ID3算法 決策樹算法 三 實例 對于氣候分類問題進行以下具體計算。再向下分支， “ 濕度 ” 取 “ 高 ” 的例子全為 N類，該分支標(biāo)記 N；取值 “ 正常 ” 的例子全為 P類，該分支標(biāo)記 P。 決策樹算法 三 實例 晴 多云 雨 P 高 正常 P N N P 有 風(fēng) 無 風(fēng) 濕度 風(fēng) 天氣 圖 1 ID3算法的缺點： 1．只適合屬性值為離散的； 2．決策樹層次較多時，決策質(zhì)量低； 3．傾向于選擇取值較多 的屬性； 決策樹算法 四 ID3缺點 取得熵 劃分?jǐn)?shù)據(jù)集 構(gòu)造 決策樹 決策樹 Matplotlib注解繪制樹形圖 測試 存儲 優(yōu)點： 決策樹易于理解和實現(xiàn)，人們在在學(xué)習(xí)過程中不需要使用者了解很多的背景知識這同時是它的能夠直接體現(xiàn)數(shù)據(jù)的特點，只要通過解釋后都有能力去理解決策樹所表達(dá)的意義 。 決策樹 A1的凈收益值 =[300*+（ 60） *]*5450=510萬 A2的凈收益值 =[120*+30*]*5240=225萬 謝謝 THE END 。 決策樹 缺點： 1)對連續(xù)性的字段比較難預(yù)測。再向下分支，“ 風(fēng) ” 取 “ 有風(fēng) ” 時全為 N類，該分支標(biāo)記 N；取 “ 無風(fēng) ” 時全為 P類，該分支標(biāo)記 P。 對 9個正例 u1和 5個反例 u2有： i 2 iH U P u lo g P u?( ) = ( ) ( )iiuP(u )=S1 9P (u ) 14?2 5P (u ) 14?2295 1 4 1 4H( U) ( ) l o g ( ) ( ) l o g ( ) 0 . 9 4 b i t1 4 9 1 4 5? ? ?2． 條件熵計算 條件熵 ： 屬性 A1取值 vj時，類別 ui的條件概率： A1＝天氣的取值： v1＝晴， v2＝多云， v3＝雨 在 A1處取值“晴”的例子 5個，取值“多云”的例子 4個，取值“雨”的例子 5個，故： 決策樹算法 三 實例 iij2jjjiuuH ( U V ) P ( v ) P ( ) l og P ( )vv?? ??iij juuP ( )v v?3 5P( v ) 14?2 4P( v ) 14?1 5P ( v ) 14? 取值 為晴的 5個例子中有兩個正例、3個反例，故： 同理有 決策樹算法 三 實例 11u 2P ( )v5? 21u 3P ( )v5?12
畢業(yè)設(shè)計相關(guān)推薦
鄂ICP備17016276號-1