決策樹-wenkub
2023-02-12 02:52:04 本頁面
【正文】 在決策樹各個結點上應用信息增益準則選擇特征遞歸地構建決策樹。 風 ，取值為：有風，無風。在這種兩個類別的歸納任務中， P類和 N類的實體分別稱為概念的 正例和反例 。 決策樹算法 ID3算法 決策樹算法 三 實例 對于氣候分類問題進行以下具體計算。再向下分支， “ 濕度 ” 取 “ 高 ” 的例子全為 N類，該分支標記 N；取值 “ 正常 ” 的例子全為 P類，該分支標記 P。 決策樹算法 三 實例 晴 多云 雨 P 高 正常 P N N P 有 風 無 風 濕度 風 天氣 圖 1 ID3算法的缺點： 1．只適合屬性值為離散的； 2．決策樹層次較多時，決策質量低； 3．傾向于選擇取值較多 的屬性； 決策樹算法 四 ID3缺點 取得熵 劃分數據集 構造 決策樹 決策樹 Matplotlib注解繪制樹形圖 測試 存儲 優(yōu)點： 決策樹易于理解和實現，人們在在學習過程中不需要使用者了解很多的背景知識這同時是它的能夠直接體現數據的特點，只要通過解釋后都有能力去理解決策樹所表達的意義 。 決策樹 A1的凈收益值 =[300*+（ 60） *]*5450=510萬 A2的凈收益值 =[120*+30*]*5240=225萬 謝謝 THE END 。 決策樹 缺點： 1)對連續(xù)性的字段比較難預測。再向下分支，“ 風 ” 取 “ 有風 ” 時全為 N類，該分支標記 N；取 “ 無風 ” 時全為 P類，該分支標記 P。 對 9個正例 u1和 5個反例 u2有： i 2 iH U P u lo g P u?( ) = ( ) ( )iiuP(u )=S1 9P (u ) 14?2 5P (u ) 14?2295 1 4 1 4H( U) ( ) l o g ( ) ( ) l o g ( ) 0 . 9 4 b i t1 4 9 1 4 5? ? ?2． 條件熵計算 條件熵 ： 屬性 A1取值 vj時，類別 ui的條件概率： A1＝天氣的取值： v1＝晴， v2＝多云， v3＝雨 在 A1處取值“晴”的例子 5個，取值“多云”的例子 4個，取值“雨”的例子 5個，故： 決策樹算法 三 實例 iij2jjjiuuH ( U V ) P ( v ) P ( ) l og P ( )vv?? ??iij juuP ( )v v?3 5P( v ) 14?2 4P( v ) 14?1 5P ( v ) 14? 取值 為晴的 5個例子中有兩個正例、3個反例，故： 同理有 決策樹算法 三 實例 11u 2P ( )v5? 21u 3P ( )v5?12
畢業(yè)設計相關推薦
鄂ICP備17016276號-1