決策樹技術(shù)-展示頁
2025-01-18 21:57本頁面
【正文】 年齡 收入 學(xué)生 信譽 歸類：買計算機？ 64 青 高 否 良 不買 64 青 高 否 優(yōu) 不買 128 中 高 否 良 買 60 老 中 否 良 買 64 老 低 是 良 買 64 老 低 是 優(yōu) 不買 64 中 低 是 優(yōu) 買 128 青 中 否 良 不買 64 青 低 是 良 買 132 老 中 是 良 買 64 青 中 是 優(yōu) 買 32 中 中 否 優(yōu) 買 32 中 高 是 良 買 63 老 中 否 優(yōu) 不買 1 老 中 否 優(yōu) 買 ID3算法小結(jié) ID3算法是一種經(jīng)典的決策樹學(xué)習(xí)算法。分別是年齡、 收入、學(xué)生、信譽。 Gain（ S， A）是屬性 A在集合 S上的信息增益 Gain（ S， A） = Entropy(s)Entropy（ S， A） 公式 3 Gain（ S， A）越大，說明選擇測試屬性對分類提供的信息越多 熵的計算 Eg1: Eg2: 假定公司收集了左表數(shù)據(jù)，那么對于任意給定的客人（測試樣例），你能幫助公司將這位客人歸類嗎？ 即：你能預(yù)測這位客人是屬于“買”計算機的那一類，還是屬于“不買”計算機的那一類？ 又：你需要多少有關(guān)這位客人的信息才能回答這個問題？ 計數(shù) 年齡 收入 學(xué)生 信譽 歸類：買計算機？ 64 青 高 否 良 不買 64 青 高 否 優(yōu) 不買 128 中 高 否 良 買 60 老 中 否 良 買 64 老 低 是 良 買 64 老 低 是 優(yōu) 不買 64 中 低 是 優(yōu) 買 128 青 中 否 良 不買 64 青 低 是 良 買 132 老 中 是 良 買 64 青 中 是 優(yōu) 買 32 中 中 否 優(yōu) 買 32 中 高 是 良 買 63 老 中 否 優(yōu) 不買 1 老 中 否 優(yōu) 買 第 1步計算決策屬性的熵 決策屬性“買計算機？”。 通常取 2，并規(guī)定當(dāng) p(ai)=0時 =0 )(1log)()(2iii apapaI ?公式 1 在決策樹分類中，假設(shè) S是訓(xùn)練樣本集合， |S|是訓(xùn)練樣本數(shù)，樣本劃分為 n個不同的類 C1,C2,….Cn，這些類的大小分別標(biāo)記為 |C1|， |C2|， …..,|Cn|。事件 ai的信息 I （ ai ）可如下度量： )(1log)()(2iii apapaI ?其中 p(ai)表示事件 ai發(fā)生的概率。
試題試卷相關(guān)推薦
鄂ICP備17016276號-1