決策樹技術(shù)培訓(xùn)課程-展示頁(yè)
2025-01-19 19:46本頁(yè)面
【正文】 年齡 收入 學(xué)生 信譽(yù) 歸類：買計(jì)算機(jī)？ 64 青 高 否 良 不買 64 青 高 否 優(yōu) 不買 128 中 高 否 良 買 60 老 中 否 良 買 64 老 低 是 良 買 64 老 低 是 優(yōu) 不買 64 中 低 是 優(yōu) 買 128 青 中 否 良 不買 64 青 低 是 良 買 132 老 中 是 良 買 64 青 中 是 優(yōu) 買 32 中 中 否 優(yōu) 買 32 中 高 是 良 買 63 老 中 否 優(yōu) 不買 1 老 中 否 優(yōu) 買 ID3算法小結(jié) ID3算法是一種經(jīng)典的決策樹學(xué)習(xí)算法。分別是年齡、 收入、學(xué)生、信譽(yù)。 Gain（ S， A）是屬性 A在集合 S上的信息增益 Gain（ S， A） = Entropy(s)Entropy（ S， A） 公式 3 Gain（ S， A）越大，說(shuō)明選擇測(cè)試屬性對(duì)分類提供的信息越多 熵的計(jì)算 Eg1: Eg2: 假定公司收集了左表數(shù)據(jù)，那么對(duì)于任意給定的客人（測(cè)試樣例），你能幫助公司將這位客人歸類嗎？ 即：你能預(yù)測(cè)這位客人是屬于“買”計(jì)算機(jī)的那一類，還是屬于“不買”計(jì)算機(jī)的那一類？ 又：你需要多少有關(guān)這位客人的信息才能回答這個(gè)問題？ 計(jì)數(shù) 年齡 收入 學(xué)生 信譽(yù) 歸類：買計(jì)算機(jī)？ 64 青 高 否 良 不買 64 青 高 否 優(yōu) 不買 128 中 高 否 良 買 60 老 中 否 良 買 64 老 低 是 良 買 64 老 低 是 優(yōu) 不買 64 中 低 是 優(yōu) 買 128 青 中 否 良 不買 64 青 低 是 良 買 132 老 中 是 良 買 64 青 中 是 優(yōu) 買 32 中 中 否 優(yōu) 買 32 中 高 是 良 買 63 老 中 否 優(yōu) 不買 1 老 中 否 優(yōu) 買 第 1步計(jì)算決策屬性的熵 決策屬性“買計(jì)算機(jī)？”。 通常取 2，并規(guī)定當(dāng) p(ai)=0時(shí) =0 )(1log)()(2iii apapaI ?公式 1 在決策樹分類中，假設(shè) S是訓(xùn)練樣本集合， |S|是訓(xùn)練樣本數(shù)，樣本劃分為 n個(gè)不同的類 C1,C2,….Cn，這些類的大小分別標(biāo)記為 |C1|， |C2|， …..,|Cn|。事件 ai的信息 I （ ai ）可如下度量： )(1log)()(2iii apapaI ?其中 p(ai)表示事件 ai發(fā)生的概率。
環(huán)評(píng)公示相關(guān)推薦
鄂ICP備17016276號(hào)-1