決策樹-文庫吧在線文庫
【正文】 00 — 60 120 30 決策樹簡介 決策 狀態(tài) 狀態(tài) 結(jié) 結(jié) 果 點(diǎn) 最后選擇 的 最佳方案 代表備選方案 的 經(jīng)濟(jì)效果 將 每個(gè)方案 在 各種 自然狀態(tài)下 取得的 損益值 標(biāo)注于 結(jié)果節(jié)點(diǎn) 的 右端 決策樹的一般流程： （ 1）收集數(shù)據(jù) （ 2）準(zhǔn)備數(shù)據(jù) （ 3）分析數(shù)據(jù) （ 4）訓(xùn)練算法 （ 5）測試算法 （ 6）使用算法 決策樹簡介 劃分?jǐn)?shù)據(jù)集 的大原則就是將無序的數(shù)據(jù)變得更加有序。我們將用這個(gè)概率計(jì)算香農(nóng)熵。 決策樹簡介 遞歸構(gòu)建決策樹 第三步，代碼遍歷當(dāng)前選擇特征包含的所有屬性值，在每個(gè)數(shù)據(jù)集劃分上遞歸調(diào)用函數(shù)createTree(),得到的返回值將被插入到字典變量 MyTree中。 每個(gè) 實(shí)體在世界中屬于不同的類別，為簡單起見，假定僅有兩個(gè)類別，分別為 P、 N。 （ 1） F1中的天氣全取 “ 晴 ” 值，則 H（ U）＝ H（ U｜ V），有 I（ U｜ V）＝ 0， 在余下 3個(gè)屬性中求出 “ 濕度 ” 互信息最大，以它為該分支的根結(jié)點(diǎn)。 2)對(duì)有時(shí)間順序的數(shù)據(jù)，需要很多預(yù)處理的工作。 這樣 就得到如 圖 所 示的決策樹。最后，得到一個(gè)決策樹 。 濕度 ，取值為：高，正常。t mess up existing labels myTree[bestFeatLabel][value] = createTree(splitDataSet(dataSet, bestFeat, value),subLabels) return myTree 決策樹簡介 (1) (2) (3) 遞歸構(gòu)建決策樹 首先 創(chuàng)建了名為 classList列變量，其中包含了數(shù)據(jù)集的所有類標(biāo)簽。然后，創(chuàng)建一個(gè)數(shù)據(jù)字典，它的鍵值是最后一列的數(shù)值（ 1）。 劃分?jǐn)?shù)據(jù)集前后信息發(fā)生的變化成為 信息增益 。 決策樹簡介 選擇最好的數(shù)據(jù)集劃分方式 要求： 1 數(shù)據(jù)必須是一種列表元素組成的列表，而且所有的列表元素都要具有相同的數(shù)據(jù)長度。 決策樹簡介 3種算法比較 ID3 較小數(shù)據(jù) 算法清晰 C4 增加信息增益率 可以處理連續(xù)數(shù)值型屬性 規(guī)則后修剪 C5 Unix 決策樹 算法 一 ID3基本思想 二 ID3算法 三 實(shí)例 四 ID3缺點(diǎn) 決策樹算法 在決策樹各個(gè)結(jié)點(diǎn)上應(yīng)用信息增益準(zhǔn)則選擇特征遞歸地構(gòu)建決策樹。在這種兩個(gè)類別的歸納任務(wù)中， P類和 N類的實(shí)體分別稱為概念的 正例和反例 。再向下分支， “ 濕度 ” 取 “ 高 ” 的例子全為 N類，該分支標(biāo)記 N；取值 “ 正常 ” 的例子全為 P類，該分支標(biāo)記 P。 決策樹
畢業(yè)設(shè)計(jì)相關(guān)推薦
鄂ICP備17016276號(hào)-1