分支合并對(duì)決策樹歸納學(xué)習(xí)的影響-閱讀頁(yè)
2024-11-03 11:54本頁(yè)面
【正文】 不應(yīng)該進(jìn)行分支合并。 ? 為了解釋這個(gè)問題，我們提出了信息補(bǔ)償。 ? 目前這個(gè)工作正在研究當(dāng)中。并且通過定理的形式證明了不管利用何種分支合并方法，合并后信息增益會(huì)減少，我們稱之為 信息丟失 IGLoss。 回顧（ 3） ? 我們希望信息補(bǔ)償為正，而且如果補(bǔ)償?shù)男畔⒈葋G失信息多的話，即 IGComIGLoss0，那么就可以說(shuō)經(jīng)過分支合并后，雖然存在信息丟失，但是通過繼續(xù)選擇擴(kuò)展屬性，可以對(duì)信息進(jìn)行一個(gè)補(bǔ)償?shù)淖饔茫簿驮谀撤N程度上為分支合并提供了解釋。 ? BALANCESCALE 的實(shí)驗(yàn)結(jié)果表示： ? 信息丟失 IGLoss0； ? 信息補(bǔ)償 IGCom有正有負(fù)； ? 并且 IGComIGLoss0。 ? 但是我們又進(jìn)一步分析了 IGCom0的情況，并且提出了一種基于 IGCom的分支合并算法 — 基于最大 IGCom的分支合并算法。 基于最大 IGCom的分支合并 ? 目前只選擇了 BALANCESCALE和 Heart兩個(gè)數(shù)據(jù)集合進(jìn)行實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果表示根據(jù)基于最大信息補(bǔ)償?shù)姆种Ш喜⒎椒?，大多?shù)情況下 IGCom0，并且有時(shí)可以達(dá)到 IGComIGLoss0 ，其預(yù)測(cè)精度也要高于 ID3。 謝謝！
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1