4分類和預(yù)測(1)決策樹-在線瀏覽
2025-03-21 12:56本頁面
【正文】 ? 安全 ? 有風(fēng)險 ? 預(yù)測 ? 銀行貸款員需要分析數(shù)據(jù)，來預(yù)測貸給某個顧客多少錢是安全的。 如何建立具體 的映射（模型）？ 6 分類和預(yù)測的定義 ? 數(shù)據(jù)分類和預(yù)測的步驟如下： ? 第一步 —— 建立模型 ? 第二步 —— 使用模型 ? 下面以 分類 為例，詳細(xì)介紹這兩個步驟。 ? 訓(xùn)練樣本：訓(xùn)練數(shù)據(jù)集中的單個數(shù)據(jù)及其類標(biāo)號。 ? 分類模型 可能會以 分類規(guī)則 、 決策樹 或 數(shù)學(xué)公式 等形式呈現(xiàn)出來。 8 第一步 —— 建立模型 訓(xùn)練數(shù)據(jù)集 N A M E RANK Y E A R S T E N U R E DM i k e A s s i s t a n t P r o f 3 noM a r y A s s i s t a n t P r o f 7 y e sB i l l P r o f e s s o r 2 y e sJ i m A s s o c i a t e P r o f 7 y e sD a v e A s s i s t a n t P r o f 6 noA n n e A s s o c i a t e P r o f 3 no分類模型 IF rank = ?professor‘ OR years 6 THEN tenured = ?yes‘ 分類規(guī)則 9 第二步 —— 使用模型 分類規(guī)則 測試數(shù)據(jù)集 N A M E RANK Y E A R S T E N U R E DT o m A s s is ta n t P r o f 2 noM e r lis a A s s o c ia te P r o f 7 noG e o r g e P r o fe s s o r 5 y e sJ o s e p h A s s is ta n t P r o f 7 y e s未知數(shù)據(jù) (Jeff, Professor, 4) Tenured? 10 第四章 分類和預(yù)測 ? 分類和預(yù)測的定義 ? 數(shù)據(jù)分類方法 ? 決策樹 ? 神經(jīng)網(wǎng)絡(luò) ? SVM ? 貝葉斯網(wǎng)絡(luò) ? 數(shù)據(jù)預(yù)測方法 ? 線性回歸 ? 非線性回歸 11 數(shù)據(jù)分類方法 ? 分類過程的數(shù)據(jù)預(yù)處理 ? 分類的評價標(biāo)準(zhǔn) —— 性能度量 12 分類過程的數(shù)據(jù)預(yù)處理 ? 在執(zhí)行分類過程之前，通過對數(shù)據(jù)進(jìn)行預(yù)處理，可以提高分類過程的 準(zhǔn)確性 、 有效性 和 可伸縮性 。 ? 常用的預(yù)處理操作包括： ? 數(shù)據(jù)清理 ：消除或減少噪聲，處理空缺值，從而減少學(xué)習(xí)時的混亂。 ? 常用的預(yù)處理操作包括： ? 數(shù)據(jù)清理 ? 相關(guān)分析 ：數(shù)據(jù)中的有些屬性可能與當(dāng)前任務(wù)不相關(guān)或者是冗余的，則可以刪除這些屬性以加快學(xué)習(xí)過程，并使學(xué)習(xí)結(jié)果更精確。 ? 常用的預(yù)處理操作包括： ? 數(shù)據(jù)清理 ? 相關(guān)分析 ? 數(shù)據(jù)變換 ：數(shù)據(jù)可以通過規(guī)范化，將給定屬性的所有值按比例進(jìn)行縮放，使其落入一個較小的指定區(qū)間中。 16 分類過程的數(shù)據(jù)預(yù)處理 ? 在執(zhí)行分類過程之前，通過對數(shù)據(jù)進(jìn)行預(yù)處理，可以提高分類過程的 準(zhǔn)確性 、 有效性 和 可伸縮性 。 ? 對于測試集的第 j個類別 ， 分類結(jié)果如下： ? 被正確分類的樣本數(shù)量為 TPj ； ? 被錯誤分類的樣本數(shù)量為 FNj ； ? 其他類別被錯誤分類為該類的樣本數(shù)據(jù)量為 FPj 。 ? 例如：在文字識別中，經(jīng)常統(tǒng)計 識別正確率 ，以此來表示識別系統(tǒng)的性能。 ? 結(jié)構(gòu)上類似于程序流程圖； ? 每個內(nèi)部結(jié)點表示在一個屬性上的 測試 ； ? 每個分枝代表一個測試的 輸出 ； ? 每個葉結(jié)點存放一個 類標(biāo)號 。 21 決策樹 生成 目標(biāo)：根據(jù)客戶的如下屬性， 是否有貸款 、 婚姻狀況 、 收入水平 ，來判斷客戶是否存在“金融欺騙”行為。 22 決策樹 —— 分類過程 23 決策樹 —— 分類過程 24 決策樹 —— 分類過程 25 決策樹 —— 分類過程 26 決策樹 —— 分類過程 27 決策樹 —— 分類過程 28 決策樹 —— 屬性選擇的次序問題 哪棵樹更好？ or 哪種次序更好？ 29 決策樹 ? 決策樹關(guān)注的主要問題： ? 決策樹的生成算法 ? ID3算法 ? ? 決策樹的剪枝策略
數(shù)學(xué)相關(guān)推薦
鄂ICP備17016276號-1