4分類和預(yù)測(cè)(1)決策樹(已修改)
2025-02-25 12:56 本頁面
【正文】 第四章 分類和預(yù)測(cè) 主講教師：魏宏喜 (博士，副教授 ) Email: 2 第四章 分類和預(yù)測(cè) ? 分類和預(yù)測(cè)的定義 ? 數(shù)據(jù)分類方法 ? 決策樹 ? 神經(jīng)網(wǎng)絡(luò) ? SVM ? 貝葉斯網(wǎng)絡(luò) ? 數(shù)據(jù)預(yù)測(cè)方法 ? 線性回歸 ? 非線性回歸 3 第四章 分類和預(yù)測(cè) ? 分類和預(yù)測(cè)的定義 ? 數(shù)據(jù)分類方法 ? 決策樹 ? 神經(jīng)網(wǎng)絡(luò) ? SVM ? 貝葉斯網(wǎng)絡(luò) ? 數(shù)據(jù)預(yù)測(cè)方法 ? 線性回歸 ? 非線性回歸 4 分類和預(yù)測(cè)的定義 ? 分類（ Classification） ? 給定一個(gè)數(shù)據(jù)集 D={t1, t2, …, t n}和一個(gè)類別集合C={C1, C2, …, C m}， 數(shù)據(jù) 分類 就是通過 定義一個(gè)映射 f : D?C，為數(shù)據(jù)集 D中的每條數(shù)據(jù) ti分配 C中的一個(gè)類 Cj。 ? 預(yù)測(cè)（ Prediction） ? 它是一種分類的泛化，當(dāng)分類的類別是一個(gè)連續(xù)值時(shí)（可看成無限多類），就是 數(shù)據(jù)預(yù)測(cè) 。 5 分類和預(yù)測(cè)的定義 ——示例 ? 分類 ? 銀行貸款員需要分析數(shù)據(jù)，來弄清哪些貸款申請(qǐng)者是安全的，哪些是有風(fēng)險(xiǎn)的。 ? 構(gòu)造一個(gè)映射（ 模型 ）將申請(qǐng)者分為兩類： ? 安全 ? 有風(fēng)險(xiǎn) ? 預(yù)測(cè) ? 銀行貸款員需要分析數(shù)據(jù)，來預(yù)測(cè)貸給某個(gè)顧客多少錢是安全的。 ? 構(gòu)造一個(gè)映射（ 模型 ）來預(yù)測(cè)一個(gè)連續(xù)值。 如何建立具體 的映射（模型）？ 6 分類和預(yù)測(cè)的定義 ? 數(shù)據(jù)分類和預(yù)測(cè)的步驟如下： ? 第一步 —— 建立模型 ? 第二步 —— 使用模型 ? 下面以 分類 為例，詳細(xì)介紹這兩個(gè)步驟。 7 分類和預(yù)測(cè)的定義 ? 第一步 —— 建立模型 ? 訓(xùn)練數(shù)據(jù)集：由若干數(shù)據(jù)（通常用 n維屬性向量表示）和它們相對(duì)應(yīng)的類標(biāo)號(hào)組成。 ? 訓(xùn)練樣本：訓(xùn)練數(shù)據(jù)集中的單個(gè)數(shù)據(jù)及其類標(biāo)號(hào)。 ? 從訓(xùn)練數(shù)據(jù)集 ―學(xué)習(xí) ‖相關(guān)知識(shí)來構(gòu)造分類模型。 ? 分類模型 可能會(huì)以 分類規(guī)則 、 決策樹 或 數(shù)學(xué)公式 等形式呈現(xiàn)出來。 ? 第二步 —— 使用模型 ? 對(duì)未知類別的數(shù)據(jù)進(jìn)行分類（分配類別標(biāo)號(hào)）。 8 第一步 —— 建立模型 訓(xùn)練數(shù)據(jù)集 N A M E RANK Y E A R S T E N U R E DM i k e A s s i s t a n t P r o f 3 noM a r y A s s i s t a n t P r o f 7 y e sB i l l P r o f e s s o r 2 y e sJ i m A s s o c i a t e P r o f 7 y e sD a v e A s s i s t a n t P r o f 6 noA n n e A s s o c i a t e P r o f 3 no分類模型 IF rank = ?professor‘ OR years 6 THEN tenured = ?yes‘ 分類規(guī)則 9 第二步 —— 使用模型 分類規(guī)則 測(cè)試數(shù)據(jù)集 N A M E RANK Y E A R S T E N U R E DT o m A s s is ta n t P r o f 2 noM e r lis a A s s o c ia te P r o f 7 noG e o r g e P r o fe s s o r 5 y e sJ o s e p h A s s is ta n t P r o f 7 y e s未知數(shù)據(jù) (Jeff, Professor, 4) Tenured? 10 第四章 分類和預(yù)測(cè) ? 分類和預(yù)測(cè)的定義 ? 數(shù)據(jù)分類方法 ? 決策樹 ? 神經(jīng)網(wǎng)絡(luò) ? SVM ? 貝葉斯網(wǎng)絡(luò) ? 數(shù)據(jù)預(yù)測(cè)方法 ? 線性回歸 ? 非線性回歸 11 數(shù)據(jù)分類方法 ? 分類過程的數(shù)據(jù)預(yù)處理 ? 分類的評(píng)價(jià)標(biāo)準(zhǔn) —— 性能度量 12 分類過程的數(shù)據(jù)預(yù)處理 ? 在執(zhí)行分類過程之前，通過對(duì)數(shù)據(jù)進(jìn)行預(yù)處理，可以提高分類過程的 準(zhǔn)確性 、 有效性 和 可伸縮性 。 ? 常用的預(yù)處理操作包括： ? 數(shù)據(jù)清理 ? 相關(guān)分析 ? 數(shù)據(jù)變換 13 分類過程的數(shù)據(jù)預(yù)處理 ? 在執(zhí)行分類過程之前，通過對(duì)數(shù)據(jù)進(jìn)行預(yù)處理，可以提高分類過程的 準(zhǔn)確性 、 有
數(shù)學(xué)相關(guān)推薦
鄂ICP備17016276號(hào)-1