【正文】 分類(lèi)法？ 總結(jié) 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 60 第七章：分類(lèi)和預(yù)測(cè) 什么是分類(lèi)？什么是預(yù)測(cè) 關(guān)于分類(lèi)和預(yù)測(cè)的一些問(wèn)題 使用決策樹(shù)進(jìn)行分類(lèi) 貝葉斯分類(lèi) （向后傳播分類(lèi)）帶回饋的分類(lèi) 基于關(guān)聯(lián)規(guī)則的分類(lèi) 其他分類(lèi)方法 預(yù)測(cè) 分類(lèi)法的準(zhǔn)確性 總結(jié) 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 61 主講人 朱揚(yáng)勇 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 62 一、數(shù)據(jù)挖掘概念 定義 數(shù)據(jù)挖掘 從大量數(shù)據(jù)中尋找其規(guī)律的技術(shù)， 是統(tǒng)計(jì)學(xué)、數(shù)據(jù)庫(kù)技術(shù)和人工智能技術(shù)的綜合。 基于關(guān)聯(lián)規(guī)則的分類(lèi)算法，能從關(guān)系數(shù)據(jù)或者交易數(shù)據(jù)中挖掘關(guān)聯(lián)規(guī)則，使用關(guān)聯(lián)規(guī)則進(jìn)行分類(lèi)和預(yù)測(cè) 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 71 二、數(shù)據(jù)挖掘軟件的發(fā)展 第二代數(shù)據(jù)挖掘軟件 ? 特點(diǎn) – 與數(shù)據(jù)庫(kù)管理系統(tǒng)（ DBMS） 集成 – 支持?jǐn)?shù)據(jù)庫(kù)和數(shù)據(jù)倉(cāng)庫(kù)，和它們具有高性能的接口，具有高的可擴(kuò)展性 – 能夠挖掘大數(shù)據(jù)集、以及更復(fù)雜的數(shù)據(jù)集 – 通過(guò)支持?jǐn)?shù)據(jù)挖掘模式（ data mining schema） 和數(shù)據(jù)挖掘查詢(xún)語(yǔ)言增加系統(tǒng)的靈活性 – 典型的系統(tǒng)如 DBMiner， 能通過(guò) DMQL挖掘語(yǔ)言進(jìn)行挖掘操作 ? 缺陷 – 只注重模型的生成，如何和預(yù)言模型系統(tǒng)集成導(dǎo)致了第三代數(shù)據(jù)挖掘系統(tǒng)的開(kāi)發(fā) 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 72 二、數(shù)據(jù)挖掘軟件的發(fā)展 第二代數(shù)據(jù)挖掘軟件 DBMiner 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 73 二、數(shù)據(jù)挖掘軟件的發(fā)展 第二代軟件 SAS Enterprise Miner 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 74 二、數(shù)據(jù)挖掘軟件的發(fā)展 第三代數(shù)據(jù)挖掘軟件 ? 特點(diǎn) – 和預(yù)言模型系統(tǒng)之間能夠無(wú)縫的集成，使得由數(shù)據(jù)挖掘軟件產(chǎn)生的模型的變化能夠及時(shí)反映到預(yù)言模型系統(tǒng)中 – 由數(shù)據(jù)挖掘軟件產(chǎn)生的預(yù)言模型能夠自動(dòng)地被操作型系統(tǒng)吸收，從而與操作型系統(tǒng)中的預(yù)言模型相聯(lián)合提供決策支持的功能 – 能夠挖掘網(wǎng)絡(luò)環(huán)境下（ Inter/Extra） 的分布式和高度異質(zhì)的數(shù)據(jù)，并且能夠有效地和操作型系統(tǒng)集成 ? 缺陷 – 不能支持移動(dòng)環(huán)境 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 75 二、數(shù)據(jù)挖掘軟件的發(fā)展 第三代軟件 SPSS Clementine 以 PMML的格式提供與預(yù)言模型系統(tǒng)的接口 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 76 二、數(shù)據(jù)挖掘軟件的發(fā)展 第四代數(shù)據(jù)挖掘軟件 ? 特點(diǎn) – 目前移動(dòng)計(jì)算越發(fā)顯得重要，將數(shù)據(jù)挖掘和移動(dòng)計(jì)算相結(jié)合是當(dāng)前的一個(gè)研究領(lǐng)域。 – 這類(lèi)軟件要求用戶(hù)對(duì)具體的算法和數(shù)據(jù)挖掘技術(shù)有相當(dāng)?shù)牧私猓€要負(fù)責(zé)大量的數(shù)據(jù)預(yù)處理工作。 – 現(xiàn)實(shí)領(lǐng)域的問(wèn)題是多種多樣的，一種或少數(shù)數(shù)據(jù)挖掘算法難以解決 – 挖掘的數(shù)據(jù)通常不符合算法的要求，需要有數(shù)據(jù)清洗、轉(zhuǎn)換等數(shù)據(jù)預(yù)處理的配合，才能得出有價(jià)值的模型 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 81 二、數(shù)據(jù)挖掘軟件的發(fā)展 橫向的數(shù)據(jù)挖掘工具集 （ 95年開(kāi)始） ? 發(fā)展過(guò)程 – 隨著這些需求的出現(xiàn)， 1995年左右軟件開(kāi)發(fā)商開(kāi)始提供稱(chēng)之為 “ 工具集 ” 的數(shù)據(jù)挖掘軟件 ? 特點(diǎn) – 此類(lèi)工具集的特點(diǎn)是提供多種數(shù)據(jù)挖掘算法 – 包括數(shù)據(jù)的轉(zhuǎn)換和可視化 – 由于此類(lèi)工具并非面向特定的應(yīng)用，是通用的算法集合，可以稱(chēng)之為橫向的數(shù)據(jù)挖掘工具（ Horizontal Data Mining Tools） – 由于此類(lèi)工具并非面向特定的應(yīng)用，是通用的算法集合， 所以 稱(chēng)之為橫向的數(shù)據(jù)挖掘工具 – 典型的橫向工具有 IBM Intelligent Miner、 SPSS的 Clementine、 SAS的 Enterprise Miner、 SGI的MineSet、 Oracle Darwin等 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 82 二、數(shù)據(jù)挖掘軟件的發(fā)展 橫向的數(shù)據(jù)挖掘工具集 （ 95年開(kāi)始） ?IBM Intelligent Miner ?SPSS的 Clementine ?SAS的 Enterprise Miner ?SGI的 MineSet ?Oracle Darwin 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 83 二、數(shù)據(jù)挖掘軟件的發(fā)展 縱向的數(shù)據(jù)挖掘解決方案 （ 99年開(kāi)始） ? 發(fā)展原因 – 隨著橫向的數(shù)據(jù)挖掘工具的使用日漸廣泛，人們也發(fā)現(xiàn)這類(lèi)工具只有精通數(shù)數(shù)據(jù)挖掘算法的專(zhuān)家才能熟練使用，如果對(duì)算法不了解，難以得出好的模型 – 從 1999年開(kāi)始，大量的數(shù)據(jù)挖掘工具研制者開(kāi)始提供縱向的數(shù)據(jù)挖掘解決方案（ Vertical Solution）， 即針對(duì)特定的應(yīng)用提供完整的數(shù)據(jù)挖掘方案 – 對(duì)于縱向的解決方案，數(shù)據(jù)挖掘技術(shù)的應(yīng)用多數(shù)還是為了解決某些特定的難題，而嵌入在應(yīng)用系統(tǒng)中 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 84 二、數(shù)據(jù)挖掘軟件的發(fā)展 縱向的數(shù)據(jù)挖掘解決方案 （ 99年開(kāi)始） – 在證券系統(tǒng)中嵌入神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)功能 – 在欺詐檢測(cè)系統(tǒng)中嵌入欺詐行為的分類(lèi) /識(shí)別模型 – 在客戶(hù)關(guān)系管理系統(tǒng)中嵌入客戶(hù)成簇 /分類(lèi)功能或客戶(hù)行為分析功能 – 在機(jī)器維護(hù)系統(tǒng)中嵌入監(jiān) /檢測(cè)或識(shí)別難以定性的設(shè)備故障功能 – 在數(shù)據(jù)庫(kù)營(yíng)銷(xiāo)中嵌入選擇最可能購(gòu)買(mǎi)產(chǎn)品的客戶(hù)功能 – 在機(jī)場(chǎng)管理系統(tǒng)中嵌入旅客人數(shù)預(yù)測(cè) 、 貨運(yùn)優(yōu)化功能 – 在基因分析系統(tǒng)中嵌入 DNA識(shí)別功能 – 在制造 /生產(chǎn)系統(tǒng)中嵌入質(zhì)量控制功能等 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 85 二、數(shù)據(jù)挖掘軟件的發(fā)展 縱向的數(shù)據(jù)挖掘解決方案 （ 99年開(kāi)始） ?KD1（ 主要用于零售業(yè)） ?Optionsamp。 相關(guān)行業(yè) 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 87 三、數(shù)據(jù)挖掘軟件的現(xiàn)狀 情況概覽 – 2020年 9月， Amazon上關(guān)于數(shù)據(jù)挖掘的書(shū)有251本 () – 目前有數(shù)百個(gè)數(shù)據(jù)挖掘軟件產(chǎn)品（ ） – 數(shù)據(jù)挖掘應(yīng)用相對(duì)廣泛 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 88 三、數(shù)據(jù)挖掘軟件的現(xiàn)狀 2020/5/14—— 2020/5/24（ 實(shí)際） 2020/11/26—— 2020/12/9（ 預(yù)測(cè)） 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 89 三、數(shù)據(jù)挖掘軟件的現(xiàn)狀 調(diào)查報(bào)告（ ） 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 90 三、數(shù)據(jù)挖掘軟件的現(xiàn)狀（ 國(guó)內(nèi)情況 ） ? 大部分處于科研階段 – 各大學(xué)和科研機(jī)構(gòu)從事數(shù)據(jù)挖掘算法的研究 – 國(guó)內(nèi)著作的數(shù)據(jù)挖掘方面的書(shū)較少（翻譯的有） – 數(shù)據(jù)挖掘討論組（ ） ? 有一些公司在國(guó)外產(chǎn)品基礎(chǔ)上開(kāi)發(fā)的特定的應(yīng)用 – IBM Intelligent Miner – SAS Enterprise Miner ? 自主知識(shí)產(chǎn)權(quán)的數(shù)據(jù)挖掘軟件 – 復(fù)旦德門(mén)（ ） 等 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 91 四、數(shù)據(jù)挖掘應(yīng)用 調(diào)查報(bào)告（ ） 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 92 四、數(shù)據(jù)挖掘應(yīng)用 ? 銀行 – 美國(guó)銀行家協(xié)會(huì) (ABA)預(yù)測(cè)數(shù)據(jù)倉(cāng)庫(kù)和數(shù)據(jù)挖掘技術(shù)在美國(guó)商業(yè)銀行的應(yīng)用增長(zhǎng)率是 ％。 – 技術(shù)：決策樹(shù)，神經(jīng)元網(wǎng)絡(luò)，異常因子 LOF檢測(cè) 客戶(hù)消費(fèi)異常行為分析模型 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 99 四、數(shù)據(jù)挖掘應(yīng)用 業(yè)務(wù)建摸 ? 客戶(hù)分析業(yè)務(wù)模型 – 交叉銷(xiāo)售 – 客戶(hù)響應(yīng) – 客戶(hù)流失 – 客戶(hù)利潤(rùn) ? 信用卡分析業(yè)務(wù)模型 – 客戶(hù)信用等級(jí)評(píng)估 – 客戶(hù)透支分析 – 客戶(hù)利潤(rùn)分析 – 客戶(hù)消費(fèi)行為分析 – 客戶(hù)消費(fèi)異常行為分析 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 100 四、數(shù)據(jù)挖掘應(yīng)用 業(yè)務(wù)建摸 MIS ERP CRM E_Business CDW 客戶(hù)數(shù)據(jù)倉(cāng)庫(kù) 數(shù)據(jù)挖掘 算法庫(kù) 模型庫(kù) 組件庫(kù) 產(chǎn)品推薦 客戶(hù)細(xì)分 客戶(hù)流失 客戶(hù)利潤(rùn) 客戶(hù)響應(yīng) … 行業(yè)應(yīng)用 知識(shí) CIAS應(yīng)用服務(wù)器 信息系統(tǒng) 行業(yè)分析 數(shù)據(jù)挖掘應(yīng)用平臺(tái) CIAS 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 101 四、數(shù)據(jù)挖掘應(yīng)用 業(yè)務(wù)建摸 客戶(hù)響應(yīng)模型 — 基本概念 ? 響應(yīng)率分析 : – 分析客戶(hù)對(duì)某種新服務(wù)或者新產(chǎn)品的感興趣情況 . ? 為什么要進(jìn)行響應(yīng)率分析 : – 通過(guò)響應(yīng)率分析能夠有效的降低市場(chǎng)推廣的費(fèi)用 ,同時(shí)能夠更加有針對(duì)性的面對(duì)目標(biāo)市場(chǎng) .達(dá)到以最小的投入獲得最佳效果的目的 2020年 9月 16日星期三 Data Mining: Concepts and Techniques 102 四、數(shù)據(jù)挖掘應(yīng)用 業(yè)務(wù)建摸 用哪一種數(shù)據(jù)挖掘技術(shù)實(shí)現(xiàn)？ ? 響應(yīng)率分析是為了對(duì)某項(xiàng)市場(chǎng)營(yíng)銷(xiāo)（新產(chǎn)品銷(xiāo)售）活動(dòng)找到最合適的響應(yīng)客戶(hù)，需要預(yù)測(cè)哪些客戶(hù)能夠響應(yīng)，以及響應(yīng)的可能性