【正文】 ， R是實(shí)數(shù)集，則 為連續(xù)屬性。在樣本數(shù)據(jù)集中，空值在所有非主碼屬性中都可能出現(xiàn)。 決策理論與方法 智能決策理論與方法 KDD過程 （ 1）缺失值處理 （ 2）剔除噪聲或異常數(shù)據(jù) 決策理論與方法 智能決策理論與方法 KDD過程 （ 1）維數(shù)約簡 (特征選擇與抽取，數(shù)據(jù)采樣 ) （ 2）屬性轉(zhuǎn)換 (離散化和泛化 ) （ 3）數(shù)據(jù)編碼 決策理論與方法 智能決策理論與方法 KDD過程 (1)確定數(shù)據(jù)挖掘類型，如分類、聚類、回歸； (2) 選擇特定的方法； (3) 執(zhí)行數(shù)據(jù)挖掘算法。 We are drowning in data, but starving for knowledge! 決策理論與方法 智能決策理論與方法 Wednesday, January 15, 2023 電子商務(wù)新進(jìn)展： 數(shù)據(jù)挖掘 KDD DM ? 知識發(fā)現(xiàn) (Knowledge Discovery in Databases ,KDD) 是指從大量數(shù)據(jù)中提取有用的 (useful)、新穎的 (novel)、有效的 (valid)并最終能被人理解 (understandable)的模式(patterns)的處理過程 (process)。 ? 第三，價值（ Value）密度低。知識如何評價？ 決策理論與方法 智能決策理論與方法 參考書推薦 決策理論與方法 智能決策理論與方法 為什么要開展數(shù)據(jù)挖掘？ ? 信息技術(shù)的廣泛應(yīng)用產(chǎn)生了大量的數(shù)據(jù)： ? 流數(shù)據(jù)（生產(chǎn)數(shù)據(jù)、監(jiān)控?cái)?shù)據(jù)、傳感數(shù)據(jù)） ? 各種 (時間 )序列數(shù)據(jù)（證券交易，基因序列） ? 對象關(guān)系數(shù)據(jù)（社交網(wǎng)絡(luò)，分子結(jié)構(gòu)） ? 管理數(shù)據(jù)（ MIS， ERP：財(cái)務(wù)、人力資源、客戶關(guān)系） ? 空間數(shù)據(jù)（ GIS、 GPS） ? 多媒體數(shù)據(jù)（視頻監(jiān)控，視頻分享） ? 文本數(shù)據(jù)（學(xué)術(shù)論文，新聞，微博，博客） ? 萬維網(wǎng)數(shù)據(jù)（內(nèi)容，結(jié)構(gòu)，使用，交易數(shù)據(jù)） ? …… 決策理論與方法 智能決策理論與方法 為什么要開展數(shù)據(jù)挖掘？ ? Big Data—— 大數(shù)據(jù)時代 ? 第一，數(shù)據(jù)體量（ Volume）巨大 。 AI應(yīng)用于決策科學(xué)主要有兩種模式 ： ? 針對可建立精確數(shù)學(xué)模型的決策問題，由于問題的復(fù)雜性，如組合爆炸、參數(shù)過多等而無法獲得問題的解析解，需要借助 AI中的智能搜索算法獲得問題的數(shù)值解； ? 針對無法建立精確數(shù)學(xué)模型的不確定性決策問題、半結(jié)構(gòu)化或非結(jié)構(gòu)化決策問題，需要借助 AI方法建立相應(yīng)的決策模型并獲得問題的近似解。事物發(fā)生的隨機(jī)性、人類知識的不完全、不可靠、不精確和不一致以及自然語言中存在的模糊性和歧義性，都反映了這種差異，都會帶來不確定性。決策理論與方法 —— 智能決策理論與方法 (1) 合肥工業(yè)大學(xué)管理學(xué)院 Wednesday, January 15, 2023 不確定性決策 ? 不確定性決策 ： 指難以獲得各種狀態(tài)發(fā)生的概率，甚至對未來狀態(tài)都難以把握的決策問題。不確定性就造成了具有相同描述信息的對象可能屬于不同概念。 決策理論與方法 智能決策理論與方法 智能決策理論與方法 智能決策理論的形成背景 知識發(fā)現(xiàn) 粗糙集理論 機(jī)器學(xué)習(xí) 決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 動機(jī) ? 智能決策的核心是如何獲取支持決策的信息和知識。從 TB級別，躍升到PB級別。以視頻為例，連續(xù)不間斷監(jiān)控過程中，可能有用的數(shù)據(jù)僅僅有一兩秒。 ? 數(shù)據(jù)挖掘 (Data Mining， DM) 是 KDD的核心階段 , 通過實(shí)施相關(guān)算法獲得期望的模式。 決策理論與方法 智能決策理論與方法 KDD過程 評估和解釋所挖掘的模式，重點(diǎn)是可理解性、有用性 . 決策理論與方法 智能決策理論與方法 KDD過程 與原有知識系統(tǒng)合并。空值出現(xiàn)的主要原因 ： ? 在信息收集時忽略了一些認(rèn)為不重要的數(shù)據(jù)或信息提供者不愿意提供，而這些數(shù)據(jù)對以后的信息處理可能是有用的； ? 某些屬性值未知； ? 數(shù)據(jù)模型的限制。設(shè) 是 上的分割點(diǎn)集合，記為 其中 ， 為一整數(shù)，表示離散化程度，可以看作按屬性將論域中的對象分成 類。 CC ?? )},(,),(),(),{(P}{cP 210i ikiiiiiiiCciCc iii cccccccc ??? ???? ??? ),2,1( nkUxk ??? )),2,1()(,[ 1 iijij kjcc ???PA決策理論與方法 智能決策理論與方法 數(shù)據(jù)預(yù)處理 — 連續(xù)屬性離散化 離散化方法 典型的有等區(qū)間方法、等信息量方法、基于信息熵的方法、Holte的 1R離散化方法、統(tǒng)計(jì)試驗(yàn)方法、超平面搜索方法以及用戶自定義區(qū)間等。 (2)等信息量離散化方法 等信息量分割首先將測量值進(jìn)行排序，然后將屬性值域分成k個區(qū)間，每個區(qū)間包含相同數(shù)量的測量值。 ? ?? ?? ?? ??? 21 1121krmkmrk kkjlkljnnnE0?ljE ?ljE2?決策理論與方法 智能決策理論與方法 Taxonomy of Data Mining Methods 決策理論與方法 智能決策理論與方法 Taxonomy of Data Mining Methods ? Verificationoriented (the system verifies the user‘ s hypothesis): including the most mon methods of traditional statistics, like goodness of fit(擬合優(yōu)度 ) test, tests of hypotheses (假設(shè)檢驗(yàn) ， ., ttest of means), and analysis of variance (ANOVA， 方差分析或 F檢驗(yàn) ). ? Discoveryoriented (the system finds new rules and patterns autonomously): prediction methods VS description methods； supervised learning（ 有導(dǎo)師學(xué)習(xí) ） VS unsupervised learning 決策理論與方法 智能決策理論與方法 KDD Goals Methods ? 歸納總結(jié) (Induction Summarization)：從泛化的角度總結(jié)數(shù)據(jù)，即從低層次數(shù)據(jù)抽象出高層次的描述的過程。 (Day=Friday) and (Product= Diaper) → (Product=Beer) 為一典型關(guān)聯(lián)規(guī)則 A為滿足前件的對象集， B為滿足后件的對象， N為全部對象集。分類規(guī)則是判斷某個對象屬于某類的充分條件即對象具有某類的屬性時則表示該對象屬于該類。對象相似的判斷方法有多種如距離法。具體步驟如下： (1)聚點(diǎn)的選擇 ：聚點(diǎn)是一批有代表性的樣品，它的選擇決定了初始分類。這樣就得到了樣品空間的初始分類： kiijkjxxdxxdxG jii ,2,1},。,2,1),(),(:{ )1()1()1( ?? ????? ??? 0},{)()(2)(1)( ?? mGGGG mkmmm ?決策理論與方法 智能決策理論與方法 聚類 (Kmeans算法 ) (4)迭代終止 隨著 m的增大，分類趨于穩(wěn)定。 neural liner profit 0 1000 500 0 mins 回歸模型 決策理論與方法 智能決策理論與方法 KDD Goals Methods ? Sequence, trend and evolution analysis ? Trend, timeseries, and deviation analysis: ., regression and value prediction ? Sequential pattern mining ?., first buy digital camera, then buy large SD memory cards ? Periodicity analysis ? Motifs and biological sequence analysis ?Approximate and consecutive motifs ? Similaritybased analysis ? Mining data streams ? Ordered, timevarying, potentially infinite, data streams 決策理論與方法 智能決策理論與方法 KDD Goals Methods ? 異常探測 (Outlier Detection)： ? Outlie