【正文】 B)：對于任意 a?B， xIND(B)y?a(x)=a(y)； x, y?U； a(x)表示對象 x的a屬性值。 ? Pawlak Z., Rough sets. International Journal of Computer and Information Sciences, 1982(11): 341356 ? Pawlak Z., Rough set— Theoretical Aspects of Reasoning about Data, Dordrecht, Boston, London: Kluwer Academic Publishers,1991 決策理論與方法 智能決策理論與方法 基本思想 ? 知識是主體對論域中的客體進(jìn)行分類的能力，分類能力越強(qiáng)，主體所具備知識的可靠度越高 ? 分類能力受主體分辨能力的影響，因此分類具有近似性 (粗糙集 ) ? 影響分類能力的因素 (在信息系統(tǒng)中常描述為屬性 )很多，不同的因素重要程度不同，其中某些因素起決定性作用 (屬性重要性：屬性約簡 ) ? 具有相同屬性的實(shí)體，屬性取值的不同對分類能力也產(chǎn)生影響 (值重要性：值約簡 ) ? 屬性之間存在某種依賴關(guān)系 (決策規(guī)則 ) 決策理論與方法 智能決策理論與方法 信息系統(tǒng)與知識 ? 信息系統(tǒng) I可以定義為四元組 U, A, V, f，其中有限非空集合 U是論域， A為關(guān)于 U的屬性集， ， Va表示屬性 a的值域，映射 f: U A→ V表示對 ?x?U， a?A，有： f(x, a)?V。 決策理論與方法 智能決策理論與方法 粗糙集理論的提出 ? 粗糙集理論由 Pawlak提出 [1982,1991]。 ? 概念 ：具有相同特征值的一群對象稱為一個概念（一個等價類就是一個概念） 決策理論與方法 智能決策理論與方法 預(yù)備知識 —— 相關(guān)名詞解釋 ? pi T1 pj iff v(pi, T1)=v(pj, T1)，則T1是 U上的一個等價關(guān)系（類似地可以定義 T2, T3, E） ? X1=[p1]=[p4]=[p6]={p1, p4, p6}為 U關(guān)于 T1的一個等價類 ? X2=[p2]=[p3]=[p5]={p2, p3, p5}為 U關(guān)于 T1的另一個等價類（ T1有多少種取值就有多少個等價類 ） ? 顯然 X1∩X2=φ。 ? 其他： 0?1(?常用某個函數(shù)加以描述，稱為隸屬度函數(shù) ) Xx?決策理論與方法 智能決策理論與方法 預(yù)備知識 —— 相關(guān)名詞解釋 ? 等價關(guān)系 ： R是 U上的一個等價關(guān)系，當(dāng)且僅當(dāng) ? 對于任意 x?U，均有 x R x（ 自反性 ） ? 對于任意 x, y?U， x R y?y R x （ 對稱性 ） ? 對于任意 x, y, z?U， x R y ∧ y R z→ x R z（ 傳遞性 ） ? 等價類 ：若 R是 U上的一個等價關(guān)系，對于任意 x?U，稱集合 [x]={y| y R x, y ?U}為 U關(guān)于 R的一個等價類，記為 [x]R。 neural liner profit 0 1000 500 0 mins 回歸模型 決策理論與方法 智能決策理論與方法 KDD Goals Methods ? Sequence, trend and evolution analysis ? Trend, timeseries, and deviation analysis: ., regression and value prediction ? Sequential pattern mining ?., first buy digital camera, then buy large SD memory cards ? Periodicity analysis ? Motifs and biological sequence analysis ?Approximate and consecutive motifs ? Similaritybased analysis ? Mining data streams ? Ordered, timevarying, potentially infinite, data streams 決策理論與方法 智能決策理論與方法 KDD Goals Methods ? 異常探測 (Outlier Detection)： ? Outlier: A data object that does not ply with the general behavior of the data ?Noise or exception? ― One person ’ s garbage could be another person’ s treasure ? Methods: by product of clustering or regression analysis, … ? Useful in fraud detection, rare events analysis 決策理論與方法 智能決策理論與方法 KDD Goals Methods ? Structure and Network Analysis ? Graph mining： Finding frequent subgraphs, trees, substructures ? Information work analysis： ?Social works ?Multiple heterogeneous works： friends, family, classmates, … ?Links carry a lot of semantic information: Link mining ? Web mining ?Web is a big information work: from PageRank to Google ?Analysis of Web information works， Web munity discovery, opinion mining, usage mining, … 決策理論與方法 智能決策理論與方法 智能決策理論與方法 智能決策理論的形成背景 知識發(fā)現(xiàn) 粗糙集理論 機(jī)器學(xué)習(xí) 決策理論與方法 智能決策理論與方法 預(yù)備知識 —— 相關(guān)名詞解釋 ? 論域 ：研究對象的全體成員構(gòu)成的集合，一般用字母 U表示；若 X?U，則稱 X是 U的 子集 ? 隸屬度 ：描述一個對象 x與某個子集 X之間的隸屬程度，一般用符號 ??表示， ? 若 x?X, 則 ?=1。 決策理論與方法 智能決策理論與方法 聚類 (Kmeans算法 ) mmale， ffemale m f m m m m m m m f m m m m m m m m m f f m m m m m m m m m m m f m m m m m m m m m m m m m m m m m m m f 16K 64K 32K 20 30 40 50 age ine 聚類模型 決策理論與方法 智能決策理論與方法 KDD Goals Methods ? 回歸 (Regression)：根據(jù)歷史數(shù)據(jù)擬合一函數(shù)將屬性集映射到相應(yīng)的值集。,2,1),(),(:{ )1()1()1( ?? ????? ??? 0},{)()(2)(1)( ?? mGGGG mkmmm ?決策理論與方法 智能決策理論與方法 聚類 (Kmeans算法 ) (4)迭代終止 隨著 m的增大，分類趨于穩(wěn)定。 一般可以以 G(m)中各類的重心 作為新的聚點(diǎn)。這樣就得到了樣品空間的初始分類： kiijkjxxdxxdxG jii ,2,1},。聚點(diǎn)可由用戶根據(jù)經(jīng)驗(yàn)選擇，也可隨機(jī)選擇，或?qū)⑷繕悠啡藶榈鼗螂S機(jī)地分成 k類，以每類的重心作為聚點(diǎn)。具體步驟如下： (1)聚點(diǎn)的選擇 ：聚點(diǎn)是一批有代表性的樣品，它的選擇決定了初始分類。 決策理論與方法 智能決策理論與方法 聚類 (Kmeans算法 ) 聚類分析中的常用距離 (1)歐氏 (Euclidean)距離 (2)絕對距離 在實(shí)際應(yīng)用時常分析兩個樣品之間的相對距離，這時需要對樣品數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理，然后用標(biāo)準(zhǔn)化數(shù)據(jù)計(jì)算距離。對象相似的判斷方法有多種如距離法。 主要方法：決策樹、ANN、粗糙集、 SVM等。分類規(guī)則是判斷某個對象屬于某類的充分條件即對象具有某類的屬性時則表示該對象屬于該類。 NBASupp ort || ??||||ABACon fide nce ??決策理論與方法 智能決策理論與方法 關(guān)聯(lián)規(guī)則發(fā)現(xiàn) (Apriori算法 ) ? Apriori算法由 Agrawal Srikant在 1994年提出 ? 主要思想 : ? 一個頻繁項(xiàng)集（支持度超過給