【正文】 Car dXBCar dDk DUXB???????粗糙集理論 (Rough Set Theory) 智能決策方法 粗糙集理論的經(jīng)典模型 —— 值約簡 ? 為什么要約簡屬性值？ ?在判斷某個(gè)對象屬于某類時(shí)，某個(gè)屬性的取值不同，對分類產(chǎn)生的影響也不相同。 粗糙集理論 (Rough Set Theory) 智能決策方法 粗糙集理論的經(jīng)典模型 —— 屬性重要性與屬性核 ? 在確定某個(gè)決策目標(biāo)時(shí)，不同屬性的重要性是不同的，在一般分析中常用事先假設(shè)的權(quán)重來描述。 ? F={E}： U/F={{p1, p2, p3, p6}, {p4, p5}} ? X1={p1, p2, p3, p6}是 R3粗糙集， X1的 R3下近似是{p1, p3, p6}， R3上近似是 {p1, p2, p3, p5, p6} ； ? X2={p4, p5}也是 R3粗糙集， X2的 R3下近似是 {p4}，X2的 R3上近似是 {p2, p4, p5} 。 T1 T2 T3 E p1 N Y Normal Y p2 Y N Normal Y p3 Y Y High Y p4 N Y Low N p5 Y N Normal N p6 N Y High Y 粗糙集理論 (Rough Set Theory) 智能決策方法 粗糙集理論的經(jīng)典模型 —— 粗糙集數(shù)字特征 ? 知識 R={T1, T2, T3}： U/R=({p1}, {p3}, {p6}, {p2, p5},{p4}}。 ?粗糙度 ： X的 R粗糙度反映了我們對于了解集合 X的知識的不完全程度。 粗糙集理論 (Rough Set Theory) 智能決策方法 粗糙集理論的經(jīng)典模型 —— 粗糙集與近似 ?下近似 ?由所有包含于 X的初等集合的并構(gòu)成， X的下近似中的元素一定屬于 X。 ?Pawlak Z., Rough sets. International Journal of Computer and Information Sciences, 1982(11): 341356 ?Pawlak Z., Rough set— Theoretical Aspects of Reasoning about Data, Dordrecht, Boston, London: Kluwer Academic Publishers,1991 粗糙集理論 (Rough Set Theory) 智能決策方法 粗糙集理論的經(jīng)典模型 —— 基本思想 ?知識是主體對論域中的客體進(jìn)行分類的能力，分類能力越強(qiáng)，主體所具備知識的可靠度越高 ?分類能力受主體分辨能力的影響，因此分類具有近似性 (粗糙集 ) ?影響分類能力的因素 (在信息系統(tǒng)中常描述為屬性 )很多，不同的因素重要程度不同，其中某些因素起決定性作用 (屬性重要性：屬性約簡 ) ?具有相同屬性的實(shí)體，屬性取值的不同對分類能力也產(chǎn)生影響 (值重要性：值約簡 ) ?屬性之間存在某種依賴關(guān)系 (決策規(guī)則 ) 粗糙集理論 (Rough Set Theory) 智能決策方法 粗糙集理論的經(jīng)典模型 —— 信息系統(tǒng)與知識 ?信息系統(tǒng) I可以定義為四元組 U, A, V, f，其中有限非空集合 U是論域， A為關(guān)于 U的屬性集， ， Va表示屬性 a的值域，映射 f: U A→ V表示對 ?x?U， a?A，有： f(x, a)?V。 ?若 ,則 ?=0。 決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 聚類 (Kmeans算法 ) 聚點(diǎn)的最小最大原則選擇法： ①設(shè)將 n個(gè)樣品分成 k類，先選擇所有樣品中相距最遠(yuǎn)的兩個(gè)樣品 為前兩個(gè)聚點(diǎn)，因此有 21 , ii xx )m ax(),( 21 ijii dxxd ?②設(shè)已經(jīng)找到了 l個(gè) (2≤ l＜ k)聚點(diǎn)，則第 l+1個(gè)聚點(diǎn) 的選擇方法是使得 與前 l個(gè)聚點(diǎn)的距離最小者等于所有其余的與前 l個(gè)聚點(diǎn)的較小距離的最大者，直至選定 k個(gè)聚點(diǎn)，即 將所獲得的 k個(gè)聚點(diǎn)的集合記為 ),2,1),2,1),(ma x( mi n(),2,1),(mi n(211rijiiiiijnjlrxxdlrxxdrrl???????????1?lix1?lix },{ )0()0(2)0(1)0( kxxxL ??決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 聚類 (Kmeans算法 ) (2)初始聚類 有了聚點(diǎn)集合后，可根據(jù)下列最靠近原則實(shí)現(xiàn)初始分類： 若對于某樣品 x出現(xiàn) ，則 x任意歸于 Gi(0) 或 Gj(0) 類。 決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 關(guān)聯(lián)規(guī)則發(fā)現(xiàn) (Apriori算法 ) T ID Ite m s100 1 3 4200 2 3 5300 1 2 3 5400 2 5Database D ite m s e t s u p .{ 1 } 2{ 2 } 3{ 3 } 3{ 4 } 1{ 5 } 3i te m s e t s u p .{ 1 } 2{ 2 } 3{ 3 } 3{ 5 } 3Scan D C1 L1 item set{1 2}{1 3}{1 5}{2 3}{2 5}{3 5}ite m s et s up{ 1 2} 1{ 1 3} 2{ 1 5} 1{ 2 3} 2{ 2 5} 3{ 3 5} 2ite m s e t s u p{ 1 3 } 2{ 2 3 } 2{ 2 5 } 3{ 3 5 } 2L2 C2 C2 Scan D C3 L3 item set{2 3 5}Scan D ite m s e t s u p{ 2 3 5 } 2決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 聚類 (Kmeans算法 ) ? 聚類分析是把研究對象按照一定的規(guī)則分成若干類別，并使類之間的差別盡可能地大，類內(nèi)的差別盡可能地小，換句話說，使類間的相似性最小、而類內(nèi)的相似性最大。假設(shè)某個(gè)屬性的最大屬性值為 xmax ，最小屬性值為 xmin ，用戶給定的分割點(diǎn)參數(shù)為 k，樣本集中的對象個(gè)數(shù)為 n，則需要將樣本集中的對象按該屬性的取值從小到大排列，然后按對象數(shù)平均劃分為 k段即得到分割點(diǎn)集，每兩個(gè)相鄰分割點(diǎn)之間的對象數(shù)均為 n/k。 3 ki ki1 2 1 …… iik eci ?ikic 1?ic2ic1 ii cs 0? ??? DCUA ?, },{ 21 nxxxU ??Cci ? R),[ ??iii esV ic iPiV },{ 10ikiii icccP ?? iikiiii eccccs i ?????? ?210ikik決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 連續(xù)屬性離散化 對于需要離散化的連續(xù)屬性集 ，其分割點(diǎn)集合記為 將 ci屬性的連續(xù)取值映射到離散空間，即對于任意 若其屬性 ci 的取值在區(qū)間 內(nèi)，則將屬性值重新標(biāo)記為 j。維護(hù)可以對數(shù)據(jù)變化引起的特殊問題重新應(yīng)用所建立的處理方法，或者應(yīng)用某種增量處理算法。 貝葉斯網(wǎng)絡(luò) 聚類分析 數(shù)據(jù)庫技術(shù) 決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 基本概念 ? 偏離探測： 探測測量值與期望值之間的差別并對其進(jìn)行解釋。 ? 聚類 (相容關(guān)系 )：聚類也叫分段，就是將數(shù)據(jù)庫中的實(shí)體分成若干組或簇，每簇內(nèi)的實(shí)體是相似的。 主要方法：歸納學(xué)習(xí) 。 決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 基本概念 ? 數(shù)據(jù)挖掘階段 ：應(yīng)用相關(guān)算法從準(zhǔn)備好的數(shù)據(jù)中尋找數(shù)據(jù)中隱含的對信息利用如預(yù)測、決策等有價(jià)值的模式。 抽樣 預(yù)處理 數(shù)據(jù)挖掘 解釋 /評價(jià) 數(shù)據(jù)中心 樣本集 預(yù)處理結(jié)果 變換結(jié)果 挖掘結(jié)果 知識 任務(wù)描述 變換 決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 基本概念 ? 數(shù)據(jù)準(zhǔn)備階段 一般包含數(shù)據(jù)選取、預(yù)處理和數(shù)據(jù)變換等任務(wù)： ? 數(shù)據(jù)選取： 根據(jù)用戶的需要從原始數(shù)據(jù)集中抽取一組樣本數(shù)據(jù)確定挖掘任務(wù)的操作對象。 決策理論與方法 智能決策理論與方法 智能決策理論與方法 — AI的應(yīng)用模式 ? 智能決策方法 是應(yīng)用人工智能 (Artificial Intelligence, AI)相關(guān)理論方法，融合傳統(tǒng)的決策數(shù)學(xué)模型和方法而產(chǎn)生的具有智能化推理和求解的決策方法，其典型特征是能夠在不確定、不完備、模糊的信息環(huán)境下，通過應(yīng)用符號推理、定性推理等方法，對復(fù)雜決策問題進(jìn)行建模、推理和求解。 ? 特點(diǎn) ：狀態(tài)的不確定性。 ? 問題 ? 知識獲取是基于知識的系統(tǒng) (KBS)的最大瓶頸 推理機(jī) 知識工程師 領(lǐng)域?qū)＜? 決策者 知識庫 問題請求 推理結(jié)果 決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 動機(jī) ? 問題 ? 推理規(guī)則的獲取與 KBS中知識獲取一樣難，因而基于案例推理 (CaseBased Reasoning)漸漸變成基于案例檢索 (CaseBased Retrieving)。如何剔除噪音數(shù)據(jù)？噪音數(shù)據(jù)與系統(tǒng)中的一些小概率數(shù)據(jù)統(tǒng)稱為“異常數(shù)據(jù) (Outlier)”，如何區(qū)分噪音數(shù)據(jù)和小概率數(shù)據(jù)？ ?空值處理： 有些數(shù)據(jù)由于“不重要”、不知道或“不愿意”而沒有獲得，引起某些屬性值未知，稱此類值為空值。是知識發(fā)現(xiàn)的核心，也是被研究最廣泛的內(nèi)容。 典型方法： Apriori算法。 典型方法：