【正文】 例如，判斷人的體形 (瘦、中、胖 )時，體重是重要屬性。 粗糙集理論并不使用事先假設的信息 ，而是根據(jù)各屬性的分類能力不同，確定該屬性的重要性。 ? F的 R3正域是 {p1, p3, p4, p6}, 所以 F對 R3的依賴度是 2/3。 ? 分類 F={E}： U/F={{p1, p2, p3, p6}, {p4, p5}} ? X1={p1, p2, p3, p6}是 R粗糙集， X1的 R下近似是 {p1, p3, p6}， R上近似是 {p1, p2, p3, p5, p6} ； ? X2={p4, p5}也是 R粗糙集， X2的 R下近似是 {p4}， X2的 R上近似是 {p2, p4, p5}； ? F的近似精度為 ； ? F的近似質量為 。 (精度與概率或隸屬度的區(qū)別 ) ?隸屬度 ：是根據(jù)可用知識 R，對象x隸屬于概念 X的條件概率。 ?上近似 ?由與 X的交為非空的初等集合的并構成，而上近似中的元素可能屬于 X。 ?決策表 ：若屬性集合 A可進 一步分為兩個屬性子集的并： 條件屬性集 C和決策屬性集 D， A=C∪ D， C∩D=φ，則信息 系統(tǒng)也被稱為決策表。 ?其他： 0?1。這樣就得到了樣品空間的初始分類： kiijkjxxdxxdxG jii ,2,1},。 ? 聚類方法的核心問題是樣品間的相似性度量，通常用距離來度量。 決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 連續(xù)屬性離散化 (3)統(tǒng)計試驗方法 統(tǒng)計試驗方法根據(jù)決策屬性分析區(qū)間劃分之間的獨立程度，確定分割點的有效性。這樣就把原來含有連續(xù)屬性的樣本數(shù)據(jù)集A轉換成離散化的數(shù)據(jù)集 。 決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 空值估算 ? 空值 是指屬性值未知且不可用、與其它任何值都不相同的符號。 模糊邏輯 面向數(shù)據(jù)集方法 常有三種偏離類型：隨時間偏離 (以歷史值為期望值 )、與標準偏離 (以標準值為期望值 )、與預測偏離 (以預測值為期望值 )。規(guī)則形式為 IF O1與 O2相似 Then O O2在同一簇。 ? 發(fā)現(xiàn)關聯(lián)規(guī)則 ：關聯(lián)規(guī)則的形式為 A→B ， A為前件， B為后件。需要考慮的問題： ? 任務的確定 ：分類、聚類、關聯(lián)規(guī)則發(fā)現(xiàn)等。 ? 常見數(shù)據(jù)源 ： ?關系型數(shù)據(jù)庫數(shù)據(jù)：如營銷數(shù)據(jù)庫 ?文本數(shù)據(jù)：內容挖掘 (如 Web內容挖掘，尋找相似頁面 ) ?Web數(shù)據(jù)：站點結構數(shù)據(jù) (如 Web結構挖掘，優(yōu)化站點設計，站點導航，自適應站點 )；站點使用數(shù)據(jù)或點擊流數(shù)據(jù) (如 Web使用挖掘，用戶聚類、頁面聚類，個性化推薦等 ) ?空間數(shù)據(jù)、圖像數(shù)據(jù)、視頻數(shù)據(jù)等。 AI應用于決策科學主要有兩種模式 ： ? 針對可建立精確數(shù)學模型的決策問題，由于問題的復雜性，如組合爆炸、參數(shù)過多等而無法獲得問題的解析解，需要借助 AI中的智能搜索算法獲得問題的數(shù)值解； ? 針對無法建立精確數(shù)學模型的不確定性決策問題、半結構化或非結構化決策問題，需要借助 AI方法建立相應的決策模型并獲得問題的近似解。決策理論與方法 (4) —— 智能決策理論與方法 (1) 合肥工業(yè)大學管理學院 Wednesday, March 03, 2023 不確定性決策 ? 不確定性決策 ： 指難以獲得各種狀態(tài)發(fā)生的概率，甚至對未來狀態(tài)都難以把握的決策問題。 決策理論與方法 智能決策理論與方法 智能決策理論與方法 智能決策理論的形成背景 知識發(fā)現(xiàn) 粗糙集理論 機器學習 決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 動機 ? 智能決策的核心是如何獲取支持決策的信息和知識。 決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 基本概念 ? 數(shù)據(jù)預處理 ：噪音數(shù)據(jù)處理、空值處理、屬性類型轉化 ?噪音數(shù)據(jù)處理： 噪音數(shù)據(jù)往往是因輸入錯誤而導致的、或受某種外界因素干擾而有意識提供的錯誤數(shù)據(jù)。 ? 方法的選擇 ：統(tǒng)計方法、機器學習方法、不確定性方法、數(shù)據(jù)庫技術等。 (Day=Friday) and (Product=Nappies) → (Product=Beer)為一典型關聯(lián)規(guī)則 A為滿足前件的對象集， B為滿足后件的對象， N為全部對象集。對象相似的判斷方法有多種如距離法。 ? 回歸： 根據(jù)歷史數(shù)據(jù)擬合一函數(shù)將屬性集映射到相應的值集。 面向屬性歸納 粗糙集理論 在樣本數(shù)據(jù)集中，空值在所有非主碼屬性中都可能出現(xiàn)。因此離散化問題本質上可歸結為利用選取的分割點對屬性的值域空間進行劃分的問題。 對于任意分割點 ，均可將 分成 2個區(qū)間 和 ，兩區(qū)間的獨立程度為： 其中： r是決策類數(shù)目 nij是在第 l區(qū)間中屬于第 j決策類的對象數(shù) )0( iiij kjPc ???),[ ii es ),[ ijic csL ? ),( iijc ecR ? ? ?? ??? 21 122 )(lrj ljljljEEn?決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 連續(xù)屬性離散化 若 ，則取 基于統(tǒng)計試驗的離散化方法是將 值較大的分割點作為有效分割點。 決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 聚類 (Kmeans算法 ) 聚類分析中的常用距離 (1)歐氏 (Euclidean)距離 (2)絕對距離 (3)Minkowski距離 ? 顯然當 m=1時就是絕對距離， m=2時就是歐氏距離。,2,1),(),(:{ )0()0()0( ?? ????? ),(),( )0()0( ji xxdxxd ? },{ )0()0(2)0(1)0( kGGGG ??決策理論與方法 智能決策理論與方法 知識發(fā)現(xiàn) — 聚類 (Kmeans算法 ) (3)迭代過程 設聚類形成的一個分類為 則可從 G(m)出發(fā)計算新的聚點集合 L(m+1)。(?常用某個函數(shù)加以描述，稱為隸屬度函數(shù) ) Xx?高斯函數(shù) 粗糙集理論 (Rough Set Theory) 智能決策方法 預備知識 —— 相關名詞解釋 ? 等價關系 ： R是 U上的一個等價關系，當且僅當 ?對于任意 x?U，均有 x R x（自反性） ?對于任意 x, y?U， x R y?y R x （對稱性） ?對于任意 x, y, z?U， x R y ∧ y R z→ x R z（傳遞性） ? 等價類 ：若 R是 U上的一個等價關系，對于任意 x?U，稱集合[x]={y| y R x, y ?U}為 U關于 R的一個等價類，記為 [x]R。 aAa VV ?? ?U T1 T2 T3 E p1 N Y Normal Y p2 Y N Normal Y p3 Y Y High Y p4 N Y Low N p5 Y N Normal N p6 N Y High Y 粗糙集理論 (Rough Set Theory) 智能決策方法 粗糙集理論的經(jīng)典模型 —— 信息系統(tǒng)與知識 ? A的任何一個子集 B確定一個 U上的二元關系 IND(B)：對于任意 a?B， xIND(B)y?a(x)=a(y)； x, y?U； a(x)表示對象 x的 a屬性值。 ?上近似與下近似的差為 邊界域 ，粗糙集的邊界域為非空，否則為精確集。 )()( )()( ??? XXRCard XRCardXR?)(1)( XX RR ?? ?? |)(||)(|)(xRXxRxRX???粗糙集理論 (Rough Set Theory) 智能決策方法 粗糙集理論的經(jīng)典模型 —— 粗糙集數(shù)字特征 ?設 F={X1， X2， … ， Xn}是論域 U上的一個劃分，那么根據(jù)知識 R， F的分類精度如何？ ?F的近似精度：分類的近似精度給出了根據(jù)現(xiàn)有知識對對象進行分類時可能正確的決策的百分數(shù)。 T1 T2 T3 E p1 N Y Normal Y p2 Y N Normal Y p3 Y Y High Y p4 N Y Low N p5 Y N Normal N p6 N Y High Y 粗糙集理論 (Rough Set Theory) 智能決策方法 粗糙集理論的經(jīng)典模型 —— 知識依賴 ? 為了尋找“ IF…… THEN”形式的推理規(guī)則，在粗糙集理論體系中所采用的方法是從一個給定的知識，推導另一個知識。 T1 T2 T3 E p1 N Y Normal Y p2 Y N Normal Y p3 Y Y High Y p4 N Y Low N p5 Y N Normal N p6 N Y High Y 條件屬性子集 {T1} {T2} {T3} {T1,T2} {T1,T3} {T2,T3} {T1,T2,T3} 依賴度 k 0 0 1/2 1/6 2/3 2/3 2/3 粗糙集理論 (Rough Set Theory) 智能決策方法 粗糙集理論的經(jīng)典模型 —— 知識約簡 ? 為什么要約簡知識？ ?判別：根據(jù)條件屬性取值確定對象所屬的類。處理方法是將該屬性從信息表中移去，分析其對分類能力的影響，影響越大，屬性越重要。但若體重屬性值為 60Kg時，此人的體形要結合其身高、性別才能確定，但若體重屬性值為 150Kg時，我們幾乎肯定他是個胖子，這時身高、性別已不重要，也就是說身高、性別的屬性值是冗余的。 )())(()( /, 0U