【正文】 若 ，則取 基于統(tǒng)計(jì)試驗(yàn)的離散化方法是將 值較大的分割點(diǎn)作為有效分割點(diǎn)。 Nki ?ik決策理論與方法 智能決策理論與方法 知識(shí)發(fā)現(xiàn) — 連續(xù)屬性離散化 假設(shè)某個(gè)屬性的最大屬性值為 xmax，最小屬性值為 xmin，用戶給定的分割點(diǎn)參數(shù)為 k，則分割點(diǎn)間隔為 δ=(xmaxxmin)/k， 所得到的屬性分割點(diǎn)為 xmin+i?， i=1,2,…, k。因此離散化問(wèn)題本質(zhì)上可歸結(jié)為利用選取的分割點(diǎn)對(duì)屬性的值域空間進(jìn)行劃分的問(wèn)題。假設(shè)對(duì)于任意有 ， R是實(shí)數(shù)集，則 為連續(xù)屬性。在樣本數(shù)據(jù)集中，空值在所有非主碼屬性中都可能出現(xiàn)?；痉椒ㄊ菍颖緮?shù)據(jù)集分成二部分，一部分是訓(xùn)練集用來(lái)發(fā)現(xiàn)模式，另一部分是測(cè)試集，分析結(jié)果的可信度。 粗糙集理論 遺傳算法 面向?qū)傩詺w納 線性回歸 ? 回歸： 根據(jù)歷史數(shù)據(jù)擬合一函數(shù)將屬性集映射到相應(yīng)的值集。 ? 序列模式發(fā)現(xiàn) ：它與關(guān)聯(lián)規(guī)則相似，不同之處在于事件的發(fā)生有前后順序，該規(guī)則一般形式為： At(i)→B t(j) 其中 t(i)t(j)。對(duì)象相似的判斷方法有多種如距離法。其規(guī)則形式一般為 IF LogicExp Then A類 Else B類。 (Day=Friday) and (Product=Nappies) → (Product=Beer)為一典型關(guān)聯(lián)規(guī)則 A為滿足前件的對(duì)象集， B為滿足后件的對(duì)象， N為全部對(duì)象集。算法設(shè)計(jì)與選擇往往就是精度與效率之間的權(quán)衡。 ? 方法的選擇 ：統(tǒng)計(jì)方法、機(jī)器學(xué)習(xí)方法、不確定性方法、數(shù)據(jù)庫(kù)技術(shù)等。 ?垂直約簡(jiǎn) (也稱特征選擇、屬性約簡(jiǎn) )：使用降維或變換方法減少變量數(shù)目，是典型的組合優(yōu)化問(wèn)題。 決策理論與方法 智能決策理論與方法 知識(shí)發(fā)現(xiàn) — 基本概念 ? 數(shù)據(jù)預(yù)處理 ：噪音數(shù)據(jù)處理、空值處理、屬性類型轉(zhuǎn)化 ?噪音數(shù)據(jù)處理： 噪音數(shù)據(jù)往往是因輸入錯(cuò)誤而導(dǎo)致的、或受某種外界因素干擾而有意識(shí)提供的錯(cuò)誤數(shù)據(jù)。也稱為數(shù)據(jù)挖掘 (Data Mining)。 決策理論與方法 智能決策理論與方法 智能決策理論與方法 智能決策理論的形成背景 知識(shí)發(fā)現(xiàn) 粗糙集理論 機(jī)器學(xué)習(xí) 決策理論與方法 智能決策理論與方法 知識(shí)發(fā)現(xiàn) — 動(dòng)機(jī) ? 智能決策的核心是如何獲取支持決策的信息和知識(shí)。不確定性就造成了具有相同描述信息的對(duì)象可能屬于不同概念。決策理論與方法 (4) —— 智能決策理論與方法 (1) 合肥工業(yè)大學(xué)管理學(xué)院 Wednesday, March 03, 2023 不確定性決策 ? 不確定性決策 ： 指難以獲得各種狀態(tài)發(fā)生的概率，甚至對(duì)未來(lái)狀態(tài)都難以把握的決策問(wèn)題。事物發(fā)生的隨機(jī)性、人類知識(shí)的不完全、不可靠、不精確和不一致以及自然語(yǔ)言中存在的模糊性和歧義性，都反映了這種差異，都會(huì)帶來(lái)不確定性。 AI應(yīng)用于決策科學(xué)主要有兩種模式 ： ? 針對(duì)可建立精確數(shù)學(xué)模型的決策問(wèn)題，由于問(wèn)題的復(fù)雜性，如組合爆炸、參數(shù)過(guò)多等而無(wú)法獲得問(wèn)題的解析解，需要借助 AI中的智能搜索算法獲得問(wèn)題的數(shù)值解； ? 針對(duì)無(wú)法建立精確數(shù)學(xué)模型的不確定性決策問(wèn)題、半結(jié)構(gòu)化或非結(jié)構(gòu)化決策問(wèn)題，需要借助 AI方法建立相應(yīng)的決策模型并獲得問(wèn)題的近似解。知識(shí)如何評(píng)價(jià)？ 決策理論與方法 智能決策理論與方法 知識(shí)發(fā)現(xiàn) — 基本概念 ? 知識(shí)發(fā)現(xiàn) (Knowledge Discovery in Databases, KDD)：從大量數(shù)據(jù)中提取隱含的 (預(yù)先未知、新穎 )、有潛在應(yīng)用價(jià)值的 (可信、有效 )并最終能被人理解的模式的非平凡過(guò)程。 ? 常見(jiàn)數(shù)據(jù)源 ： ?關(guān)系型數(shù)據(jù)庫(kù)數(shù)據(jù)：如營(yíng)銷數(shù)據(jù)庫(kù) ?文本數(shù)據(jù)：內(nèi)容挖掘 (如 Web內(nèi)容挖掘，尋找相似頁(yè)面 ) ?Web數(shù)據(jù)：站點(diǎn)結(jié)構(gòu)數(shù)據(jù) (如 Web結(jié)構(gòu)挖掘，優(yōu)化站點(diǎn)設(shè)計(jì)，站點(diǎn)導(dǎo)航，自適應(yīng)站點(diǎn) )；站點(diǎn)使用數(shù)據(jù)或點(diǎn)擊流數(shù)據(jù) (如 Web使用挖掘，用戶聚類、頁(yè)面聚類，個(gè)性化推薦等 ) ?空間數(shù)據(jù)、圖像數(shù)據(jù)、視頻數(shù)據(jù)等。 決策理論與方法 智能決策理論與方法 知識(shí)發(fā)現(xiàn) — 基本概念 ? 數(shù)據(jù)變換 (數(shù)據(jù)約簡(jiǎn) )： 通過(guò)某種方法降低算法的搜索空間。需要考慮的問(wèn)題： ? 任務(wù)的確定 ：分類、聚類、關(guān)聯(lián)規(guī)則發(fā)現(xiàn)等。 ? 運(yùn)行效率分析 ：不同的算法其效率存在很大差異。 ? 發(fā)現(xiàn)關(guān)聯(lián)規(guī)則 ：關(guān)聯(lián)規(guī)則的形式為 A→B ， A為前件， B為后件。分類規(guī)則是判斷某個(gè)對(duì)象屬于某類的充分條件即對(duì)象具有某類的屬性時(shí)則表示該對(duì)象屬于該類。規(guī)則形式為 IF O1與 O2相似 Then O O2在同一簇。規(guī)則一般形式是： IF A類 Then 特征表達(dá)式。常有三種偏離類型：隨時(shí)間偏離 (以歷史值為期望值 )、與標(biāo)準(zhǔn)偏離 (以標(biāo)準(zhǔn)值為期望值 )、與預(yù)測(cè)偏離 (以預(yù)測(cè)值為期望值 )。 相關(guān)分析 面向數(shù)據(jù)集方法 基于案例推理 模糊邏輯 決策理論與方法 智能決策理論與方法 知識(shí)發(fā)現(xiàn) — 基本概念 ? 結(jié)果評(píng)價(jià) ：確定所發(fā)現(xiàn)模式的可信度。 決策理論與方法 智能決策理論與方法 知識(shí)發(fā)現(xiàn) — 空值估算 ? 空值 是指屬性值未知且不可用、與其它任何值都不相同的符號(hào)。 決策理論與方法 智能決策理論與方法 知識(shí)發(fā)現(xiàn) — 連續(xù)屬性離散化 問(wèn)題描述 設(shè) 為一樣本數(shù)據(jù)集， 為非空有限集合， C是條件屬性集， D是決策屬性集。這樣就把原來(lái)含有連續(xù)屬性的樣本數(shù)據(jù)集A轉(zhuǎn)換成離散化的數(shù)據(jù)集 。 (1)等區(qū)間離散化方法 等區(qū)間分割是將連續(xù)屬性的值域等分成 ( )個(gè)區(qū)間 , 一般由用戶確定。 決策理論與方法 智能決策理論與方法 知識(shí)發(fā)現(xiàn) — 連續(xù)屬性離散化 (3)統(tǒng)計(jì)試驗(yàn)方法 統(tǒng)計(jì)試驗(yàn)方法根據(jù)決策屬性分析區(qū)間劃分之間的獨(dú)立程度，確定分割點(diǎn)的有效性。 Lk !=?。 ? 聚類方法的核心問(wèn)題是樣品間的相似性度量，通常用距離來(lái)度量。具體步驟如下： (1)聚點(diǎn)的選擇 ：聚點(diǎn)是一批有代表性的樣品，它的選擇決定了初始分類。這樣就得到了樣品空間的初始分類： kiijkjxxdxxdxG jii ,2,1},。,2,1),(),(:{ )1()1()1( ?? ????? ???0},{ )()(2)(1)( ?? mGGGG mkmmm ?決策理論與方法 智能決策理論與方法 知識(shí)發(fā)現(xiàn) — 聚類 (Kmeans算法 ) (4)迭代終止 隨著 m的增大，分類趨于穩(wěn)定。 ?其他： 0?1。 X1∪ X2=U ?商集 U/T1={X1, X2} U T1 T2 T3 E p1 N Y Normal Y p2 Y N Normal Y p3 Y Y High Y p4 N Y Low N p5 Y N Normal N p6 N Y High Y 粗糙集理論 (Rough Set Theory) 智能決策方法 預(yù)備知識(shí) —— 成員 ? 集合成員 ：明確的隸屬關(guān)系 ? 模糊成員 ：概念模糊 (如青年 )導(dǎo)致成員模糊 ? 粗糙成員 ：概念清晰 (如感冒 )，成員模糊 (是否感冒不清楚 )，具有概率特征 (隸屬函數(shù) )，但不是概率問(wèn)題，只是由于根據(jù)可用知識(shí)無(wú)法得到準(zhǔn)確結(jié)論。 ?決策表 ：若屬性集合 A可進(jìn) 一步分為兩個(gè)屬性子集的并： 條件屬性集 C和決策屬性集 D， A=C∪ D， C∩D=φ，則信息 系統(tǒng)也被稱為決策表。 ? 設(shè) R是由屬性集 A的子集誘導(dǎo)的論域 U上的等價(jià)關(guān)系族，則稱 R為 U上的一個(gè) 知識(shí)庫(kù) ，記為 K=(U, R)。 ?上近似 ?由與 X的交為非空的初等集合的并構(gòu)成，而上近似中的元素可能屬于 X。 ? F={E}： U/F={{p1, p2, p3, p6}, {p4, p5}} ? X1={p1, p2, p3, p6}是 R3粗糙集， X1的 R3下近似是 {p1, p3, p6}， R3上近似是 {p1, p2, p3, p5, p6}，邊界域?yàn)?{p2, p5}； ? X2={p4, p5}也是 R3粗糙集， X2的 R3下近似是{p4}， X2的 R3上近似是 {p2, p4, p5}，而邊界域是 {p2, p5}。 (精度與概率或隸屬度的區(qū)別 ) ?隸屬度 ：是根據(jù)可用知識(shí) R，對(duì)象x隸屬于概念 X的條件概率。如果將 R看作決策表中的條件屬性集， F看成決策屬性集，近似質(zhì)量反映了兩者之間的依賴關(guān)系。 ? 分類 F={E}： U/F={{p1, p2, p3, p6}, {p4, p5}} ? X1={p1, p2, p3, p6}是 R粗糙集， X1的 R下近似是 {p1, p3, p6}， R上近似是 {p1, p2, p3, p5, p6} ； ? X2={p4, p5}也是 R粗糙集， X2的 R下近似是 {p4}， X2的 R上近似是 {p2, p4, p5}； ? F的近似精度為 ； ? F的近似質(zhì)量為 。 ? 如果知識(shí) D的部分初等范疇能用知識(shí) C的某些初等范疇來(lái)定義，稱知識(shí) D部分依賴于知識(shí) C。 ? F的 R3正域是 {p1, p3, p4, p6}, 所以 F對(duì) R3的依賴度是 2/3。 ? 什么是知識(shí)約簡(jiǎn)？ ?將知識(shí)庫(kù)中某些不必要的等價(jià)關(guān)系（知識(shí)）移去的過(guò)程。 粗糙集理論并不使用事先假設(shè)的信息 ，而是根據(jù)各屬性的分類能力不同，確定該屬性的重要性。 ? 設(shè)信息系統(tǒng) I=U,C∪ D,V,f， C中所有 D不可省略的元素構(gòu)成的集合稱為 C的 D核，記作 CoreD(C)。例如，判斷人的體形 (瘦、中、胖 )時(shí)，體重是重要屬