【正文】 n 通過巧妙地將 AI技術(shù) “ 嵌入 ” 現(xiàn)有的各種軟硬件系統(tǒng)等方式，使得 AI技術(shù)及智能系統(tǒng)將更廣泛、更深入地應(yīng)用于其它領(lǐng)域， AI必將成為一種強(qiáng)大的共性支撐技術(shù)。1051. 數(shù)據(jù)挖掘的基本過程1061. 數(shù)據(jù)挖掘系統(tǒng)的基本結(jié)構(gòu)數(shù)據(jù)倉(cāng)庫(kù)數(shù)據(jù)清洗和集成 過濾數(shù)據(jù)庫(kù)數(shù)據(jù)庫(kù)或數(shù)據(jù)倉(cāng)庫(kù)服務(wù)器數(shù)據(jù)挖掘引擎模式評(píng)價(jià)圖形用戶接口知識(shí)庫(kù)1071. 數(shù)據(jù)挖掘的主要問題n 數(shù)據(jù)挖掘結(jié)果的表示和顯示n 處理噪聲和不完全數(shù)據(jù)n 模式評(píng)估 —— 興趣度問題n 數(shù)據(jù)挖掘算法的有效性和可伸縮性n 并行、分布式和增量挖掘算法n 異種數(shù)據(jù)庫(kù)和全球信息系統(tǒng)挖掘信息n ……1081. 數(shù)據(jù)挖掘的發(fā)展趨勢(shì)n 視頻和音頻數(shù)據(jù)挖掘n 科學(xué)和統(tǒng)計(jì)數(shù)據(jù)挖掘n 數(shù)據(jù)挖掘的應(yīng)用探索n 可伸縮的數(shù)據(jù)挖掘方法n 數(shù)據(jù)挖掘與數(shù)據(jù)庫(kù)系統(tǒng)、數(shù)據(jù)倉(cāng)庫(kù)和 Web數(shù)據(jù)庫(kù)系統(tǒng)的集成n 數(shù)據(jù)挖掘語(yǔ)言的標(biāo)準(zhǔn)化n 可視化數(shù)據(jù)挖掘n 復(fù)雜數(shù)據(jù)類型挖掘的方法n Web挖掘、數(shù)據(jù)流（ Data streams）挖掘n 數(shù)據(jù)挖掘中的隱私保護(hù)與信息安全n ……109 AI的未來展望n 在未來的 10年之內(nèi)，整個(gè) AI領(lǐng)域仍將以 “ 基于概率統(tǒng)計(jì)的機(jī)器學(xué)習(xí)方法 ” 為最主流的研究及應(yīng)用方向。1031. 數(shù)據(jù)挖掘的主要應(yīng)用n 電信 ：客戶流失原因分析n 銀行：聚類（細(xì)分） , 交叉銷售n 百貨公司 /超市：購(gòu)物籃分析 （關(guān)聯(lián)規(guī)則）n 保險(xiǎn)：細(xì)分、交叉銷售、流失（原因分析）n 信用卡： 欺詐探測(cè)、細(xì)分n 電子商務(wù)： 網(wǎng)站日志分析n 稅務(wù)部門：偷漏稅行為探測(cè)n 警察機(jī)關(guān)：犯罪行為分析n 醫(yī)學(xué)： 醫(yī)療保健n ……104數(shù)據(jù)挖掘 vs. 知識(shí)發(fā)現(xiàn)n 數(shù)據(jù)挖掘 （ Data Mining）：從大量的、不完全的、有噪聲的、模糊的、隨機(jī)的實(shí)際應(yīng)用數(shù)據(jù)中，提取隱含在其中的、人們事先不知道的、但又是潛在有用的信息和知識(shí)的過程。 97HMM的典型應(yīng)用 —— 語(yǔ)音識(shí)別98 數(shù)據(jù)挖掘n 數(shù)據(jù)挖掘的由來n 數(shù)據(jù)挖掘的創(chuàng)立n 數(shù)據(jù)挖掘的主要應(yīng)用n 數(shù)據(jù)挖掘 vs. 知識(shí)發(fā)現(xiàn)n 數(shù)據(jù)挖掘的基本過程n 數(shù)據(jù)挖掘系統(tǒng)的基本結(jié)構(gòu)n 數(shù)據(jù)挖掘的基本問題n 數(shù)據(jù)挖掘的發(fā)展趨勢(shì)99n 人類已進(jìn)入一個(gè)嶄新的信息時(shí)代 n 數(shù)據(jù)庫(kù)中存儲(chǔ)的數(shù)據(jù)量急劇膨脹，但知識(shí)相對(duì)貧乏 n 需要從海量數(shù)據(jù)庫(kù)和大量繁雜信息中提取有價(jià)值的知識(shí)，進(jìn)一步提高信息的利用率n 產(chǎn)生了一個(gè)新的研究方向：基于數(shù)據(jù)庫(kù)的知識(shí)發(fā)現(xiàn)（ Knowledge Discovery in Database），以及相應(yīng)的數(shù)據(jù)挖掘（ Data Mining）理論和技術(shù)的研究 數(shù)據(jù)挖掘的由來100KDD的創(chuàng)立n 基于數(shù)據(jù)庫(kù)的知識(shí)發(fā)現(xiàn)（ KDD）一詞首次出現(xiàn)在1989年舉行的第 11屆 AAAI學(xué)術(shù)會(huì)議上n 1995年在加拿大蒙特利爾召開了第 1屆 KDD國(guó)際學(xué)術(shù)會(huì)議（ KDD’95）n 由 Kluwers Publishers出版， 1997年創(chuàng)刊的“Knowledge Discovery and Data Mining”是該領(lǐng)域中的第一本學(xué)術(shù)刊物 101數(shù)據(jù)挖掘數(shù)據(jù)庫(kù)技術(shù) 概率統(tǒng)計(jì)高性能計(jì)算人工智能機(jī)器學(xué)習(xí) 可視化數(shù)據(jù)挖掘是多學(xué)科交叉的產(chǎn)物102KDD已經(jīng)成為 AI的研究熱點(diǎn)n 目前，關(guān)于 KDD的研究工作已經(jīng)被眾多領(lǐng)域所關(guān)注，如信息管理、商業(yè)、醫(yī)療、金融、過程控制等領(lǐng)域。n Viterbi算法 （解決問題 2）n 這個(gè)算法解決了給定一個(gè)觀測(cè)值序列 O和一個(gè)模型 λ ，在最佳意義上確定一個(gè)狀態(tài)序列 Q的問題。n 一般隨機(jī)過程 ：描述狀態(tài)與觀察序列間的關(guān)系， 用 觀察值概率 描述。 89Observed Ball SequenceUrn 3Urn 1Urn 2Veil球缸模型示意圖90關(guān)于球缸模型的說明n 缸之間的轉(zhuǎn)移不能被直接觀察到n 從缸中所選取的球的顏色和缸并不是 一一對(duì)應(yīng)的n 每次選取哪個(gè)缸由一組轉(zhuǎn)移概率決定91HMM中狀態(tài)與觀測(cè)的對(duì)應(yīng)關(guān)系示意圖92HMM的基本原理n HMM概念的提出 —— 在實(shí)際問題中，觀察到的事件與狀態(tài)并非一一對(duì)應(yīng)，而是通過一組概率分布相聯(lián)系。n 根據(jù)描述缸的轉(zhuǎn)移的概率分布，隨機(jī)選擇下一口缸，重復(fù)步驟 1。實(shí)驗(yàn)進(jìn)行方式如下n 根據(jù)某個(gè)初始概率分布，隨機(jī)選擇 N個(gè)缸中的一個(gè)，例如第 I個(gè)缸。n 通俗的說，就是在已經(jīng)知道過程 “現(xiàn)在 ”的條件下，其 “將來 ”不依賴于 “過去 ”。 推廣能力 取決于 “經(jīng)驗(yàn)風(fēng)險(xiǎn)值 ”和 “置信范圍值 ”，NN不能控制兩者中的任何一個(gè)168。 SVM —— 嚴(yán)格的數(shù)學(xué)推理168。82支持向量機(jī) (SVM)示意圖83SVM與神經(jīng)網(wǎng)絡(luò)（ NN）的對(duì)比168。xj),因此 ,在高維空間中只需進(jìn)行內(nèi)積運(yùn)算 ,這種內(nèi)積運(yùn)算可通過定義在原空間中的函數(shù)來實(shí)現(xiàn) , 甚至不必知道變換 的形式。n 對(duì)于非線性問題 ——通過非線性變換將它轉(zhuǎn)化為某個(gè)高維空間中的線性問題，在這個(gè)高維空間中尋找最優(yōu)分類面。n 過兩類樣本中離分類面最近的點(diǎn)且平行于最優(yōu)分類面的超平面上 H1,H2的訓(xùn)練樣本就叫做支持向量。n 最優(yōu)分類面就是要求分類線不但能將兩類正確分開 (訓(xùn)練錯(cuò)誤率為 0),且使分類間隔最大。這種思想稱作 結(jié)構(gòu)風(fēng)險(xiǎn)最小化 (Structural Risk Minimization)， 即 SRM準(zhǔn)則。n 統(tǒng)計(jì)學(xué)習(xí)理論提出了一種新的策略 ,即把函數(shù)集構(gòu)造為一個(gè)函數(shù)子集序列 ,使各個(gè)子集按照VC維的大小排列 。因此， 采用什么樣的 “弱特征 ”并不十分重要，而形成 “巧妙的 ”線性組合更為重要。因此，需要 仔細(xì)地選擇一個(gè)低維的特征空間 ，在這個(gè)空間中用常規(guī)的統(tǒng)計(jì)技術(shù)來求解一個(gè)逼近。 ” n 機(jī)器學(xué)習(xí)研究的熱門程度還可以從該領(lǐng)域的國(guó)際權(quán)威期刊 Journal of Machine Learning Research的影響因子看出，據(jù)美國(guó)科學(xué)引文檢索公司（ ISI）統(tǒng)計(jì)， 2023年該學(xué)報(bào)的影響因子已達(dá)到 ，是整個(gè)計(jì)算機(jī)領(lǐng)域影響因子最高的期刊之一 。機(jī)器學(xué)習(xí)就是 根據(jù)這個(gè)樣本集，推算這個(gè)世界的模型，使它對(duì)這個(gè)世界（盡可能地）為真。n 輸出層 基于隱含層的輸出，完成最終的分類：n (0, 0)和 (1, 1)為一類，輸出為 0n (0, 1)和 (1, 0)為一類，輸出為 150 不確定性推理n 精確推理的局限性n 不確定性推理的定義及意義n 不確定性推理中的基本問題n 不確定性推理的分類n 關(guān)于不確定性推理方法的說明51? 推理n 依據(jù)已知事實(shí)（證據(jù)）、相關(guān)知識(shí)（規(guī)則）n 證明某個(gè)假設(shè)成立 or 不成立? 精確推理及其不足n 將原本為不確定性的關(guān)系 “ 硬性 ” 轉(zhuǎn)化為精確關(guān)系n 將原本不存在明確界限的事物 “ 人為 ” 劃定界限n 歪曲了現(xiàn)實(shí)情況的本來面目n 舍棄了事物的某些重要屬性n 失去了真實(shí)性n …… 精確推理的局限性52 不確定性推理的定義及意義1. 定義n 也稱 “不精確性推理 ”n 從不確定性的初始證據(jù)（即已知事實(shí)）出發(fā)n 運(yùn)用不確定性的知識(shí)（或規(guī)則）n 推出具有一定程度的不確定性但卻是合理或近乎合理的結(jié)論2. 意義n 使計(jì)算機(jī)對(duì)人類思維的模擬更接近于人類的真實(shí)思維過程53 不確定性推理中的基本問題n 不確定性的表示與度量n 不確定性匹配n 不確定性的傳遞算法n 不確定性的合成54 不確定性推理方法的分類1. 不確定性推理的兩條研究路線n 模型方法n 在推理一級(jí)上擴(kuò)展確定性推理n 不確定證據(jù)和知識(shí)與某種度量標(biāo)準(zhǔn)對(duì)應(yīng)n 給出更新結(jié)論不確定性的算法n 構(gòu)成相應(yīng)的不確定性推理模型n 控制方法n 在控制策略一級(jí)上處理不確定性n 無(wú)統(tǒng)一的不確定性處理模型，其效果依賴于控制策略552. 不確定性推理方法的分類不確定性推理模型方法控制方法數(shù)值方法非數(shù)值方法概率統(tǒng)計(jì)方法模糊推理方法粗糙集方法絕對(duì)概率方法貝葉斯方法證據(jù)理論方法HMM方法發(fā)生率計(jì)算相關(guān)性制導(dǎo)回溯、機(jī)緣控制、啟發(fā)式搜索等可信度方法56 關(guān)于不確定性推理方法的說明n 數(shù)值方法n 對(duì)不確定性的一種定量表示和處理方法n 其研究及應(yīng)用較多，已形成多種應(yīng)用模型n 非數(shù)值方法n 除數(shù)值方法外的其它處理不確定性的模型方法n 典型代表： “發(fā)生率計(jì)算方法 ”，它采用集合來描述和處理不確定性，且滿足概率推理的性質(zhì)57關(guān)于不確定性推理方法的說明（續(xù) 1）n 概率統(tǒng)計(jì)方法n 有完整、嚴(yán)密的數(shù)學(xué)理論n 為不確定性的