【正文】 及意義1. 定義n 也稱 “不精確性推理 ”n 從不確定性的初始證據(jù)（即已知事實）出發(fā)n 運用不確定性的知識（或規(guī)則）n 推出具有一定程度的不確定性但卻是合理或近乎合理的結(jié)論2. 意義n 使計算機對人類思維的模擬更接近于人類的真實思維過程53 不確定性推理中的基本問題n 不確定性的表示與度量n 不確定性匹配n 不確定性的傳遞算法n 不確定性的合成54 不確定性推理方法的分類1. 不確定性推理的兩條研究路線n 模型方法n 在推理一級上擴展確定性推理n 不確定證據(jù)和知識與某種度量標準對應(yīng)n 給出更新結(jié)論不確定性的算法n 構(gòu)成相應(yīng)的不確定性推理模型n 控制方法n 在控制策略一級上處理不確定性n 無統(tǒng)一的不確定性處理模型，其效果依賴于控制策略552. 不確定性推理方法的分類不確定性推理模型方法控制方法數(shù)值方法非數(shù)值方法概率統(tǒng)計方法模糊推理方法粗糙集方法絕對概率方法貝葉斯方法證據(jù)理論方法HMM方法發(fā)生率計算相關(guān)性制導(dǎo)回溯、機緣控制、啟發(fā)式搜索等可信度方法56 關(guān)于不確定性推理方法的說明n 數(shù)值方法n 對不確定性的一種定量表示和處理方法n 其研究及應(yīng)用較多，已形成多種應(yīng)用模型n 非數(shù)值方法n 除數(shù)值方法外的其它處理不確定性的模型方法n 典型代表： “發(fā)生率計算方法 ”，它采用集合來描述和處理不確定性，且滿足概率推理的性質(zhì)57關(guān)于不確定性推理方法的說明（續(xù) 1）n 概率統(tǒng)計方法n 有完整、嚴密的數(shù)學(xué)理論n 為不確定性的合成與傳遞提供了現(xiàn)成的數(shù)學(xué)公式n 最早、最廣泛地用于不確定性知識的表示與處理n 已成為不確定性推理的重要手段n 證據(jù)理論方法n 1967年 Dempster首次提出， 1976年 Shafer完善n 可表示并處理 “不知道 ”等不確定性信息58關(guān)于不確定性推理方法的說明（續(xù) 2）n 模糊推理方法n 可表示并處理由模糊性引起的不確定性n 已廣泛應(yīng)用于不確定性推理n 粗糙集理論方法n 1981年 Z. Pawlak首次提出n 一種新的可表示并處理 “含糊 ”等不確定性的數(shù)學(xué)方法n 可用于不確定性推理、數(shù)據(jù)挖掘等領(lǐng)域59 機器學(xué)習(xí)n 機器學(xué)習(xí)的定義n 機器學(xué)習(xí)的地位和作用n 機器學(xué)習(xí)的發(fā)展歷程n 機器學(xué)習(xí)中的五個挑戰(zhàn)性問題n 機器學(xué)習(xí)中的主要理論問題n 機器學(xué)習(xí)的發(fā)展趨勢60 機器學(xué)習(xí)的定義n 何謂 機器學(xué)習(xí) （ Machine Learning） ？n Tom M. Mitchell認為：機器學(xué)習(xí)是 計算機利用經(jīng)驗改善系統(tǒng)自身性能的行為 。因此， 采用什么樣的 “弱特征 ”并不十分重要，而形成 “巧妙的 ”線性組合更為重要。n 過兩類樣本中離分類面最近的點且平行于最優(yōu)分類面的超平面上 H1,H2的訓(xùn)練樣本就叫做支持向量。 SVM —— 嚴格的數(shù)學(xué)推理168。n 根據(jù)描述缸的轉(zhuǎn)移的概率分布，隨機選擇下一口缸，重復(fù)步驟 1。 97HMM的典型應(yīng)用 —— 語音識別98 數(shù)據(jù)挖掘n 數(shù)據(jù)挖掘的由來n 數(shù)據(jù)挖掘的創(chuàng)立n 數(shù)據(jù)挖掘的主要應(yīng)用n 數(shù)據(jù)挖掘 vs. 知識發(fā)現(xiàn)n 數(shù)據(jù)挖掘的基本過程n 數(shù)據(jù)挖掘系統(tǒng)的基本結(jié)構(gòu)n 數(shù)據(jù)挖掘的基本問題n 數(shù)據(jù)挖掘的發(fā)展趨勢99n 人類已進入一個嶄新的信息時代 n 數(shù)據(jù)庫中存儲的數(shù)據(jù)量急劇膨脹，但知識相對貧乏 n 需要從海量數(shù)據(jù)庫和大量繁雜信息中提取有價值的知識，進一步提高信息的利用率n 產(chǎn)生了一個新的研究方向：基于數(shù)據(jù)庫的知識發(fā)現(xiàn)（ Knowledge Discovery in Database），以及相應(yīng)的數(shù)據(jù)挖掘（ Data Mining）理論和技術(shù)的研究 數(shù)據(jù)挖掘的由來100KDD的創(chuàng)立n 基于數(shù)據(jù)庫的知識發(fā)現(xiàn)（ KDD）一詞首次出現(xiàn)在1989年舉行的第 11屆 AAAI學(xué)術(shù)會議上n 1995年在加拿大蒙特利爾召開了第 1屆 KDD國際學(xué)術(shù)會議（ KDD’95）n 由 Kluwers Publishers出版， 1997年創(chuàng)刊的“Knowledge Discovery and Data Mining”是該領(lǐng)域中的第一本學(xué)術(shù)刊物 101數(shù)據(jù)挖掘數(shù)據(jù)庫技術(shù) 概率統(tǒng)計高性能計算人工智能機器學(xué)習(xí) 可視化數(shù)據(jù)挖掘是多學(xué)科交叉的產(chǎn)物102KDD已經(jīng)成為 AI的研究熱點n 目前，關(guān)于 KDD的研究工作已經(jīng)被眾多領(lǐng)域所關(guān)注，如信息管理、商業(yè)、醫(yī)療、金融、過程控制等領(lǐng)域。n 通過巧妙地將 AI技術(shù) “ 嵌入 ” 現(xiàn)有的各種軟硬件系統(tǒng)等方式，使得 AI技術(shù)及智能系統(tǒng)將更廣泛、更深入地應(yīng)用于其它領(lǐng)域， AI必將成為一種強大的共性支撐技術(shù)。n Viterbi算法 （解決問題 2）n 這個算法解決了給定一個觀測值序列 O和一個模型 λ ，在最佳意義上確定一個狀態(tài)序列 Q的問題。實驗進行方式如下n 根據(jù)某個初始概率分布，隨機選擇 N個缸中的一個，例如第 I個缸。82支持向量機 (SVM)示意圖83SVM與神經(jīng)網(wǎng)絡(luò)（ NN）的對比168。n 最優(yōu)分類面就是要求分類線不但能將兩類正確分開 (訓(xùn)練錯誤率為 0),且使分類間隔最大。因此，需要 仔細地選擇一個低維的特征空間 ，在這個空間中用常規(guī)的統(tǒng)計技術(shù)來求解一個逼近。n 對于一組訓(xùn)練模式，可逐個用訓(xùn)練模式作為輸入，反復(fù)進行誤差檢測和反向傳播過程，直到不出現(xiàn)誤差為止。 n ……40 人工神經(jīng)網(wǎng)絡(luò)（ ANN）的組成n 人工神經(jīng)網(wǎng)絡(luò) （ Artificial Neural Nets, ANN）：一種由模擬神經(jīng)元組成的，以處理單元 PE (processing element)為節(jié)點，用加權(quán)有向弧 (鏈 )相互連接而成的有向圖。 （ 4） 場景 ：描述事件序列，可以有多個場景。27 劇本（腳本）表示法 劇本表示法是 1975年 . Schank依據(jù)他的 概念依賴理論而提出的一種知識表示方法。242. 語義網(wǎng)絡(luò)舉例 與歌曲《軍港之夜》中的歌詞 “ 海浪把戰(zhàn)艦輕輕地搖 ” 對應(yīng)的語義網(wǎng)絡(luò)：全域行為事物 方式海浪 戰(zhàn)艦 搖動 輕輕某港海浪 某港戰(zhàn)艦子集 子集子集子集 子集 個體 個體子集個體 動作對象動作方式動作主體 25 3. 語義網(wǎng)絡(luò)表示法的優(yōu)、缺點 （ 1）語義網(wǎng)絡(luò)表示法的優(yōu)點 a） 結(jié)構(gòu)性 ：因為語義網(wǎng)絡(luò)是一種結(jié)構(gòu)化的知識表示方法，它能把事物的屬性以及事物間的各種語義聯(lián)想顯式地表示出來。 （ 3）領(lǐng)域問題的求解過程可被表示為一系列相對獨立的操作，而且每個操作可被表示為一條或多條產(chǎn)生式規(guī)則。16（ 2）產(chǎn)生式系統(tǒng)的缺點 a）效率不高 產(chǎn)生式系統(tǒng)求解問題的過程是一個反復(fù)進行 “ 匹配 —沖突消解 — 執(zhí)行 ” 的過程。Q PQ P,Q析取 ： Disjunction(or) P ? Q P|Q P。 9Syntax item Usually used Others取反 ： Negation (not) ~P, ?P P（加上劃線）合取 ： Conjunction(and) P ? Q PQ P d）清晰性 ：產(chǎn)生式有固定的格式，既便于規(guī)則設(shè)計，又易于對規(guī)則庫中的知識進行一致性、完整性檢測。如： 醫(yī)療診斷、故障診斷 等方面的知識。由于所有的概念節(jié)點均通過聯(lián)想弧彼此相連， Quillian希望他的語義網(wǎng)絡(luò)能用于知識推導(dǎo)。 b）處理上的復(fù)雜性 ：語義網(wǎng)絡(luò)表示知識的手段多種多樣，雖然靈活性很高，但同時也由于表示形式的不一致使得對其處理的復(fù)雜性提高，對知識的檢索也就相對復(fù)雜，要求對網(wǎng)絡(luò)的搜索要有強有力的組織原則。 （ 3） 道具 ：描述事件中可能出現(xiàn)的有關(guān)物體。只有神經(jīng)元所有輸入的總效應(yīng)達到閾值電平，它才能開始工作。n 反向傳播過程 ： 若輸出模式與期望的輸出模式有誤差，就從輸出層反向?qū)⒄`差逐層傳送到輸入層，把誤差 “分攤 ”給各神經(jīng)元并修改連接權(quán)，使 BP網(wǎng)實現(xiàn)從輸入模式到輸出模式的正確映射。62機器學(xué)習(xí)的地位和作用（續(xù)）n 主要應(yīng)用領(lǐng)域n 數(shù)據(jù)挖掘n 語音識別n 圖像識別n 機器人n 車輛自動駕駛n 生物信息學(xué)n 信息安全n 遙感信息處理n 計算金融學(xué)n 工業(yè)過程控制 n ……n 涉及的主要學(xué)科n 人工智能n 模式識別n 概率統(tǒng)計n 神經(jīng)生物學(xué)n 認知科學(xué)n 信息論n 控制論n 計算復(fù)雜性理論n 哲學(xué) n ……63n 19世紀末， James發(fā)現(xiàn)了神經(jīng)元是相互連接的現(xiàn)象 n 20世紀 30年代， McCulloch和 Pitts發(fā)現(xiàn)了神