【正文】 ord大學 Feigenbaum開發(fā)成功世界上第一個專家系統(tǒng) ——DENDRALn 1977年 Feigenbaum在 IJCAI’77 上提出 “ 知識工程”n …… 專家系統(tǒng)332. 專家系統(tǒng)的成功范例 (以農業(yè)為例 )n 美國的農業(yè)專家系統(tǒng)n 1986年開發(fā)的 COMAX/GOSSYM系統(tǒng)n 加州大學 Davis分校開發(fā)的 CALEX系統(tǒng)n 農業(yè)專家系統(tǒng)開發(fā)工具： LEVEL5, VPEXPERT, INSIGHT, etc. n ……n 中國的農業(yè)專家系統(tǒng)n 中科院智能機械所開發(fā)的 施肥專家系統(tǒng)n 中國農科院作物研究所開發(fā)的 品種選育專家系統(tǒng)n 華中理工大學開發(fā)的 園藝專家系統(tǒng)n 浙江大學與中國農科院聯(lián)合開發(fā)的 蠶育種專家系統(tǒng)、飼料配方專家系統(tǒng)n …… 343. 專家系統(tǒng)的基本結構解釋器知識庫知識庫管理推理機知識獲取界面網絡35關于專家系統(tǒng)的基本結構的說明n 推理機、知識庫： 是專家系統(tǒng)中最核心部分n 知識庫管理 ：檢查知識的內容是否有問題n 知識獲取： 是知識工程的瓶頸n 解釋器 ：解釋推理的結果及在推理過程中發(fā)生的一切n 界面： 是讓專家系統(tǒng) “ 接近群眾 ” 的重要手段n 網絡接口： 網上多個專家系統(tǒng)可構成分布式專家系統(tǒng)364. 專家系統(tǒng)的生命周期n 第一階段： 需求分析 （ REQ）n 第二階段： 系統(tǒng)設計 （ DES）n 第三階段： 知識獲取 （ ACQ）n 第四階段： 原型測試 （ PRT）n 第五階段： 知識求精 （ REF）n 第六階段： 系統(tǒng)包裝 （ PCK）n 第七階段： 系統(tǒng)集成 （ ITG）【說明】：第七階段并非最后階段，后面階段可返回到前面階段。 n 其它定義： “令 W是給定世界的有限或無限的所有觀測對象的集合，由于我們觀察能力的限制，只能能獲得這個世界的一個有限的子集 Q(為 W的子集 )，稱為樣本集。78支持向量（ SV）示意圖79廣義最優(yōu)分類面示意圖80支持向量機（ SVM）的基本原理n 很多情況下，訓練數據集是 線性不可分 的， Vapnik等人提出了用廣義分類面來解決這一問題。n 最后我們可以得到一個描述球的顏色的序列 O1,O2,… ，稱為觀察值序列。n 以神經信息學、腦機工程（ BME）等為代表的新一代AI技術將取得重大突破，并將成為未來 AI中新的研究熱點。88一個實驗 —— 球缸模型n 設有 N個缸，每個缸中裝有很多彩球，球的顏色由一組概率分布描述。76結構風險最小化示意圖77 支持向量機（ SVM）的基本思想n SVM從線性可分情況下的最優(yōu)分類面發(fā)展而來。n 反向傳播過程 ： 若輸出模式與期望的輸出模式有誤差，就從輸出層反向將誤差逐層傳送到輸入層，把誤差 “分攤 ”給各神經元并修改連接權，使 BP網實現(xiàn)從輸入模式到輸出模式的正確映射。 （ 3） 道具 ：描述事件中可能出現(xiàn)的有關物體。由于所有的概念節(jié)點均通過聯(lián)想弧彼此相連， Quillian希望他的語義網絡能用于知識推導。 d）清晰性 ：產生式有固定的格式，既便于規(guī)則設計，又易于對規(guī)則庫中的知識進行一致性、完整性檢測。Q PQ P,Q析取 ： Disjunction(or) P ? Q P|Q P。 （ 3）領域問題的求解過程可被表示為一系列相對獨立的操作，而且每個操作可被表示為一條或多條產生式規(guī)則。27 劇本（腳本）表示法 劇本表示法是 1975年 . Schank依據他的 概念依賴理論而提出的一種知識表示方法。 n ……40 人工神經網絡（ ANN）的組成n 人工神經網絡 （ Artificial Neural Nets, ANN）：一種由模擬神經元組成的，以處理單元 PE (processing element)為節(jié)點，用加權有向弧 (鏈 )相互連接而成的有向圖。因此，需要 仔細地選擇一個低維的特征空間 ，在這個空間中用常規(guī)的統(tǒng)計技術來求解一個逼近。82支持向量機 (SVM)示意圖83SVM與神經網絡（ NN）的對比168。n Viterbi算法 （解決問題 2）n 這個算法解決了給定一個觀測值序列 O和一個模型 λ ，在最佳意義上確定一個狀態(tài)序列 Q的問題。 97HMM的典型應用 —— 語音識別98 數據挖掘n 數據挖掘的由來n 數據挖掘的創(chuàng)立n 數據挖掘的主要應用n 數據挖掘 vs. 知識發(fā)現(xiàn)n 數據挖掘的基本過程n 數據挖掘系統(tǒng)的基本結構n 數據挖掘的基本問題n 數據挖掘的發(fā)展趨勢99n 人類已進入一個嶄新的信息時代 n 數據庫中存儲的數據量急劇膨脹，但知識相對貧乏 n 需要從海量數據庫和大量繁雜信息中提取有價值的知識，進一步提高信息的利用率n 產生了一個新的研究方向：基于數據庫的知識發(fā)現(xiàn)（ Knowledge Discovery in Database），以及相應的數據挖掘（ Data Mining）理論和技術的研究 數據挖掘的由來100KDD的創(chuàng)立n 基于數據庫的知識發(fā)現(xiàn)（ KDD）一詞首次出現(xiàn)在1989年舉行的第 11屆 AAAI學術會議上n 1995年在加拿大蒙特利爾召開了第 1屆 KDD國際學術會議（ KDD’95）n 由 Kluwers Publishers出版， 1997年創(chuàng)刊的“Knowledge Discovery and Data Mining”是該領域中的第一本學術刊物 101數據挖掘數據庫技術 概率統(tǒng)計高性能計算人工智能機器學習 可視化數據挖掘是多學科交叉的產物102KDD已經成為 AI的研究熱點n 目前，關于 KDD的研究工作已經被眾多領域所關注，如信息管理、商業(yè)、醫(yī)療、金融、過程控制等領域。 SVM —— 嚴格的數學推理168。因此， 采用什么樣的 “弱特征 ”并不十分重要，而形成 “巧妙的 ”線性組合更為重要。 41ANN的組成示意圖42 ANN的數學描述n 令來自其它處理單元（神經元） i的信息為 xi，它們與本處理單元的互相作用強度為 wi， i = 0,1,…， n1，處理單元的內部閾值為 θ。 1. 概念依賴理論 【 難點 】在人類的各種知識中， 常識性知識 是數量最多、涉及面最寬、關系最復雜的知識，很難把它們形式化地表示出來交給計算機處理。 框架理論的基本思想 ：認為人們對現(xiàn)實世界中各種事物的認識都是以一種類似于框架的結構存儲在記憶中的，當面臨一個新事物時，就從記憶中找出一個合適的框架，并根據實際情況對其細節(jié)加以修改、補充，從而形成對當前事物的認識。 ”n 對應的謂詞公式： ??x[愛 (x) ? ? ?y 緣故 (x, y)] ? ??t[恨 (t) ? ? ?s 緣故 (t, s)]114. 一階謂詞表示法的優(yōu)、缺點(1) 優(yōu)點n 自然性n 接近自然語言，容易接受n 精確性n 用于表示精確知識n 嚴密性n 有嚴格的形式定義和推理規(guī)則n 易實現(xiàn)性n 易于轉換為計算機內部形式12一階謂詞表示法的優(yōu)、缺點（續(xù)）(2) 缺點n 無法表示不確定性知識n 所能表示的知識范圍太狹窄n 難以表示啟發(fā)性知識及元知識n 未能充分利用與問題本身特性有關的知識n 組合爆炸n 經常出現(xiàn)事實、規(guī)則等的組合爆炸n 效率低n 推理與知識的語義完全割裂13 產生式表示法n 1943年 E. Post第一次提出n 稱為 “Post機 ”的計算模型n 一種描述形式語言的語法n AI中應用最多的知識表示方法之一n Feigenbaum研制的化學分子結構專家系統(tǒng)DENDRALn Shortliffe研制的的診斷感染性疾病的專家系統(tǒng)MYCINn ……14P ? Q CF = [0, 1]或 IF P THEN Q CF = [0, 1]其中， P是產生式的 前提 ， Q是一組 結論 或 操作 ，CF(Certainty Factor)為 確定性因子 ，也稱 置信度 。 b）模塊性 ：產生式是規(guī)則庫中的最基本的知識單元，形式相同，易于模塊化管理。 語義網絡的基本思想 ：在這種網絡中，用 “ 節(jié)點 ” 代替概念，用節(jié)點間的 “ 連接弧 ”( 稱為 聯(lián)想弧 )代替概念之間的關系，因此，語義網絡又稱 聯(lián)想網絡 。 劇本的組成 （ 1） 進入條件 ：指出劇本所描述的事件可能發(fā)生的先決條件，即事件發(fā)生的 前提條件 。n 1986年 , Rumelhart Mclelland首次提出n 至今應用最廣的人