【正文】 表示為一條或多條產(chǎn)生式規(guī)則。23 語義網(wǎng)絡(luò)表示法 1. 語義網(wǎng)絡(luò)的提出及基本思想 1968年 ，把它作為 人類聯(lián)想記憶的一個顯式心理學(xué)模型 ，并在他設(shè)計的可教式語言理解器 TLC (Teachable Language Comprehenden)中用作知識表示方法。242. 語義網(wǎng)絡(luò)舉例 與歌曲《軍港之夜》中的歌詞 “ 海浪把戰(zhàn)艦輕輕地搖 ” 對應(yīng)的語義網(wǎng)絡(luò)：全域行為事物 方式海浪 戰(zhàn)艦 搖動 輕輕某港海浪 某港戰(zhàn)艦子集 子集子集子集 子集 個體 個體子集個體 動作對象動作方式動作主體 25 3. 語義網(wǎng)絡(luò)表示法的優(yōu)、缺點 （ 1）語義網(wǎng)絡(luò)表示法的優(yōu)點 a） 結(jié)構(gòu)性 ：因為語義網(wǎng)絡(luò)是一種結(jié)構(gòu)化的知識表示方法，它能把事物的屬性以及事物間的各種語義聯(lián)想顯式地表示出來。一個給定的語義網(wǎng)絡(luò)所表達的含義完全依賴于處理程序如何對它進行解釋。27 劇本（腳本）表示法 劇本表示法是 1975年 . Schank依據(jù)他的 概念依賴理論而提出的一種知識表示方法。 28 2. 劇本（腳本）的構(gòu)成 劇本 ：描述特定范圍內(nèi)原型事件的結(jié)構(gòu)。 （ 4） 場景 ：描述事件序列，可以有多個場景。系統(tǒng)維護，特別是知識維護就體現(xiàn)在這種循環(huán)中。 n ……40 人工神經(jīng)網(wǎng)絡(luò)（ ANN）的組成n 人工神經(jīng)網(wǎng)絡(luò) （ Artificial Neural Nets, ANN）：一種由模擬神經(jīng)元組成的，以處理單元 PE (processing element)為節(jié)點，用加權(quán)有向弧 (鏈 )相互連接而成的有向圖。)稱為 激發(fā)函數(shù) （ 作用函數(shù) ）n 常用的激發(fā)函數(shù)閾值型 分段線性飽和型 S型函數(shù)44 典型的 ANNn 常見的 ANNn 感知器 (Perceptron) n 反向傳播 (BP)網(wǎng) n 自適應(yīng)共振 (ART) n 雙向聯(lián)想存儲器 (BAM) n BSB模型，也稱盒中腦模型n CPN(Counter Propagation Network)，也稱對流網(wǎng)n Hopfield網(wǎng) n MadaLine n 認知機 (Neocognitron) n ……45 BP網(wǎng)簡介n 反向傳播 (backpropagation, BP)算法 ： 是一種計算單個權(quán)值變化引起網(wǎng)絡(luò)性能變化值的較為簡單的方法。n 對于一組訓(xùn)練模式，可逐個用訓(xùn)練模式作為輸入，反復(fù)進行誤差檢測和反向傳播過程，直到不出現(xiàn)誤差為止。機器學(xué)習(xí)就是 根據(jù)這個樣本集，推算這個世界的模型，使它對這個世界（盡可能地）為真。因此，需要 仔細地選擇一個低維的特征空間 ，在這個空間中用常規(guī)的統(tǒng)計技術(shù)來求解一個逼近。n 統(tǒng)計學(xué)習(xí)理論提出了一種新的策略 ,即把函數(shù)集構(gòu)造為一個函數(shù)子集序列 ,使各個子集按照VC維的大小排列 。n 最優(yōu)分類面就是要求分類線不但能將兩類正確分開 (訓(xùn)練錯誤率為 0),且使分類間隔最大。n 對于非線性問題 ——通過非線性變換將它轉(zhuǎn)化為某個高維空間中的線性問題，在這個高維空間中尋找最優(yōu)分類面。82支持向量機 (SVM)示意圖83SVM與神經(jīng)網(wǎng)絡(luò)（ NN）的對比168。 推廣能力 取決于 “經(jīng)驗風(fēng)險值 ”和 “置信范圍值 ”，NN不能控制兩者中的任何一個168。實驗進行方式如下n 根據(jù)某個初始概率分布，隨機選擇 N個缸中的一個，例如第 I個缸。 89Observed Ball SequenceUrn 3Urn 1Urn 2Veil球缸模型示意圖90關(guān)于球缸模型的說明n 缸之間的轉(zhuǎn)移不能被直接觀察到n 從缸中所選取的球的顏色和缸并不是 一一對應(yīng)的n 每次選取哪個缸由一組轉(zhuǎn)移概率決定91HMM中狀態(tài)與觀測的對應(yīng)關(guān)系示意圖92HMM的基本原理n HMM概念的提出 —— 在實際問題中，觀察到的事件與狀態(tài)并非一一對應(yīng)，而是通過一組概率分布相聯(lián)系。n Viterbi算法 （解決問題 2）n 這個算法解決了給定一個觀測值序列 O和一個模型 λ ，在最佳意義上確定一個狀態(tài)序列 Q的問題。1031. 數(shù)據(jù)挖掘的主要應(yīng)用n 電信 ：客戶流失原因分析n 銀行：聚類（細分） , 交叉銷售n 百貨公司 /超市：購物籃分析 （關(guān)聯(lián)規(guī)則）n 保險：細分、交叉銷售、流失（原因分析）n 信用卡： 欺詐探測、細分n 電子商務(wù)： 網(wǎng)站日志分析n 稅務(wù)部門：偷漏稅行為探測n 警察機關(guān)：犯罪行為分析n 醫(yī)學(xué)： 醫(yī)療保健n ……104數(shù)據(jù)挖掘 vs. 知識發(fā)現(xiàn)n 數(shù)據(jù)挖掘 （ Data Mining）：從大量的、不完全的、有噪聲的、模糊的、隨機的實際應(yīng)用數(shù)據(jù)中，提取隱含在其中的、人們事先不知道的、但又是潛在有用的信息和知識的過程。n 通過巧妙地將 AI技術(shù) “ 嵌入 ” 現(xiàn)有的各種軟硬件系統(tǒng)等方式，使得 AI技術(shù)及智能系統(tǒng)將更廣泛、更深入地應(yīng)用于其它領(lǐng)域， AI必將成為一種強大的共性支撐技術(shù)。1051. 數(shù)據(jù)挖掘的基本過程1061. 數(shù)據(jù)挖掘系統(tǒng)的基本結(jié)構(gòu)數(shù)據(jù)倉庫數(shù)據(jù)清洗和集成 過濾數(shù)據(jù)庫數(shù)據(jù)庫或數(shù)據(jù)倉庫服務(wù)器數(shù)據(jù)挖掘引擎模式評價圖形用戶接口知識庫1071. 數(shù)據(jù)挖掘的主要問題n 數(shù)據(jù)挖掘結(jié)果的表示和顯示n 處理噪聲和不完全數(shù)據(jù)n 模式評估 —— 興趣度問題n 數(shù)據(jù)挖掘算法的有效性和可伸縮性n 并行、分布式和增量挖掘算法n 異種數(shù)據(jù)庫和全球信息系統(tǒng)挖掘信息n ……1081. 數(shù)據(jù)挖掘的發(fā)展趨勢n 視頻和音頻數(shù)據(jù)挖掘n 科學(xué)和統(tǒng)計數(shù)據(jù)挖掘n 數(shù)據(jù)挖掘的應(yīng)用探索n 可伸縮的數(shù)據(jù)挖掘方法n 數(shù)據(jù)挖掘與數(shù)據(jù)庫系統(tǒng)、數(shù)據(jù)倉庫和 Web數(shù)據(jù)庫系統(tǒng)的集成n 數(shù)據(jù)挖掘語言的標準化n 可視化數(shù)據(jù)挖掘n 復(fù)雜數(shù)據(jù)類型挖掘的方法n Web挖掘、數(shù)據(jù)流（ Data streams）挖掘n 數(shù)據(jù)挖掘中的隱私保護與信息安全n ……109 AI的未來展望n 在未來的 10年之內(nèi)，整個 AI領(lǐng)域仍將以 “ 基于概率統(tǒng)計的機器學(xué)習(xí)方法 ” 為最主流的研究及應(yīng)用方向。 97HMM的典型應(yīng)用 —— 語音識別98 數(shù)據(jù)挖掘n 數(shù)據(jù)挖掘的由來n 數(shù)據(jù)挖掘的創(chuàng)立n 數(shù)據(jù)挖掘的主要應(yīng)用n 數(shù)據(jù)挖掘 vs. 知識發(fā)現(xiàn)n 數(shù)據(jù)挖掘的基本過程n 數(shù)據(jù)挖掘系統(tǒng)的基本結(jié)構(gòu)n 數(shù)據(jù)挖掘的基本問題n 數(shù)據(jù)挖掘的發(fā)展趨勢99n 人類已進入一個嶄新的信息時代 n 數(shù)據(jù)庫中存儲的數(shù)據(jù)量急劇膨脹，但知識相對貧乏 n 需要從海量數(shù)據(jù)庫和大量繁雜信息中提取有價值的知識，進一步提高信息的利用率n 產(chǎn)生了一個新的研究方向：基于數(shù)據(jù)庫的知識發(fā)現(xiàn)（ Knowledge Discovery in Database），以及相應(yīng)的數(shù)據(jù)挖掘（ Data Mining）理論和技術(shù)的研究 數(shù)據(jù)挖掘的由來100KDD的創(chuàng)立n 基于數(shù)據(jù)庫的知識發(fā)現(xiàn)（ KDD）一詞首次出現(xiàn)在1989年舉行的第 11屆 AAAI學(xué)術(shù)會議上n 1995年在加拿大蒙特利爾召開了第 1屆 KDD國際學(xué)術(shù)會議（ KDD’95）n 由 Kluwers Publishers出版， 1997年創(chuàng)刊的“Knowledge Discovery and Data Mining”是該領(lǐng)域中的第一本學(xué)術(shù)刊物 101數(shù)據(jù)挖掘數(shù)據(jù)庫技術(shù) 概率統(tǒng)計高性能計算人工智能機器學(xué)習(xí) 可視化數(shù)據(jù)挖掘是多學(xué)科交叉的產(chǎn)物102KDD已經(jīng)成為 AI的研究熱點n 目前，關(guān)于 KDD的研究工作已經(jīng)被眾多領(lǐng)域所關(guān)注，如信息管理、商業(yè)、醫(yī)療、金融、過程控制等領(lǐng)域。n 一般隨機過程 ：描述狀態(tài)與觀察序列間的關(guān)系， 用 觀察值概率 描述。n 根據(jù)描述缸的轉(zhuǎn)移的概率分布，隨機選擇下一口缸，重復(fù)步驟 1。n 通俗的說，就是在已經(jīng)知道過程 “現(xiàn)在 ”的條件下，其 “將來 ”不依賴于 “過去 ”。 SVM —— 嚴格的數(shù)學(xué)推理168。xj),因此 ,在高維空間中只需進行內(nèi)積運算 ,這種內(nèi)積運算可通過定義在原空間中的函數(shù)來實現(xiàn) , 甚至不必知道變換 的形式。n 過兩類樣本中離分類面最近的點且平行于最優(yōu)分類面的超平面上 H1,H2的訓(xùn)練樣本就叫做支持向量。這種思想稱作 結(jié)構(gòu)風(fēng)險最小化 (Structural Risk Minimization)， 即 SRM準則。因此， 采用什么樣的 “弱特征 ”并不十分重要，而形成 “巧妙的 ”線性組合更為重要。 ” n 機器學(xué)習(xí)研究的熱門程度還可以從該領(lǐng)域的國際權(quán)威期刊 Journal of Machine Learning Research的影響因子看出，據(jù)美國科學(xué)引文檢索公司（ ISI）統(tǒng)計， 2