【正文】 理不能保證其正確性。 b）處理上的復雜性 ：語義網(wǎng)絡表示知識的手段多種多樣，雖然靈活性很高，但同時也由于表示形式的不一致使得對其處理的復雜性提高，對知識的檢索也就相對復雜，要求對網(wǎng)絡的搜索要有強有力的組織原則。腳本與框架類似，由一組槽組成，用來表示特定領域內(nèi)一些事件的發(fā)生序列。 概念依賴理論的 基本思想 ：把人類生活中各類故事情節(jié)的基本概念抽取出來，構成一組原子概念，確定這些原子概念間的相互依賴關系，然后把所有故事情節(jié)都用這組 原子概念 及其 依賴關系 表示出來。 劇本的組成 （ 1） 進入條件 ：指出劇本所描述的事件可能發(fā)生的先決條件，即事件發(fā)生的 前提條件 。 （ 3） 道具 ：描述事件中可能出現(xiàn)的有關物體。 （ 5） 結局 ：給出劇本所描述的事件發(fā)生以后必須滿足的條件。? 發(fā)展簡況n 1968年 Stanford大學 Feigenbaum開發(fā)成功世界上第一個專家系統(tǒng) ——DENDRALn 1977年 Feigenbaum在 IJCAI’77 上提出 “ 知識工程”n …… 專家系統(tǒng)332. 專家系統(tǒng)的成功范例 (以農(nóng)業(yè)為例 )n 美國的農(nóng)業(yè)專家系統(tǒng)n 1986年開發(fā)的 COMAX/GOSSYM系統(tǒng)n 加州大學 Davis分校開發(fā)的 CALEX系統(tǒng)n 農(nóng)業(yè)專家系統(tǒng)開發(fā)工具： LEVEL5, VPEXPERT, INSIGHT, etc. n ……n 中國的農(nóng)業(yè)專家系統(tǒng)n 中科院智能機械所開發(fā)的 施肥專家系統(tǒng)n 中國農(nóng)科院作物研究所開發(fā)的 品種選育專家系統(tǒng)n 華中理工大學開發(fā)的 園藝專家系統(tǒng)n 浙江大學與中國農(nóng)科院聯(lián)合開發(fā)的 蠶育種專家系統(tǒng)、飼料配方專家系統(tǒng)n …… 343. 專家系統(tǒng)的基本結構解釋器知識庫知識庫管理推理機知識獲取界面網(wǎng)絡35關于專家系統(tǒng)的基本結構的說明n 推理機、知識庫： 是專家系統(tǒng)中最核心部分n 知識庫管理 ：檢查知識的內(nèi)容是否有問題n 知識獲?。?是知識工程的瓶頸n 解釋器 ：解釋推理的結果及在推理過程中發(fā)生的一切n 界面： 是讓專家系統(tǒng) “ 接近群眾 ” 的重要手段n 網(wǎng)絡接口： 網(wǎng)上多個專家系統(tǒng)可構成分布式專家系統(tǒng)364. 專家系統(tǒng)的生命周期n 第一階段： 需求分析 （ REQ）n 第二階段： 系統(tǒng)設計 （ DES）n 第三階段： 知識獲取 （ ACQ）n 第四階段： 原型測試 （ PRT）n 第五階段： 知識求精 （ REF）n 第六階段： 系統(tǒng)包裝 （ PCK）n 第七階段： 系統(tǒng)集成 （ ITG）【說明】：第七階段并非最后階段，后面階段可返回到前面階段。37 人工神經(jīng)網(wǎng)絡 n 生理神經(jīng)元的結構n 人工神經(jīng)網(wǎng)絡的組成n 人工神經(jīng)網(wǎng)絡的數(shù)學描述n 典型的人工神經(jīng)網(wǎng)絡n BP網(wǎng)簡介【注】：關于人工神經(jīng)網(wǎng)絡的詳細原理及應用可參見： Martin T. Hagan 等著 , 戴葵 等譯 .《神經(jīng)網(wǎng)絡設計》 , 機械工業(yè)出版社 , 2023.38 神經(jīng)元的組成部分示意圖39 生理神經(jīng)元的結構說明n 神經(jīng)元由兩部分組成 n 細胞體 (cell body或 soma)n 突 (process)：實現(xiàn)神經(jīng)元間的信息傳遞n 軸突 (axon)：長度可達 1m，把本神經(jīng)元的輸出發(fā)送至其它相連接的神經(jīng)元 n 樹突 (dendrite)：一般較短，且分枝很多，與其它神經(jīng)元的軸突相連，以接收來自其它神經(jīng)元的生物信號 n 突觸 (synapse)：是軸突的末端與樹突進行信號傳遞的界面，通過突觸向其它神經(jīng)元發(fā)送信息。只有神經(jīng)元所有輸入的總效應達到閾值電平，它才能開始工作。n 處理單元： 對生理神經(jīng)元的模擬；n 有向?。?軸突 突觸 樹突對的模擬，有向弧的權值表示兩處理單元間相互作用的強弱。那么本神經(jīng)元的輸入為n 處理單元的輸出為43常用的激發(fā)函數(shù)（作用函數(shù)）n 上述 f(n 1986年 , Rumelhart Mclelland首次提出n 至今應用最廣的人工神經(jīng)網(wǎng)絡 n 由于 BP算法過程包含從輸出節(jié)點開始，反向地向第一隱含層 (即最接近輸入層的隱含層 )傳播由總誤差引起的權值修正，所以稱為 “反向傳播 ”。n 反向傳播過程 ： 若輸出模式與期望的輸出模式有誤差，就從輸出層反向?qū)⒄`差逐層傳送到輸入層，把誤差 “分攤 ”給各神經(jīng)元并修改連接權，使 BP網(wǎng)實現(xiàn)從輸入模式到輸出模式的正確映射。48BP網(wǎng)的簡單實例－解決 XOR問題n 作用函數(shù) f(ai)為閾值型，即1111輸入層 隱含層 輸出層49利用 BP網(wǎng)解決 XOR問題（續(xù)）n 上部隱含層 完成一個線性分類n 輸入模式 (0, 0)為一類，輸出 0n (0, 1), (1, 0), (1, 1)為另一類，輸出 1n 下部隱含層 完成另一個線性分類n (0, 0), (0, 1), (1, 0) 為一類，輸出 0n (1, 1)為另一類，輸出 1n 兩個隱含神經(jīng)元已對輸入空間進行了初步劃分，這種預處理實際上完成了對輸入空間的特征抽象，從而為實現(xiàn)復雜的模式分類奠定了基礎。 n 其它定義： “令 W是給定世界的有限或無限的所有觀測對象的集合，由于我們觀察能力的限制，只能能獲得這個世界的一個有限的子集 Q(為 W的子集 )，稱為樣本集。 ”n 機器學習是 “神經(jīng)科學（含認知科學）＋數(shù)學＋計算 ”的有機結合61 機器學習的地位和作用n 機器學習是 AI的核心研究內(nèi)容n 已成為整個計算機領域中 最活躍、應用潛力最明顯 的領域之一 n 美國航空航天局 JPL實驗室的科學家們在 2023年 9月出版的《 Science》上撰文指出： “機器學習對科學研究的整個過程正起到越來越大的支持作用， …… ，該領域在今后的若干年內(nèi)將取得穩(wěn)定而快速的發(fā)展。62機器學習的地位和作用（續(xù)）n 主要應用領域n 數(shù)據(jù)挖掘n 語音識別n 圖像識別n 機器人n 車輛自動駕駛n 生物信息學n 信息安全n 遙感信息處理n 計算金融學n 工業(yè)過程控制 n ……n 涉及的主要學科n 人工智能n 模式識別n 概率統(tǒng)計n 神經(jīng)生物學n 認知科學n 信息論n 控制論n 計算復雜性理論n 哲學 n ……63n 19世紀末， James發(fā)現(xiàn)了神經(jīng)元是相互連接的現(xiàn)象 n 20世紀 30年代， McCulloch和 Pitts發(fā)現(xiàn)了神經(jīng)元的 “興奮 ”和 “抑制 ”機制n 20世紀中葉， Hebb發(fā)現(xiàn)了 “學習律 ” n 機器學習的發(fā)展大致可分為 兩條重要主線 機器學習的發(fā)展歷程64n 主線一 ： 以 Barlow提出的功能單細胞假設為依據(jù) n 1956年， Rosenblatt提出了感知器n 隨后近 30年， Samuel等人提出的 “符號機器學習 ”方法一直處于主導地位 n 1969年， Minsky開始研究線性不可分問題 n 1986年， Rumelhart提出了著名的后向傳播（ BP）神經(jīng)網(wǎng)絡 n 20世紀 90年代， Vapnik等人提出了針對有限樣本的統(tǒng)計學習理論（ SLT）和支持向量機（ SVM） 機器學習的發(fā)展主線一65n 主線二 ： 以 Hebb提出的神經(jīng)集合體假設為依據(jù) n 1960年， Widrow提出了 Madline以解決平凡解問題 n 1984年， Valiant提出了 PAC n 1990年， Schapire提出了弱學習定理 n 1995年， Freund和 Schapire提出了 AdaBoost算法 n 在上述研究成果的基礎上，逐漸形成了泛化理論 n 1967年，哥德爾從數(shù)學上證明了符號機器學習是不可能完全實現(xiàn)的 n ……機器學習的發(fā)展主線二66n 泛化能力 （ Generalization）n 越準越好：永遠追求的目標之一n 支持向量機 (SVM)、集成學習 (Ensemble learning)n 速度n 越快越好： 永遠追求的目標之一n 訓練速度、測試速度 n 可理解性n 現(xiàn)實中需要向用戶解釋 ——Why ？n 如：醫(yī)療診斷中需向用戶解釋 “為何做出這個診斷？ ”n 目前功能強大的機器學習方法（ NN, SVM 等）絕大多數(shù)是 “黑盒子 ” 機器學習中的五個挑戰(zhàn)性問題67n 數(shù)據(jù)利用能力 n 如何處理現(xiàn)實中絕大多數(shù) “ 未標記 ” 數(shù)據(jù)？n 如何處理含噪聲、屬性缺失、不一致的 “ 壞 ” 數(shù)據(jù)？n 如何處理大量分布 “ 不平衡 ” 數(shù)據(jù)？n 代價敏感 （ Costsensitive）n 不同應用領域所能容忍的錯誤代價不一樣n 同一應用領域中不同