【正文】 的神經(jīng)模型研究中受到啟發(fā)和鼓舞 ， 但試圖解決的卻是工程問題 。 為了更好地把現(xiàn)有各種神經(jīng)網(wǎng)絡(luò)模型的特點綜合起來 ， 增強網(wǎng)絡(luò)解決問題的能力 ， 80年代末和 90年代初出現(xiàn)了混合網(wǎng)絡(luò)系統(tǒng) ， 如把多層感知器與自組織特征級聯(lián)起來 ， 在模式識別中可以取得比單一網(wǎng)絡(luò)更好的結(jié)果 。 它在微軟公司的VB上運行 ， 被認為是近些年來最重要的軟件進展和最高水平的智能工具 。 比如 ， 神經(jīng)網(wǎng)絡(luò)的節(jié)點和連接可明確地與規(guī)定的目標和關(guān)系聯(lián)系在一起 ， 可把特定的推理規(guī)則作為目標節(jié)點之間的規(guī)定聯(lián)接 ， 節(jié)點數(shù)可以由所描寫的規(guī)則所決定 ， 可對節(jié)點的權(quán)及閾值加以選擇以便描寫所需的邏輯關(guān)系 ， 利用組合規(guī)則解釋節(jié)點的激活從而解釋網(wǎng)絡(luò)的行為 ， 并按神經(jīng)網(wǎng)絡(luò)方式設(shè)計專家系統(tǒng) 。 它把人工智能系統(tǒng) 、 神經(jīng)網(wǎng)絡(luò)和文本檢索系統(tǒng)結(jié)合起來 ， 供建筑師 、 玻璃切割與裝配工程師使用 ， 使得對建筑物玻璃結(jié)構(gòu)的設(shè)計 、選配和施工更簡單 、 靈活 、 省時 ， 適應性更強 。 神經(jīng)網(wǎng)絡(luò)理論研究重大成果 ：僅有一個非線性隱層的前饋網(wǎng)絡(luò)就能以任意精度逼近任意復雜度的函數(shù) 。 。 函數(shù) f表達了神經(jīng)元的輸入輸出特性。 Hebb學習規(guī)則 神經(jīng)網(wǎng)絡(luò)具有學習功能 。 2 感知器模型 感知器是一種早期的神經(jīng)網(wǎng)絡(luò)模型 ， 由美國學者 1957年提出 .感知器中第一次引入了學習的概念 ， 使人腦所具備的學習功能在基于符號處理的數(shù)學到了一定程度的模擬 ， 所以引起了廣泛的關(guān)注 。感知器的連接權(quán)定義為可變的，這樣感知器就被賦予了學習的特性。 (2)“或 ” 運算， 當取 wl＝ w2＝ 1， θ ＝ ，上式完成邏輯 “ 或 ” 的運算。 例如 ，在二維平面上 ， 對于 “ 或 ” 運算 ， 各個樣本的分布如下圖所示 。 現(xiàn)介紹如下： 誤差型學習規(guī)則： (1)選擇一組初始權(quán)值 wi(0)。 (5)返回 (2)，重復，直到對所有訓練樣本模式，網(wǎng)絡(luò)輸出均能滿足要求。整個學習過程就是某一超平面在樣本空間中幾何位置調(diào)整的過程 。 多層感知器 如果在輸入和輸出層間加上一層或多層的神經(jīng)元 (隱層神經(jīng)元 )，就可構(gòu)成多層前向網(wǎng)絡(luò)，這里稱為多層感知器。 對于上面述及的異或問題，用一個簡單的三層感知器就可得到解決 實際上 ， 該三層感知器的輸入層和隱層的連接 ， 就是在模式空間中用兩個超平面去劃分樣本 ， 即用兩條直線： x1+x2= x1十 x 2＝ 。 F+， F—兩類樣本構(gòu)成了整個線性可分樣本空間。x= δ對所有的樣本輸入 x都成立，則權(quán)向量 w按下述學習過程僅需有限步就可收斂。 下圖給出了感知器的層數(shù)與模式劃分區(qū)域的關(guān)系。對于上述證明，要說明的是：正數(shù) δ越小，迭代次數(shù)越多：其次，若樣本輸入函數(shù)不是線性可分的，則學習過程將出現(xiàn)振蕩，得不到正確的結(jié)果。 假設(shè)樣本空間 F是單位長度樣本輸入向量的集合，若存在一個單位權(quán)向量 w*。但是，多層網(wǎng)絡(luò)的權(quán)值如何確定，即網(wǎng)絡(luò)如何進行學習，在感知器上沒有得到解決：當年 Minsky等人就是因為對于非線性空間的多層感知器學習算法未能得到解決，使其對神經(jīng)網(wǎng)絡(luò)的研究作出悲觀的結(jié)論。這是因為按感知器的概念，無法給出一個有效的多層感知器學習算法。這樣的一組網(wǎng)絡(luò)參數(shù)滿足計算要求。所以，對應于輸入 (0， 0)，修正權(quán)值 (注意： θ=w0 , x0=1) Δw0（ 1） ＝ η[d—y]x0 ＝ (1—0)(—1)＝ —， W0(1)=+ Δw0（ 1） == 依次進行。 (4)更新權(quán)值 (閾值可視為輸入恒為 1的一個權(quán)值 )： Δwi（ t+1） ＝ wi（ t+1） wi（ t） ＝ η[d—y(t)]xi。 簡單感知器引入的學習算法稱之為誤差學習算法 。 與許多代數(shù)方程一樣 ， 上式中不等式具有一定的幾何意義 。 Y=f(w1x1+w2x2θ) (1)“與 ” 運算。 其結(jié)構(gòu)如下圖所示 感知器處理單元對 n個輸入進行加權(quán)和操作v即： 其中 ， Wi為第 i個輸入到處理單元的連接權(quán)值 θ為閾值 。 調(diào)整 wij的原則為：若第 i和第 j個神經(jīng)元同時處于興奮狀態(tài) ， 則它們之間的連接應當加強 ， 即： Δwij＝ αuivj 這一規(guī)則與 “ 條件反射 ” 學說一致 ， 并已得到神經(jīng)細胞學說的證實 。 但是 ， 我們可以根據(jù)需要 ， 采用一些常見的算法來調(diào)整神經(jīng)元連接權(quán) ， 以達到學習目的 。 MP模型是大多數(shù)神經(jīng)網(wǎng)絡(luò)模型的基礎(chǔ)。 。 也可以利用人工智能系統(tǒng)作為信息流的控制器 ， 利用教師機制和基于規(guī)則的指南 ， 幫助使用者從大量選擇項中選擇正確的神經(jīng)網(wǎng)絡(luò)來解決某一專門問題 。 在前一類中 ， 人工智能系統(tǒng)可以與使用者交互作用 (如向使用者提出問題 ， 了解使用者的需求 )， 然后利用知識與神經(jīng)網(wǎng)絡(luò)準備數(shù)據(jù) 。 雖然在人工神經(jīng)網(wǎng)絡(luò)復蘇之初有人喊過 “ 人工智能已死 ， 神經(jīng)網(wǎng)絡(luò)萬歲 ” ，雖然在傳統(tǒng)的人工智能領(lǐng)域工作的許多人對于神經(jīng)網(wǎng)絡(luò)的發(fā)展抱有懷疑或否定態(tài)度 ． 但這幾年的發(fā)展日益證明 ， 把這兩者結(jié)合起來是一條最佳途徑 。 它可以產(chǎn)生 128個交互作用的神經(jīng)網(wǎng)絡(luò) ， 每個網(wǎng)可是自組織網(wǎng)也可是多層感知器網(wǎng) ， 最多可達 32層 ， 每層可達 32個節(jié)點 ， 且可以與其他 8層相聯(lián) 。 而對于神經(jīng)網(wǎng)絡(luò)的應用需求則是大量的和迫切的 。 現(xiàn)在普遍認識到神經(jīng)網(wǎng)絡(luò)比較適用于特征提取 、 模式分類 、 聯(lián)想記憶 、 低層次感知 、 自適應控制等場合 ，在這些方面 ， 嚴格的解析方法會遇到很大困難 。 有關(guān)神經(jīng)網(wǎng)絡(luò)的大型國際會議已召開了許多次 ， 我國也召開了三次 。 ● 最優(yōu)化問題：用來求解局部甚至是全局最優(yōu)解 。 聚類是可變的 ． 但要限制其鞍點的個數(shù) 。 可用層次性的存貯模式來進行分類信息的表示 。 腦中盒模型 (BSB)有能力進行這種計算 。 如誤差反播模型 (BP)、 對向傳播網(wǎng)絡(luò)模型 (CPN)、 小腦模型 (CMAC)等都可以完成這種計算 。 NN N )2(lo g 2)1(2? [定理 1． 2] N個神經(jīng)元的神經(jīng)網(wǎng)絡(luò)的信息表達能力下限為： C (位 )。 定義：一個存貯器的信息表達能力定義為其可分辨的信息類型的對數(shù)值 。 這是因為神經(jīng)網(wǎng)絡(luò)的運行是從輸入到輸出的值傳遞過程 ， 在信息傳遞的同時也就完成了信息的存貯與計算 。 這兩個獨立部分 ——存貯器與運算器之間的通道 ， 就成為提高計算機計算能力的瓶頸 ， 并且只要這兩個部分是獨立存在的 ， 這個問題就始終存在 。 展望人工神經(jīng)網(wǎng)絡(luò)的成功應用 ， 人類智能有可能產(chǎn)生一次新的飛躍 。 生物實現(xiàn) 。 計算機仿真系統(tǒng) 。 硬件實現(xiàn)的優(yōu)點是處理速度快 ， 但由于受器件物理因素的限制 ， 根據(jù)目前的工藝條件 ， 網(wǎng)絡(luò)規(guī)模不可能做得太大 。 (4)神經(jīng)網(wǎng)絡(luò)的軟件模擬和硬件實現(xiàn) 。 認知與人工智能 ． 包括模式識別 、 計算機視覺與聽覺 、 特征提取 、 語音識別語言翻譯 、 聯(lián)想記憶 、 邏輯推理 、 知識工程 、 專家系統(tǒng) 、 故障診斷 、 智能機器人等 。 開展認知科學的研究 。 (2)神經(jīng)網(wǎng)絡(luò)基本理論研究 。 神經(jīng)網(wǎng)絡(luò)原型研究 ， 即大腦神經(jīng)網(wǎng)絡(luò)的生理結(jié)構(gòu) 、 思維機制 。 (7)系統(tǒng)的恰當退化和冗余備份 (魯棒性和容錯性 )。 例