【正文】 面臨著重重困難。 1986年 Rumelhart等人在多層神經(jīng)網(wǎng)絡模型的基礎上，提出了多層神經(jīng)網(wǎng)絡模型的反向傳播學習算法 (BP算法 )，解決了多層前向神經(jīng)網(wǎng)絡的學習問題，證明了多層神經(jīng)網(wǎng)絡具有很強的學習能力，它可以完成許多學習任務，解決許多實際問題。 為了了解 ANN，我們首先分析一下現(xiàn)行計算機所存在的問題。 (4) 控制器根據(jù)計算步驟的順序 ， 依次按存貯器地址讀出第一個計算步驟 ， 然后根據(jù)讀出步驟的規(guī)定 ，控制運算器對相應數(shù)據(jù)執(zhí)行規(guī)定的運算操作 。 (3)存貯器的位置 (即地址 )和其中歷存貯的具體內(nèi)容無關 。 正是由于認識到傳統(tǒng)的馮 通過神經(jīng)元及其聯(lián)接的可塑性 ， 使得大腦具有學習 、記憶和認知等各種智能 。 神經(jīng)元由細胞體和延伸部分組成 。 神經(jīng)元之間的聯(lián)系主要依賴其突觸的聯(lián)接作用 。 當某些神經(jīng)纖維被破壞后 ， 可能又會長出新芽 ， 并重新產(chǎn)生附著于神經(jīng)元上的突觸 ． 形成新的回路 。因此 ， 一個神經(jīng)元接受的信息 ， 在時間和空間上常呈現(xiàn)出一種復雜多變的形式 ， 需要神經(jīng)元對它們進行積累和整合加工 ， 從而決定其輸出的時機和強度 。 每個神經(jīng)元的處理功能也很有限 ， 估計不會比計算機的一條指令更復雜 。 神經(jīng)系統(tǒng)的可塑性和自組織性與人腦的生長發(fā)育過程有關 。 由于大腦神經(jīng)元兼有信息處理和存貯功能 ， 所以在進行回億時 ， 不但不存在先找存貯地址而后再調(diào)出所存內(nèi)容的問題 ， 而且還可以由一部分內(nèi)容恢復全部內(nèi)容 。 (7)系統(tǒng)的恰當退化和冗余備份 (魯棒性和容錯性 )。 (2)神經(jīng)網(wǎng)絡基本理論研究 。 認知與人工智能 ． 包括模式識別 、 計算機視覺與聽覺 、 特征提取 、 語音識別語言翻譯 、 聯(lián)想記憶 、 邏輯推理 、 知識工程 、 專家系統(tǒng) 、 故障診斷 、 智能機器人等 。 硬件實現(xiàn)的優(yōu)點是處理速度快 ， 但由于受器件物理因素的限制 ， 根據(jù)目前的工藝條件 ， 網(wǎng)絡規(guī)模不可能做得太大 。 生物實現(xiàn) 。 這兩個獨立部分 ——存貯器與運算器之間的通道 ， 就成為提高計算機計算能力的瓶頸 ， 并且只要這兩個部分是獨立存在的 ， 這個問題就始終存在 。 定義：一個存貯器的信息表達能力定義為其可分辨的信息類型的對數(shù)值 。 如誤差反播模型 (BP)、 對向傳播網(wǎng)絡模型 (CPN)、 小腦模型 (CMAC)等都可以完成這種計算 。 可用層次性的存貯模式來進行分類信息的表示 。 ● 最優(yōu)化問題：用來求解局部甚至是全局最優(yōu)解 。 現(xiàn)在普遍認識到神經(jīng)網(wǎng)絡比較適用于特征提取 、 模式分類 、 聯(lián)想記憶 、 低層次感知 、 自適應控制等場合 ，在這些方面 ， 嚴格的解析方法會遇到很大困難 。 它可以產(chǎn)生 128個交互作用的神經(jīng)網(wǎng)絡 ， 每個網(wǎng)可是自組織網(wǎng)也可是多層感知器網(wǎng) ， 最多可達 32層 ， 每層可達 32個節(jié)點 ， 且可以與其他 8層相聯(lián) 。 在前一類中 ， 人工智能系統(tǒng)可以與使用者交互作用 (如向使用者提出問題 ， 了解使用者的需求 )， 然后利用知識與神經(jīng)網(wǎng)絡準備數(shù)據(jù) 。 。 但是 ， 我們可以根據(jù)需要 ， 采用一些常見的算法來調(diào)整神經(jīng)元連接權 ， 以達到學習目的 。 其結構如下圖所示 感知器處理單元對 n個輸入進行加權和操作v即： 其中 ， Wi為第 i個輸入到處理單元的連接權值 θ為閾值 。 與許多代數(shù)方程一樣 ， 上式中不等式具有一定的幾何意義 。 (4)更新權值 (閾值可視為輸入恒為 1的一個權值 )： Δwi（ t+1） ＝ wi（ t+1） wi（ t） ＝ η[d—y(t)]xi。這樣的一組網(wǎng)絡參數(shù)滿足計算要求。但是，多層網(wǎng)絡的權值如何確定，即網(wǎng)絡如何進行學習，在感知器上沒有得到解決：當年 Minsky等人就是因為對于非線性空間的多層感知器學習算法未能得到解決，使其對神經(jīng)網(wǎng)絡的研究作出悲觀的結論。對于上述證明，要說明的是：正數(shù) δ越小，迭代次數(shù)越多：其次，若樣本輸入函數(shù)不是線性可分的，則學習過程將出現(xiàn)振蕩，得不到正確的結果。x= δ對所有的樣本輸入 x都成立，則權向量 w按下述學習過程僅需有限步就可收斂。 對于上面述及的異或問題，用一個簡單的三層感知器就可得到解決 實際上 ， 該三層感知器的輸入層和隱層的連接 ， 就是在模式空間中用兩個超平面去劃分樣本 ， 即用兩條直線： x1+x2= x1十 x 2＝ 。整個學習過程就是某一超平面在樣本空間中幾何位置調(diào)整的過程 。 現(xiàn)介紹如下： 誤差型學習規(guī)則： (1)選擇一組初始權值 wi(0)。 (2)“或 ” 運算， 當取 wl＝ w2＝ 1， θ ＝ ，上式完成邏輯 “ 或 ” 的運算。 2 感知器模型 感知器是一種早期的神經(jīng)網(wǎng)絡模型 ， 由美國學者 1957年提出 .感知器中第一次引入了學習的概念 ， 使人腦所具備的學習功能在基于符號處理的數(shù)學到了一定程度的模擬 ， 所以引起了廣泛的關注 。 函數(shù) f表達了神經(jīng)元的輸入輸出特性。 神經(jīng)網(wǎng)絡理論研究重大成果 ：僅有一個非線性隱層的前饋網(wǎng)絡就能以任意精度逼近任意復雜度的函數(shù) 。 比如 ， 神經(jīng)網(wǎng)絡的節(jié)點和連接可明確地與規(guī)定的目標和關系聯(lián)系在一起 ， 可把特定的推理規(guī)則作為目標節(jié)點之間的規(guī)定聯(lián)接 ， 節(jié)點數(shù)可以由所描寫的規(guī)則所決定 ， 可對節(jié)點的權及閾值加以選擇以便描寫所需的邏輯關系 ， 利用組合規(guī)則解釋節(jié)點的激活從而解釋網(wǎng)絡的行為 ， 并按神經(jīng)網(wǎng)絡方式設計專家系統(tǒng) 。 為了更好地把現(xiàn)有各種神經(jīng)網(wǎng)絡模型的特點綜合起來 ， 增強網(wǎng)絡解決問題的能力 ， 80年代末和 90年代初出現(xiàn)了混合網(wǎng)絡系統(tǒng) ， 如把多層感知器與自組織特征級聯(lián)起來 ， 在模式識別中可以取得比單一網(wǎng)絡更好的結果 。 這一時期的研究和發(fā)展有以下幾個特點： (1)神經(jīng)網(wǎng)絡研究工作者對于研究對象的性能和潛力有了更充分的認識 ． 從而對研究和應用的領域有了更恰當?shù)睦斫?。 很顯然這種能力可直接應用于復雜的多目標跟蹤 。SOM模型適合計算此類問題 。 [定理 1． 3] 神經(jīng)網(wǎng)絡可以存貯 2N1個信息，也可以區(qū)分 2 N1個不同的網(wǎng)絡。 神經(jīng)網(wǎng)絡的存貯能力因不同的網(wǎng)絡而不相同 。 需要解決的問題是：神經(jīng)網(wǎng)絡能夠有效地計算哪些問題 ?在眾多的文獻中 ， 人們都一致認為：存貯能力和計算能力是現(xiàn)代計算機科學中的兩個基本問題 ， 同樣 ，它們也構成了人工神經(jīng)網(wǎng)絡研究中的基本問題 。 數(shù)字 、 模擬 、 數(shù) —模混合 、 光電互連等 。 由模擬集成電路 、 數(shù)字集成電路或者光器件在硬件上實現(xiàn)神經(jīng)芯片 。 采用諸如連接機制等方法 ， 將認知信息處理過程模型化 ，并通過建立神經(jīng)計算學來代替算法淪 。 利用物理學的方法進行單元間相互作用理論的研究 如：聯(lián)想記憶模型 。 (6)求滿意解而不是精確解 。 (3)信息處理與信息存貯合二為一 。 由此可見 ， 大腦信息處理的并行速度已達到了極高的程度 。 從信息系統(tǒng)研究的觀點出發(fā) ， 對于人腦這個智能信息處理系統(tǒng) ， 有如下一些固有特征： (1)并行分布處理的工作模式 。 由于輸入分布于不同的部位 ， 對神經(jīng)元影響的比例 (權重 )是不相同的 。 在突觸表面有許多形狀各異的小凸芽 ， 調(diào)節(jié)其形狀變化可以改變接觸間隙 ， 并影響傳遞效率 。 如果皮質(zhì)中突觸的平均密度是 6 l09／ mm3左右 ， 則可認為皮質(zhì)中的全部突觸數(shù)為 3 1015個 。突觸按其傳遞信息的不同機制，可分為化學突觸和電突觸、其中化學突觸占大多數(shù)，其神經(jīng)沖動傳遞借助于化學遞質(zhì)的作用。 人類大腦的神經(jīng)細胞