【正文】 屬于順序性 (串行性 )信息處理中 ，表現(xiàn)出遠(yuǎn)非人所能及的速度；另一方面 ， 在涉及人類日常的信息活動 ， 例如識別圖形 、 聽懂語言等 ， 卻又顯得那樣低能和笨拙 。所以符號處理不可能全面解決認(rèn)知問題和機(jī)器智能化問題．它對高層次腦功能的宏觀模擬很有效，而對一些低層次的模式處理則至今還有許多困難。 目前 ， 神經(jīng)網(wǎng)絡(luò)的研究使得對多年來困擾計算機(jī)科學(xué)和符號處理的一些難題可以得到比較令人滿意的解答 ， 特別是對那些時空信息存貯及并行搜索 、 自組織聯(lián)想記億 、時空數(shù)據(jù)統(tǒng)計描述的自組織以及從一些相互關(guān)聯(lián)的活 動中自動獲取知識等一般性問題的求解 ， 更顯示出獨特的能力 。 神經(jīng)細(xì)胞也稱神經(jīng)元 ， 是神經(jīng)系統(tǒng)的基本單元 ， 它們按不同的結(jié)合方式構(gòu)成了復(fù)雜的神經(jīng)網(wǎng)絡(luò) 。 生物神經(jīng)系統(tǒng) ． 包括中樞神經(jīng)系統(tǒng)和大腦 ， 均是由各類神經(jīng)元組成 。生物神經(jīng)元的結(jié)構(gòu)大致描述如下圖所示。 單個神經(jīng)元可以從別的細(xì)胞接受多達(dá)上千個的突觸輸入 。 如果再按上述人腦所含的全部神經(jīng)元數(shù)目計算 ， 則每個神經(jīng)元平均的突觸數(shù)目可能就有 1． 5— 3． 0萬個左右 。 首先是突觸的膨脹以及由此產(chǎn)生的突觸后膜表面積擴(kuò)大 ， 從而突觸所釋放出的傳遞物質(zhì)增多 ， 使得突觸的傳遞效率提高 。 (3)突觸的發(fā)芽 。 由于種種復(fù)雜環(huán)境條件的刺激等原因 ，或者由于動物本身的生長或衰老 ， 神經(jīng)系統(tǒng)的突觸數(shù)目會發(fā)生變化 ， 并影響神經(jīng)元之間的傳遞效率 。 另外 ， 各突觸輸入抵達(dá)神經(jīng)元的先后時間也不一祥 。 研究表明 ， 生物神經(jīng)網(wǎng)絡(luò)的功能決不是單個神經(jīng)元生理和信息處理功能的簡單疊加 ， 而是一個有層次的 、 多單元的動態(tài)信息處理系統(tǒng) 。 實際上大腦中單個神經(jīng)元的信息處理速度是很慢的 ， 每次約1毫秒 (ms)， 比通常的電子門電路要慢幾個數(shù)量級 。 按照上述神經(jīng)元的處理速度 ， 如果采用串行工作模式 ， 就必須在幾百個串行步內(nèi)完成 ， 這實際上是不可能辦到的 。 (2)神經(jīng)系統(tǒng)的可塑性和自組織性 。 例如在某一外界信息反復(fù)刺激下 ． 接受該信息的神經(jīng)細(xì)胞之間的突觸結(jié)合強(qiáng)度會增強(qiáng) 。 大腦中的信息處理與信息存貯是有機(jī)結(jié)合在一起的 ， 而不像現(xiàn)行計算機(jī)那樣 ． 存貯地址和存貯內(nèi)容是彼此分開的 。 各個子系統(tǒng)之間具有很強(qiáng)的相互聯(lián)系 ， 一些子系統(tǒng)可以調(diào)節(jié)另一些子系統(tǒng)的行為 。 人類處理日常行為時 ， 往往都不是一定要按最優(yōu)或最精確的方式去求解 ， 而是以能解決問題為原則 ， 即求得滿意解就行了 。 現(xiàn)今的研究工作應(yīng)包含以下的一些基本內(nèi)容： (1)人工神經(jīng)網(wǎng)絡(luò)模型的研究 。 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法與學(xué)習(xí)系統(tǒng)。 神經(jīng)網(wǎng)絡(luò)的計算能力與信息存貯容量 。 (3)神經(jīng)網(wǎng)絡(luò)智能信息處理系統(tǒng)的應(yīng)用 。 傳感器信息處理：模式預(yù)處理變換、信息集成、多傳感器數(shù)據(jù)融合。 軟件模擬的優(yōu)點是網(wǎng)絡(luò)的規(guī)?？梢暂^大 ， 適合于用來驗證新的模型和復(fù)雜的網(wǎng)絡(luò)特性 。 (5)神經(jīng)網(wǎng)絡(luò)計算機(jī)的實現(xiàn) 。 光學(xué)實現(xiàn) 。 人工神經(jīng)網(wǎng)絡(luò)的重大研究進(jìn)展有可能使包括信息科學(xué)在內(nèi)的其他學(xué)科產(chǎn)生重大突破和變革 。 前面提到在傳統(tǒng)的馮 ． 諾依曼型計算機(jī)中 ， 其計算與存貯是完全獨立的兩個部分 。 它將信息的存貯與信息的處理完善地結(jié)合在一起 。 這里我們給出 Hopfield的一些結(jié)論 。 [定理 ] N個神經(jīng)元的神經(jīng)網(wǎng)絡(luò)的信息表達(dá)能力上限為： C＜ (位 )。 ]2/[)]2/[(2 )2(l o g2 NN?神經(jīng)網(wǎng)絡(luò)的計算能力 ● 數(shù)學(xué)的近似映射；識別和分類這些計算都可以抽象成一種近似的數(shù)學(xué)映射 。 ● 從二進(jìn)制數(shù)據(jù)基中提取相關(guān)的知識：這種計算是形成一種知識的聚類模型 ， 這些知識 依照數(shù)據(jù)基的自組織在它們之間有某種統(tǒng)計上的共性 ， 并依此來響應(yīng)輸入的數(shù)據(jù)基記錄 。 ● 最近相鄰模式分類：通過比較大量的存貯數(shù)據(jù)來進(jìn)行模式分類 ， 但首先應(yīng)通過學(xué)習(xí)樣本模式進(jìn)行分類 。 ● 數(shù)據(jù)聚類：采用自組織的方法形成所選擇的 “ 顆粒 ”或模式的聚類 ， 以此來響應(yīng)輸人數(shù)據(jù) 。 ART 模型最適合于這種計算 。 技術(shù)發(fā)達(dá)國家和集團(tuán)推行了一系列有關(guān)的重要研究計劃 、 投資總額在數(shù)億美元 ， 出現(xiàn)了一批神經(jīng)網(wǎng)絡(luò)企業(yè)和在眾多領(lǐng)域中的應(yīng)用產(chǎn)品 。 在頭腦冷靜下來之后 ， 可以看到 ， 盡管神經(jīng)網(wǎng)絡(luò)所能做的事情比當(dāng)初一些狂熱鼓吹者所設(shè)想的要少 ， 但肯定比那些悲觀論者要多得多 。 雖然對腦工作機(jī)理的理解十分重要 ， 但這種理解是一個相當(dāng)長期的過程 。 1991年美國 ward System Group公司推出的軟件產(chǎn)品 Neuro windows(Brain—1)是這方面的典型代表 。 神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)人工智能方法相結(jié)合是近年來發(fā)展員快的一個方面 。 最近所出現(xiàn)的把神經(jīng)網(wǎng)絡(luò)與人工智能系統(tǒng)結(jié)合起來的方式大體可分為兩類 ， 一類是把人工智能系統(tǒng)作為神經(jīng)網(wǎng)絡(luò)的前端 ， 一類是把神經(jīng)網(wǎng)絡(luò)作為人工智能系統(tǒng)的前端 。 目前正在建筑行業(yè)大力推廣 。 ，所表達(dá)的函數(shù)是“可以”求出的。 第 2章 人工神經(jīng)網(wǎng)絡(luò)基本模型 一 、 MP模型 MP模型屬于一種閾值元件模型 ， 它是由美國 Mc Culloch和 Pitts提出的最早神經(jīng)元模型 之一。在 MP模型中， f定義為階躍函數(shù)： ??????0,00,1iii uuv如果把閾值 θi看作為一個特殊的權(quán)值，則可改寫為 : 其中， w0i＝ θi， v0＝ 1 為用連續(xù)型的函數(shù)表達(dá)神經(jīng)元的非線性變換能力 ， 常采用 s型函數(shù) : 該函數(shù)的圖像如下圖所示 )(0jnjjii vwfv ???iui euf ???11)( MP模型在發(fā)表時并沒有給出一個學(xué)習(xí)算法來調(diào)整神經(jīng)元之間的連接權(quán) 。對于人工神經(jīng)網(wǎng)絡(luò)而言 ， 這種學(xué)習(xí)歸結(jié)為神經(jīng)元連接權(quán)的變化 。 1 簡單感知器 簡單感知器模型實際上仍然是 MP模型的結(jié)構(gòu) ， 但是它通過采用監(jiān)督學(xué)習(xí)來逐步增強(qiáng)模式劃分的能力 ， 達(dá)到所謂學(xué)習(xí)的目的 。 利用簡單感知器可以實現(xiàn)邏輯代數(shù)中的一些運算。 (3)“非 ” 運算， 當(dāng)取 wl=1， w2＝ 0， θ ＝ 1時．完成邏輯“非”的運算。 直線 1*x1+1*x20． 5＝ 0 將二維平面分為兩部分 ， 上部為激發(fā)區(qū) (y，=1， 用 ★ 表示 )， 下部為抑制區(qū) (y＝ 0， 用☆ 表示 )。 (2)計算某一輸入模式對應(yīng)的實際輸出與期 望輸出的誤差 δ (3)如果 δ小于給定值，結(jié)束，否則繼續(xù)。 對于學(xué)習(xí)步長 V的取值一般是在 (0， 1)上的一個常數(shù)，但是為了改進(jìn)收斂速度，也可以采用變步長的方法，這里介紹一個算法如下式： 式中， α為一個正的常量．這里取值為 。 初值 w1(7)＝ —0． 225． w2(7)＝ —0． 0875， θ(7)＝ —0． 1875。 這里需指出的是：多層感知器只允許調(diào)節(jié)一層的連接權(quán)。 可以證明，只要隱層和隱層單元數(shù)足夠多，多層感知器網(wǎng)絡(luò)可實現(xiàn)任何模式分類。 [定理 ] 如果樣本輸入函數(shù)是線性可分的，那么下面的感知器學(xué)習(xí)算法經(jīng)過有限次迭代后，可收斂到正確的權(quán)值或權(quán)向量。 因此，感知器學(xué)習(xí)迭代次數(shù)是一有限數(shù)，經(jīng)過有限次迭代，學(xué)習(xí)算法可收斂到正確的權(quán)向量 w*。