【正文】 性 )信息處理中 ，表現(xiàn)出遠(yuǎn)非人所能及的速度；另一方面 ， 在涉及人類日常的信息活動(dòng) ， 例如識(shí)別圖形 、 聽(tīng)懂語(yǔ)言等 ， 卻又顯得那樣低能和笨拙 。認(rèn)知問(wèn)題離不開(kāi)對(duì)低層次信息處理的研究和認(rèn)識(shí)。所以符號(hào)處理不可能全面解決認(rèn)知問(wèn)題和機(jī)器智能化問(wèn)題．它對(duì)高層次腦功能的宏觀模擬很有效，而對(duì)一些低層次的模式處理則至今還有許多困難。諾依曼計(jì)算機(jī)在智能信息處理中的這種難以逾越的局限性 ． 使得人們考慮到有必要進(jìn)一步了解分析人腦神經(jīng)系統(tǒng)信息處理和存貯的機(jī)理特征 ． 以便尋求一條新的人工神經(jīng)網(wǎng)絡(luò)智能信息處理途徑 。 目前 ， 神經(jīng)網(wǎng)絡(luò)的研究使得對(duì)多年來(lái)困擾計(jì)算機(jī)科學(xué)和符號(hào)處理的一些難題可以得到比較令人滿意的解答 ， 特別是對(duì)那些時(shí)空信息存貯及并行搜索 、 自組織聯(lián)想記億 、時(shí)空數(shù)據(jù)統(tǒng)計(jì)描述的自組織以及從一些相互關(guān)聯(lián)的活 動(dòng)中自動(dòng)獲取知識(shí)等一般性問(wèn)題的求解 ， 更顯示出獨(dú)特的能力 。 人腦信息處理機(jī)制 生物神經(jīng)系統(tǒng)是一個(gè)有高度組織和相互作用的數(shù)量巨大的細(xì)胞組織群體 。 神經(jīng)細(xì)胞也稱神經(jīng)元 ， 是神經(jīng)系統(tǒng)的基本單元 ， 它們按不同的結(jié)合方式構(gòu)成了復(fù)雜的神經(jīng)網(wǎng)絡(luò) 。 人工神經(jīng)網(wǎng)絡(luò)的研究出發(fā)點(diǎn)是以生物神經(jīng)元學(xué)說(shuō)為基礎(chǔ)的 。 生物神經(jīng)系統(tǒng) ． 包括中樞神經(jīng)系統(tǒng)和大腦 ， 均是由各類神經(jīng)元組成 。 10生物神經(jīng)元之間的相互連接從而讓信息傳遞的部位披稱為突觸 (Synapse)。生物神經(jīng)元的結(jié)構(gòu)大致描述如下圖所示。 延伸部分按功能分有兩類 ， 一種稱為樹(shù)突 ， 占延伸部分的大多數(shù) ， 用來(lái)接受來(lái)自其他神經(jīng)元的信息；另一種用來(lái)傳遞和輸出信息 ， 稱為軸突 。 單個(gè)神經(jīng)元可以從別的細(xì)胞接受多達(dá)上千個(gè)的突觸輸入 。 人類大腦皮質(zhì)的全部表面積約有 20 104mm2， 平均厚度約 2． 5mm， 皮質(zhì)的體積則約為 50 104mm3。 如果再按上述人腦所含的全部神經(jīng)元數(shù)目計(jì)算 ， 則每個(gè)神經(jīng)元平均的突觸數(shù)目可能就有 1． 5— 3． 0萬(wàn)個(gè)左右 。 這種突觸的聯(lián)接是可塑的 ， 也就是說(shuō)突觸特性的變化是受到外界信息的影響或自身生長(zhǎng)過(guò)程的影響 。 首先是突觸的膨脹以及由此產(chǎn)生的突觸后膜表面積擴(kuò)大 ， 從而突觸所釋放出的傳遞物質(zhì)增多 ， 使得突觸的傳遞效率提高 。 (2)突觸接觸間隙的變化 。 (3)突觸的發(fā)芽 。 由于新的回路的形成 ， 使得結(jié)合模式發(fā)生變化 ， 也會(huì)引起傳遞效率的變化 。 由于種種復(fù)雜環(huán)境條件的刺激等原因 ，或者由于動(dòng)物本身的生長(zhǎng)或衰老 ， 神經(jīng)系統(tǒng)的突觸數(shù)目會(huì)發(fā)生變化 ， 并影響神經(jīng)元之間的傳遞效率 。單個(gè)神經(jīng)元可以從別的細(xì)胞接受多個(gè)輸入 。 另外 ， 各突觸輸入抵達(dá)神經(jīng)元的先后時(shí)間也不一祥 。 正是神經(jīng)元這種整合作用 ， 才使得億萬(wàn)個(gè)神經(jīng)元在神經(jīng)系統(tǒng)中有條不紊 、 夜以繼日地處理各種復(fù)雜的信息 ， 執(zhí)行著生物中樞神經(jīng)系統(tǒng)的各種信息處理功能 。 研究表明 ， 生物神經(jīng)網(wǎng)絡(luò)的功能決不是單個(gè)神經(jīng)元生理和信息處理功能的簡(jiǎn)單疊加 ， 而是一個(gè)有層次的 、 多單元的動(dòng)態(tài)信息處理系統(tǒng) 。 以上是從宏觀上分析了人腦信息處理特點(diǎn) 。 實(shí)際上大腦中單個(gè)神經(jīng)元的信息處理速度是很慢的 ， 每次約1毫秒 (ms)， 比通常的電子門(mén)電路要慢幾個(gè)數(shù)量級(jí) 。 但是人腦對(duì)某一復(fù)雜過(guò)程的處理和反應(yīng)卻很快 ， 一般只需幾百毫秒 。 按照上述神經(jīng)元的處理速度 ， 如果采用串行工作模式 ， 就必須在幾百個(gè)串行步內(nèi)完成 ， 這實(shí)際上是不可能辦到的 。 例如在一張照片尋找一個(gè)熟人的面孔 ， 對(duì)人腦而言 ， 幾秒鐘便可完成 ， 但如用計(jì)算機(jī)來(lái)處理 ， 以現(xiàn)有的技術(shù) ， 是不可能在短時(shí)間內(nèi)完成的 。 (2)神經(jīng)系統(tǒng)的可塑性和自組織性 。 例如 ，人的幼年時(shí)期約在 9歲左右 ， 學(xué)習(xí)語(yǔ)言的能力十分強(qiáng) ， 說(shuō)明在幼年時(shí)期 ，大腦的可塑性和柔軟性特別良好 。 例如在某一外界信息反復(fù)刺激下 ． 接受該信息的神經(jīng)細(xì)胞之間的突觸結(jié)合強(qiáng)度會(huì)增強(qiáng) 。 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)機(jī)制就是基于這種可塑性現(xiàn)象 ， 并通過(guò)修正突觸的結(jié)合強(qiáng)度來(lái)實(shí)現(xiàn)的 。 大腦中的信息處理與信息存貯是有機(jī)結(jié)合在一起的 ， 而不像現(xiàn)行計(jì)算機(jī)那樣 ． 存貯地址和存貯內(nèi)容是彼此分開(kāi)的 。 (4)信息處理的系統(tǒng)性 大腦是一個(gè)復(fù)雜的大規(guī)模信息處理系統(tǒng) ， 單個(gè)的元件 “ 神經(jīng)元 ” 不能體現(xiàn)全體宏觀系統(tǒng)的功能 。 各個(gè)子系統(tǒng)之間具有很強(qiáng)的相互聯(lián)系 ， 一些子系統(tǒng)可以調(diào)節(jié)另一些子系統(tǒng)的行為 。 (5)能接受和處理模糊的 、 模擬的 、 隨機(jī)的信息 。 人類處理日常行為時(shí) ， 往往都不是一定要按最優(yōu)或最精確的方式去求解 ， 而是以能解決問(wèn)題為原則 ， 即求得滿意解就行了 。 人工神經(jīng)網(wǎng)絡(luò)研究與應(yīng)用的主要內(nèi)容 人工種經(jīng)網(wǎng)絡(luò)的研究方興末艾 ， 很難準(zhǔn)確地預(yù)測(cè)其發(fā)展方向 。 現(xiàn)今的研究工作應(yīng)包含以下的一些基本內(nèi)容： (1)人工神經(jīng)網(wǎng)絡(luò)模型的研究 。 神經(jīng)元的生物特性如時(shí)空特性 、 不應(yīng)期 、 電化學(xué)性質(zhì)等的人工模擬 易于實(shí)現(xiàn)的神經(jīng)網(wǎng)絡(luò)計(jì)算模型 。 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法與學(xué)習(xí)系統(tǒng)。 神經(jīng)網(wǎng)絡(luò)的非線性特性 ， 包括自組織 、 自適應(yīng)等作用 。 神經(jīng)網(wǎng)絡(luò)的計(jì)算能力與信息存貯容量 。 探索包括感知 、 思考 、記憶和語(yǔ)言等的腦信息處理模型 。 (3)神經(jīng)網(wǎng)絡(luò)智能信息處理系統(tǒng)的應(yīng)用 。 優(yōu)化與控制 ， 包括優(yōu)化求解 、 決策與管理 、 系統(tǒng)辨識(shí) 、 魯棒性控制 、 自適應(yīng)控制 、 并行控制 、分布控制 、 智能控制等 。 傳感器信息處理：模式預(yù)處理變換、信息集成、多傳感器數(shù)據(jù)融合。 在通用計(jì)算機(jī) 、 專用計(jì)算機(jī)或者并行計(jì)算機(jī)上進(jìn)行軟件模擬 ， 或由專用數(shù)字信號(hào)處理芯片 構(gòu)成神經(jīng)網(wǎng)絡(luò)仿真器 。 軟件模擬的優(yōu)點(diǎn)是網(wǎng)絡(luò)的規(guī)模可以較大 ， 適合于用來(lái)驗(yàn)證新的模型和復(fù)雜的網(wǎng)絡(luò)特性 。 僅幾千個(gè)神經(jīng)元 。 (5)神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)的實(shí)現(xiàn) 。 專用神經(jīng)網(wǎng)絡(luò)并行計(jì)算機(jī)系統(tǒng) 。 光學(xué)實(shí)現(xiàn) 。 關(guān)于智能本質(zhì)的研究是自然科學(xué)和哲學(xué)的重大課題之一 ， 對(duì)于智能的模擬和機(jī)器再現(xiàn)肯定可以開(kāi)發(fā)拓展出一代新興產(chǎn)業(yè) 。 人工神經(jīng)網(wǎng)絡(luò)的重大研究進(jìn)展有可能使包括信息科學(xué)在內(nèi)的其他學(xué)科產(chǎn)生重大突破和變革 。 人工神經(jīng)網(wǎng)絡(luò)的信息處理能力 人工神經(jīng)網(wǎng)絡(luò)的信息處理能力 人工神經(jīng)網(wǎng)絡(luò)的信息處理能力包括兩方面的內(nèi)容： 一 、 神經(jīng)網(wǎng)絡(luò)信息存貯能力 ． 即要解決這樣的一個(gè)問(wèn)題：在一個(gè)有 N個(gè)神經(jīng)元的神經(jīng)網(wǎng)絡(luò)中 ，可存貯多少值的信息 ? 二 、 神經(jīng)網(wǎng)絡(luò)的計(jì)算能力 。 前面提到在傳統(tǒng)的馮 ． 諾依曼型計(jì)算機(jī)中 ， 其計(jì)算與存貯是完全獨(dú)立的兩個(gè)部分 。 對(duì)不同的計(jì)算機(jī)而言 ， 只是這一問(wèn)題的嚴(yán)重程度不同而已 。 它將信息的存貯與信息的處理完善地結(jié)合在一起 。 (1)神經(jīng)網(wǎng)絡(luò)的存貯能力 。 這里我們給出 Hopfield的一些結(jié)論 。 在一個(gè) M 1的隨機(jī)存貯器 RAM中 ， 有 M位地址 ，一位數(shù)據(jù) ， 它可存貯 2M位信息 這個(gè) RAM中 ， 可以讀／寫(xiě)長(zhǎng)度為 2M的信息串 ， 而 M 長(zhǎng)度為 2M的信息串有 2 2 種 ， 所以 ， 可以分辨上述這么多種信息串 。 [定理 ] N個(gè)神經(jīng)元的神經(jīng)網(wǎng)絡(luò)的信息表達(dá)能力上限為： C＜ (位 )。 其中 [N／ 2]指小于或等于 N／ 2的最大整數(shù) 。 ]2/[)]2/[(2 )2(l o g2 NN?神經(jīng)網(wǎng)絡(luò)