【文章內(nèi)容簡介】 實際上是不可能辦到的 。 因此只能把它看成是一個由眾多神經(jīng)元所組成的超高密度的并行處理系統(tǒng) 。 例如在一張照片尋找一個熟人的面孔 ， 對人腦而言 ， 幾秒鐘便可完成 ， 但如用計算機(jī)來處理 ， 以現(xiàn)有的技術(shù) ， 是不可能在短時間內(nèi)完成的 。 由此可見 ， 大腦信息處理的并行速度已達(dá)到了極高的程度 。 (2)神經(jīng)系統(tǒng)的可塑性和自組織性 。 神經(jīng)系統(tǒng)的可塑性和自組織性與人腦的生長發(fā)育過程有關(guān) 。 例如 ，人的幼年時期約在 9歲左右 ， 學(xué)習(xí)語言的能力十分強(qiáng) ， 說明在幼年時期 ，大腦的可塑性和柔軟性特別良好 。 從生理學(xué)的角度看 ， 它體現(xiàn)在突觸的可塑性和聯(lián)接狀態(tài)的變化 ， 同時還表現(xiàn)在神經(jīng)系統(tǒng)的自組織特性上 。 例如在某一外界信息反復(fù)刺激下 ． 接受該信息的神經(jīng)細(xì)胞之間的突觸結(jié)合強(qiáng)度會增強(qiáng) 。 這種可塑性反映出大腦功能既有先天的制約因素 ， 也有可能通過后天的訓(xùn)練和學(xué)習(xí)而得到加強(qiáng) 。 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)機(jī)制就是基于這種可塑性現(xiàn)象 ， 并通過修正突觸的結(jié)合強(qiáng)度來實現(xiàn)的 。 (3)信息處理與信息存貯合二為一 。 大腦中的信息處理與信息存貯是有機(jī)結(jié)合在一起的 ， 而不像現(xiàn)行計算機(jī)那樣 ． 存貯地址和存貯內(nèi)容是彼此分開的 。 由于大腦神經(jīng)元兼有信息處理和存貯功能 ， 所以在進(jìn)行回億時 ， 不但不存在先找存貯地址而后再調(diào)出所存內(nèi)容的問題 ， 而且還可以由一部分內(nèi)容恢復(fù)全部內(nèi)容 。 (4)信息處理的系統(tǒng)性 大腦是一個復(fù)雜的大規(guī)模信息處理系統(tǒng) ， 單個的元件 “ 神經(jīng)元 ” 不能體現(xiàn)全體宏觀系統(tǒng)的功能 。 實際上 ， 可以將大腦的各個部位看成是一個大系統(tǒng)中的許多子系統(tǒng) 。 各個子系統(tǒng)之間具有很強(qiáng)的相互聯(lián)系 ， 一些子系統(tǒng)可以調(diào)節(jié)另一些子系統(tǒng)的行為 。 例如 ， 視覺系統(tǒng)和運動系統(tǒng)就存在很強(qiáng)的系統(tǒng)聯(lián)系 ， 可以相互協(xié)調(diào)各種信息處理功能 。 (5)能接受和處理模糊的 、 模擬的 、 隨機(jī)的信息 。 (6)求滿意解而不是精確解 。 人類處理日常行為時 ， 往往都不是一定要按最優(yōu)或最精確的方式去求解 ， 而是以能解決問題為原則 ， 即求得滿意解就行了 。 (7)系統(tǒng)的恰當(dāng)退化和冗余備份 (魯棒性和容錯性 )。 人工神經(jīng)網(wǎng)絡(luò)研究與應(yīng)用的主要內(nèi)容 人工種經(jīng)網(wǎng)絡(luò)的研究方興末艾 ， 很難準(zhǔn)確地預(yù)測其發(fā)展方向 。 但就目前來看 ， 人工神經(jīng)網(wǎng)絡(luò)的研究首先須解決全局穩(wěn)定性 、 結(jié)構(gòu)穩(wěn)定性 、 可編程性等問題 。 現(xiàn)今的研究工作應(yīng)包含以下的一些基本內(nèi)容： (1)人工神經(jīng)網(wǎng)絡(luò)模型的研究 。 神經(jīng)網(wǎng)絡(luò)原型研究 ， 即大腦神經(jīng)網(wǎng)絡(luò)的生理結(jié)構(gòu) 、 思維機(jī)制 。 神經(jīng)元的生物特性如時空特性 、 不應(yīng)期 、 電化學(xué)性質(zhì)等的人工模擬 易于實現(xiàn)的神經(jīng)網(wǎng)絡(luò)計算模型 。 利用物理學(xué)的方法進(jìn)行單元間相互作用理論的研究 如：聯(lián)想記憶模型 。 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法與學(xué)習(xí)系統(tǒng)。 (2)神經(jīng)網(wǎng)絡(luò)基本理論研究 。 神經(jīng)網(wǎng)絡(luò)的非線性特性 ， 包括自組織 、 自適應(yīng)等作用 。 神經(jīng)網(wǎng)絡(luò)的基本性能 ， 包括穩(wěn)定性 、 收斂性 、 容錯性 、 魯棒性 、 動力學(xué)復(fù)雜性 。 神經(jīng)網(wǎng)絡(luò)的計算能力與信息存貯容量 。 開展認(rèn)知科學(xué)的研究 。 探索包括感知 、 思考 、記憶和語言等的腦信息處理模型 。 采用諸如連接機(jī)制等方法 ， 將認(rèn)知信息處理過程模型化 ，并通過建立神經(jīng)計算學(xué)來代替算法淪 。 (3)神經(jīng)網(wǎng)絡(luò)智能信息處理系統(tǒng)的應(yīng)用 。 認(rèn)知與人工智能 ． 包括模式識別 、 計算機(jī)視覺與聽覺 、 特征提取 、 語音識別語言翻譯 、 聯(lián)想記憶 、 邏輯推理 、 知識工程 、 專家系統(tǒng) 、 故障診斷 、 智能機(jī)器人等 。 優(yōu)化與控制 ， 包括優(yōu)化求解 、 決策與管理 、 系統(tǒng)辨識 、 魯棒性控制 、 自適應(yīng)控制 、 并行控制 、分布控制 、 智能控制等 。 信號處理；自適應(yīng)信號處理 (自適應(yīng)濾波 、 時間序列預(yù)測 、 譜估計 、 消噪 、 檢測 、 陣列處理 )和非線性信號處理 (非線性濾波 、 非線性預(yù)測 、 非線性譜估計 、 非線性編碼 、 中值處理 )。 傳感器信息處理：模式預(yù)處理變換、信息集成、多傳感器數(shù)據(jù)融合。 (4)神經(jīng)網(wǎng)絡(luò)的軟件模擬和硬件實現(xiàn) 。 在通用計算機(jī) 、 專用計算機(jī)或者并行計算機(jī)上進(jìn)行軟件模擬 ， 或由專用數(shù)字信號處理芯片 構(gòu)成神經(jīng)網(wǎng)絡(luò)仿真器 。 由模擬集成電路 、 數(shù)字集成電路或者光器件在硬件上實現(xiàn)神經(jīng)芯片 。 軟件模擬的優(yōu)點是網(wǎng)絡(luò)的規(guī)?？梢暂^大 ， 適合于用來驗證新的模型和復(fù)雜的網(wǎng)絡(luò)特性 。 硬件實現(xiàn)的優(yōu)點是處理速度快 ， 但由于受器件物理因素的限制 ， 根據(jù)目前的工藝條件 ， 網(wǎng)絡(luò)規(guī)模不可能做得太大 。 僅幾千個神經(jīng)元 。 但代表了未來的發(fā)展方向 ， 因此特別受到人們的重視 。 (5)神經(jīng)網(wǎng)絡(luò)計算機(jī)的實現(xiàn) 。 計算機(jī)仿真系統(tǒng) 。 專用神經(jīng)網(wǎng)絡(luò)并行計算機(jī)系統(tǒng) 。 數(shù)字 、 模擬 、 數(shù) —模混合 、 光電互連等 。 光學(xué)實現(xiàn) 。 生物實現(xiàn) 。 關(guān)于智能本質(zhì)的研究是自然科學(xué)和哲學(xué)的重大課題之一 ， 對于智能的模擬和機(jī)器再現(xiàn)肯定可以開發(fā)拓展出一代新興產(chǎn)業(yè) 。 由于智能本質(zhì)的復(fù)雜性 ， 現(xiàn)代智能研究已超越傳統(tǒng)的學(xué)科界限 ，成為腦生理學(xué) 、 神經(jīng)科學(xué) 、 心理學(xué) 、 認(rèn)知科學(xué) 、信息科學(xué) 、 計算機(jī)科學(xué) 、 微電子學(xué) ， 乃至數(shù)理科學(xué)共同關(guān)心的 “ 焦點 ” 學(xué)科 。 人工神經(jīng)網(wǎng)絡(luò)的重大研究進(jìn)展有可能使包括信息科學(xué)在內(nèi)的其他學(xué)科產(chǎn)生重大突破和變革 。 展望人工神經(jīng)網(wǎng)絡(luò)的成功應(yīng)用 ， 人類智能有可能產(chǎn)生一次新的飛躍 。 人工神經(jīng)網(wǎng)絡(luò)的信息處理能力 人工神經(jīng)網(wǎng)絡(luò)的信息處理能力 人工神經(jīng)網(wǎng)絡(luò)的信息處理能力包括兩方面的內(nèi)容： 一 、 神經(jīng)網(wǎng)絡(luò)信息存貯能力 ． 即要解決這樣的一個問題：在一個有 N個神經(jīng)元的神經(jīng)網(wǎng)絡(luò)中 ，可存貯多少值的信息 ? 二 、 神經(jīng)網(wǎng)絡(luò)的計算能力 。 需要解決的問題是：神經(jīng)網(wǎng)絡(luò)能夠有效地計算哪些問題 ?在眾多的文獻(xiàn)中 ， 人們都一致認(rèn)為：存貯能力和計算能力是現(xiàn)代計算機(jī)科學(xué)中的兩個基本問題 ， 同樣 ，它們也構(gòu)成了人工神經(jīng)網(wǎng)絡(luò)研究中的基本問題 。 前面提到在傳統(tǒng)的馮 ． 諾依曼型計算機(jī)中 ， 其計算與存貯是完全獨立的兩個部分 。 這兩個獨立部分 ——存貯器與運算器之間的通道 ， 就成為提高計算機(jī)計算能力的瓶頸 ， 并且只要這兩個部分是獨立存在的 ， 這個問題就始終存在 。 對不同的計算機(jī)而言 ， 只是這一問題的嚴(yán)重程度不同而已 。 神經(jīng)網(wǎng)絡(luò)模型從本質(zhì)上解決了傳統(tǒng)計算機(jī)的這個問題 。 它將信息的存貯與信息的處理完善地結(jié)合在一起 。 這是因為神經(jīng)網(wǎng)絡(luò)的運行是從輸入到輸出的值傳遞過程 ， 在信息傳遞的同時也就完成了信息的存貯與計算 。 (1)神經(jīng)網(wǎng)絡(luò)的存貯能力 。 神經(jīng)網(wǎng)絡(luò)的存貯能力因不同的網(wǎng)絡(luò)而不相同 。 這里我們給出 Hopfield的一些結(jié)論 。 定義：一個存貯器的信息表達(dá)能力定義為其可分辨的信息類型的對數(shù)值 。 在一個 M 1的隨機(jī)存貯器 RAM中 ， 有 M位地址 ，一位數(shù)據(jù) ， 它可存貯 2M位信息 這個 RAM中 ， 可以讀／寫長度為 2M的信息串 ， 而 M 長度為 2M的信息串有 2 2 種 ， 所以 ， 可以分辨上述這么多種信息串 。 按上面的定義 ， M 1的 RAM的存貯能力為： C＝ 2M(位 )。 [定理 ] N個神經(jīng)元的神經(jīng)網(wǎng)絡(luò)的信息表達(dá)