【正文】 程以反映人腦某些特性的計算結構。,2.２人工(r233。,生物神經(jīng)系統(tǒng)的六個基本特征： 1）神經(jīng)元及其聯(lián)接； 2）神經(jīng)元之間的聯(lián)接強度決定信號傳遞的強弱； 3）神經(jīng)元之間的聯(lián)接強度是可以(kěyǐ)隨訓練改變的； 4）信號可以是起刺激作用的，也可以是起抑制作用的； 5）一個神經(jīng)元接受的信號的累積效果決定該神經(jīng)元的狀態(tài)； 6) 每個神經(jīng)元可以有一個“閾值”。 不可逆性，脈沖只從突觸前傳到突觸后，不逆向傳遞 神經(jīng)纖維傳導的速度，即脈沖沿神經(jīng)纖維傳遞的速度，在1—150m／s之間 信息傳遞時延和不應期，一般為0.3～lms 可塑性，突觸傳遞信息的強度是可變的，即具有學習功能 存在學習、遺忘或疲勞（飽和(bǎoh233。 空間整合—在同一時刻產(chǎn)生的刺激所引起的膜電位變化，大致等于各單獨刺激引起的膜電位變化的代數(shù)和。,三、信息傳遞功能(gōngn233。)超過閾值，該神經(jīng)元被激活并傳遞出信息給其他神經(jīng)元。抑制性神經(jīng)元雖然接收到其他神經(jīng)元傳遞的信息，但沒有向外傳遞信息，該神經(jīng)元稱“抑制性”的；興奮性當一個神經(jīng)元的樹突接收的興奮信息累計(l232。,二、突觸的信息處理,生物神經(jīng)元傳遞信息的過程為多輸入、單輸出； 神經(jīng)元各組成部分的功能來看，信息的處理與傳遞主要發(fā)生在突觸附近； 當神經(jīng)元細胞體通過軸突傳到突觸前膜的脈沖幅度達到一定強度，即超過其閾值電位后，突觸前膜將向突觸間隙釋放神經(jīng)傳遞的化學物質； 突觸有兩種類型，興奮性突觸和抑制性突觸。這個過程在生命早期最為顯著。,生物學研究表明一些(yīxiē)神經(jīng)結構是與生俱來的，而其他部分則是在學習的過程中形成的。)和突觸的強度(由復雜的化學過程決定)確立了神經(jīng)網(wǎng)絡的功能。)神經(jīng)細胞樹突的結合點稱為突觸,神經(jīng)元的排列(p225。)神經(jīng)元網(wǎng)絡結構,樹突是樹狀的神經(jīng)纖維接收網(wǎng)絡，它將電信號傳送到細胞體 細胞體對這些輸入信號進行整合并進行閾值處理 軸突是單根長纖維，它把細胞體的輸出信號導向其他神經(jīng)元 一個(yī ɡ232。)神經(jīng)元,第二頁，共六十三頁。,神經(jīng)元是大腦處理信息的基本單元 人腦約由101l1012個神經(jīng)元組成，其中，每個神經(jīng)元約與104105個神經(jīng)元通過突觸聯(lián)接，形成極為錯縱復雜而且又靈活多變的神經(jīng)網(wǎng)絡 神經(jīng)元以細胞體為主體，由許多向周圍延伸的不規(guī)則樹枝狀纖維構成的神經(jīng)細胞，其形狀很像一棵枯樹(kū sh249。雖然神經(jīng)元的類型有很多種，但其基本結構相似。據(jù)現(xiàn)在的了解，大腦的學習過程就是神經(jīng)元之間連接強度隨外部激勵信息做自適應變化的過程，大腦處理信息的結果確由神經(jīng)元的狀態(tài)表現(xiàn)出來。nhu224。2 人工神經(jīng)網(wǎng)絡基礎知識,2.1人工神經(jīng)網(wǎng)絡的生物學基礎(jīchǔ),人的智能來自于大腦，大腦是由大量的神經(jīng)細胞或神經(jīng)元組成的。每個神經(jīng)元可以看作為一個小的處理單元，這些神經(jīng)元按照某種方式互相連接起來，構成了大腦內部的生物神經(jīng)元網(wǎng)絡，他們中各神經(jīng)元之間連接的強弱，按照外部的激勵信號作自適應變化(bi224。)，而每個神經(jīng)元又隨著接收到的多個激勵信號的綜合大小呈現(xiàn)興奮或抑制狀態(tài)。顯然，神經(jīng)元是信息處理系統(tǒng)的最小單元。,第一頁，共六十三頁。)的枝干 主要由細胞體、樹突、軸突和突觸(Synapse，又稱神經(jīng)鍵)組成,一、生物(shēngw249。,生物(shēngw249。)神經(jīng)細胞的軸突和另一個(yī ɡ232。ili232。,第三頁，共六十三頁。 在學習的過程中，可能會產(chǎn)生一些新的連接，也可能會使以前的一些連接消失。,第四頁，共六十三頁。前者產(chǎn)生正突觸后電位，后者產(chǎn)生負突觸后電位。i j236。,第五頁，共六十三頁。ng)與特點,具有時空整合能力 時間整合—各輸入脈沖抵達神經(jīng)元的先后時間不同，一個脈沖引起的突觸后電位很小，但隨著時間延續(xù)，另有脈沖到達，總的突觸后電位就增大。這種累加求和稱空間整合。)）效應 對應突觸傳遞作用增強、減弱和飽和,第六頁，共六十三頁。,第七頁，共六十三頁。ngōng)神經(jīng)元模型,人工神經(jīng)網(wǎng)絡是在現(xiàn)代神經(jīng)生物學研究(y225。它不是人腦神經(jīng)系統(tǒng)的真實描寫，而只是它的某種抽象、簡化和模擬。njiū)可知，神經(jīng)元及其突觸是神經(jīng)網(wǎng)絡的基本器件。,在人工神經(jīng)網(wǎng)絡中，神經(jīng)元常被稱為“處理單元”。人工神經(jīng)元是對生物神經(jīng)元的一種(yī zhǒnɡ)形式化描述，它對生物神經(jīng)元的信息處理過程進行抽象，并用數(shù)學語言予以描述；對生物神經(jīng)元的結構和功能進行模擬，并用模型圖予以表達。,目前人們提出的神經(jīng)元模型已有很多，其中最早提出且影響(yǐngxiǎng)最大的，是1943年心理學家McCulloch和數(shù)學家W．Pitts在分析總結神經(jīng)元基本特性的基礎上首先提出的M－P模型。,關于神經(jīng)元的信息處理機制，該模型(m243。ng)在簡化的基礎上提出以下6點約定進行描述：,（1）每個神經(jīng)元都是一個多輸入單輸出的信息處理單元； （2）突觸分興奮性和抑制性兩種類型； （3）神經(jīng)元具有空間整合特性和閾值特性； （4）神經(jīng)元輸入輸出間有固定的時滯，主要取決于突觸延擱； （5）忽略(hūl252。)時間整合作用和不應期； （6）神經(jīng)元本身是非時變的，即其突觸時延和突觸強度均為常數(shù)。,MP模型(m243。ng)：,稱為作用函數(shù)或激發(fā)函數(shù),第十頁，共六十三頁。x237。y242。 h233。,MP模型(m243。ng),f(x)是作用函數(shù)(Activation Function)，也稱激發(fā)(jīfā)函數(shù)。,激發(fā)函數(shù)(h225。)的基本作用 控制輸入對輸出的激活作用 對輸入、輸出進行函數(shù)轉換 將可能無限域的輸入變換成指定的有限范圍內的輸出,可知當神經(jīng)元i的輸入信號(x236。o)加權和超過閾值時，輸出為“1”，即“興奮”狀態(tài)；反之輸出為“0”，是“抑制”狀態(tài)。x237。,例、實現(xiàn)邏輯函數(shù)(h225。)“與門”（AND gate）運算。,第十五頁，共六十三頁。ngōng)神經(jīng)元的數(shù)學模型描述：,第j個神經(jīng)元，接受多個其它神經(jīng)元i在t時刻(sh237。)的輸入xi(t)，引起神經(jīng)元j的信息輸出為yj(t):,式中 wij—神經(jīng)元i到j的突觸連接系數(shù)(x236。)，即加權值； θj—神經(jīng)元j的閾值； τij—輸入、輸出間的突觸時延； f()—神經(jīng)元轉移（激活）函數(shù).,為簡單起見，將上式中的突觸時延取為單位時間，則,式中 netj—j單元激活值；netj=,第十六頁，共六十三頁。n su224。凈輸入整合表達應有多種方式，人們探索到的人腦空間整合方式近似為線性求和。nɡ y242。ngli224。,至此(zh236。ng)： （１）單輸入多輸出（顯見）； （２）用突觸的正負體現(xiàn)突觸的“興奮與抑制‘； （３）凈輸入關系net’和閾值θ，表現(xiàn)了空間整合特性和閾值特性； （４）y(t+1)與x(t)之間的單位時差表現(xiàn)了”突觸延擱“； （５）沒有考慮時間整合和不應期； （６）權系數(shù)與時間無關，體現(xiàn)了神經(jīng)元的”非時變“。,2.3人工神經(jīng)元轉移(zhu