【正文】 第 2章 神經(jīng)網(wǎng)絡(luò)基礎(chǔ)知識 本章將闡述，作為“智能”物質(zhì)基礎(chǔ)的大腦是如何構(gòu)成和如何工作的？在構(gòu)造新型智能信息處理系統(tǒng)時，可以從中得到什么啟示 ? 167。 人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ) 167。 人工神經(jīng)元模型 167。 人工神經(jīng)網(wǎng)絡(luò)模型 167。 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí) 本章小結(jié) 人工神經(jīng)網(wǎng)絡(luò)的生物學(xué)基礎(chǔ) 神經(jīng)生理學(xué)和神經(jīng)解剖學(xué)的研究結(jié)果表明， 神經(jīng)元 (Neuron)是腦組織的基本單元，是神經(jīng)系統(tǒng)結(jié)構(gòu)與功能的單位。 據(jù)估計，人類大腦大約包含有 1011個神經(jīng)元，每個神經(jīng)元與大約 103~105個其他神經(jīng)元相連接，構(gòu)成了一個龐大而復(fù)雜的網(wǎng)絡(luò)，即 生物神經(jīng)網(wǎng)絡(luò) 。 生物神經(jīng)網(wǎng)絡(luò)中各神經(jīng)元之間連接的強(qiáng)弱，按照外部的激勵信號作自適應(yīng)變化．而每個神經(jīng)元又隨著所接受的多個激勵信號的綜合結(jié)果呈現(xiàn)出興奮與抑制狀態(tài)。 大腦的學(xué)習(xí)過程就是神經(jīng)元之間連接強(qiáng)度隨外部激勵信息作自適應(yīng)變化的過程，大腦處理信息的結(jié)果是由各神經(jīng)元狀態(tài)的整體效果來確定。顯然，神經(jīng)元是人腦信息處理系統(tǒng)的最小單元。 生物神經(jīng)元的結(jié)構(gòu) 人腦中神經(jīng)元的形態(tài)不盡相同，功能也有差異，但從組成結(jié)構(gòu)來看，各種神經(jīng)元是有共性的。 圖 典型神經(jīng)元的基本結(jié)構(gòu)和與其他神經(jīng)元發(fā)生連接的簡化示意圖。 神經(jīng)元在結(jié)構(gòu)上由 細(xì)胞體、樹突、軸突和突觸 四部分組成。 生物神經(jīng)元的結(jié)構(gòu) (續(xù)一 ) (1)細(xì)胞體 (Cell body) 細(xì)胞體是神經(jīng)元的主體，由 細(xì)胞核、細(xì)胞質(zhì)和細(xì)胞膜 三部分構(gòu)成。 細(xì)胞核占據(jù)細(xì)胞體的很大一部分，進(jìn)行著呼吸和新陳代謝等許多生化過程。 細(xì)胞體的外部是細(xì)胞膜，將膜內(nèi)外細(xì)胞液分開。由于細(xì)胞膜對細(xì)胞液中的不同離子具有不同的通透性，使得膜內(nèi)外存在著離子濃度差，從而出現(xiàn)內(nèi)負(fù)外正的靜息電位。 生物神經(jīng)元的結(jié)構(gòu) (續(xù)二 ) (2)樹突 (Dendrite) 從細(xì)胞體向外延伸出許多突起的神經(jīng)纖維 , 其中大部分突起較短，其分支多群集在細(xì)胞體附近形成灌木叢狀，這些突起稱為樹突。 神經(jīng)元靠樹突接受來自其他神經(jīng)元的輸入信號，相當(dāng)于細(xì)胞體的輸入端。 生物神經(jīng)元的結(jié)構(gòu) (續(xù)三 ) (3)軸突 (Axon) 由細(xì)胞體伸出的最長的一條突起稱為軸突，軸突比樹突長而細(xì)，用來傳出細(xì)胞體產(chǎn)生的輸出電化學(xué)信號。 軸突也稱神經(jīng)纖維 , 其分支傾在神經(jīng)纖維終端處長出 , 這些細(xì)的分支稱為軸突末梢或神經(jīng)末梢。 神經(jīng)末梢可以向四面八方傳出信號 , 相當(dāng)于細(xì)胞體的輸出。 生物神經(jīng)元的結(jié)構(gòu) (續(xù)四 ) (4)突觸 (Synapse) 神經(jīng)元之間通過一個神經(jīng)元的軸突末梢和其他神經(jīng)元的細(xì)胞體或樹突進(jìn)行通信連接， 這種連接 相當(dāng)于神經(jīng)元之間的輸入輸出接口， 稱為突觸 。 突觸包括突觸前、突觸間隙和突觸后三個部分 。 突觸前 是第一個神經(jīng)元的軸突末梢部分 , 突觸后 是指第二個神經(jīng)元的樹突或細(xì)胞體等受體表面。 突觸在軸突末梢與其他神經(jīng)元的受體表面相接觸的地方有15~50nm(納米 109m)的間隙 , 稱為突觸間隙 ，在電學(xué)上把兩者斷開 , 見圖 。每個神經(jīng)元大約有103~105個突觸 , 多個神經(jīng)元以突觸連接即形成神經(jīng)網(wǎng)絡(luò)。 生物神經(jīng)元的結(jié)構(gòu) (續(xù)五 ) 生物神經(jīng)元的結(jié)構(gòu) (續(xù)六 ) 突觸 生物神經(jīng)元的信息處理機(jī)理 在生物神經(jīng)元中，突觸為輸入輸出接口，樹突和細(xì)胞體為輸入端，接受來自突觸點(diǎn)的輸入信號； 細(xì)胞體相當(dāng)于一個微型處理器，對各樹突和細(xì)胞體各部位收到的來自其他神經(jīng)元的輸入信號進(jìn)行組合，并在一定條件下觸發(fā)，產(chǎn)生輸出信號； 輸出信號沿軸突傳至末梢，軸突末梢作為輸出端通過突觸將這一輸出信號傳向其他神經(jīng)元的樹突和細(xì)胞體。 下面對生物神經(jīng)元之間接受、產(chǎn)生、傳遞和處理信息的機(jī)理進(jìn)行分析。 信息的產(chǎn)生 (1/3) 研究認(rèn)為，神經(jīng)元之間信息的產(chǎn)生、傳遞和處理是 一種電化學(xué) 活動。 由于細(xì)胞膜本身對不同離子具有不同的通透性，從而造成膜內(nèi)外細(xì)胞液中的離子存在濃度差。 神經(jīng)元在無信號輸入時，其細(xì)胞膜內(nèi)外因離子濃度差而造成的電位差為 70mV(毫伏，內(nèi)負(fù)外正 )左右，稱為靜息電位，此時細(xì)胞膜的狀態(tài)稱為極化狀態(tài)(Polarization)，神經(jīng)元的狀態(tài)為 靜息狀態(tài) 。 當(dāng)神經(jīng)元受到外界的刺激時，如果膜電位從靜息電位向正偏移，稱之為去極化 (Depolarization)，此時神經(jīng)元的狀態(tài)為 興奮狀態(tài) ；如果膜電位從靜息電位向負(fù)偏移，稱之為超級化 (Hyper polarization)，此時神經(jīng)元的狀態(tài)為 抑制狀態(tài) 。 信息的產(chǎn)生 (2/3) 神經(jīng)元細(xì)胞膜的去極化和超極化程度反映了神經(jīng)元興奮和抑制的強(qiáng)烈程度。 在某一給定時刻，神經(jīng)元總是處于 靜息 、 興奮 和抑制 三種狀態(tài)之一。 神經(jīng)元中 信息的產(chǎn)生 與 興奮程度相關(guān) ，在外界刺激下，當(dāng)神經(jīng)元的興奮程度超過了某個限度，也就是細(xì)胞膜去極化程度超過了某個電位時，神經(jīng)元被激發(fā)而輸出 神經(jīng)脈沖 。 神經(jīng)脈沖產(chǎn)生的經(jīng)過如下：以靜息膜電位為基準(zhǔn)(70mV), 當(dāng)膜電位高出 15mV, 即超過 閥值電位 (55mV)時 , 該神經(jīng)細(xì)胞變成活性細(xì)胞 ,其膜電位自發(fā)地急速升高 , 在 1ms內(nèi)比靜息膜電位上升 100mV (+30mV)左右 , 此后膜電位又急速下降 , 回到靜息時的值。 信息的產(chǎn)生 (3/3) 這一過程稱作細(xì)胞的興奮過程 , 興奮的結(jié)果產(chǎn)生一個寬度為1ms，振幅為 100mV的電脈沖 , 又稱神經(jīng)沖動 , 如圖 。 值得注意的是 , 當(dāng)細(xì)胞體產(chǎn)生一個電脈沖后 , 即使受到很強(qiáng)的刺激 , 也不會立刻產(chǎn)生興奮。這是因?yàn)樯窠?jīng)元發(fā)放電脈沖時，暫時性閥值急速升高，持續(xù) 1ms后慢慢下降到 55mV這一正常狀態(tài)，這段時間約為數(shù)毫秒，稱為不應(yīng)期。 不應(yīng)期結(jié)束后，若細(xì)胞受到很強(qiáng)的刺激，則再次產(chǎn)生興奮性電脈沖。由此可見，神經(jīng)元產(chǎn)生的信息是具有電脈沖形式的神經(jīng)沖動。各脈沖的寬度和幅度相同，而脈沖的間隔是隨機(jī)變化的。某神經(jīng)元的輸入脈沖密度越大，其興奮程度越高，在單位時間內(nèi)產(chǎn)生的脈沖串的平均頻率也越高。 信息的傳遞與接收 (1/3) 神經(jīng)脈沖信號沿軸突傳向其末端的各個分支，在軸突的末端觸及 突觸前 時， 突觸前 的突觸小泡能釋放一種化學(xué)物質(zhì)，稱為 遞質(zhì) 。 在前一個神經(jīng)元發(fā)放脈沖并傳到其軸突末端后，這種遞質(zhì)從 突觸前 膜釋放出，經(jīng)突觸間隙的液體擴(kuò)散，在突觸后膜與特殊受體相結(jié)合。 受體的性質(zhì)決定了遞質(zhì)的作用是興奮的還是抑制的，并據(jù)此改變后膜的離子通透性，從而使突觸后膜電位發(fā)生變化。 根據(jù)突觸后膜電位的變化，可將突觸分為兩種：興奮性突觸 和 抑制性突觸 。興奮性突觸的后膜電位隨遞質(zhì)與受體結(jié)合數(shù)量的增加而向正電位方向增大，抑制性突觸的后膜電位隨遞質(zhì)與受體結(jié)合數(shù)量的增加向更負(fù)電位方向變化。 信息的傳遞與接收 (2/3) 從化學(xué)角度看：當(dāng)興奮性化學(xué)遞質(zhì)傳送到突觸后膜時，后膜對離子通透性的改變使流入細(xì)胞膜內(nèi)的正離子增加，從而使突觸后成分去極化，產(chǎn)生興奮性突觸后電位；當(dāng)抑制性化學(xué)遞質(zhì)傳送到突觸后膜時，后膜對離子通透性的改變使流出細(xì)胞膜外的正離子增加，從而使突觸后成分超極化，產(chǎn)生抑制性突觸后電位。 當(dāng) 突觸前 膜釋放的 興奮性遞質(zhì) 使突觸后膜的去極化電位超過了某個閥電位時，后一個神經(jīng)元就有神經(jīng)脈沖輸出．從而把前一神經(jīng)元的信息傳遞給了后一神經(jīng)元（圖 ）。 信息的傳遞與接收 (3/3) 神經(jīng)遞質(zhì)產(chǎn)生 神經(jīng)電脈沖 神經(jīng)遞質(zhì)釋放 遞質(zhì)與受體結(jié)合 電生理反映 突觸間隙 突觸前 突觸后 圖 24 突觸信息傳遞過程 前一個神經(jīng)元 后一個神經(jīng)元 信息的傳遞與接收 從脈沖信號到達(dá) 突觸前膜 ，到 突觸后膜 電位發(fā)生變化 , 有 ~1ms的時間延遲 , 稱為突觸延遲 (synaptic delay)，這段延遲是化學(xué)遞質(zhì)分泌、向突觸間隙擴(kuò)散、到達(dá)突觸后膜并在那里發(fā)生作用的時間總和。由此可見，突觸對神經(jīng)沖動的傳遞具有延時作用。 在人腦中，神經(jīng)元間的突觸聯(lián)系大部分是在出生后由于給予刺激而成長起來的。外界刺激性質(zhì)不同，能夠改變神經(jīng)元之間的突觸聯(lián)系，即突觸后膜電位變化的方向與大小。從突觸信息傳送的角度看，表現(xiàn)為放大倍數(shù)和極性的變化。 正是由于各神經(jīng)元之間的突觸連接強(qiáng)度和極性有所不同并可進(jìn)行調(diào)整，因此人腦才具有學(xué)習(xí)和存儲信息的功能。 信息的整合 (1/2) 神經(jīng)元對信息的接受和傳送都是通過突觸來進(jìn)行的。單個神經(jīng)元可以與多達(dá)上千個其他神經(jīng)元的軸突末梢形成突觸連接，接受從各個軸突傳來的脈沖輸入。 這些輸入可到達(dá)神經(jīng)元的不同部位，輸入部位不同，對神經(jīng)元影響的權(quán)重也不同。在同一時刻產(chǎn)生的刺激所引起的膜電位變化，大致等于各單獨(dú)刺激引起的膜電位變化的 代數(shù)和 。這種累加求和稱為 空間整合 。 另外，各輸入脈沖抵達(dá)神經(jīng)元的先后時間也不一樣。由一個脈沖引起的突觸后膜電位很小，但在其持續(xù)時間內(nèi)有另一脈沖相繼到達(dá)時，總的突觸后膜電位增大。這種現(xiàn)象稱為 時間整合 。 信息的整合 (2/2) 一個神經(jīng)元的輸入信息在時間和空間上常呈現(xiàn)一種復(fù)雜多變的形式，神經(jīng)元需要對它們進(jìn)行積累和整合加工，從而決定其輸出的時機(jī)和強(qiáng)弱。 正是神經(jīng)元的這種時空整合作用，才使得億萬個神經(jīng)元在神經(jīng)系統(tǒng)中可以有條不紊、夜以繼日地處理著各種復(fù)雜的信息，執(zhí)行著生物中樞神經(jīng)系統(tǒng)的各種信息處理功能。 生物神經(jīng)網(wǎng)絡(luò) (1/2) 由多個生物神經(jīng)元以確定方式和拓?fù)浣Y(jié)構(gòu)相互連接即形成生物神經(jīng)網(wǎng)絡(luò)，它是一種更為靈巧、復(fù)雜的生物信息處理系統(tǒng)。 研究表明，每一個生物神經(jīng)網(wǎng)絡(luò)系統(tǒng)均是一個有層次的、多單元的動態(tài)信息處理系統(tǒng)，它們有其獨(dú)特的運(yùn)行方式和控制機(jī)制，以接受生物內(nèi)外環(huán)境的輸入信息，加以綜合分析處理，然后調(diào)節(jié)控制機(jī)體對環(huán)境做出適當(dāng)反應(yīng)。 生物神經(jīng)網(wǎng)絡(luò)的功能 不是單個神經(jīng)元信息處理功能的簡單疊加。每個神經(jīng)元都有許多突觸與其他神經(jīng)元連接，任何一個單獨(dú)的突觸連接都不能完全表現(xiàn)一項(xiàng)信息。只有當(dāng)它們集合成總體時，才能對刺激的特殊性質(zhì)給出明確的答復(fù)。 由于神經(jīng)元之間突觸連接方式和連接強(qiáng)度的不同并且具有可塑性，神經(jīng)網(wǎng)絡(luò)在宏觀上呈現(xiàn)出千變?nèi)f化的復(fù)雜的信息處理能力。 生物神經(jīng)網(wǎng)絡(luò) (2/2) CEREBRAL CORTEX大腦皮層 神經(jīng)細(xì)胞的定義 神經(jīng)細(xì)胞 是高等動物神經(jīng)系統(tǒng)的結(jié)構(gòu)單位和功能單位，又被稱為 神經(jīng)元（ neuron） 。神經(jīng)系統(tǒng)中含有大量的神經(jīng)元，據(jù)估計，人類中樞神經(jīng)系統(tǒng)中約含1000億 個神經(jīng)元，僅大腦皮層中就約有140億 。 神經(jīng)細(xì)胞描述：神經(jīng)細(xì)胞呈三角形或多角形，可以分為 樹突、軸突和胞體 這三個區(qū)域。 附件 附件 神經(jīng)細(xì)胞的功能 神經(jīng)元的基本功能是通過 接受、整合、傳導(dǎo)和輸出 信息 實(shí)現(xiàn) 信息交換 。 腦是由神經(jīng)元構(gòu)成的， 神經(jīng)元群 通過各個神經(jīng)元的信息交換，實(shí)現(xiàn)腦的分析功能，進(jìn)而實(shí)現(xiàn)樣本的交換產(chǎn)出。產(chǎn)出的樣本通過聯(lián)結(jié)路徑點(diǎn)亮 丘覺 產(chǎn)生意識。 附件 丘覺是我們通過遺傳獲得的意思結(jié)構(gòu)，這些意思是丘腦核團(tuán)的神經(jīng)元本身蘊(yùn)含的，并能夠自由合成發(fā)放或被樣本點(diǎn)亮發(fā)放出來。 丘覺平時處于潛伏狀態(tài)，自由合成或被點(diǎn)亮?xí)r意思才能發(fā)放出來，形成意識。 丘覺是不能通過學(xué)習(xí)獲得的，丘覺具有遺傳性和聯(lián)結(jié)性，丘覺的性質(zhì)也就決定了意識的性質(zhì)。 附件 附件 腦細(xì)胞的特征 腦細(xì)胞一旦發(fā)育完成后，再也不會增殖。人的一生就只有出生時那個數(shù)目的腦細(xì)胞可供利用，大約 120億個。骨骼、肝臟、肌肉等其它器官或組織損傷后可因細(xì)胞分裂增殖很快得以恢復(fù)，唯獨(dú)腦細(xì)胞不可再生。目前，科學(xué)界尚沒有更好的辦法能夠改變腦細(xì)胞不可再生這一特性。 腦細(xì)胞處在一種連續(xù)不斷地死亡且永