人工神經(jīng)網(wǎng)絡(luò)理論與應(yīng)用-全文預(yù)覽
【正文】 (a) 沒(méi)有偏差的閾值型激活函數(shù) (b) 帶有偏差的閾值型激活函數(shù) 圖 7. 3 閾值型激活函數(shù) ? ??????????????0001bPWbPWbPWfA () （ 2）線性型 具有此激活函數(shù)的神經(jīng)元的輸入 /輸出關(guān)系為： (a) 沒(méi)有偏差的線性激活函數(shù) (b) 帶有偏差的線性激活函數(shù) 圖 7. 4 線性型激活函數(shù) A = f (W *P + b ) = W * P + b ( ) （ 3） S型 (Sigmoid) 對(duì)數(shù) S型激活函數(shù) 見(jiàn)圖 (a)，其神經(jīng)元的輸入 /輸出關(guān)系為： (a) 帶有偏差的對(duì)數(shù) S型激活函數(shù) (b) 帶有偏差的雙曲正切 S型激活函數(shù) 圖 7. 5 S型激活函數(shù) ? ? ? ?? ?bnnf ???? e xp1 1() （ 3） S型 (Sigmoid) 雙曲正切 S型激活函數(shù) 見(jiàn)圖 (b)，其神經(jīng)元的輸入 /輸出關(guān)系為： (a) 帶有偏差的對(duì)數(shù) S型激活函數(shù) (b) 帶有偏差的雙曲正切 S型激活函數(shù) 圖 7. 5 S型激活函數(shù) () ? ? ? ?? ?? ?? ?bnbnnf???????2e xp12e xp1 一般地，稱一個(gè)神經(jīng)網(wǎng)絡(luò)是線性或非線性是由網(wǎng)絡(luò)神經(jīng)元中所具有的激活函數(shù)的線性或非線性來(lái)決定的。 在網(wǎng)絡(luò)的設(shè)計(jì)中，偏差起著重要的作用，它使得激活函數(shù)的圖形可以左右移動(dòng)，從而增加了解決問(wèn)題的可能性。 7. 2 人工神經(jīng)網(wǎng)絡(luò)的模型 7. 2. 1 人工神經(jīng)元的模型 神經(jīng)元是人工神經(jīng)網(wǎng)絡(luò)的基本處理單元 ，它一般是一個(gè) 多輸入 /單輸出的非線性元件 。 ? (6) 自組織和自學(xué)習(xí)功能 ? 人腦能夠通過(guò)內(nèi)部自組織、自學(xué)習(xí)能力不斷適應(yīng)外界環(huán)境，從而可以有效地處理各種模擬的、模糊的或隨機(jī)的問(wèn)題。例如，我們往往能夠僅由某個(gè)人的一雙眼睛、一個(gè)背影、一個(gè)動(dòng)作或一句話的音調(diào)，就能辨認(rèn)出來(lái)這個(gè)人是誰(shuí)?？梢?jiàn)，在大腦中，不僅知識(shí)的存儲(chǔ)是分散的，而且其控制和決策也是分散的。如何計(jì)算如此復(fù)雜的方程組？）提供了非常巨大的存儲(chǔ)容量和并行度。 ? (1) 記憶和存儲(chǔ)功能 ? 人腦神經(jīng)系統(tǒng)的記憶和處理功能是有機(jī)的結(jié)合在一起的。一般來(lái)說(shuō)，有髓鞘的纖維，其傳導(dǎo)速度在 100m/s以上，無(wú)髓鞘的纖維，其傳導(dǎo)速度可低至每秒數(shù)米。 生物神經(jīng)元的功能與特征 ? (3) 脈沖與電位轉(zhuǎn)換 ? 突觸界面具有脈沖 /電位信號(hào)轉(zhuǎn)化功能。兩種功能相互結(jié)合，使生物神經(jīng)元對(duì)由突觸傳入的神經(jīng)沖動(dòng)具有時(shí)空整合的功能。在無(wú)信號(hào)輸入時(shí)的膜電位稱為靜止膜電位。 神經(jīng)元結(jié)構(gòu)與功能 ? 樹(shù)突 是指由細(xì)胞體向外延伸的除軸突以外的其它所有分支。每個(gè)神經(jīng)元都有一條軸突，其最大長(zhǎng)度可達(dá)1m以上。 人工神經(jīng)網(wǎng)絡(luò)理論與應(yīng)用 第七章 神經(jīng)網(wǎng)絡(luò)基礎(chǔ)知識(shí) 神經(jīng)網(wǎng)絡(luò)基礎(chǔ)知識(shí) 7. 1 生物神經(jīng)元及人工神經(jīng)元的組成 7. 2 人工神經(jīng)網(wǎng)絡(luò)的模型 7 .2 .1 人工神經(jīng)元的模型 7 .2 .2 常用的激活轉(zhuǎn)移函數(shù) 7 .2 .3 MP模型神經(jīng)元 生物神經(jīng)元及人工神經(jīng)元的組成 神經(jīng)元也稱神經(jīng)細(xì)胞 ， 它是生物神經(jīng)系統(tǒng)的最基本單元 ， 它和人體中其他細(xì)胞的關(guān)鍵區(qū)別在于具有產(chǎn)生 、 處理和傳遞信號(hào)的功能 。細(xì)胞體是神經(jīng)元的主體，用于處理由樹(shù)突接受的其它神經(jīng)元傳來(lái)的信號(hào)； ? 軸突是由細(xì)胞體向外延伸出的所有纖維中最長(zhǎng)的一條分枝，用來(lái)向外傳遞神經(jīng)元產(chǎn)生的輸出電信號(hào)。所謂 功能性接觸 ，是指 非永久性的接觸 ，這正是神經(jīng)元之間傳遞信息的奧秘之處。 ? 細(xì)胞膜內(nèi)外的電位之差被稱為 膜電位 。對(duì)于同一時(shí)間通過(guò)不同突觸傳入的神經(jīng)沖動(dòng)，具有空間整合功能。相反，當(dāng)傳入沖動(dòng)的時(shí)空整合結(jié)果使細(xì)胞膜電位低于動(dòng)作電位的閾值時(shí)，細(xì)胞進(jìn)入抑制狀態(tài)，無(wú)神經(jīng)沖動(dòng)輸出。其速度差異與纖維的粗細(xì)、髓鞘的有無(wú)有關(guān)。每個(gè)人的大腦大約有 10111012個(gè)神經(jīng)元，每個(gè)神經(jīng)元大約有 103104個(gè)突觸，即與其它 103104個(gè)神經(jīng)元相連。 ? (2) 高度并行性 （為什么計(jì)算機(jī)無(wú)法模擬更多的神經(jīng)元，如果有 100個(gè)神經(jīng)元，兩兩互連，則會(huì)出現(xiàn) 100＊ 99/2=5000個(gè) N元一次方程。人類大腦的各個(gè)部分是協(xié)同工作、相互影響的，并沒(méi)有哪一部分神經(jīng)元能對(duì)智能活動(dòng)的整個(gè)過(guò)程負(fù)有特別重要的責(zé)任。大腦的容錯(cuò)性是非常強(qiáng)的。例如，一個(gè)人能很快認(rèn)出多年不見(jiàn)、面貌變化較大的老朋友。 目前多數(shù) 人工神經(jīng)網(wǎng)絡(luò)的構(gòu)造 大體上都采用如下的一些 原則 ： ? 由一定數(shù)量的基本神經(jīng)元分層聯(lián)接； ? 每個(gè)神經(jīng)元的輸入 、 輸出信號(hào)以及綜 合處理內(nèi)容都比較簡(jiǎn)單； ? 網(wǎng)絡(luò)的學(xué)習(xí)和知識(shí)存儲(chǔ)體現(xiàn)在各神經(jīng)元之間的聯(lián)接強(qiáng)度上 。實(shí)際上偏差也是一個(gè)權(quán)值，只是它具有固定常數(shù)為 1的輸入。 激活函數(shù)的基本作
外語(yǔ)相關(guān)推薦
鄂ICP備17016276號(hào)-1