人工神經(jīng)網(wǎng)絡(luò)建模（artificialneuronnets）(2)-文庫吧
2024-12-20 04:52 本頁面
【正文】 已有的輸入輸出數(shù)據(jù)確定出權(quán)系數(shù)及閾值。 神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型 ? 眾多神經(jīng)元之間組合形成神經(jīng)網(wǎng)絡(luò)，例如下圖的含有中間層（隱層）的 BP網(wǎng)絡(luò) ? 圖 5 帶中間層的 BP網(wǎng)絡(luò) 量變引起質(zhì)變 神經(jīng)網(wǎng)絡(luò)的作用 ? （ 1）螞蟻群 ? 一個(gè)螞蟻有 50個(gè)神經(jīng)元 ， 單獨(dú)的一個(gè)螞蟻不能做太多的事；甚至于不能很好活下去 ． 但是一窩螞蟻；設(shè)有 10萬個(gè)體 ， 那么這個(gè)群體相當(dāng)于 500萬個(gè)神經(jīng)元（ 當(dāng)然不是簡(jiǎn)單相加 ， 這里只為說明方便而言 ） ；那么它們可以覓食 、 搬家 、 圍攻敵人等等 ． （ 2）網(wǎng)絡(luò)說話 ? 人們把一本教科書用網(wǎng)絡(luò)把它讀出來 （ 當(dāng)然需要通過光電 ， 電聲的信號(hào)轉(zhuǎn)換 ） ；開始網(wǎng)絡(luò)說的話像嬰兒學(xué)語那樣發(fā)出 “ 巴 、 巴 、 巴 ” 的聲響；但經(jīng)過 B－ P算法長(zhǎng)時(shí)間的訓(xùn)練竟能正確讀出英語課本中 90％ 的詞匯 ． ? 從此用神經(jīng)網(wǎng)絡(luò)來識(shí)別語言和圖象形成一個(gè)新的熱潮 ． 人工神經(jīng)網(wǎng)絡(luò)的基本特點(diǎn) ? （ 1）可處理非線性 ? （ 2）并行結(jié)構(gòu)．對(duì)神經(jīng)網(wǎng)絡(luò)中的每一個(gè)神經(jīng)元來說；其運(yùn)算都是同樣的．這樣的結(jié)構(gòu)最便于計(jì)算機(jī)并行處理． ? （ 3） 具有學(xué)習(xí)和記憶能力 ． 一個(gè)神經(jīng)網(wǎng)絡(luò)可以通過訓(xùn)練學(xué)習(xí)判別事物；學(xué)習(xí)某一種規(guī)律或規(guī)則 ． 神經(jīng)網(wǎng)絡(luò)可以用于聯(lián)想記憶 ． ? （ 4） 對(duì)數(shù)據(jù)的可容性大 ． 在神經(jīng)網(wǎng)絡(luò)中可以同時(shí)使用量化數(shù)據(jù)和質(zhì)量數(shù)據(jù) （ 如好 、 中 、 差 、 及格 、 不及格等 ） ． ? （ 5） 神經(jīng)網(wǎng)絡(luò)可以用大規(guī)模集成電路來實(shí)現(xiàn) ． 如美國用 256個(gè)神經(jīng)元組成的神經(jīng)網(wǎng)絡(luò)組成硬件用于識(shí)別手寫體的郵政編碼 ． 四、反向傳播算法（ BP算法） ? Back propagation algorithm ? 算法的目的：根據(jù)實(shí)際的輸入與輸出數(shù)據(jù) ，計(jì)算模型的參數(shù) （ 權(quán)系數(shù) ） ? 1． 簡(jiǎn)單網(wǎng)絡(luò)的 BP算法 ? 圖 6 簡(jiǎn)單網(wǎng)絡(luò) ? 假設(shè)有 P個(gè)訓(xùn)練樣本 ， 即有 P個(gè) 輸入輸出對(duì) ? （ Ip, Tp） ,p=1,… ,P, ? ? 其中輸入向量為 , ? 目標(biāo)輸出向量為 （ 實(shí)際上的 ） Tpmpp iiI ), .. . ,( 1?Tpnpp ttT ), .. . ,( 1?? 網(wǎng)絡(luò)輸出向量為 （理論上的） Tpnpp ooO ), .. .,( 1?? 記 wij為從輸入向量的第 j (j=1,… ,m) 個(gè)分量到輸出向量的第 i (i=1,… ,n)個(gè)分量的權(quán)重 。 通常理論值與實(shí)際值有一誤差 ， 網(wǎng)絡(luò)學(xué)習(xí)則是指不斷地把與比較 ， 并根據(jù)極小原則修改參數(shù) wij， 使誤差平方和達(dá)最小： ???nipipi ot12)(min? （ p=1,…,P ） ? （ 2） ? 記 ? Delta學(xué)習(xí)規(guī)則 : ijijij ???????????PppjpipjPppipiij iiotw11)( ????pi? pipi ot ?（ 4） （ 3） ijw?表示遞推一次的修改量，則有 稱為 學(xué)習(xí)的速率 ?? ipm= 1 , wim= (第 i個(gè)神經(jīng)元的閾值 ) （ 5） ? 注：由 （ 1） ‘ 式 ， 第 i個(gè)神經(jīng)元的輸出可表示為 ???mjpjijpi iwfo1)(? 特別當(dāng) f是線性函數(shù)時(shí) biwaomjpjijpi ?? ?? 1)(（ 6） ? 圖 7 多層前饋網(wǎng)絡(luò) ? 2． 多層前饋網(wǎng)絡(luò) 假設(shè) ： ? （ l） 輸入層不計(jì)在層數(shù)之內(nèi) ， 它有 N0個(gè)神經(jīng)元 ． 設(shè)網(wǎng)絡(luò)共有 L層；輸出層為第 L層；第 k層有 Nk個(gè)神經(jīng)元 ． ? (2) 設(shè) )(iu k表示第 k層第 i神經(jīng)元所接收的信息 wk(i,j) 表示從第 k1層第 j個(gè)元到第 k層第 i個(gè)元的權(quán)重， )(iak表第 k層第 i個(gè)元的輸出 ? （ 3） 設(shè)層與層間的神經(jīng)元都有信息交換 （ 否則 ，可設(shè)它們之間的權(quán)重為零 ） ；但同一層的神經(jīng)元之間無信息傳輸 ． ? (4) 設(shè)信息傳輸?shù)姆较蚴菑妮斎雽拥捷敵鰧臃较?；因此稱為前向網(wǎng)絡(luò) ． 沒有反向傳播信息 ． ? （ 5） 表示輸入的第 j個(gè)分量 ． )(0 ja? 在上述假定下網(wǎng)絡(luò)的輸入輸出關(guān)系可以表示為： ???????????????????????????????????????,1)),(()(),()(),()(. . . . . . . . .. . . . . . . . . .. . . . . . . . . .. . . . .
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1