[其它]ch3神經(jīng)網(wǎng)絡(luò)(編輯修改稿)
2025-02-10 09:19 本頁(yè)面
【文章內(nèi)容簡(jiǎn)介】 總輸出 ， 層內(nèi)無(wú)互連 ，從輸出至輸入無(wú)反饋 ， 是一種典型的前向網(wǎng)絡(luò) ，如圖所示 。 ? 在單層感知器中，當(dāng)輸入的加權(quán)和大于等于閾值時(shí)，輸出為 1，否則為 0或 1。它與 MP模型的不同之處是假定神經(jīng)元間的連接強(qiáng)度 (即連接權(quán)值 wij ）是可變的，這樣它就可以進(jìn)行學(xué)習(xí)。 ? 單層感知器的學(xué)習(xí)及其算法： – 學(xué)習(xí)的目的是調(diào)整連接權(quán)值，以使網(wǎng)絡(luò)對(duì)任何輸入都能得到所期望的輸出 。 – 考慮僅有一個(gè)輸出節(jié)點(diǎn)的情況 ， 其中 ， xi是該輸出節(jié)點(diǎn)的輸入； wi 是相應(yīng)的連接權(quán)值(i=1， 2． … ， n)； y(t)是時(shí)刻 t的輸出； d是所期望的輸出 ， 它或者為 1， 或者為 1。 學(xué)習(xí)算法如下： (1) 給 wi(0)(i=1， 2， … ， n)及閾值 θ分別賦予一個(gè)較小的非零隨機(jī)數(shù)作為初值；這里 wi (0)表示在時(shí)刻 t=0時(shí)第 i個(gè)輸入的連接權(quán)值。 (2) 輸入一個(gè)樣例 X={x1， x2， … ， xn}和一個(gè)所期望的輸出 d。 (3) 計(jì)算網(wǎng)絡(luò)的實(shí)際輸出： （ 4）調(diào)整連接權(quán)值： 此處 0η≤1， 它是一個(gè)增益因子 ， 用于控制調(diào)整速度 。 如果實(shí)際輸出與已知的輸出一致 ， 表示網(wǎng)絡(luò)已經(jīng)作出了正確的決策 ，此時(shí)就無(wú)需改又 wi(t)的值 。 (5)轉(zhuǎn)到第 (2)步，直到連接權(quán)值 w，對(duì)一切樣例均穩(wěn)定不變時(shí)為止。 多層感知器 只要在輸入層與輸出層之間增加一層或多層隱層 ， 就可得到多層感知器 。 三層感知器 二、 BP模型 BP(BackPropagation)模型概念 ? BP模型是一種用于前向多層神經(jīng)網(wǎng)絡(luò)的反傳學(xué)習(xí)算法，由魯梅爾哈特()和麥克萊倫德 (McClelland)于1985年提出。 ? BP算法用于多層網(wǎng)絡(luò)，網(wǎng)絡(luò)中不僅有輸入層節(jié)點(diǎn)及輸出層節(jié)點(diǎn)，而且還有一層至多層隱層節(jié)點(diǎn)， 如圖： ? BP 網(wǎng)絡(luò) ?信息首先由輸入層傳至隱層節(jié)點(diǎn)，經(jīng)特性函數(shù)作用后，再傳至下一隱層，直到最終傳至輸出層進(jìn)行輸出。 ?特性函數(shù)通常選用 S型函數(shù)，例如： BP算法的學(xué)習(xí)過(guò)程 ? 學(xué)習(xí)的目的是對(duì)網(wǎng)絡(luò)的連接權(quán)值進(jìn)行調(diào)整，使得對(duì)任一輸入都能得到所期望的輸出。 ? 學(xué)習(xí)的方法： – 用一組訓(xùn)練樣例對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，每一個(gè)樣例都包括輸入及期望的輸出兩部分。 – 首先把樣例的輸入信息輸入到網(wǎng)絡(luò)中，由網(wǎng)絡(luò)自第一個(gè)隱屋開始逐層地進(jìn)行計(jì)算，并向下一層傳遞，直至傳至輸出層； –以其輸出與樣例的期望輸出進(jìn)行比較 ，如果它們的誤差不能滿足要求 ， 則沿著原來(lái)的連接通路逐層返回 ， 并利用兩者的誤差按一定的原則對(duì)各層節(jié)點(diǎn)的連接權(quán)值進(jìn)行調(diào)整 ， 使誤差逐步減小 ， 直到滿足要求時(shí)為止 。 ? 反向傳播的適用情況 –正向傳播用于進(jìn)行網(wǎng)絡(luò)計(jì)算，對(duì)其一輸入求出它的輸出；反向傳播用于逐層傳遞誤差，修改連接權(quán)值，以使網(wǎng)絡(luò)能進(jìn)行正確的計(jì)算。 –一旦網(wǎng)絡(luò)經(jīng)過(guò)訓(xùn)練用于求解現(xiàn)實(shí)問題，則就只需正向傳播，不需要再進(jìn)行反向傳播。 ? BP算法學(xué)習(xí)的步驟： (1)從訓(xùn)練樣例集中取一樣例 ， 把輸入信息輸入到網(wǎng)絡(luò)中 。 (2)由網(wǎng)絡(luò)分別計(jì)算各層節(jié)點(diǎn)的輸出 。 (3)計(jì)算網(wǎng)絡(luò)的實(shí)際輸出與期望輸出的誤差 。 (4)從輸出層反向計(jì)算到第一個(gè)隱層 ， 按一定原則向減小誤差方向調(diào)整網(wǎng)絡(luò)的各個(gè)連接權(quán)值 。 (5)對(duì)訓(xùn)練樣例集中的每一個(gè)樣例重復(fù)以上步驟 ， 直到對(duì)整個(gè)訓(xùn)練樣例集的誤差達(dá)到要求時(shí)為止 。 三、 Hopfield模型 ? Hopfield 模型是霍普菲爾特分別于 1982年及 1984年提出的兩個(gè)神經(jīng)網(wǎng)絡(luò)模型，一個(gè)是離散的，一個(gè)是連續(xù)的，但它們都屬于反饋網(wǎng)絡(luò)，即它們從輸入層至輸出層都有反饋存在。下圖是一個(gè)單層反饋神經(jīng)網(wǎng)絡(luò)。 單層反饋神經(jīng)網(wǎng)絡(luò) ? 反饋網(wǎng)絡(luò)的穩(wěn)定性：由于網(wǎng)絡(luò)的輸出要反復(fù)地作為輸入送人網(wǎng)絡(luò)中，這就使得網(wǎng)絡(luò)的狀態(tài)在不斷地改變，因而就提出了網(wǎng)絡(luò)的穩(wěn)定性問題。 – 所謂一個(gè)網(wǎng)絡(luò)是穩(wěn)定的，是指從某一時(shí)刻開始，網(wǎng)絡(luò)的狀態(tài)不再改變。 – 設(shè)用 X(t) 表示網(wǎng)絡(luò)在時(shí)刻 t 的狀態(tài)，如果從 t＝ 0的任一初態(tài) X(0)開始，存在一個(gè)有限的時(shí)刻 t，使得從此時(shí)刻開始神經(jīng)網(wǎng)絡(luò)的狀態(tài)不再發(fā)生 ,就稱該網(wǎng)絡(luò)是穩(wěn)定的。即 ： ? H
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1