神經(jīng)網(wǎng)絡(luò)導(dǎo)論第三章(已修改)
2025-01-16 16:17 本頁(yè)面
【正文】 第三章 概述 反饋神經(jīng)網(wǎng)絡(luò)模型可用一完備的無(wú)向圖表示。從系統(tǒng)的觀點(diǎn)看，反饋神經(jīng)網(wǎng)絡(luò)模型是一反饋動(dòng)力學(xué)系統(tǒng)，它具有極復(fù)雜的動(dòng)力學(xué)特性。在反饋神經(jīng)網(wǎng)絡(luò)模型中，我們關(guān)心的是其穩(wěn)定性 ,穩(wěn)定性是神經(jīng)網(wǎng)絡(luò)相聯(lián)存儲(chǔ)性質(zhì)的體現(xiàn)，可以說(shuō)穩(wěn)定就意味著完成回憶。從計(jì)算的角度講，反饋神經(jīng)網(wǎng)絡(luò)模型具有比前饋神經(jīng)網(wǎng)絡(luò)模型更強(qiáng)的計(jì)算能力。 內(nèi)容提要 k Hopfield神經(jīng)網(wǎng)絡(luò)模型 k 海明神經(jīng)網(wǎng)絡(luò)模型 k 雙向聯(lián)想存儲(chǔ)器 k 應(yīng)用實(shí)例分析 第一節(jié) Hopfield模型 Hopfield神經(jīng)網(wǎng)絡(luò)模型的結(jié)構(gòu) )1(1?tx )1(2?tx )1(1??txn)1( ?txn1a2a1?na na)(1tx )(2tx )(1txn ?)( txnHopfield神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)描述 Hopfield神經(jīng)網(wǎng)絡(luò)模型一般由單層全互連的神經(jīng)元 ui(i=1,… ， n)組成。神經(jīng)元沒(méi)有自連接 ,即 wii＝ 0；神經(jīng)元與神經(jīng)元之間的連接是對(duì)稱的，即 wij＝ wji Hopfield模型數(shù)學(xué)描述 k 輸入 該模型中神經(jīng)元實(shí)際上是一 線性閾值單元 。圖中 x1， x2， …， xn為該自適應(yīng)線性元在 t時(shí)刻的外部輸入，用向量表示為 : X＝（ x1， x2， …， xn） T 這個(gè)向量稱為自適應(yīng)線性元的 輸入信號(hào)向量 或 輸入模式向量 。 Hopfield模型數(shù)學(xué)描述 k 連接權(quán)值 ?????????????????000004535251545342414353423132524231215141312wwwwwWHopfield模型數(shù)學(xué)描述 k 輸出 二值輸出 ??????nkiiiikkTnTawyyyyWXY121), . . . . . . ,(?????????????kkkkk yyyta,11)s g n ()1(Hopfield模型的學(xué)習(xí) 當(dāng)用 Hopfield網(wǎng)絡(luò)作相聯(lián)存儲(chǔ)器時(shí)，其權(quán)值賦予的規(guī)則稱為 外積存儲(chǔ)規(guī)則 。假設(shè)有 m個(gè)樣本向量 X X … 、 Xm要存入Hopfield神經(jīng)網(wǎng)絡(luò)中，則第 i個(gè)神經(jīng)元與第 j個(gè)神經(jīng)元之間相連的權(quán)值 ｗ ij為： jijixxwmssjsiij???????? ?? ,01Hopfoeld模型回憶過(guò)程圖解 )1(1?tx )1(2?tx )1(1??txn)1( ?txn1a2a1?na na)(1tx )(2tx )(1txn ?)( txnHopfield模型的回憶過(guò)程描述 首先要將模式向量 X的 n個(gè)元素 x1,x2,… ，xn分別賦予與之對(duì)應(yīng)的神經(jīng)元，作為相應(yīng)神經(jīng)元元的初始狀態(tài)，即： ai(0)=xi。然后在 Hopfield神經(jīng)網(wǎng)絡(luò)模型中按其動(dòng)力學(xué)特性 sgn函數(shù) 進(jìn)行操作， 反復(fù)迭代，直到收斂為止。 當(dāng)整個(gè)神經(jīng)網(wǎng)絡(luò)穩(wěn)定后，處理單元的輸出就最終給出了匹配輸入模式 X的標(biāo)準(zhǔn)樣本模式， 直接完成了提取記憶信息的操作。 Hopfield模型的學(xué)習(xí)舉例 假設(shè) Hopfield模型有 4個(gè)神經(jīng)元，現(xiàn)希望其儲(chǔ)存如下模式向量： (1111)T/(1111)T。 jijixxwmssjsiij???????
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1