神經(jīng)網(wǎng)絡(luò)2-hopfield網(wǎng)絡(luò)(編輯修改稿)
2025-01-31 16:17 本頁面
【文章內(nèi)容簡介】 。 如果，令 Uj=ΣWijYi+Xj 則△ Ej可表示為： 考慮如下兩種情況： 第 5章 單片機(jī)的定時 /計數(shù)器與串行接口 1．如果 Uj≥θj，即神經(jīng)元 j的輸入結(jié)果的值大于閥值，則 Ujθj≥0，則從二值神經(jīng)元的計算公式知道： Yj的值保持為 1，或者從 0變到 1。這說明 Yj的變化△ Yj只能是 0或正值。這時很明顯有△ Ej：△ Ej≤0 這說明 Hopfield網(wǎng)絡(luò)神經(jīng)元的能量減少或不變。 2．如果 Uj≤θj，即神經(jīng)元 j的輸入結(jié)果的值小于閥值，則 Ujθj≥0，則從二值神經(jīng)元的計算公式可知： Yj的值保持為 0，或者從 1變到 0。這說明 Yj的變化△ Yj只能是零或負(fù)位。這時則有△ Ej：△ Ej≤0 這也說明 Hopfield網(wǎng)絡(luò)神經(jīng)元的能量減少。 。 第 5章 單片機(jī)的定時 /計數(shù)器與串行接口 上面兩點說明了 Hopfield網(wǎng)絡(luò)在權(quán)系數(shù)矩陣 W的對角線元素為 0，而且 W矩陣元素對稱時， Hopfield網(wǎng)絡(luò)是穩(wěn)定的。 hopfield網(wǎng)絡(luò)的一個功能是可用于聯(lián)想記憶，也即是聯(lián)想存儲器。這是人類的智能特點之一。對于 Hopfield網(wǎng)絡(luò)，用它作聯(lián)想記憶時，首先通過一個學(xué)習(xí)訓(xùn)練過程確定網(wǎng)絡(luò)中的權(quán)系數(shù)，使所記憶的信息在網(wǎng)絡(luò)的 n維超立方體的某一個頂角的能量最小。當(dāng)網(wǎng)絡(luò)的權(quán)系數(shù)確定之后，只要向網(wǎng)絡(luò)給出輸入向量，這個向量可能是局部數(shù)據(jù)．即不完全或部分不正確的數(shù)據(jù)，但是網(wǎng)絡(luò)仍然產(chǎn)生所記憶的信息的完整輸出。 第 5章 單片機(jī)的定時 /計數(shù)器與串行接口 1984年 Hopfield開發(fā)了一種用 n維 Hopfield網(wǎng)絡(luò)作聯(lián)想存儲器的結(jié)構(gòu)。在這個網(wǎng)絡(luò)中，權(quán)系數(shù)的賦值規(guī)則為存儲向量的外積存儲規(guī)則 (out product storage prescription)其原理省略。 2 連續(xù) Hopfield網(wǎng)絡(luò) 連續(xù) Hopfield網(wǎng)絡(luò)的拓樸結(jié)構(gòu)和離散 Hopfield網(wǎng)絡(luò)的結(jié)構(gòu)相同。這種拓樸結(jié)構(gòu)和生物的神經(jīng)系統(tǒng)中大量存在的神經(jīng)反饋回路是相一致的。在連續(xù) Hopfield網(wǎng)絡(luò)中，和離散 Hopfield網(wǎng)絡(luò)一樣，其穩(wěn)定條件也要求 Wij=Wji。 第 5章 單片機(jī)的定時 /計數(shù)器與串行接口 連續(xù) Hopfield網(wǎng)絡(luò)和離散 Hopfield網(wǎng)絡(luò)不同的地方在于其函數(shù) g不是階躍函數(shù)，而是 S形的連續(xù)函數(shù)。一般取g(u)=1/(1+eu) 當(dāng)網(wǎng)絡(luò)神經(jīng)元的傳遞函數(shù)是 S函數(shù)，并且網(wǎng)絡(luò)權(quán)系數(shù)矩陣對稱；則隨時間的變化網(wǎng)絡(luò)的能量會下降或不變；且僅當(dāng)輸出電位隨時間變化不變時．網(wǎng)絡(luò)的能量才會不變。換而言之，在上述條件下的網(wǎng)絡(luò)是能量不變或下降的。 定理的證明省略 可以證明，如果 Hopfield網(wǎng)絡(luò)的傳遞函數(shù) g是連續(xù)而且有界的，那么，能量函數(shù) E(t)是有界的。 第 5章 單片機(jī)的定時 /計數(shù)器與串行接口 最后結(jié)論： 當(dāng) Hopfield網(wǎng)絡(luò)的神經(jīng)元傳遞函數(shù) g是連續(xù)且有界的， eg： Sigmoid函數(shù)，并且網(wǎng)絡(luò)的權(quán)系數(shù)矩陣對稱，則這個連續(xù) Hopfield網(wǎng)絡(luò)是穩(wěn)定的。 在實際應(yīng)用中任一系統(tǒng)，如果其優(yōu)化問題可以用能量函數(shù) E(t)作為目標(biāo)函數(shù)，則總可以用連續(xù) Hopfield網(wǎng)絡(luò)對其進(jìn)行求解。由于引入能量函數(shù) E(t)， Hopfield使神經(jīng)網(wǎng)絡(luò)和問題優(yōu)化直接對應(yīng)；這種工作是具開拓性的。利用神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化計算，就是在神經(jīng)網(wǎng)絡(luò)這一動力系統(tǒng)給出初始的估計點，即初始條件；然后隨網(wǎng)絡(luò)的運動傳遞而找到相應(yīng)極小點。這樣，大量的優(yōu)化問題都可以用連續(xù)的 Hopfield網(wǎng)來求解。這也是 Hopfield網(wǎng)絡(luò)用于神經(jīng)計算的基本原因。 第 5章
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1