神經(jīng)網(wǎng)絡(luò)控制3其他網(wǎng)絡(luò)論文資料-展示頁
2025-01-13 14:42本頁面
【正文】 離散型的 Hopfield神經(jīng)網(wǎng)絡(luò) I/O關(guān)系 兩種工作方式 網(wǎng)絡(luò)的穩(wěn)定性分析 DHNN網(wǎng)絡(luò)設(shè)計(jì) 2022/2/1 神經(jīng)網(wǎng)絡(luò)原理與應(yīng)用 14 網(wǎng)絡(luò)結(jié)構(gòu)及 I/O關(guān)系 圖 DHNN結(jié)構(gòu)。 有能量函數(shù)，保證迭代過程能量的增量為負(fù)。 2）初始化，加入初始試樣，然后移走。 按公式 ： 231+ 2 /3+ 2 / 3 2 /3 2 /3 2 /3 2 /3相應(yīng)的連接圖形如右： 8 2022/2/1 神經(jīng)網(wǎng)絡(luò)原理與應(yīng)用 10 21111 44431 111 02220222031111 44431 111 02220222031yWYyWY???????????????????????????????????????????????????????????????????????????????????????????????????滿足匹配條件的固定點(diǎn)或向量計(jì)算如下： 其它點(diǎn)都是不穩(wěn)定的點(diǎn)，例如，對 [1， 1， 1]，和 [1， 1， 1]，迭代結(jié)果 都移向穩(wěn)定點(diǎn)。狀態(tài)向量滿足匹配條件的稱系統(tǒng) 相空間 的穩(wěn)定點(diǎn)或固定點(diǎn)，檢索完成， Hopfield收斂到穩(wěn)態(tài)。確定權(quán)值矩陣。 2)按內(nèi)容編址存貯器方式進(jìn)行操作 ,新提供的輸入模式可自動找到已存貯的合適模式 . 2022/2/1 神經(jīng)網(wǎng)絡(luò)原理與應(yīng)用 5 工作原理 2022/2/1 神經(jīng)網(wǎng)絡(luò)原理與應(yīng)用 6 Hopfield網(wǎng)絡(luò)可以看成是一個動態(tài)系統(tǒng) ,其相空間包含代表系統(tǒng)基本存貯內(nèi)容的固定 (穩(wěn)定 )點(diǎn)的集合 . Hopfield網(wǎng)絡(luò)可以檢索信息 ,以一定的誤差恢復(fù)信息 . iNjjjii swv ??? ??1000 11i???????????iiivvvs 保持以前狀態(tài)2022/2/1 神經(jīng)網(wǎng)絡(luò)原理與應(yīng)用 7 ? ?p....21| ，??? ????pji ijNw11??? ??ppT INpNW ?? ?? 11??? ?? 對于具有 N個神經(jīng)元的網(wǎng)絡(luò)，其狀態(tài)可以用向量 S來確定： ? ?TnsssS ,. .. , 21? S是 N位二進(jìn)制信息，滿足以下條件： 1）時間 t趨近無限，允許回歸網(wǎng)絡(luò)達(dá)到穩(wěn)態(tài)； 2）在非線性函數(shù)的原點(diǎn)，斜率無窮大，具有硬限幅器特性。 CHNN：作用函數(shù)為 S型函數(shù)，主要用于優(yōu)化計(jì)算。 ? 回歸網(wǎng)絡(luò)包括 Elman網(wǎng)絡(luò)和 Hopfield網(wǎng)絡(luò)，其中 Elman網(wǎng)絡(luò)是一種兩層的前饋網(wǎng)絡(luò) 2022/2/1 神經(jīng)網(wǎng)絡(luò)原理與應(yīng)用 2 霍普菲爾德（ Hopfield） 神經(jīng)網(wǎng)絡(luò) 網(wǎng)絡(luò)結(jié)構(gòu)形式 非線性系統(tǒng)狀態(tài)演變的形式 離散型的霍普菲爾德網(wǎng)絡(luò)（ DHNN） 連續(xù)性的霍普菲爾德網(wǎng)絡(luò)（ CHNN） 2022/2/1 神經(jīng)網(wǎng)絡(luò)原理與應(yīng)用 3 網(wǎng)絡(luò)結(jié)構(gòu)形式 Hopfield網(wǎng)絡(luò)是單層對稱全反饋網(wǎng)絡(luò)，根據(jù)激活函數(shù)選取的不同，可分為離散型和連續(xù)型兩種（ DHNN,CHNN）。2022/2/1 神經(jīng)網(wǎng)絡(luò)原理與應(yīng)用 1 回歸神經(jīng)網(wǎng)絡(luò) (recurrent neural works) ? 回歸網(wǎng)絡(luò)是一種人們越來越感興趣的網(wǎng)絡(luò)。 ? 回歸網(wǎng)絡(luò)中包含一定的動態(tài)環(huán)節(jié)作為信息存儲，在系統(tǒng)建模時可以充分利用這一特性，減小網(wǎng)絡(luò)的規(guī)模。 DHNN：作用函數(shù)為 hadlim，主要用于聯(lián)想記憶。 2022/2/1 神經(jīng)網(wǎng)絡(luò)原理與應(yīng)用 4 ● Hopfield網(wǎng)絡(luò) 是單層反饋網(wǎng)絡(luò) .有二種形式 :連續(xù)和離散 特點(diǎn) : 1)自聯(lián)想 .回歸 (或全連接 ),所有神經(jīng)元與其它單元相連 ,但無自連接 。 工作過程 1）存貯階段。設(shè)要存貯的向量為： 則按外積規(guī)則，神經(jīng)元 i到神經(jīng)元 j的連接權(quán)定義為： 寫成向量形式： 10 2022/2/1 神經(jīng)網(wǎng)絡(luò)原理與應(yīng)用 8 ）iiNj jiiywSgny ????? 1(2）第二階段 信息檢索 輸入信息，進(jìn)行 隨機(jī)的、異步的迭代， 直到網(wǎng)絡(luò)達(dá)到穩(wěn)定，這時單元的輸出為： 穩(wěn)定條件也稱匹配條件。 2022/2/1 神經(jīng)網(wǎng)絡(luò)原理與應(yīng)用 9 ? ? ? ???????????????????????????????????????????????????????02220222031 1001000132111 11131111 11131W舉例： 由 3個神經(jīng)元組成的 Hopfield網(wǎng)絡(luò)，有 2個基本存貯器，存貯 2個 向量 [1， 1， 1]和 [1， 1， 1]，設(shè)計(jì)權(quán)連接矩陣。 ????????????????????????????????????????????????111 04031111 02220222031WY????????????????????? ????????????????????????????111 0443111102220222031WY對 [1， 1， 1] 對 [1， 1， 1] 2022/2/1 神經(jīng)網(wǎng)絡(luò)原理與應(yīng)用 11 此過程可用圖 表示如右： 2022/2/1 神經(jīng)網(wǎng)絡(luò)原理與應(yīng)用 12 討論 Hopfield網(wǎng)絡(luò)的工作過程有 4個步驟： 1）存貯（學(xué)習(xí)），異步、隨機(jī)。 3）迭代直至收斂 4）輸出，得到穩(wěn)定點(diǎn)。 連續(xù) Hopfield網(wǎng)絡(luò)具有同樣的性質(zhì)。 對于以符號函數(shù)為激活 函數(shù)的網(wǎng)絡(luò)，網(wǎng)絡(luò)的方程可 寫為： 圖 ? ?? ?? ?nitutxtxwtuiinjijiji,2,1 )1(s g n)1()1(1????????? ??2022/2/1 神經(jīng)網(wǎng)絡(luò)原理與應(yīng)用 15 兩種工作方式 DHNN主要有以下兩種工作方式： （ 1）串行工作方式 在某一時刻只有一個神經(jīng)元按照上式改變狀態(tài)，而其它神經(jīng)元的輸出不變。 （ 2）并行工作方式 在某一時刻有 N個神經(jīng)元 按照上式改變狀態(tài)，而其它的神經(jīng)元的輸出不變。當(dāng) N=n時，稱為全并行方式。 ? ? ? ?? ? ? ?? ? ? ?? ?? ? ? ?? ?? ? ? ?? ?? ? ? ? ? ?kkkkknjjkjkniiikkkkkkkkk
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1