神經(jīng)網(wǎng)絡優(yōu)化計算ppt課件-文庫吧資料
2025-01-11 15:32本頁面
【正文】 (21)()()(21 ttttststswE TTiiii jjiji ?????? ?? ? ? 反饋型神經(jīng)網(wǎng)絡 0)]()1([ )]()1([2121 21212211????????????????????????????????????????????tstsswsswststswsswsswssswsswEiiiiiiijjijiiiiiiijijjiijijijiiNjijjiNjijij???智能優(yōu)化計算 數(shù)學與統(tǒng)計學院 2022年 ? 能量函數(shù) 分析異步（且網(wǎng)絡對稱 wij=wji）情況下： 假設只有神經(jīng)元 i改變狀態(tài) 離散 Hopfield神經(jīng)網(wǎng)絡 同號 θswss )()()(21)()()(21 ttttststswE TTiiii jjiji ?????? ?? ? ? 反饋型神經(jīng)網(wǎng)絡 智能優(yōu)化計算 數(shù)學與統(tǒng)計學院 2022年 ? 能量函數(shù) 分析同步（且網(wǎng)絡對稱 wij=wji）情況下： 離散 Hopfield神經(jīng)網(wǎng)絡 0)]1()1(][)([21 )]1()1([21)]1()1(][)([21 )]1()([21)1()(21)]()1([21)()1(21????????????????????????????ttttttttttttttttETTTTTTTTssθwsssθsswsssθwssssθwss同號 反饋型神經(jīng)網(wǎng)絡 智能優(yōu)化計算 數(shù)學與統(tǒng)計學院 2022年 ? 網(wǎng)絡結構 與電子線路對應： 放大器 —— 神經(jīng)元 電阻、電容 —— 神經(jīng)元的時間常數(shù) 電導 —— 權系數(shù) 連續(xù) Hopfield神經(jīng)網(wǎng)絡 反饋型神經(jīng)網(wǎng)絡 智能優(yōu)化計算 數(shù)學與統(tǒng)計學院 2022年 ? 網(wǎng)絡的微分方程 ? 能量函數(shù) 可證明，若 g1為單調(diào)增且連續(xù)， Cj0， Tji=Tij，則有 dE/dt≤0，當且僅當 dvi/dt=0時 dE/dt=0。 ? 穩(wěn)定狀態(tài) 如果從 t=0的任一初始態(tài) s(0)開始變化，存在某一有限時刻 t，從此以后網(wǎng)絡狀態(tài)不再變化，即s(t+1)=s(t)，則稱網(wǎng)絡達到 穩(wěn)定狀態(tài) 。 一般情況下網(wǎng)絡是對稱的（ wij=wji）且無自反饋（wjj=0） 。 反饋型神經(jīng)網(wǎng)絡 智能優(yōu)化計算 數(shù)學與統(tǒng)計學院 2022年 ? 網(wǎng)絡結構 N為網(wǎng)絡節(jié)點總數(shù)。?層l 層＋ 1l線性組合 激活函數(shù) 線性組合 激活函數(shù)前向計算 反向傳播 反饋型神經(jīng)網(wǎng)絡 智能優(yōu)化計算 數(shù)學與統(tǒng)計學院 2022年 ? 一般結構 各神經(jīng)元之間存在相互聯(lián)系 ? 分類 連續(xù)系統(tǒng)：激活函數(shù)為連續(xù)函數(shù) 離散系統(tǒng)：激活函數(shù)為階躍函數(shù) 反饋型神經(jīng)網(wǎng)絡 智能優(yōu)化計算 數(shù)學與統(tǒng)計學院 2022年 ? Hopfield神經(jīng)網(wǎng)絡 1982年提出 Hopfield反饋神經(jīng)網(wǎng)絡（ HNN），證明在高強度連接下的神經(jīng)網(wǎng)絡依靠集體協(xié)同作用能自發(fā)產(chǎn)生計算行為。 kvf OdOd ? )](39。 人工神經(jīng)網(wǎng)絡的基本概念 智能優(yōu)化計算 數(shù)學與統(tǒng)計學院 2022年 關聯(lián)權值的確定 ? 學習與工作的關系 先學習 → 再 工作 人工神經(jīng)網(wǎng)絡的基本概念 神 神 神 神 神 神 神神 神 神 神神 神 神 神 神神 神 神 神 神神 神 神 神輸 輸 輸 輸智能優(yōu)化計算 數(shù)學與統(tǒng)計學院 2022年 工作階段 神 神 神 神 神 神 神神 神 神 神輸 輸 輸 輸神 神 神 神 多層前向神經(jīng)網(wǎng)絡 智能優(yōu)化計算 數(shù)學與統(tǒng)計學院 2022年 ? 多層 兩層以上 ? 前向 無反饋 一般結構 輸出層 隱藏層 輸入層 y1 y2 ym … x1 x2 xn … … … … … … 多層前向神經(jīng)網(wǎng)絡 智能優(yōu)化計算 數(shù)學與統(tǒng)計學院 2022年 ? 目的 確定權值 ? 方法 反向推導 反向傳播算法 ? ?? 11 lilji y? ? ljlki y?1?liy )( ljli vfy ?ljv1?lkv )( 1??? lkvfOy1??? ljljji y???)(39。
教學課件相關推薦
鄂ICP備17016276號-1