神經網絡綜述及簡單應用實例課件matlab程序清華大學-全文預覽
【正文】 ◆ sigmoid函數(shù)： 10()00vvv????? ??111( ) ( 1 ) 1 1201vv v vv?????? ? ? ? ???????1()1 e x p ( )v v? ?? ??( ) t a n h ( )vv???4. 激勵函數(shù)的形式 ◆ 前饋型網絡 ： ◆ 反饋型網絡 ： 1x2xnx1y2yny輸 入 層 隱 層 輸 出 層 1x 2x 1nx? nx1y 2y 1ny? ny四、 網絡結構及工作方式 1. 網絡結構 ◆ 學習期 ： 各計算單元狀態(tài)不變，各連接線上權值通過學習來修改 ◆ 工作期 ： 連接權固定，計算單元狀態(tài)變化，以達到某種穩(wěn)定狀態(tài) 2. 工作方式 ◆ 有教師學習 ： 外界存在一個教師，對給定的一組輸入，提供應有的輸出（標準答案），學習系統(tǒng)可根據(jù)實際輸出與標準答案之間的差值來調整系統(tǒng)參數(shù) 學 習 系 統(tǒng) 教師 環(huán)境 ?輸入 應有 響應 + 誤差信號 實際響應 — 五、 神經網絡的學習方法 1. 學習方式 ◆ 無教師學習： 學習系統(tǒng)按照環(huán)境提供數(shù)據(jù)的某些統(tǒng)計規(guī)律來調節(jié)自身參數(shù) 環(huán)境 學 習 系 統(tǒng) 動作 輸出 輸入 狀態(tài) 環(huán)境 學習系統(tǒng) 輸入 ◆ 強化學習： 環(huán)境對系統(tǒng)輸出結果只給出評價信息（獎或懲），系統(tǒng)通過強化受獎動作來改善自身性能 ● 考察神經元 k 在 n 時刻的輸入和輸出 ● 輸入： ● 實際輸出： ● 應有輸出： ● 由誤差信號構造能量函數(shù)： 其中 E(.)為求期望算子 ● 求解最優(yōu)化問題： ● 得出系統(tǒng)參數(shù)： ()kxn()( ) ( ) ( )()kk k kkyne n d n y ndn? ????誤差信號：21( ) ( )2 kkJ E e n?????????21( ) ( )2 kkJ E e n? ?????????min?2. 學習規(guī)則 通常情況下用時刻 n 的瞬時值 代替 J，即求解最優(yōu)化問題 由數(shù)值迭代算法（如最速下降法、模擬退火算法等），可得 其中 為學習步長 21( ) ( )2nkkJ e n? ? ?21( ) ( )2nk kJ e n? ? ? ?min?)()( nxne jkkj ?? ?? 神經學家 Hebb提出的學習規(guī)則：當某一連接兩端的神經元同步激活（或同為抑制）時，該連接的強度應增強，反之應減弱，數(shù)學描述如下： 其中 分別為 兩端神經元的狀態(tài) 最常用的一種情況是： ( ), ( )kjh n h n ij?))(),(( nhnhF jkkj ?? ?)()( nhnh jkkj ?? ??3. Hebb學習規(guī)則 對于多層網絡，由于有隱層后學習比較困難，限制了多層網絡的發(fā)展， BP算法的出現(xiàn)解決了這一困難。一個神經元的各樹突和細胞體往往通過突觸和大量的其他神經元相連接。神經元細胞體通過樹突接受脈沖信號，通過 軸突 傳到 突觸前膜 。 ? 低潮 (7080年代初 ) ? 第二次熱潮 1. 生物神經元模型 二、 生物神經元 生物神經元模型就是一個簡單的信號處理器。 2． 什么是人工神經網絡 1943年 ,美國心理學家 在提出了一個簡單的神經元模型，即 MP模型。 大腦是由生物神經元
研究報告相關推薦
鄂ICP備17016276號-1