bp神經網絡模型ppt課件(已修改)
2025-01-17 03:16 本頁面
【正文】 BP神經網絡模型與學習算法 概述 ?Rumelhart， McClelland于 1985年提出了 BP網絡的誤差反向后傳 BP(Back Propagation)學習算法 ?BP算法基本原理 ?利用輸出后的誤差來估計輸出層的直接前導層的誤差，再用這個誤差估計更前一層的誤差，如此一層一層的反傳下去，就獲得了所有其他各層的誤差估計。 J. McClelland David Rumelhart BP神經網絡模型 ?三層 BP網絡 BP神經網絡模型 ?激活函數(shù) ?必須處處可導 一般都使用 S型函數(shù) ?使用 S型激活函數(shù)時 BP網絡輸入與輸出關系 ?輸入 ?輸出 1 1 2 2 ... nnne t x w x w x w? ? ? ?1f ( )1e n ety n et ??? ? BP神經網絡模型 ?輸出的導數(shù) 211f 39。 ( ) ( 1 )1 e ( 1 e )n et n etn et y y?? ? ? ????根據(jù) S型激活函數(shù)的圖形可知 ,對神經網絡進行訓練，應該將 的值盡量控制在收斂比較快的范圍內 BP網絡的標準學習算法 ?學習的過程： ?神經網絡在外界輸入樣本的刺激下不斷改變網絡的連接權值 ,以使網絡的輸出不斷地接近期望的輸出。 ?學習的本質： ?對各連接權值的動態(tài)調整 ?學習規(guī)則： ?權值調整規(guī)則，即在學習過程中網絡中各神經元的連接權變化所依據(jù)的一定的調整規(guī)則。 BP網絡的標準學習算法 算法思想 ?學習的類型：有導師學習 ?核心思想： ? 將輸出誤差 以某種形式 通過隱層向輸入層逐層反傳 ?學習的過程： ?信號的正向傳播 誤差的反向傳播 將誤差分攤給各層的所有單元－－－各層單元的誤差信號 修正各單元權值 BP網絡的標準學習算法 學習過程 ?正向傳播： ? 輸入樣本－－－輸入層－－－各隱層－－－輸出層 ?判斷是否轉入反向傳播階段： ? 若輸出層的實際輸出與期望的輸出（教師信號）不符 ?誤差反傳 ? 誤差以某種形式在各層表示－－－－修正各層單元的權值 ?網絡輸出的誤差減少到可接受的程度 進行到預先設定的學習次數(shù)為止 BP網絡的標準學習算法 ?網絡結構 ?輸入層有 n個神經元，隱含層有 p個神經元 , 輸出層有 q個神經元 ?變量定義 ?輸入向量 。 ?隱含層輸入向量； ?隱含層輸出向量 。 ?輸出層輸入向量 。 ?輸出層輸出向量 。 ?期望輸出向量 。 ? ?12, , , nx x x?x? ?12, , , phi hi hi?hi
教學課件相關推薦
鄂ICP備17016276號-1