神經(jīng)網(wǎng)絡模式識別法介紹-文庫吧資料
2025-01-11 14:43本頁面
【正文】 輸入樣本與各類典型樣本的匹配度，由匹配度 決定匹配網(wǎng)的輸出； * 由最大網(wǎng)給出輸入樣本所在類別號（分類）。 競爭層： 競爭學習 網(wǎng)絡的核心 側抑制： 加強自身 * 具有最高輸入總和的單元的輸出狀態(tài)為 1，其他單 元為 0。 競爭學習神經(jīng)網(wǎng)絡 1．競爭學習 典型的非監(jiān)督學習策略。 BP算法存在問題： * 存在局部極小值問題； * 算法收斂速度慢； * 隱層單元數(shù)目的選取無一般指導原則； * 新加入的學習樣本影響已學完樣本的學習結果。 ijijijytwtw ????? )()1(10 ???若 j是輸出層神經(jīng)元，則： ))(1( jjjjj ydyy ????若 j是隱層神經(jīng)元，則： ???kjkkjjj wyy ?? )1(第五步：轉到第二步，循環(huán)至權值穩(wěn)定為止。 ????????jjjd ??XX,1,1Mj ,2,1 ??第三步：依次計算每層神經(jīng)元的實際輸出，直到輸出層。 BP算法步驟： 第一步：對權值和神經(jīng)元閾值初始化： (0， 1)上分布的隨機數(shù)。 ??jjjkk yw )(kk fy ? 對輸入模式 Xp，若輸出層中第 k個神經(jīng)元的期望輸出為 dpk，實際輸出為 ypk。 )( jj fy ? 0)(11hjjn ete ?????S型輸出函數(shù)： θj：神經(jīng)元閾值； h0：修改輸出函數(shù)形狀的參數(shù)。 2． BP算法 兩個 階段 正向傳播階段：逐層狀態(tài)更新 反向傳播階段：誤差 BP算法的學習過程 設：某層任一神經(jīng)元 j的 輸入為 j，輸出為 yj； 相鄰低一層中任一 神經(jīng)元 i的輸出為 yi。 性能優(yōu)勢：識別、分類 1．多層感知器 針對感知器學習 算法的局限性：模式類必須線性可分。 BP網(wǎng)絡 BP網(wǎng)絡：采用 BP算法（ BackPropagation Training Algorithm） 的多層感知器。 當全部學習樣本都能正確分類時，學習過程結束。 kjjjjkydkk XWW )]([)()1( ???? ?dj：第 j個神經(jīng)元的期望輸出。 第三步：計算神經(jīng)元的實際輸出。 算法描述 第一步：設置初始權值 wij(1)， w(n+1)j(1)為第 j個神經(jīng)元的閾值。 M類問題判決規(guī)則 ( 神經(jīng)元的輸出函數(shù) ) 為 )(T XW jj fy ?????????jj??XX若,1若,1Mj ??1* 正確判決的關鍵： 輸出層每個神經(jīng)元必須有一組合適的權值。 令 。 設輸入模式向量 ， ，共 M類。 x 1 x 2 x n … y M y 1 … … … 感知器結構示意圖 * 雙層（輸入層、輸出層）； * 兩層單元之間為全互連； * 連接權值可調(diào)。 —— 前饋網(wǎng)絡 沒有明顯層次，任意兩個神經(jīng)元之間可達，具有輸出 單元到隱層單元或輸入單元的反饋連接 。 神經(jīng)網(wǎng)絡的學習體現(xiàn)在： η：學習因子； 權值變化； 網(wǎng)絡結構變化。 由 有： )()( txty ii ? )]()([)()1( txtytwtw ijijij ???? 神經(jīng)元間的連接 2. δ學習規(guī)則 （ 3）更新權值，閾值可視為輸入恒為（－ 1）的一個權值； （ 1）選擇一組初始權值 wij(1)； （ 2）計算某一輸入模式對應的實際輸出與期望輸出的誤差； )()]([)()1( txtydtwtw ijjijij ???? ?式中， （ 4）返回 (2) ，直到對所有訓練模式網(wǎng)絡輸出均能滿足要求。 神經(jīng)網(wǎng)絡的最重要特征之一。 0 1 y θ （ a） 0 1 y （ b ） y （ c ） 0 1 閾值型 S型
教學課件相關推薦
鄂ICP備17016276號-1