哈工大模式識別課件—第6章多層神經(jīng)網(wǎng)絡(luò)-wenkub
2023-06-10 05:41:18 本頁面
【正文】 0t ?α H β? 對于二次優(yōu)化函數(shù)，權(quán)值沿著任意一個初始方向移動到最小點(diǎn)，然后再沿著該方向關(guān)于 H的共軛方向移動到最小點(diǎn)即可達(dá)到全局最小點(diǎn)。Δ wkj?Δ wkj+ηδ kyj 7. until m = n 8. wji? wji+Δ wji。 模式識別 – 多層神經(jīng)網(wǎng)絡(luò) MLP的訓(xùn)練 誤差反向傳播算法 （ BP， Backpropagation algorithm） ? BP算法的實(shí)質(zhì)是一個均方誤差最小算法 (LMS) ? 符號定義：訓(xùn)練樣本 x，期望輸出 t=(t1,…, t c)，網(wǎng)絡(luò)實(shí)際輸出 z=(z1,…, z c)，隱層輸出 y=(y1,…, y nH)，第 k個神經(jīng)元的凈輸出 k。模式識別 – 多層神經(jīng)網(wǎng)絡(luò) 第六章 多層神經(jīng)網(wǎng)絡(luò) 模式識別 – 多層神經(jīng)網(wǎng)絡(luò) （ MLP， Multilayer Perceptron） ?神經(jīng)元模型 yx1x2xd...w1w2wdf? ?1,dtiiiy f f w x??????????wxf稱為激活函數(shù) 模式識別 – 多層神經(jīng)網(wǎng)絡(luò) 解決異或問題的多層感知器 x1x2y11110 . 5 1 . 5 10 . 7 0 . 41 輸入層 隱含層 輸出層 模式識別 – 多層神經(jīng)網(wǎng)絡(luò) 多層感知器的分類原理 ? 隱含層實(shí)現(xiàn)對輸入空間的非線性映射，輸出層實(shí)現(xiàn)線性分類； ? 非線性映射方式和線性判別函數(shù)可以同時學(xué)習(xí)。 ? 目標(biāo)函數(shù)： ? ? ? ?2211122ciiiJ t z?? ? ??w t z? ? ? ? ? ? ? ?1 Jm m m m ? ?? ? ? ? ? ? ?w w w w w迭代公式： 模式識別 – 多層神經(jīng)網(wǎng)絡(luò) 輸出層 ...zky1y2ynwk 1wk 2wk n隱 含 層 輸 出 層kk j k k jne tJJw ne t w????? ? ?1,Hnk k i iin e t w y?? ? k jkjne t yw? ??? ? ? ?k k k kk k kzJJ t z f n e tn e t z n e t??? ?? ? ? ?? ? ?? ? ? ?k k k j k jkjJ t z f n e t y yw ?? ?? ? ? ? ??? ? ? ?k k k kt z f n e t? ???模式識別 – 多層神經(jīng)網(wǎng)絡(luò) 隱含層 ...yjwj 1w1 jwj d輸 入 層 隱 含 層...x1xiwj ixd......輸 出 層wk jwc jz1zkzcjjji j j jiy ne tJJw y ne t w?????? ? ? ?? ?j jjy f ne tne t? ???1djjm m imji jine t w x
醫(yī)療健康相關(guān)推薦
鄂ICP備17016276號-1