【正文】
. . X0 = 1 w0 ? MP感知機是一個多輸入單輸出的模型,雖然結(jié)構(gòu)簡單,但具有一定的計算能力。 ? 通過學習(權(quán)重),它能夠正確地分類樣本(二分類),但只能線性分類。 ?單層感知機找不到相應(yīng)的權(quán)重來實現(xiàn) XOR邏輯 ?單層感知機不具備非線性分類能力! 版權(quán)所有 復(fù)制必究 2022 11 第 感知器 感知器模型和用途 多層感知器模型和學習算法 多層感知器應(yīng)用實例 版權(quán)所有 復(fù)制必究 2022 12 結(jié)構(gòu)特征: 在輸入層和輸出層之間嵌入一層或多層隱含層。 分類: 含一個隱含層前向傳播網(wǎng)絡(luò) L+1層前向傳播網(wǎng)絡(luò) 多層感知器模型結(jié)構(gòu)特點: 多層感知器模型和學習算法 版權(quán)所有 復(fù)制必究 2022 13 多層感知器模型和學習算法 … … … x1 x2 xni 1ijw2kiwy1 y2 onyhnhni ,2,1 ??inj ,2,1 ?? onk ,2,1 ??1? 2?含一個隱層的感知器模型 版權(quán)所有 復(fù)制必究 2022 14 隱含層輸出: 111ini ij j ijo w x???????????? ? ?11 ?? ?? XWO輸出層輸出 : 221hnk k i i kiy w o????????????? ? ? ?? ?? ?? ?211122211222??????????????????XWWXWWOWY數(shù)學描述 版權(quán)所有 復(fù)制必究 2022 15 … … … x1 x2 xni y1 y2 yno Llkw1hn )1( ?Lhn1ijwL?1?L?1?in onL+1層前向傳播網(wǎng)絡(luò) ? ?? ?? ?? ?? ?LLLLLLLL XWWWY ???? ?????????? ????? 12111211 ??版權(quán)所有 復(fù)制必究 2022 16 多層感知器模型的功能: 多層感知器模型和學習算法 (1) 實現(xiàn)任意的布爾函數(shù); (2) 在模式識別問題中,它能劃分輸入空間,生成復(fù)雜的邊界; (3) 最后,它能逼近從 到 的任意連續(xù)映射。 網(wǎng)絡(luò)的訓練實質(zhì)上是對 突觸權(quán)陣的調(diào)整 , 以滿足當輸入為 Xp時其輸出應(yīng)為 Yd。 學習算法 多層感知器模型和學習算法 版權(quán)所有 復(fù)制必究 2022 18 神經(jīng)網(wǎng)絡(luò)W期望輸出dYpY網(wǎng)絡(luò)輸出pX輸入信號權(quán)值調(diào)整+前向計算反向計算學習算法結(jié)構(gòu)圖 多層感知器模型和學習算法 版權(quán)所有 復(fù)制必究 2022 19 ? ?????onipidip yyE1221誤差的平方和 梯度下降法 :權(quán)值的變化與誤差梯度的下降成正比,使誤差指標不斷減小。,2,1。3333333)()(????????????????????33( ) ( )l l l ld o f Ne t?? ???333333333)()(lllllllllllllN e tfodN e tN e tooJN e tN e tJJ????????????????????????學習算法(續(xù)) 版權(quán)所有 復(fù)制必究 2022 24 第二步:計算梯度 JJW 22 , ???2222 2 2 2 232313 3 213 3 2 21()()( ) ( ) ( )()k k kkik i k k i k k k i kmllkil l l kml l l lk k ilml lk k i k ilNe t z Ne tJ J J Jf Ne t yw Ne t w z Ne t w zo Ne tJf Ne t yo Ne t zd o f Ne t w f Ne t yw f Ne t y y?????? ? ?? ? ? ??? ? ?? ? ? ? ? ? ??? ???????? ? ???????? ? ????????? ? ? ????????.)( 22132 k