【正文】
. . X0 = 1 w0 ? MP感知機(jī)是一個多輸入單輸出的模型,雖然結(jié)構(gòu)簡單,但具有一定的計(jì)算能力。 ? 通過學(xué)習(xí)(權(quán)重),它能夠正確地分類樣本(二分類),但只能線性分類。 ?單層感知機(jī)找不到相應(yīng)的權(quán)重來實(shí)現(xiàn) XOR邏輯 ?單層感知機(jī)不具備非線性分類能力! 版權(quán)所有 復(fù)制必究 2022 11 第 感知器 感知器模型和用途 多層感知器模型和學(xué)習(xí)算法 多層感知器應(yīng)用實(shí)例 版權(quán)所有 復(fù)制必究 2022 12 結(jié)構(gòu)特征: 在輸入層和輸出層之間嵌入一層或多層隱含層。 分類: 含一個隱含層前向傳播網(wǎng)絡(luò) L+1層前向傳播網(wǎng)絡(luò) 多層感知器模型結(jié)構(gòu)特點(diǎn): 多層感知器模型和學(xué)習(xí)算法 版權(quán)所有 復(fù)制必究 2022 13 多層感知器模型和學(xué)習(xí)算法 … … … x1 x2 xni 1ijw2kiwy1 y2 onyhnhni ,2,1 ??inj ,2,1 ?? onk ,2,1 ??1? 2?含一個隱層的感知器模型 版權(quán)所有 復(fù)制必究 2022 14 隱含層輸出: 111ini ij j ijo w x???????????? ? ?11 ?? ?? XWO輸出層輸出 : 221hnk k i i kiy w o????????????? ? ? ?? ?? ?? ?211122211222??????????????????XWWXWWOWY數(shù)學(xué)描述 版權(quán)所有 復(fù)制必究 2022 15 … … … x1 x2 xni y1 y2 yno Llkw1hn )1( ?Lhn1ijwL?1?L?1?in onL+1層前向傳播網(wǎng)絡(luò) ? ?? ?? ?? ?? ?LLLLLLLL XWWWY ???? ?????????? ????? 12111211 ??版權(quán)所有 復(fù)制必究 2022 16 多層感知器模型的功能: 多層感知器模型和學(xué)習(xí)算法 (1) 實(shí)現(xiàn)任意的布爾函數(shù); (2) 在模式識別問題中,它能劃分輸入空間,生成復(fù)雜的邊界; (3) 最后,它能逼近從 到 的任意連續(xù)映射。 網(wǎng)絡(luò)的訓(xùn)練實(shí)質(zhì)上是對 突觸權(quán)陣的調(diào)整 , 以滿足當(dāng)輸入為 Xp時其輸出應(yīng)為 Yd。 學(xué)習(xí)算法 多層感知器模型和學(xué)習(xí)算法 版權(quán)所有 復(fù)制必究 2022 18 神經(jīng)網(wǎng)絡(luò)W期望輸出dYpY網(wǎng)絡(luò)輸出pX輸入信號權(quán)值調(diào)整+前向計(jì)算反向計(jì)算學(xué)習(xí)算法結(jié)構(gòu)圖 多層感知器模型和學(xué)習(xí)算法 版權(quán)所有 復(fù)制必究 2022 19 ? ?????onipidip yyE1221誤差的平方和 梯度下降法 :權(quán)值的變化與誤差梯度的下降成正比,使誤差指標(biāo)不斷減小。,2,1。3333333)()(????????????????????33( ) ( )l l l ld o f Ne t?? ???333333333)()(lllllllllllllN e tfodN e tN e tooJN e tN e tJJ????????????????????????學(xué)習(xí)算法(續(xù)) 版權(quán)所有 復(fù)制必究 2022 24 第二步:計(jì)算梯度 JJW 22 , ???2222 2 2 2 232313 3 213 3 2 21()()( ) ( ) ( )()k k kkik i k k i k k k i kmllkil l l kml l l lk k ilml lk k i k ilNe t z Ne tJ J J Jf Ne t yw Ne t w z Ne t w zo Ne tJf Ne t yo Ne t zd o f Ne t w f Ne t yw f Ne t y y?????? ? ?? ? ? ??? ? ?? ? ? ? ? ? ??? ???????? ? ???????? ? ????????? ? ? ????????.)( 22132 k