ch7典型神經(jīng)網(wǎng)絡(luò)ok(已修改)
2025-01-17 02:54 本頁(yè)面
【正文】 第 7章 典型神經(jīng)網(wǎng)絡(luò) BP BP網(wǎng)絡(luò) 是一種單向傳播的多層前向網(wǎng)絡(luò)，其神經(jīng)元的變換函數(shù)是 S型函數(shù)，因此輸出量為 0到 1之間的連續(xù)量，它可以實(shí)現(xiàn)從輸入到輸出的任意的非線性映射。 由于其權(quán)值的調(diào)整采用反向傳播（ Backpropagation） 的學(xué)習(xí)算法，因此被稱為 BP網(wǎng)絡(luò)，思想是梯度下降法，通過(guò)梯度搜索技術(shù)，使網(wǎng)絡(luò)實(shí)際輸出值與期望輸出值的誤差均方值最小。 反向傳播網(wǎng)絡(luò) (Back— Propagation Network，簡(jiǎn)稱 BP網(wǎng)絡(luò) )是對(duì)非線性可微分函數(shù)進(jìn)行權(quán)值訓(xùn)練的多層網(wǎng)絡(luò)。 BP網(wǎng)絡(luò)特點(diǎn) ?是多層網(wǎng)絡(luò)，包括輸入層、隱層和輸出層 ?層與層之間采用全互連方式，同一層神經(jīng)元之間不連接 ?權(quán)值通過(guò)學(xué)習(xí)算法進(jìn)行調(diào)節(jié) ?神經(jīng)元激發(fā)函數(shù)為 S函數(shù) ?層與層的連接是單向的，信息傳播是雙向的 BP網(wǎng)絡(luò)結(jié)構(gòu) BP神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu) 輸入層 隱層 輸出層 輸 入 輸 出 BP網(wǎng)絡(luò)是一種多層前向神經(jīng)網(wǎng)絡(luò) ?一般分三層：輸入層，隱層，輸出層，也可以有 2層或更多個(gè)隱層。 ?層與層之間采用全互聯(lián)方式，同一層單元之間不存在相互連接。 1）輸入層單元無(wú)轉(zhuǎn)換函數(shù)，直接接收信號(hào)傳給下一層，所以有些書(shū)不認(rèn)為輸入層是一個(gè)網(wǎng)絡(luò)層。 2）只有當(dāng)希望對(duì)網(wǎng)絡(luò)的輸出進(jìn)行限制，如限制在 0和 1之間，那么在輸出層應(yīng)當(dāng)包含 S 型激活函數(shù)，在一般情況下， …… …… …… x1 x2 xn y1 yp 均是在隱含層采用 S 型激活函數(shù)，而輸出層采用線性激活函數(shù)。 Bp網(wǎng)絡(luò)的逼近 用于逼近的 BP網(wǎng)絡(luò) ? 前向傳播：計(jì)算網(wǎng)絡(luò)輸出 ? 隱層輸出采用 S函數(shù) ??iiijj xx ?? ?jxjjexfx ????1139。輸出層輸出 ? ? ??jjjn xky 39。2?? ? ? ? ? ?kykyke n??? ? 221 keE ?反向傳播：采用 δ學(xué)習(xí)算法調(diào)整各層間權(quán)值 梯度下降法 ijijjjEE????????????????22? ?221 keE?? ? ? ? 39。222 jjnjj xkeykeE ????????????? ??????? ?? ? ])1([ 39。39。2 ijjjijnijijxxxkeykeE????????????????????????? ? ? ? 222 1 jjj kk ??? ????? ? ? ? ijijij kk ??? ???? 1? ? ? ? ? ?kykyke n?? ? ?221 keE ? ? ? ??jjjn xky 39。2?? ? ? ? ? ?? ? ? ?? ?112239。22????????kkxkekkjjjjj??????? ? ? ? ? ? ? ?? ?11 22222 ??????? kkkk jjjjj ??????? ? ? ? ? ? ? ?? ?11 ??????? kkkk ijijijijij ??????? ? ? ? ? ? ? ?? ?? ? ? ?? ? ? ?? ?1])1([1139。39。2??????????????????kkxxxkekkkkkijijijjjijijijijijij????????????BP網(wǎng)絡(luò)逼近仿真 ? ? ? ? ? ?
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1