神經(jīng)網(wǎng)絡(luò)bp算法ppt課件(已修改)
2025-01-17 15:31 本頁面
【正文】 第 7章 典型神經(jīng)網(wǎng)絡(luò) BP ?反向傳播網(wǎng)絡(luò) Back— Propagation Network，由于其權(quán)值的調(diào)整采用反向傳播（ Backpropagation） 的學(xué)習(xí)算法，因此被稱為 BP網(wǎng)絡(luò)。 BP網(wǎng)絡(luò) ?是一種單向傳播的多層前向網(wǎng)絡(luò) ?其神經(jīng)元的變換函數(shù)是 S型函數(shù)，因此輸出量為 0到 1之間的連續(xù)量 ?它可以對非線性可微分函數(shù)進(jìn)行權(quán)值訓(xùn)練，從而實(shí)現(xiàn)輸入到輸出的任意的非線性映射。 ? 網(wǎng)絡(luò)中心思想是梯度下降法 通過梯度搜索技術(shù)，使網(wǎng)絡(luò)實(shí)際輸出值與期望輸出值的誤差均方值最小。 ?網(wǎng)絡(luò)的學(xué)習(xí)過程是一種誤差邊向后傳播邊修正權(quán)系數(shù)的過程 BP網(wǎng)絡(luò)結(jié)構(gòu) BP神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu) 輸入層 隱層 輸出層 輸 入 輸 出 BP網(wǎng)絡(luò)是一種多層前向神經(jīng)網(wǎng)絡(luò) ?一般分三層：輸入層，隱層，輸出層，也可以有 2層或更多個(gè)隱層。 ?層與層之間采用全互聯(lián)方式，同一層單元之間不存在相互連接。 1）輸入層單元無轉(zhuǎn)換函數(shù)，直接接收信號傳給下一層，所以有些書不認(rèn)為輸入層是一個(gè)網(wǎng)絡(luò)層。 2）在一般情況下，均是在隱含層采用 S 型激活函數(shù)，而輸出層采用線性激活函數(shù)。 …… …… …… x1 x2 xn y1 yp 只有當(dāng)希望對網(wǎng)絡(luò)的輸出進(jìn)行限制，如限制在 0和1之間，那么則在輸出層包含 S 型激活函數(shù) BP網(wǎng)絡(luò)特點(diǎn) ?是多層網(wǎng)絡(luò)，包括輸入層、隱層和輸出層 ?層與層之間采用全互連方式，同一層神經(jīng)元之間不連接 ?權(quán)值通過學(xué)習(xí)算法進(jìn)行調(diào)節(jié) ?神經(jīng)元激發(fā)函數(shù)為 S函數(shù) ?層與層的連接是單向的，信息傳播是雙向的 感知機(jī)網(wǎng)絡(luò)利用輸出誤差只能修改最后一層的權(quán)值 而 BP網(wǎng)絡(luò)實(shí)現(xiàn)了多層學(xué)習(xí)，每一層的權(quán)值均可訓(xùn)練學(xué)習(xí)修改。 BP學(xué)習(xí)規(guī)則 BP算法屬于 δ算法，是一種監(jiān)督式的學(xué)習(xí)算法。 其主要思想為： 對于 q個(gè)輸入學(xué)習(xí)樣本： P1， P2， ……P q， 已知與其對應(yīng)的輸出樣本為： T1， T2， ……T q。 學(xué)習(xí)的目的： 是用網(wǎng)絡(luò)的實(shí)際輸出 A1， A2， ……A q與目標(biāo)矢量 T1， T2， ……T q之間的誤差來修改其權(quán)值 使 Al (l＝ l， 2… ， q)與期望的 Tl盡可能地接近； 即： 使網(wǎng)絡(luò)輸出層的誤差平方和達(dá)到最小。 ?BP算法的學(xué)習(xí)過程由 正向傳播 和 反向傳播 組成 BP算法是由兩部分組成：信息的正向傳遞與誤差的反向傳播。 在正向傳播過程中，輸入信息從輸入經(jīng)隱含層逐層計(jì)算傳向輸出層，每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。 ?如果在輸出層沒有得到期望的輸出，則計(jì)算輸出層的誤差變化值，然后轉(zhuǎn)向反向傳播，通過網(wǎng)絡(luò)將誤差信號沿原來的連接通路反傳回來修改各層神經(jīng)元的權(quán)值直至達(dá)到期望目標(biāo)。 BP網(wǎng)絡(luò)用途 1)函數(shù)逼近：用輸入矢量和相應(yīng)的輸出矢量訓(xùn)練一個(gè)網(wǎng)絡(luò)逼近 — 個(gè)函數(shù)； 2)模式識別：用一個(gè)特定的輸出矢量將它與輸入矢量聯(lián)系起來； 3)分類：把輸入矢量以所定義的合適方式進(jìn)行分類； 4)數(shù)據(jù)壓縮：減少輸出矢量維數(shù)以便于傳輸或存儲(chǔ)。 BP網(wǎng)絡(luò)的逼近 用于逼近的 BP網(wǎng)絡(luò) ? 前向傳播：計(jì)算網(wǎng)絡(luò)輸出 ??iiijj xx ?? ?jxjjexfx ????1139。輸出層輸出 ? ? ??jjjn xky39。2?隱層輸出采用 S函數(shù) 隱層輸入： ? ? ? ? ? ?? ? ? ?? ?1
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1