人工神經(jīng)網(wǎng)絡(luò)bppt課件-文庫吧資料
2025-01-11 05:03本頁面
【正文】 ?? ?? ? ? ???????? ??????????? ???DBP：按 隨 機(jī) 或 任 意 順 序 從 訓(xùn) 練 集 中 抽 取 1 個(gè) 訓(xùn) 練 樣 本 計(jì) 算 輸 入 時(shí) ， 當(dāng) 前 網(wǎng) 絡(luò) 的續(xù)TnnTmmTnl L lr sr jknliisjiS TE PxDx x x Rd d Rxyy f f x重 復(fù) 如 下 過 程 直 至 滿 足 算 法 終 止 條 件 樣 本 輸 入 期 望 輸 出 實(shí) 際 輸 出算 法 步 驟? ?? ?? ?? ? ? ?? ?2121 , ...,1139。1? ? ? ???????? ? ? ?????????????????? ??????= llllljl l ljjlknknnl l l lk jk k jkkknliiljljjiljljn e tOOf n e t OetOOnt? ? ? ?? ? ? ?1111111 1 1 11111111 , ...,1 , .39。 某 樣 本 在 網(wǎng) 絡(luò) 產(chǎn) 生 的為 樣 本 集 內(nèi) 所 有 樣 本 關(guān) 于 該 網(wǎng) 絡(luò) 的 輸 出 層 節(jié) 點(diǎn) 的 TnmjjjmmLLj j j jjjtot alLLj ijxE D y d yd O d f n e tEEl L j n e t O2 誤 差 反 向 傳 播 過 程I 輸 出 誤 差準(zhǔn) 則 函 數(shù) 輸 出 層 各 節(jié) 點(diǎn)輸 出 誤 差總 輸 出 誤 差凈 輸 入2121111???????????????+ LjLnLin e tiLjeO實(shí) 際 輸 出? ?? ?? ? ? ?? ? ? ?? ?? ? ? ?? ?221121221111112 1 , ...,1 1 , ...,121122?????????????????????????????????? ? ????==隱 含 層 輸 出 層 輸 出 層 與 前 一 層的 實(shí) 際 輸 出 輸 出 誤 差 輸 出 層 誤 差計(jì) 算 元的單LLLiLjLinLLj j iimmj j jjjLjjjLjn e tEnL i netLjLLO y f f Od y d fnmII 輸 出 層 的 權(quán)調(diào)值 調(diào) 整 連 接 整權(quán) 值? ? ? ?? ? ? ? ? ?? ? ? ? ? ?1111139。oid? ?? ?? ?? ? ? ? ? ?? ?111,1 , . ,111.39。三 層 前 饋 神 經(jīng)多 層網(wǎng)網(wǎng) 絡(luò) 能 力絡(luò)的 表 達(dá)當(dāng)神經(jīng)元的輸出函數(shù)為 sigmoid等函數(shù)時(shí)，三層前饋網(wǎng)絡(luò) (含兩層計(jì)算單元 )可以逼近 任意的多元非線性函數(shù) 。 3. 多層感知器 （ 含兩層以上的計(jì)算單元 ） 多層感知器示意 ? ?? ? ? ?0111 , ...,ij i 0ji=kk1xgy g ne t v v?? ????????????? ? ? ???????????????? ? c第 個(gè) 隱 含 層 的 第 個(gè) 節(jié) 點(diǎn)的 凈 輸 入輸 出 層 的 第 個(gè) 節(jié) 點(diǎn) 的 凈 輸 入類 ， c 個(gè) 判 別 函 數(shù) 可 表 達(dá) 更 為 復(fù) 雜 的 非 線 性 函 數(shù)不 一 定 為 符 號 函 數(shù) nk k jk kjjmkxxkc輸 出 單 元 的 輸 出隱 含 層 單一 般 的 前 饋 運(yùn) 算 元 激 活 函 數(shù) 常 要 求 激 活 函 數(shù) 是 連 續(xù) 可 微 的輸 出 層 與 隱 含 層 的 激 活 函 數(shù) 可 以 不 同 ， 并 且 輸 出 層各 單 元 的 激 活 函 數(shù) 可 有 所 區(qū) 別? ?2K ol m og or ov 按 照 定 理 , 任 何 一 個(gè) 判 決 均 可 用前 式 所 示 的 三 層 神 經(jīng) 網(wǎng) 絡(luò) 實(shí) 現(xiàn) 。 ? 任何邏輯函數(shù)可由兩層前饋網(wǎng)絡(luò)（一層計(jì)算單元）實(shí)現(xiàn) 。 輸入信號由輸入層輸入 ,由第一層節(jié)點(diǎn)輸出，傳向下層， …… ?前饋：信息由低層向高層單向流動 。神 經(jīng) 網(wǎng) 絡(luò) 特 點(diǎn)神 經(jīng) 網(wǎng) 絡(luò) 應(yīng) 用神 經(jīng) 網(wǎng) 絡(luò) 本 質(zhì) 上 ， 可 以 理 解 為 函 數(shù) 逼 近主要內(nèi)容 一. 人工神經(jīng)網(wǎng)絡(luò)基本知識 二 . 前饋神經(jīng)網(wǎng)絡(luò) 、 多層感知器 、 及非線性分類 三 . BP神經(jīng)網(wǎng)絡(luò) 四 . 數(shù)據(jù)處理及神經(jīng)網(wǎng)絡(luò)結(jié) 構(gòu)的選擇 五 . 應(yīng)用 ?各神經(jīng)元接受來自前級的輸入，并產(chǎn)生輸出到下一級， 無反饋 ，可用一有向無環(huán)圖表示。 單 輸 出 ()傳 遞 函 數(shù)(1) 基本的人工神經(jīng)元模型 1()ii b p by ???? ? ? ???? ???若 帶 偏 置 量 ， 則 有 標(biāo) 量niWpf 單 輸 出 ()(2) 輸出函數(shù) f ? ?? ?? ?0,f ne t = k ne t + cne tf ne t ne t ne tne t???????? ? ???? ? ???? ： 為 常 數(shù) ， 稱 飽 和 值 ， 是 該 神 經(jīng) 單 元 的 最 大 輸 出 ； 輸 出 函 數(shù) 值 限 制 在 范 圍 內(nèi) 。2. 人工神經(jīng)網(wǎng)絡(luò)與人工神經(jīng)元 (1)基本的人工神經(jīng)元模型 McCullochPitts神經(jīng)元模型 輸入信號；鏈接強(qiáng)度與權(quán)向量； 信號累積 激活與抑制 00? ??? ??????????權(quán) 值 ， 激 活 連 接 權(quán) 值 ， 突 觸 連 接 強(qiáng) 度權(quán) 值 ， 抑 制 輸 入 信 號 關(guān) 于 神 經(jīng) 元 突 觸 的 線 性 加 權(quán) 將 神 經(jīng) 元 的 輸 出 信 號 限 制 在 有 限 范 圍 內(nèi) 一 組 連 接 一 個(gè) 加 法 器一 個(gè) 激 勵 函 數(shù)人 工 神 經(jīng) 元 模 型 的 三 要 素 :? ?? ?, ... , ... ,1n1 n i= x x=,? ? ? ?維 輸 入 向 量 是 來 自 其 它 個(gè) 神 經(jīng) 元 的 輸 出 ； 也 可 以 是 來 自 外 部 的 輸 入 信 號維 權(quán) 向 量 相 當(dāng) 于 突 觸 的 連 接 強(qiáng) 度 。 甚 至 等 ， 可 依 某 種 規(guī) 則 隨 外 部 數(shù) 據(jù) 進(jìn)人 工 神 經(jīng) 網(wǎng) 絡(luò)計(jì) 算 單 元 （ 結(jié) 點(diǎn) ， 神 經(jīng) 元 ）網(wǎng) 絡(luò)強(qiáng) 度行 適 當(dāng) 調(diào) 整 ， 最 終 實(shí) 現(xiàn) 某 種 功 能 。 大 量 簡 單 的 以 某 種 形 式連 接 ， 形 成 一 個(gè) . 其 中 某 些 因 素 ，
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1