人工神經(jīng)網(wǎng)絡(luò)bppt課件-wenkub
2023-01-20 05:03:45 本頁面
【正文】 的兩個階段 (1)信號正向傳遞過程 輸入信息 從 輸入層 經(jīng) 隱層 逐層、正向傳遞，直至得到各計算單元的輸出 (2)誤差反向傳播過程 輸出層誤差 從 輸出層 開始，逐層、反向傳播，可間接計算隱層各單元的誤差，并用此誤差修正前層的權(quán)值 . ? ?? ?? ?? ? ? ?? ?1011,201213 0 1 , ..., 14?????????????B,...,P1=維 輸 入 向 量 層 神 經(jīng) 網(wǎng) 絡(luò)層 號 輸 入 層層 號 隱 含 層層 號 輸 出 層各 層 節(jié) 點 輸 入 節(jié) 點 ， 計 算 節(jié) 點 數(shù) 目 ， 輸 入 層 輸 出 層相 鄰 層 連 接 權(quán) 值 來 自 與第 層 的 當 前 的 連 接節(jié) 點 第 層 節(jié) 點 權(quán) 值TnlLlijnx x xLllLlLn l Ln n nl i l jm算 法 訓(xùn) 練 過 程 描 述約 定 ：標 準 化? ?1115111 , ..., 1 , ..., 1 , ...,i , j , kjOijjk??????????BP： 第 層 為 當 前 處 理 層 ； 其 前 一 層 、 當 前 層 、 后 一 層 的 計 算 單 元 序 號 為 ； 位 于 當 前 層 第 個 計 算 單 元 的 輸 出 為 ， 前 層 第 個 單 元 到 本 層 第 個 單 元 的 連 接 權(quán) 值 為 本 層 第 個 單 元 到 后 層 第 個 單 元 的 連 接 權(quán) 值 為注 ： 采 用 修 正 權(quán) 值 ， 輸 出 函 數(shù) 應(yīng) 連 續(xù) 可 微 ， 選ljllij lljk lll l ljninknsi gm算 法 訓(xùn) 練 過 程 描 述假 定梯 度 法 函 數(shù) 。 ? 三層或三層以上的前饋網(wǎng)絡(luò)通常稱為 多層感知器 ? 多層感知器的適用范圍大大超過單層網(wǎng)絡(luò)。 ?網(wǎng)絡(luò)中的節(jié)點分兩類： 輸入節(jié)點 ； 計算節(jié)點 (神經(jīng)元節(jié)點 ) ?節(jié)點按層 (layer)組織 ： 第 i層的輸入只與第 i1層的輸出相連。TTnxxnn W R輸 入 信 號權(quán) 向 量? ?1()iine t xy ne t????????????????? 單 調(diào) 增 函 數(shù) ， 通 常 為 非 線 性 函 數(shù) 網(wǎng) 絡(luò) 輸 入 神 經(jīng) 元 的 輸 入 興 奮 總 量 是 多 個 輸 入 的 代 數(shù) 和 其 中輸 出 標 量 執(zhí) 行 該 神 經(jīng) 元 所 獲 得 的 網(wǎng) 絡(luò) 輸 入 的 變 換niWxf 轉(zhuǎn) 移 函 數(shù) , 激 勵 激 活 函 數(shù) 傳 輸 函 數(shù) ， 輸 出 函 數(shù) ， 限 幅 函 數(shù) 將 可 能 的 無 線 域 變 換 到 指 定 的 有 限 范 圍 輸 出 。 , 神 經(jīng) 元 的 輸 入輸 出 特 性 )。第 2部分：人工神經(jīng)網(wǎng)絡(luò) 河北師范大學(xué)數(shù)學(xué)與信息科學(xué)學(xué)院 主要內(nèi)容 一 . 人工神經(jīng)網(wǎng)絡(luò)基本知識 生物神經(jīng)網(wǎng)絡(luò) 、 生物神經(jīng)元 人工神經(jīng)網(wǎng)絡(luò) 、 人工神經(jīng)元 人工神經(jīng)網(wǎng)絡(luò)三要素 典型激活函數(shù) 神經(jīng)網(wǎng)絡(luò)幾種典型形式 二 . 前饋神經(jīng)網(wǎng)絡(luò) 、 多層感知器 、 及非線性分類 三 . BP神經(jīng)網(wǎng)絡(luò) 四 . 數(shù)據(jù)處理及神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的選擇 五 . 應(yīng)用 人工神經(jīng)網(wǎng)絡(luò) 是 生物神經(jīng)網(wǎng)絡(luò) 的某種模型 (數(shù)學(xué)模型 ) 是對生物神經(jīng)網(wǎng)絡(luò)的模仿 基本處理單元為 人工神經(jīng)元 1. 生物神經(jīng)系統(tǒng)與生物神經(jīng)元 大量 生物神經(jīng)元 的廣泛、復(fù)雜連接，形成 生物神經(jīng)網(wǎng)絡(luò) (Biological Neural Network, BNN)。 甚 至 等 ， 可 依 某 種 規(guī) 則 隨 外 部 數(shù) 據(jù) 進人 工 神 經(jīng) 網(wǎng) 絡(luò)計 算 單 元 （ 結(jié) 點 ， 神 經(jīng) 元 ）網(wǎng) 絡(luò)強 度行 適 當 調(diào) 整 ， 最 終 實 現(xiàn) 某 種 功 能 。 單 輸 出 ()傳 遞 函 數(shù)(1) 基本的人工神經(jīng)元模型 1()ii b p by ???? ? ? ???? ???若 帶 偏 置 量 ， 則 有 標 量niWpf 單 輸 出 ()(2) 輸出函數(shù) f ? ?? ?? ?0,f ne t = k ne t + cne tf ne t ne t ne tne t???????? ? ???? ? ???? ： 為 常 數(shù) ， 稱 飽 和 值 ， 是 該 神 經(jīng) 單 元 的 最 大 輸 出 ； 輸 出 函 數(shù) 值 限 制 在 范 圍 內(nèi) 。 輸入信號由輸入層輸入 ,由第一層節(jié)點輸出，傳向下層， …… ?前饋：信息由低層向高層單向流動 。 3. 多層感知器 （ 含兩層以上的計算單元 ） 多層感知器示意 ? ?? ? ? ?0111 , ...,ij i 0ji=kk1xgy g ne t v v?? ????????????? ? ? ???????????????? ? c第 個 隱 含 層 的 第 個 節(jié) 點的 凈 輸 入輸 出 層 的 第 個 節(jié) 點 的 凈 輸 入類 ， c 個 判 別 函 數(shù) 可 表 達 更 為 復(fù) 雜 的 非 線 性 函 數(shù)不 一 定 為 符 號 函 數(shù) nk k jk kjjmkxxkc輸 出 單 元 的 輸 出隱 含 層 單一 般 的 前 饋 運 算 元 激 活 函 數(shù) 常 要 求 激 活 函 數(shù) 是 連 續(xù) 可 微 的輸 出 層 與 隱 含 層 的 激 活 函 數(shù) 可 以 不 同 ， 并 且 輸 出 層各 單 元 的 激 活 函 數(shù) 可 有 所 區(qū) 別? ?2K ol m og or ov 按 照 定 理 , 任 何 一 個 判 決 均 可 用前 式 所 示 的 三 層 神 經(jīng) 網(wǎng) 絡(luò) 實 現(xiàn) 。oid? ?? ?? ?? ? ? ? ? ?? ?111,1 , . ,111.39。1? ? ? ???????? ? ? ?????????????????? ??????= llllljl l ljjlknknnl l l lk jk k jkkknliiljljjiljljn e tOOf n e t OetOOnt? ? ? ?? ? ? ?1111111 1 1 11111111 , ...,1 , .39。可 以 是 如 下 之 一 ：網(wǎng) 絡(luò) 實 際 輸 出 與 期 望 輸 出 最 近 輪 訓(xùn) 練 中 所 有 權(quán) 值 變 化 算 法 達 到 最 大 允t t + 1S T E P 3S T E P 3終 止 條 件 終 止 條 件總 誤 差最 大 值算 法 步 驟閾 值閾 值 2?????= 許 的 閾 值 3 總 訓(xùn) 練 次 數(shù)BP網(wǎng)絡(luò)的優(yōu)點 ①特別適合于求解內(nèi)部機制復(fù)雜的問題 BP網(wǎng)絡(luò)實質(zhì)上實現(xiàn)了一個從輸入到輸出的映射功能，而數(shù)學(xué)理論已證明 它具
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1