人工神經(jīng)網(wǎng)絡bppt課件-wenkub.com
2025-01-02 05:03 本頁面
【正文】 分析： (1)明確模型輸入輸出關系 (2)建模： 原始數(shù)據(jù)讀取；數(shù)據(jù)標準化處理；網(wǎng)絡訓練； (3)模型評價： 對原始數(shù)據(jù)仿真，明確預測誤差 (4)輸出預測結(jié)果：對新數(shù)據(jù)預測結(jié)果 。 (1)兩類別問題 單輸出型 1個判別函數(shù)， 1個輸出節(jié)點 (2)多類別問題 輸出節(jié)點數(shù)是類別數(shù)： “ C中取 1(1ofC)” C位 “ 01”二進制編碼 輸出節(jié)點數(shù)是二進制編碼的狀態(tài)數(shù) 8類問題， 3位二進制數(shù) 可能會需增加 1個隱含層以滿足要求 (3)輸出節(jié)點數(shù)是待逼近的函數(shù)個數(shù) 隱含層節(jié)點數(shù)目越大，網(wǎng)絡學習能力越強，但不能保證預測能力好 —“過學習 (過擬合 )” overfitting 隱含層節(jié)點不能過少，網(wǎng)絡不能構(gòu)建復雜決策面：節(jié)點數(shù)越小，網(wǎng)絡學習能力低 “欠學習 (欠擬合 )” underfitting 如何選擇適當數(shù)目 “ 隱含層 ” 節(jié)點，以取得 “ 過學習 ”與 “ 欠學習 ” 之間的平衡？ 2,10 10l ogIoHIH H I oHnnnnn n n n a ann????? ? ? ?????輸 入 , 輸 出 層 節(jié) 點 數(shù)隱 含 層 節(jié) 點 數(shù)?試湊法 ?結(jié)合問題先驗知識 ?結(jié)合特定算法 對隱含層節(jié)點數(shù)的選擇 ， Nielson等指出： 除了圖像情況 ， 在大多數(shù)情況下 ， 可使用 45個隱含層節(jié)點對應 1個輸入節(jié)點 。 1 , ...,m a x m i n39。, 39。 m a x m i n m i n1 , .2..,yyyy???? ? ? ????給 定 標 準 化 處 理 之 后 的 某 個 輸 入 樣 本神 經(jīng) 網(wǎng) 絡 回 歸 模 型 關 于 該 輸 入 產(chǎn) 生 預 測 輸 出對 進 行 反 向 標 準 化 后 處 理 得 最 終 預 測 輸 出 下 面 給 出 具 體 的 后 處 理 方 式 。39。 1 , ...,m a x m i n2 m i n39。, 39。11????? ? ????????????????????? ? ? ??? ??? 激 活 函 數(shù)其 中Lnrmfeef f fe? ?? ? ? ? ? ?? ?? ? ? ? ? ?11311 , ..., 1 , ...,111 , ...,? ? ???????? ? ? ?????? ? ? ? ????BP 1 對 于 第 層 ， 修 正 權(quán) 值 權(quán) 值 修 正 項 輸 出 層 ， 具 體 為 間 層：中l(wèi) l lij ij ijllllij ilj j j jljjlt t ti n j ntxl L y y d yjml算 法 步權(quán)驟調(diào) 整 值從 輸 出 層 開 始? ? ? ? ? ?1111111 , ...,? ? ??????????? ? ??????? lnl l l l lj j j k jkklL x x tjn? ?? ?? ?? ?? ?41??????B1P12 1 3 更 新 全 部 權(quán) 值 ， 對 所 有 訓 練 樣 本 重 新 計 算 輸 出 ； 計 算 更 新 后 網(wǎng) 絡 輸 出 與 期 望 輸 出 的 誤 差 ； 檢 查 算 法若 不 滿 足 終 止 條 件 ， 則 , 轉(zhuǎn) 向若 條 件 滿 足 ， 則 終 止 ， 轉(zhuǎn) 向： 算 法 結(jié) 束 . 輸 出 各 層 連 接 權(quán) 值 。1???????? ? ? ? ???? ? ? ?????? ?局 部 梯 度 Lj Lj Lj j jLjjllj j j jjj j j jyEy d f n e ty n e ty d f n e t f nEn e ty y de yt? ? ? ?? ? ? ?212111111111111211111.1???????????????????????????????????????????????? ? ????= 修 正 應 使 誤 差 最 快 減 續(xù)小 LLijLj LiLijLj j j j jLjLjLjLjLijnLiiLijLijLLij ijLijLiLjjEy y d yn e tOEn e tEn e tnEAtOEeII 輸 出 層 的 權(quán) 值 調(diào) 整權(quán) 值 對 誤 差 的 影 響輸 出 層 的 權(quán) 值 調(diào) 整 修 正 量? ? ? ?? ? ? ? ? ?221 1 1 1.11?? ? ? ???? ? ? ?? ? ???? ? ? ? LLiiL L L Lij ij ij ijj j j jy d yttyOOBt修 正 方 式 ? ? ? ?? ?? ?? ? ? ?11 1 111111 , ...,1 , ...,11??????????????????? ? ? ?? ? ?? ? ? ?? ? ? ??? ????????節(jié) 點后 層 中 的 節(jié) 點 的 輸 出 輸 出 層 誤 差 關 于 隱 含 層 的 節(jié) 點 凈 輸 入 的 局對 后 層 全 部 節(jié) 點部 梯 度 ：均 有 影 響 llllijnnl l lk jk jkjjlkllllljljj jkinljljlIIInfnkO f f fEn e tnenelkOljEEt tetne隱 含 層 當 前 層當調(diào) 整 值前 層的 權(quán)? ? ? ?111111 1 1 11111139。 主要內(nèi)容 一 . 人工神經(jīng)網(wǎng)絡基本知識 、 神經(jīng)元與感知器 二 . 前饋神經(jīng)網(wǎng)絡 、 多層感知器 、 及非線性分類 三 . BP神經(jīng)網(wǎng)絡 四 . 數(shù)據(jù)處理及 神經(jīng)網(wǎng)絡結(jié)構(gòu)的選擇 五 應用 基于 閾值神經(jīng)元 的多層感知器不足 ? 隱含層不直接與外界連接，誤差無法直接估計 ? 中間層神經(jīng)元的激活函數(shù)為閾值函數(shù) (或階躍函數(shù) ) 無法采用 梯度下降法 訓練神經(jīng)元權(quán)值 基于 BP算法的多層感知器 (BP網(wǎng)絡 ) ? 各 計算單元 (神經(jīng)元節(jié)點 )傳遞函數(shù)： Sigmoid函數(shù) ? 誤差 逐層反向傳播； 信號 逐層 正向傳遞 BP神經(jīng)網(wǎng)絡訓練
教學課件相關推薦
鄂ICP備17016276號-1