[其它]ch3神經(jīng)網(wǎng)絡(編輯修改稿)
2025-02-10 09:19 本頁面
【文章內容簡介】 總輸出 ， 層內無互連 ，從輸出至輸入無反饋 ， 是一種典型的前向網(wǎng)絡 ，如圖所示 。 ? 在單層感知器中，當輸入的加權和大于等于閾值時，輸出為 1，否則為 0或 1。它與 MP模型的不同之處是假定神經(jīng)元間的連接強度 (即連接權值 wij ）是可變的，這樣它就可以進行學習。 ? 單層感知器的學習及其算法： – 學習的目的是調整連接權值，以使網(wǎng)絡對任何輸入都能得到所期望的輸出 。 – 考慮僅有一個輸出節(jié)點的情況 ， 其中 ， xi是該輸出節(jié)點的輸入； wi 是相應的連接權值(i=1， 2． … ， n)； y(t)是時刻 t的輸出； d是所期望的輸出 ， 它或者為 1， 或者為 1。 學習算法如下： (1) 給 wi(0)(i=1， 2， … ， n)及閾值 θ分別賦予一個較小的非零隨機數(shù)作為初值；這里 wi (0)表示在時刻 t=0時第 i個輸入的連接權值。 (2) 輸入一個樣例 X={x1， x2， … ， xn}和一個所期望的輸出 d。 (3) 計算網(wǎng)絡的實際輸出： （ 4）調整連接權值： 此處 0η≤1， 它是一個增益因子 ， 用于控制調整速度 。 如果實際輸出與已知的輸出一致 ， 表示網(wǎng)絡已經(jīng)作出了正確的決策 ，此時就無需改又 wi(t)的值 。 (5)轉到第 (2)步，直到連接權值 w，對一切樣例均穩(wěn)定不變時為止。 多層感知器 只要在輸入層與輸出層之間增加一層或多層隱層 ， 就可得到多層感知器 。 三層感知器 二、 BP模型 BP(BackPropagation)模型概念 ? BP模型是一種用于前向多層神經(jīng)網(wǎng)絡的反傳學習算法，由魯梅爾哈特()和麥克萊倫德 (McClelland)于1985年提出。 ? BP算法用于多層網(wǎng)絡，網(wǎng)絡中不僅有輸入層節(jié)點及輸出層節(jié)點，而且還有一層至多層隱層節(jié)點， 如圖： ? BP 網(wǎng)絡 ?信息首先由輸入層傳至隱層節(jié)點，經(jīng)特性函數(shù)作用后，再傳至下一隱層，直到最終傳至輸出層進行輸出。 ?特性函數(shù)通常選用 S型函數(shù)，例如： BP算法的學習過程 ? 學習的目的是對網(wǎng)絡的連接權值進行調整，使得對任一輸入都能得到所期望的輸出。 ? 學習的方法： – 用一組訓練樣例對網(wǎng)絡進行訓練，每一個樣例都包括輸入及期望的輸出兩部分。 – 首先把樣例的輸入信息輸入到網(wǎng)絡中，由網(wǎng)絡自第一個隱屋開始逐層地進行計算，并向下一層傳遞，直至傳至輸出層； –以其輸出與樣例的期望輸出進行比較 ，如果它們的誤差不能滿足要求 ， 則沿著原來的連接通路逐層返回 ， 并利用兩者的誤差按一定的原則對各層節(jié)點的連接權值進行調整 ， 使誤差逐步減小 ， 直到滿足要求時為止 。 ? 反向傳播的適用情況 –正向傳播用于進行網(wǎng)絡計算，對其一輸入求出它的輸出；反向傳播用于逐層傳遞誤差，修改連接權值，以使網(wǎng)絡能進行正確的計算。 –一旦網(wǎng)絡經(jīng)過訓練用于求解現(xiàn)實問題，則就只需正向傳播，不需要再進行反向傳播。 ? BP算法學習的步驟： (1)從訓練樣例集中取一樣例 ， 把輸入信息輸入到網(wǎng)絡中 。 (2)由網(wǎng)絡分別計算各層節(jié)點的輸出 。 (3)計算網(wǎng)絡的實際輸出與期望輸出的誤差 。 (4)從輸出層反向計算到第一個隱層 ， 按一定原則向減小誤差方向調整網(wǎng)絡的各個連接權值 。 (5)對訓練樣例集中的每一個樣例重復以上步驟 ， 直到對整個訓練樣例集的誤差達到要求時為止 。 三、 Hopfield模型 ? Hopfield 模型是霍普菲爾特分別于 1982年及 1984年提出的兩個神經(jīng)網(wǎng)絡模型，一個是離散的，一個是連續(xù)的，但它們都屬于反饋網(wǎng)絡，即它們從輸入層至輸出層都有反饋存在。下圖是一個單層反饋神經(jīng)網(wǎng)絡。 單層反饋神經(jīng)網(wǎng)絡 ? 反饋網(wǎng)絡的穩(wěn)定性：由于網(wǎng)絡的輸出要反復地作為輸入送人網(wǎng)絡中，這就使得網(wǎng)絡的狀態(tài)在不斷地改變，因而就提出了網(wǎng)絡的穩(wěn)定性問題。 – 所謂一個網(wǎng)絡是穩(wěn)定的，是指從某一時刻開始，網(wǎng)絡的狀態(tài)不再改變。 – 設用 X(t) 表示網(wǎng)絡在時刻 t 的狀態(tài)，如果從 t＝ 0的任一初態(tài) X(0)開始，存在一個有限的時刻 t，使得從此時刻開始神經(jīng)網(wǎng)絡的狀態(tài)不再發(fā)生 ,就稱該網(wǎng)絡是穩(wěn)定的。即 ： ? H
教學課件相關推薦
鄂ICP備17016276號-1