人工神經(jīng)網(wǎng)絡(luò)ppt(編輯修改稿)
2024-10-03 10:50 本頁面
【文章內(nèi)容簡介】 γ0為一常數(shù) ， 被稱為飽和值 ， 為該神經(jīng)元的最大輸出 。 第二十六頁，共七十九頁。 非線性斜面函數(shù)〔 Ramp Function〕 γ γ θ θ o 第二十七頁，共七十九頁。 閾值函數(shù)〔 Threshold Function〕階躍函數(shù) β if θ f〔 〕 = γ if ≤ θ β、 γ、 θ均為非負(fù)實(shí)數(shù) ， θ為閾值 二值形式： 1 if θ f〔 〕 = 0 if ≤ θ 雙極形式： 1 if θ f〔 〕 = 1 if ≤ θ 第二十八頁，共七十九頁。 閾值函數(shù)〔 Threshold Function〕階躍函數(shù) β γ θ o 0 第二十九頁，共七十九頁。 人工神經(jīng)網(wǎng)絡(luò)處理單元 符號(hào)函數(shù)〔 sgn(?)〕 硬限幅函數(shù)的一種 第三十頁，共七十九頁。 S形函數(shù) a+b o (0,c) a c=a+b/2 第三十一頁，共七十九頁。 人工神經(jīng)網(wǎng)絡(luò)根底 人工神經(jīng)網(wǎng)絡(luò)處理單元 ? Sigmoid函數(shù) ? S型函數(shù)的一種 y = F(s) = 1/(1+es) 第三十二頁，共七十九頁。 人工神經(jīng)網(wǎng)絡(luò)根底 可以把該型函數(shù)看作為處理單元定義了一個(gè)非線性增益，增益的大小決定于曲線在給定 s點(diǎn)的斜率。 當(dāng) s由負(fù)無窮增到 0時(shí)，增益由 0增至最大； 當(dāng) s由 0增到正無窮時(shí)，增益又由最大返回到 0。 發(fā)現(xiàn)，用該函數(shù)可使同一網(wǎng)絡(luò)既能處理小信號(hào)，也能處理大信號(hào)。 該函數(shù)的中間高增益區(qū)解決了處理小信號(hào)的問題； 伸向兩邊的低增益區(qū)正好適合于處理大的鼓勵(lì)信號(hào)； 這種現(xiàn)象正像生物神經(jīng)元在輸入電平范圍很大的情況下能正常工作一樣。 第三十三頁，共七十九頁。 ? 人工神經(jīng)網(wǎng)絡(luò)處理單元是生物神經(jīng)元的簡單近似，在模仿生物神經(jīng)網(wǎng)絡(luò)時(shí)，具備了生物神經(jīng)元的某些特性。 ? 至于模仿效果，還需進(jìn)一步研究，修改模型。 ? 人工神經(jīng)網(wǎng)絡(luò)處理單元忽略了生物神經(jīng)元的很多特征。 ?它沒有考慮影響系統(tǒng)動(dòng)態(tài)特性的時(shí)間延遲，而認(rèn)為一個(gè)輸入立即產(chǎn)生一個(gè)輸出。 ?它沒有包括同步機(jī)能和神經(jīng)元的頻率調(diào)制功能的影響。 ? 其它未知的生物神經(jīng)元的功能和特性。 第三十四頁，共七十九頁。 人工神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu) 雖然單個(gè)處理單元可以處理簡單的圖形檢測(cè)功能，但更強(qiáng)的識(shí)別處理能力是來自多個(gè)結(jié)點(diǎn) “連成〞的網(wǎng)絡(luò)，即人工神經(jīng)網(wǎng)絡(luò)。 這里的 “連成〞，是靠輸入至結(jié)點(diǎn)或者結(jié)點(diǎn)至結(jié)點(diǎn)間的信號(hào)傳輸通路實(shí)現(xiàn)的，這一通路相當(dāng)于生物神經(jīng)系統(tǒng)中的軸突和突觸，它們影響著輸入信號(hào)。 以后我們把這種信號(hào)傳輸通路稱為 “連接〞，每一個(gè)連接都具有一個(gè)加權(quán)值，稱為 “連接權(quán)〞，反映連接的強(qiáng)度。 第三十五頁，共七十九頁。 單層網(wǎng)絡(luò) 最簡單的網(wǎng)絡(luò)是把一組結(jié)點(diǎn)形成一層。 ? 左邊的黑色圓點(diǎn)只起著分配輸入信號(hào)的作用，沒有計(jì)算作用，不看作是網(wǎng)絡(luò)的一層。 ? 右邊用圓圈表示的一組結(jié)點(diǎn)被看作一層。 第三十六頁，共七十九頁。 ? 輸入信號(hào)表示為行向量： x = (x1, x2,…, xN)，其中每一分量通過加權(quán)連接到各結(jié)點(diǎn)。 ? 每一個(gè)結(jié)點(diǎn)均可產(chǎn)生一個(gè)加權(quán)和。 ? 輸入和結(jié)點(diǎn)間采用全連接，并且都是前饋連接。 ?實(shí)際的人工神經(jīng)網(wǎng)絡(luò)和生物神經(jīng)網(wǎng)絡(luò)中有些連接可能不存在。 第三十七頁，共七十九頁。 在這種單層網(wǎng)絡(luò)中，可把各加權(quán)表示為加權(quán)矩陣 W。 矩陣的維數(shù)是 N x n， N是輸入信號(hào)向量〔也稱輸入圖形〕的分量數(shù)， n是該層內(nèi)的結(jié)點(diǎn)數(shù)。 由第三個(gè)輸入連接到第二個(gè)結(jié)點(diǎn)的連接權(quán)表示為W32。 第三十八頁，共七十九頁。 ? 單層網(wǎng)絡(luò) ? 輸入信號(hào)的加權(quán)和表示為： ? s是各結(jié)點(diǎn)加權(quán)和的行向量， s=(s1, s2,…, sn)。 ? 輸出向量 y=(y1, y2,…, y n)，其中 yj=F(sj)。 第三十九頁，共七十九頁。 人工神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu) ?多層網(wǎng)絡(luò) ? 一般來說，大而復(fù)雜的網(wǎng)絡(luò)能提供更強(qiáng)的計(jì)算能力。 ? 雖然目前已構(gòu)成了很多網(wǎng)絡(luò)模型，但它們的結(jié)點(diǎn)都是按層排列的，這一點(diǎn)正是模仿了大腦皮層中的網(wǎng)絡(luò)模塊。 ? 多層網(wǎng)絡(luò)是由單層網(wǎng)絡(luò)進(jìn)行級(jí)聯(lián)構(gòu)成的，即上一層的輸出作為下一層的輸入。 第四十頁，共七十九頁。 多層網(wǎng)絡(luò) 兩層網(wǎng)絡(luò)〔前饋全連接網(wǎng)絡(luò)〕 第四十一頁，共七十九頁。 三層網(wǎng)絡(luò)〔前饋全連接網(wǎng)絡(luò)〕 第四十二頁，共七十九頁。 多層網(wǎng)絡(luò) 注意：在構(gòu)成多層網(wǎng)絡(luò)時(shí)，層間的轉(zhuǎn)移函數(shù)應(yīng)是非線性的，否那么多層網(wǎng)絡(luò)的計(jì)算能力并不比單層網(wǎng)絡(luò)強(qiáng)。 在線性轉(zhuǎn)移函數(shù)的情況下，兩層網(wǎng)絡(luò)輸出的計(jì)算是第一層的輸出 xW1作為第二層的輸入，通過第二個(gè)加權(quán)矩陣得到網(wǎng)絡(luò)的輸出 y=(xW1) W2=x(W1W2) 這說明兩層線性網(wǎng)絡(luò)等效于單層網(wǎng)絡(luò)，只是后者的加權(quán)矩陣為兩個(gè)加權(quán)矩陣的乘積。 第四十三頁，共七十九頁。 多層網(wǎng)絡(luò)中，接收輸入信號(hào)的層稱為輸入層。 它不計(jì)入網(wǎng)絡(luò)層數(shù)，因?yàn)樗黄鹬斎胄盘?hào)緩沖器
環(huán)評(píng)公示相關(guān)推薦
鄂ICP備17016276號(hào)-1