人工神經(jīng)網(wǎng)絡(luò)-文庫吧資料
2024-10-03 10:43本頁面
【正文】 平面分開，就會產(chǎn)生當(dāng)年 Minsky等提出的不可分問題 如：異或問題。 43/65 前向型神經(jīng)網(wǎng) －單層感知器 ? 如： 2維空間 Txxx ),( 21? T ),(21? )( 2211 ???? xwxwfy希望找到一根直線，把 A, B兩類樣本分開，其分界線為 : 21212 wxwwx ???? 解有無數(shù)個。1, ????? ySxySx BBAA稱樣本集為線性可分的，否那么為線性不可分的。 第四十一頁，共八十七頁。 ? 把樣本 xp看作為在 n維狀態(tài)空間中的一個矢量，那么 k個樣本為輸入空間的 k個矢量 ? 前向神經(jīng)網(wǎng)絡(luò)就是將 n維空間分為 SA、 SB兩個子空間，其分界線為 n1維的超平面。 ? 關(guān)鍵是學(xué)習(xí)算法及網(wǎng)絡(luò)設(shè)計方法 ? 輸出 yi等于： )( jjiji xwfy ??? ? (1) ??? ? ?? 01 01)( ?j jj uuuf 其中 第四十頁，共八十七頁。 39/65 前向型神經(jīng)網(wǎng)絡(luò) ? 單層感知器 w 1 θ Y x 1 x n w n Σ 第三十九頁，共八十七頁。上層單元與下層所有單元相聯(lián)接 ? 特性函數(shù)可以是線性閾值的。 應(yīng)用最廣泛的一種人工神經(jīng)網(wǎng)絡(luò)模型 ， 最要原因是有 BP學(xué)習(xí)方法 。 37/65 ANN 人工神經(jīng)網(wǎng)絡(luò) ? 概述 ? 根本原理 ? 前向型神經(jīng)網(wǎng)絡(luò) ? BP神經(jīng)網(wǎng)絡(luò) ? 自組織競爭神經(jīng)網(wǎng)絡(luò) ? 神經(jīng)網(wǎng)絡(luò)的應(yīng)用 ? 與人工智能原理的結(jié)合 第三十七頁，共八十七頁。 35/65 第三十五頁，共八十七頁。 從不同角度考慮，神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法有不同的分類。 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí) 權(quán)值修正學(xué)派認(rèn)為：神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程就是不斷調(diào)整網(wǎng)絡(luò)的連接權(quán)值，以獲得期望的輸出的過程。 ? 網(wǎng)絡(luò)學(xué)習(xí)一般是利用一組稱為樣本的數(shù)據(jù) ,作為網(wǎng)絡(luò)的輸入 (和輸出 ),網(wǎng)絡(luò)按照一定的訓(xùn)練規(guī)那么 (又稱學(xué)習(xí)規(guī)那么或?qū)W習(xí)算法 )自動調(diào)節(jié)神經(jīng)元之間的連接強度或拓撲結(jié)構(gòu) ,當(dāng)網(wǎng)絡(luò)的實際輸出滿足期望的要求 ,或者趨于穩(wěn)定時 ,那么認(rèn)為學(xué)習(xí)成功 。 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí) ? 學(xué)習(xí) (亦稱訓(xùn)練 )是神經(jīng)網(wǎng)絡(luò)的最重要特征之一 。 33/65 根本原理－優(yōu)缺點 ? 評價 ? 優(yōu)點： 并行性；分布存儲；容錯性；學(xué)習(xí)能力 ? 缺點： 不適合高精度計算；學(xué)習(xí)問題沒有根本解決，慢；目前沒有完整的設(shè)計方法， 經(jīng)驗參數(shù)太多 。 ? 非凸性：系統(tǒng)演化的多樣性 ? 一個系統(tǒng)的演化方向，在一定條件下，將取決于某個特定的狀態(tài)函數(shù)，如能量函數(shù)，它的極值相應(yīng)于系統(tǒng)比較穩(wěn)定的狀態(tài) ? 非凸性是指這種函數(shù)有多個極值，故系統(tǒng)具有多個較穩(wěn)定的平衡態(tài)，這將導(dǎo)致系統(tǒng)演化的多樣性。 第三十一頁，共八十七頁。 31/65 根本原理－根本屬性 ? 根本屬性： ? 非線性： ? 自然界的普遍特性 ? 大腦的智慧就是一種非線性現(xiàn)象 ? 人工神經(jīng)元處于激活或抑制兩種不同的狀態(tài)，在數(shù)學(xué)上表現(xiàn)為一種非線性。 根據(jù)給定的概率密度函數(shù) ， 通過自組織網(wǎng)絡(luò)來響應(yīng)在空間 Rn中服從這一概率分布的一組向量樣本 X1，X2， … ， Xk?，F(xiàn)有的大多數(shù)神經(jīng)網(wǎng)絡(luò)模型都有這種分類能力。 29/65 第二十九頁，共八十七頁。 優(yōu)化計算和組合優(yōu)化問題求解 。 聯(lián)想記憶 。 數(shù)據(jù)聚類 、 壓縮 。 具體來講 ， 神經(jīng)網(wǎng)絡(luò)至少可以實現(xiàn)如下功能： 數(shù)學(xué)上的映射逼近 。 第二十七頁，共八十七頁。 27/65 根本原理－網(wǎng)絡(luò)模型 ? 廣泛互連網(wǎng)絡(luò)：所有計算單元之間都有連接，即網(wǎng)絡(luò)中任意兩個神經(jīng)元之間都可以或可能是可達的。 同一層內(nèi)單元的相互連接使它們之間有彼此牽制作用。 ? x 1 x2 x n y 1 y2 y n 第二十五頁，共八十七頁。而網(wǎng)絡(luò)本身還是前向型的。 x 1 x2 x n y 1 y2 y n 第二十四頁，共八十七頁。 第二十三頁，共八十七頁。 ? 如果將多個神經(jīng)元按某種的拓撲結(jié)構(gòu)連接起來 ， 就構(gòu)成了神經(jīng)網(wǎng)絡(luò) 。 f(u) f(u) f(u)1 1 10 0 0u u u( a) (b ) (c )第二十二頁，共八十七頁。 22/65 人工神經(jīng)元模型 ? 以上三種特性函數(shù)的圖像依次如以下圖中的 (a)、 (b)、 (c)所示 ? 神經(jīng)細胞的輸出對輸入的反映 。 21/65 神經(jīng)元的輸入－輸出特性滿足一定的區(qū)間線性關(guān)系 , 0001kkAy K A A AAA?? ? ??式中， K、 Ak均表示常量。例如 1()1 Ay f A e ??? ?S型特性函數(shù)反映了神經(jīng)元的非線性輸出特性。 第十九頁，共八十七頁。 19/65 于是，人工神經(jīng)元的輸入輸出關(guān)系可描述為： 1()niiiy f UUx ??????? 函數(shù) y=f(U)稱為特性函數(shù) (亦稱作用 、 傳遞 、 激活 、 活化 、 轉(zhuǎn)移函數(shù) )。θ 表示神經(jīng)元的閾值 。 其中 x1， x2， … xn表示神經(jīng)元的 n個輸入信號量； ? w1， w2， … ， wn表示對應(yīng)輸入的權(quán)值 ,它表示各信號源神經(jīng)元與該神經(jīng)元的連接強度； ? U表示神經(jīng)元的輸入總和 ,它相應(yīng)于生物神經(jīng)細胞的膜電位 ,稱為激活函數(shù) 。 ?一般地 ,人工神經(jīng)元的結(jié)構(gòu)模型如圖 3所示 。 ? 實質(zhì)上傳播的是脈沖信號 ， 信號的強弱與脈沖頻率成正比 。 ? 突觸聯(lián)接有強度 。 16/65 圖 2 一種簡化神經(jīng)元結(jié)構(gòu) 第十六頁，共八十七頁。否那么 ,無電脈沖產(chǎn)生 ,處于抑制狀態(tài)?？紤]到輸入信號的影響要持續(xù)一段時間 (毫秒級 ),因此 ,神經(jīng)元的整合功能是一種時空整合。 14/65 第十四頁，共八十七頁。每一條神經(jīng)末梢可以與其他神經(jīng)元形成功能性接觸 ,該接觸部位稱為突觸。細胞體是神經(jīng)元的主體 ,它由細胞核、細胞質(zhì)和細胞膜三局部構(gòu)成 .從細胞體向外延伸出許多突起 ,其中大局部突起呈樹狀 ,稱為樹突 .樹突起感受作用 ,接受來自其他神經(jīng)元的傳遞信號 . ? 由細胞體伸出的一條最長的突起 ,用來傳出細胞體產(chǎn)生的輸出信號 ,稱
高考資料相關(guān)推薦
鄂ICP備17016276號-1