21單神經(jīng)元網(wǎng)絡(luò)-展示頁
2024-10-30 08:09本頁面
【正文】 以在 1969年， Minsky和 Papert發(fā)表了名為Perceptron的專著 , 書中指出 ,這樣的簡單的線性感知器的功能非常有限，使得隨后的研究處于低潮。 ? ?dx pp ,dp??? ???? ??ippinii xxs ,1, 00設(shè)????????0,10,1)(sssfyp3) 按下式調(diào)整連接權(quán) ?0為學(xué)習(xí)率 4) 在樣本集中另選一個(gè)樣本，并置 k+1?k，重復(fù)steps (2)(4) until 為什么？ 表示此時(shí)的 d(x)已能正確分類， ∴ 無須修改。 K=0， 表示初始值。 ?一個(gè)閥值 θ ?兩個(gè)待調(diào)整的權(quán)值 W1和 W2 ?決策函數(shù)為 ?樣本集分別屬于 2類。 感知器 (perceptron) 感知器是一種非常特殊的神經(jīng)網(wǎng)絡(luò)，它在人工神經(jīng)網(wǎng)絡(luò)的發(fā)展歷史上有著非常重要的地位，盡管它的能力非常有限，只能用于線性分類。 單 神經(jīng)元網(wǎng)絡(luò) 第 2章 典型 神經(jīng)網(wǎng)絡(luò) 2 神經(jīng)元模型 圖 21中 為神經(jīng)元的內(nèi)部狀態(tài) ， 為閾值 ， 為輸入信號 ， ， 為表示從單元 到單元 的連接權(quán)系數(shù) ， 為外部輸入信號 。 單神經(jīng)元模型可描述為： iu i?jx nj ,1 ?? ijwjuiuis)( ii ugy ?? ???jiijiji sxwN e t ?)( ii Ne tfu ?通常情況下，取 即 ii uug ?)()( ii Ne tfy ?圖 21 單神經(jīng)元模型 常用的神經(jīng)元非線性特性有以下四種： （ 1） 閾值型 圖 22 閾值型函數(shù) ??????0001)(iii N e tN e tN e tf（ 2）分段線性型 ??????????iliiliiiiiiN e tN e tfN e tN e tN e tk N e tN e tN e tN e tfm a x000)(圖 23 分段線性函數(shù) （ 3） Sigmoid函數(shù)型 TN e ti ieN e tf???11)(圖 24 Sigmoid函數(shù) ∑ ∑ （雙極型） Sigmoid u1 ui ?i u1 ui ?i y i y i Adline(自適應(yīng)線性網(wǎng) ） 單層感知器(Perceptron) ▲ 不同的部件可以組成不同的網(wǎng)絡(luò) ︰ ︰ 167。 我們以單層感知器來說明： ?兩個(gè)輸入 x1 和 x2 。 ? ? ??? ??? xxXd 2211θ yx1?1 ?2x2x??????? ?Xd? ? 1??Xd? ? 1?Xd– 很顯然，正確分割這兩類樣本的直線 方程為 d(z)=0 具體的算法如下，用于確定 wi和 θ 1) 隨機(jī)給定一組連接權(quán) ωi(k), i= 0， 1， 2。 2) 任取其中一個(gè)樣本 為期望的輸出值，或者是期望的函數(shù)決策值。 這里介紹的感知器，由于只有一層，故而其分類能力非常有限，不能處理 XOR問題。 ? ? xyd pippii kk ???? ??? )()1(ni ?2,1,0?)()1( kk ii ?? ?? ni ?2,1,0??????? BP神經(jīng)網(wǎng)絡(luò) 1986年， Rumelhart等提出了誤差反向傳播神經(jīng)網(wǎng)絡(luò)，簡稱 BP網(wǎng)絡(luò)（ Back Propagation），該網(wǎng)絡(luò)是一種單向傳播的多層前向網(wǎng)絡(luò)。它采用梯度搜索技術(shù)，以期使網(wǎng)絡(luò)的實(shí)際輸出值與期望輸出值的誤差均方值為最小。 BP網(wǎng)絡(luò)結(jié)構(gòu) 含一個(gè)隱含層的 BP網(wǎng)絡(luò)結(jié)構(gòu)如圖 75所示，圖中 為輸入層神經(jīng)元， 為隱層神經(jīng)元， 為輸出層神經(jīng)元。 j p p1 xp1 x pn t pk t pm Op1 O pn Op2 隱層 wj1 wjn 輸入層 隱層 輸出層 信息流 hjpS hpjO pm BP網(wǎng)絡(luò)的逼近 BP網(wǎng)絡(luò)逼近的結(jié)構(gòu)如圖 7
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1