神經(jīng)網(wǎng)絡(luò)分類(lèi)器(1)(存儲(chǔ)版)
【正文】 對(duì)稱(chēng)的標(biāo)量函數(shù)。競(jìng)爭(zhēng)的結(jié)果是：具有較大輸入的單元輸出為 1，其他單元輸出都為 0 網(wǎng)絡(luò)功能 實(shí)現(xiàn)無(wú)監(jiān)督學(xué)習(xí)，完成聚類(lèi)的任務(wù) 1?jwXWxwn et Tji iijj?? ???? ???其他0)(1 kjn e tn e ty kjj網(wǎng)絡(luò)動(dòng)作機(jī)制 學(xué)習(xí)時(shí)先用隨機(jī)數(shù)作為權(quán)值初始值，整個(gè)學(xué)習(xí)過(guò)程隨時(shí)將權(quán)值進(jìn)行歸一化處理，即： ??ijiijijwww239。 它通過(guò)自身訓(xùn)練 ， 自動(dòng)對(duì)輸入模式進(jìn)行分類(lèi) 。 兩層之間的各神經(jīng)元實(shí)現(xiàn)雙向全連接 ， 網(wǎng)絡(luò)中沒(méi)有隱含層 。引進(jìn)競(jìng)爭(zhēng)機(jī)制的前饋網(wǎng)絡(luò)可以實(shí)現(xiàn)無(wú)監(jiān)督學(xué)習(xí)，完成聚類(lèi)的任務(wù)。)( jjjjjjjjjjj OOOyn e tfOyn e tyyE ?????????????????? ???? k kjkjjk kjkjj wOOwne tf ??? )1()(39。 ? 可見(jiàn)層：輸入層和輸出層 ? 隱層：中間層 前饋神經(jīng)網(wǎng)絡(luò)及其主要方法 例：感知器 ? 雙層神經(jīng)網(wǎng)絡(luò)：一層為輸入層，另一層有計(jì)算單元； ? 修正權(quán)值 w： )())()(()()1( kxkykykwkwiiiijji ???????式中 k為迭代次數(shù)。 感知器算法在多類(lèi)問(wèn)題中的應(yīng)用 多類(lèi)問(wèn)題分類(lèi)途徑 只考慮第三種情況： 如果 di(x) dj(x) 任意 j≠ i ， 則判 x∈ ωi (1)賦初值，分別給 c個(gè)權(quán)矢量 wi(1)（ i=1,2,… c） 賦任意的初值，選擇正常數(shù) ρ ， 置步數(shù) k=1. (2)輸入符號(hào)未規(guī)范化的增廣訓(xùn)練模式 xk, xk∈{ x1, x2… xN} ,計(jì)算 c個(gè)判別函數(shù)： di(xk) =wi’(k) xk(i=1,2,… c) (3)調(diào)整增廣權(quán)矢量，規(guī)則是： ? 如果 xk∈ ωi和 di(xk) dj(xk) (任意 j ≠ i)，則： wi(k+1)=wi(k) (i=1,2,… c) 算法步驟： ?如果 xk∈ ωi和 dl(xk) ≥ di(xk) (l≠ i)則： wi(k+1)=wi(k)+ρxk wl(k+1)=wl(k)ρxk wj(k+1)=wi(k)(任意 j ≠ l, i) (4)如果 kN,令 k=k+1,返至 (2)。 ? xi＝ (xi1, xi2,… xin)T為 n維向量，增廣為 (n+1)維向量： xi＝(xi1, xi2,… xin,1) ? ω2類(lèi)樣本乘以－ 1。 感知器是一個(gè)具有單層計(jì)算單元的人工神經(jīng)網(wǎng)絡(luò)。 軸突：用以輸出信號(hào)。 ? 1949年，提出神經(jīng)元的學(xué)習(xí)準(zhǔn)則，為神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法奠定了基礎(chǔ)。 ? 1982年，提出神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型，引入了能力的概念，研究了網(wǎng)絡(luò)的動(dòng)力學(xué)特性；設(shè)計(jì)出用電子線路實(shí)現(xiàn)網(wǎng)絡(luò)的方案，大大促進(jìn)了神經(jīng)網(wǎng)絡(luò)的研究。 ?動(dòng)態(tài)極化原則：在每一個(gè)神經(jīng)元中，信息以預(yù)知的確定方向流動(dòng)，即從神經(jīng)元的接收信息部分傳到軸突的電脈沖起始部分，再傳到軸突終端的突觸，以與其它神經(jīng)元通信。 算法描述 用樣本訓(xùn)練時(shí)，若 x∈ ωi， g(x)0，則 w不變。 ?輸入訓(xùn)練模式 xk，計(jì)算判別函數(shù)值 wT(k)xk ?調(diào)整增廣權(quán)矢量，規(guī)則是： 如果 wT(k)xk≤0, 則 w(k+1)=w(k)+ Cxk 如果 wT(k)xk0, 則 w(k+1)=w(k) ?如果 kN，令 k=k+1，返至第二步。 感知器算法推廣 ?????????????0)()(0)()()1(kTkkTxkwxckwxkwkwkw由感知器算法： 進(jìn)一步：將 cxk變?yōu)閷?duì)分類(lèi)錯(cuò)誤敏感的準(zhǔn)則函數(shù) J(w, x) 定義： )(}),({)()()1(kxwJckwJckwkw??????????梯度下降準(zhǔn)則 ? 感知機(jī) Perceptron (Rosenblatt 1958) Adaline(Widrow and Hoff) ? 《 Perceptron》 (
畢業(yè)設(shè)計(jì)相關(guān)推薦
鄂ICP備17016276號(hào)-1