hejianhua-神經(jīng)網(wǎng)絡(luò)講義-part6-自組織網(wǎng)絡(luò)(文件)
【正文】 置各不相同，但通過(guò)網(wǎng)絡(luò)自組織后會(huì)形成一些輸出群，它們分別代表了輸入樣本的分布，反映了輸入樣本的圖形分布特征，所以科荷倫網(wǎng)絡(luò)常常被稱為特性圖。 當(dāng)隨機(jī)樣本輸入到科荷倫網(wǎng)絡(luò)時(shí)，如果樣本足夠多，那么在權(quán)值分布上可近似于輸入隨機(jī)樣本的概率密度分布，在輸出神經(jīng)元上也反映了這種分布，即概率大的樣本集中在輸出空間的某一個(gè)區(qū)域或各個(gè)不同的區(qū)域。一般情況下 b值固定，其學(xué)習(xí)方法與普通的競(jìng)爭(zhēng)學(xué)習(xí)算法相同。 函數(shù) ： Np=[x y]； in＝ neighb2d(i, Np, N)； 對(duì)于一維競(jìng)爭(zhēng)層，其中的鄰層函數(shù)為叫 ，確定競(jìng)爭(zhēng)層大小的參數(shù)就是神經(jīng)元數(shù) S， 即 Np=[S]； in＝ neighb1d(i， Np， N)； 8． 3． 2網(wǎng)絡(luò)的訓(xùn)練過(guò)程 訓(xùn)練設(shè)計(jì)步驟 (適用于輸入矢量 P具有某種概率分布的數(shù)組 )： (1)初始化 1) 由輸入矢量確定網(wǎng)絡(luò)結(jié)構(gòu)： [R, Q]＝ size(P)； 2) 設(shè)置網(wǎng)絡(luò)競(jìng)爭(zhēng)層神經(jīng)元節(jié)點(diǎn)：一維 S或二維的寬 X和高Y， S＝ X*Y； 3) 將輸入模式 P作歸一化處理： P＝ normc(P)。 MATLAB工具箱中用于訓(xùn)練設(shè)計(jì)科荷倫網(wǎng)絡(luò)權(quán)矢量的函數(shù)為 ， 它能執(zhí)行上述的訓(xùn)練步驟的全過(guò)程。鄰域數(shù)也是線性地減少，但在達(dá)到四分之一訓(xùn)練周期后，其值保持為最大值1直到最終訓(xùn)練結(jié)束。 8． 4． 1網(wǎng)絡(luò)結(jié)構(gòu) CPN網(wǎng)絡(luò)為兩層結(jié)構(gòu)：第一層為科荷倫層 ， 采用無(wú)指導(dǎo)的訓(xùn)練方法對(duì)輸入數(shù)據(jù)進(jìn)行自組織競(jìng)爭(zhēng)的分類或壓縮 ，第二層稱為格勞斯貝格層 。 經(jīng)過(guò)充分訓(xùn)練后的 CPN可使其科荷倫層的權(quán)矢量收斂到相似輸入矢量的平均值，而使格勞斯貝格層權(quán)向量收斂到目標(biāo)矢量的平均值。解碼時(shí)，將在科荷倫層壓縮的 0， 1碼送入格勞斯貝格層，在其輸出端對(duì)應(yīng)得到解壓縮的矢量。 當(dāng)訓(xùn)練 CPN使其格勞斯貝格層的目標(biāo)矢量 G等于科荷倫層的輸入矢量 P時(shí)，則可實(shí)現(xiàn)數(shù)據(jù)壓縮。 1)對(duì)于科荷倫層的輸出有： 2)對(duì)于格勞斯貝格層，具有目標(biāo)矢量 G， 此時(shí)，從前層輸出的 K為它的輸入，輸出為： CPN的網(wǎng)絡(luò)結(jié)構(gòu)如圖 ： 8． 4． 2學(xué)習(xí)法則 1)在科荷倫層，通過(guò)競(jìng)爭(zhēng)對(duì)獲勝節(jié)點(diǎn)采用科荷倫規(guī)則調(diào)整與其相連的權(quán)矢量： 2)在格勞斯貝格層，對(duì)與在科荷倫層輸出為 1的輸入相連的權(quán)值進(jìn)行如下的調(diào)整： 8． 4． 3訓(xùn)練過(guò)程 1)初始化： 歸一化處理輸入 、 目標(biāo)矢量 P和 G； 對(duì)權(quán)矢量 W1和 W2進(jìn)行歸一化隨機(jī)取值； 選取最大循環(huán)次數(shù) 、 學(xué)習(xí)速率 lr1和 lr2。 8. 4對(duì)傳網(wǎng)絡(luò) 對(duì)傳網(wǎng)絡(luò) (Counter Propagation Network， 簡(jiǎn)稱 CPN)是美國(guó)學(xué)者 HechiNielson在 1987年首次提出的。 例如，對(duì)一維特性圖 max_neighb應(yīng)為 S1； 對(duì)二維特性圖，其層神經(jīng)元寬為 X高為 Y時(shí)， max_neighb應(yīng)當(dāng)?shù)扔趦烧咧械妮^大值減去 1。 LR＝ (1— x)*lr； 這使得學(xué)習(xí)速率隨著循環(huán)次數(shù)的增加 ， 從lr*(max_cycle1)/max_cycle逐漸降至 0； 2)鄰層數(shù)也是遞減的： n=max([ceil(max_neighb*(1x*4)) 1])； 3)計(jì)算輸入矢量加權(quán)和，并通過(guò)競(jìng)爭(zhēng)求出獲勝節(jié)點(diǎn) A＝ pet(W*P)； 4)根據(jù)獲勝節(jié)點(diǎn)求出相鄰層 (以二維為例 )，并進(jìn)行權(quán)值修正： i=find(A＝＝ 1)； in=neighb2d(i, [X, Y], n)。一個(gè)直徑為 1的鄰域包括主神經(jīng)元及它的直接周圍神經(jīng)元所組成的區(qū)域；直徑為 2的鄰域包括直徑 1的神經(jīng)元以及它們的鄰域。與基本競(jìng)爭(zhēng)網(wǎng)絡(luò)不同之處是其競(jìng)爭(zhēng)層可以由一維或二維網(wǎng)絡(luò)矩陣方式組成，且權(quán)值修
黨政相關(guān)相關(guān)推薦
鄂ICP備17016276號(hào)-1