自組織競(jìng)爭(zhēng)神經(jīng)網(wǎng)絡(luò)s(參考版)
2025-05-29 18:18本頁面
【正文】 本章介紹了無教師學(xué)習(xí)方式的自組織神經(jīng)網(wǎng)絡(luò)，包括以下主要內(nèi)容 ?競(jìng)爭(zhēng)學(xué)習(xí)的原理 ?自組織特征映射神經(jīng)網(wǎng)絡(luò) ?對(duì)偶傳播神經(jīng)網(wǎng)絡(luò) 返回 。 對(duì)偶傳播神經(jīng)網(wǎng)絡(luò) 62 X ? Y ○ ○ ? ○ ○ ○ ? ○ ○ ○ ? ○ ○ ○ ? ○ ○ ○ ? ○ X Y ?Y = f(X ) X ’ = f(Y ’ ) 當(dāng)向網(wǎng)絡(luò)輸入 (X,0 )時(shí)，網(wǎng)絡(luò)輸出為 (Y,0 )；當(dāng)向網(wǎng)絡(luò)輸入 (0,Y ’ )時(shí)，網(wǎng)絡(luò)輸出為 (0,X ’ )，當(dāng)向網(wǎng)絡(luò)輸入(X,Y ’ )時(shí)，網(wǎng)絡(luò)輸出為 (Y,X ’ )。 )](??)[()(?)1( *** tttt jjj WXWW ???? ?XV ??Tj59 第二階段采用外星學(xué)習(xí)算法對(duì)隱層至輸出層的外星權(quán)向量進(jìn)行訓(xùn)練 ， 步驟如下： (1)輸入一個(gè)模式對(duì) Xp,dp， 計(jì)算凈輸入 j= ，j=1,2,… ,m， (2)確定競(jìng)爭(zhēng)獲勝神經(jīng)元 ， 使 (3)調(diào)整隱層到輸出層的外星權(quán)向量 ， 調(diào)整規(guī)則為 ok由下式計(jì)算 XV ??Tj??????**10jjjjyjlk,...,m,jtodttWtWkkjkjk ,...,2,121)]()[()()1(?????? ????lkjjkk ywto1)( kjjkjk wywto ***)( ??CPN的學(xué)習(xí)算法 60 lk,...,m,jtodttWtWkkjkjk ,...,2,121)]()[()()1(?????? ?kjjkjk wywto ***)( ??權(quán)向量調(diào)整規(guī)則 : ???????????**)]()[()()()1(jjtwdttWjjtWtWjkkjkjkjk ?(4)重復(fù)步驟 (1)至步驟 (3)直到下降至 0。 (4)CPN網(wǎng)絡(luò)的競(jìng)爭(zhēng)算法不設(shè)優(yōu)勝鄰域 ， 因此只調(diào)整獲勝神經(jīng)元的內(nèi)星權(quán)向量 ， 調(diào)整規(guī)則為 (5)重復(fù)步驟 (2)至步驟 (4)直到下降至 0。 (2)輸入一個(gè)模式 Xp， 計(jì)算凈輸入 j= ， j=1,2,… ,m。 22/2( ) ( 1 )() mmB t tttCtt C ehh==55 d1 ? dk ? dl o1 ? ok ? ol W1○ Wk○ Wl ○ 輸出層 y1○ y2○ ? ○ yj ? ○ ym 競(jìng)爭(zhēng)層 V1 Vm ○ ○ ○ ○ ○ 輸入層 x1 x2 ? xi ? xn 1 xn 167。優(yōu)勢(shì)領(lǐng)域的大小用領(lǐng)域的半徑表示， r(t)的設(shè)計(jì)目前沒有一般化的數(shù)學(xué)方法，通常憑借經(jīng)驗(yàn)來選擇 11/1( ) ( 1 )() mmB t ttr t Ctr t C e == 為于輸出層節(jié)點(diǎn)數(shù) m有關(guān)的正常數(shù)， 為大于 1的常數(shù)，為預(yù)先選定的最大訓(xùn)練次數(shù)。 53 3. 優(yōu)勝鄰域的設(shè)計(jì) 優(yōu)勝領(lǐng)域設(shè)計(jì)原則是使領(lǐng)域不斷縮小，這樣輸出平面上相鄰神經(jīng)元對(duì)應(yīng)的權(quán)向量之間既有區(qū)別又有相當(dāng)?shù)南嗨菩?，從而保證當(dāng)獲勝節(jié)點(diǎn)對(duì)某一類模式產(chǎn)生最大響應(yīng)時(shí)，其領(lǐng)域節(jié)點(diǎn)也能產(chǎn)生較大響應(yīng)。 K11 P ppXXP== 229。因?yàn)槿魏我欢ㄊ禽斎肟臻g某個(gè)模式類的成員，各個(gè)權(quán)向量按上式初始化后從訓(xùn)練一開始就分別接近了輸入空間的各模式類，占據(jù)了十分有利的“地形”。解決這類問題的思路是盡量使權(quán)值的初始位置與輸入樣本的大概分布區(qū)域充分重合。但在某些應(yīng)用中，樣本整體上相對(duì)集中于高維空間的某個(gè)局部區(qū)域，全向量的初始位置卻隨機(jī)地分散于樣本空間的廣闊區(qū)域，訓(xùn)練時(shí)必然是離整個(gè)樣本群最近的全向量被不斷調(diào)整，并逐漸進(jìn)入全體樣本的中心位置，而其他權(quán)向量因初始位置遠(yuǎn)離樣本群而永遠(yuǎn)得不到調(diào)整。例如，對(duì)于旅行路徑類的問題，二維平面比較直觀；對(duì)于一般的分類問題，一個(gè)輸出節(jié)點(diǎn)節(jié)能代表一個(gè)模式類，用一維線陣意義明確結(jié)構(gòu)簡(jiǎn)單?！八拦?jié)點(diǎn)”問題一般可通過重新初始化權(quán)值得到解決。如果節(jié)點(diǎn)數(shù)多于模式類數(shù)，一種可能是將類別分得過細(xì)，而另一種可能是出現(xiàn)“死節(jié)點(diǎn)”，即在訓(xùn)練過程中，某個(gè)節(jié)點(diǎn)從未獲勝過且遠(yuǎn)離其他獲勝節(jié)點(diǎn)，因此它們的權(quán)值從未得到過調(diào)整。如果節(jié)點(diǎn)數(shù)少于模式類數(shù)，則不足以區(qū)分全部模式類，訓(xùn)練的結(jié)果勢(shì)必將相近的模式類合并為一類。 49 167。 SOM網(wǎng)經(jīng)過訓(xùn)練以后，在高維空間輸入相近的樣本，其輸出相應(yīng)的位置也相近。 動(dòng)物 屬性 鴿子 母雞 鴨 鵝 貓頭鷹 隼 鷹 狐貍 狗 狼 貓 虎 獅 馬 斑馬 牛 小 中 大 2 只腿 4 只腿 毛 蹄 鬃毛 羽毛 獵 跑 飛 泳 1 0 0 1 0 0 0 0 1 0 0 1 0 1 0 0 1 0 0 0 0 1 0 0 0 0 1 0 0 1 0 0 0 0 1 0 0 0 1 1 0 0 1 0 0 0 0 1 0 0 1 1 1 0 0 1 0 0 0 0 1 1 0 1 0 1 0 0 1 0 0 0 0 1 1 0 1 0 0 1 0 1 0 0 0 0 1 1 0 1 0 0 1 0 0 1 1 0 0 0 1 0 0 0 0 1 0 0 1 1 0 0 0 0 1 0 0 0 1 0 0 1 1 0 0 0 1 1 0 0 1 0 0 0 1 1 0 0 0 1 0 0 0 0 0 1 0 1 1 0 0 0 1 1 0 0 0 0 1 0 1 1 0 0 0 1 1 0 0 0 0 1 0 1 1 1 1 0 0 1 0 0 0 0 1 0 1 1 1 1 0 0 1 0 0 0 0 1 0 1 1 1 0 0 0 0 0 0 47 功能分析 鴨 馬 牛 斑馬 虎 鵝 狼 貓 隼 頭 獅 鴿 鷹 狗 鷹 母雞 狐 貓48 功 能 分 析 (2) 數(shù)據(jù)壓縮 將高維空間的樣本在保持拓?fù)浣Y(jié)構(gòu)不變的條件下投影到低維的空間，在這方面 SOM網(wǎng)具有明顯的優(yōu)勢(shì)。 Kohonen 學(xué)習(xí)算法 42 43 (5)調(diào)整權(quán)值 對(duì)優(yōu)勝鄰域 Nj*(t)內(nèi)的所有節(jié)點(diǎn)調(diào)整權(quán)值： i=1,2,… n j?Nj*(t) 式中 ， 是訓(xùn)練時(shí)間 t 和鄰域內(nèi)第 j 個(gè)神經(jīng)元與獲勝經(jīng) 元 j* 之間的拓?fù)渚嚯x N 的函數(shù) ， 該函數(shù)一般有以下規(guī)律： )]()[,()()1( twxNttwtw ijpiijij ???? ?),( Nt??????? ?? Nt ,44 NetNt ?? )(),( ??? ( t ) ? ( t ) ? ( t )? (0 ) ? ( 0 ) ? (0) 0 t 0 t 0 t(6)結(jié)束檢查 學(xué)習(xí)率是否衰減到零或某個(gè)預(yù)定的正小數(shù)？ 45 初始化、歸一化權(quán)向量 W ：j?W ， j= 1 ,2 ,…m ；建立初始優(yōu)
環(huán)評(píng)公示相關(guān)推薦
鄂ICP備17016276號(hào)-1