bp神經(jīng)網(wǎng)絡(luò)rbf神經(jīng)網(wǎng)絡(luò)自組織競(jìng)爭(zhēng)型神經(jīng)網(wǎng)絡(luò)(完整版)
【正文】 的學(xué)習(xí)策略 在學(xué)習(xí)開(kāi)始以前，首先需要對(duì) LTM層中的各個(gè)權(quán)值系數(shù)置以隨機(jī)初值 wij（ 0），然后依次送入觀察矢量 X（ k），隨時(shí)按照下列公式將各個(gè)權(quán)重系數(shù)調(diào)整成一組新的數(shù)值： j=0~(N1),i=0~(M1) （ 54） ? 其中 α 是步幅值，取一個(gè)小正數(shù)值。系統(tǒng)的輸出是一個(gè) M維二進(jìn)矢量 Y， Y=[y0y1…yM1]，它的各個(gè)分量也只能取值為 0或 1。? （ 4）在完成分類功能時(shí)如果被區(qū)分的客體類別數(shù)超出了神經(jīng)網(wǎng)絡(luò)可區(qū)分的最大極限，而學(xué)習(xí)方式仍按照原來(lái)方式進(jìn)行，那么根本不可能給出正確的學(xué)習(xí)結(jié)果。第五章 自組織競(jìng)爭(zhēng)型神經(jīng)網(wǎng)絡(luò)? ? ? （ ART）? BP網(wǎng)絡(luò)雖已得到廣泛應(yīng)用，然而，它在構(gòu)成網(wǎng)絡(luò)時(shí)未能充分借鑒人腦工作的特點(diǎn)，因而其功能有許多 不足之處：? 對(duì)比之下，人腦的優(yōu)越性就極其明顯了。? （ 5）有可能陷入均方誤差的局部最小點(diǎn)，從而造成錯(cuò)誤的分類結(jié)果。此系統(tǒng)分成三層， F2和 F1分別稱為上、下短期記憶層，并記之為 STM（ STM是 “short time memory”的縮寫(xiě)，F(xiàn)2和 F1之間是一個(gè)長(zhǎng)期記憶層，記之為 LTM（“l(fā)ong time memory”的縮寫(xiě)）?？梢钥吹剑捎谠?y0(k)~yM1(k)之中只有一項(xiàng)等于 1而其它各項(xiàng)皆為 0，因而只有與該非零項(xiàng)相應(yīng)的權(quán)值系數(shù)才做調(diào)整，也就是說(shuō)， 只改變與競(jìng)爭(zhēng)得勝者有關(guān)的各個(gè)權(quán)重系數(shù)，而其它所有權(quán)重值系數(shù)皆維持不變。但是，也可以舉出一些反例，如果在相隔較遠(yuǎn)的兩個(gè)時(shí)間點(diǎn)上兩次輸入同一觀察矢量，而在其間插入若干其它觀察矢量，那么第二次分類的結(jié)果會(huì)出現(xiàn)與第一次分類結(jié)果不一致的現(xiàn)象。后面將指出，記憶的算法是使得當(dāng)某個(gè) yI為獲勝輸出端時(shí)，各個(gè) 與當(dāng)時(shí)的規(guī)格化輸入矢量 S的各分量 Sj趨于一致。? 根據(jù) S（ k）和 Z（ k）的相似度衡量值 η的不同，神經(jīng)網(wǎng)絡(luò)可以采取不同的運(yùn)行策略，下面分步驟給出這些策略。 如果 K個(gè)端都搜遍了，仍找不到足夠相似者，則新開(kāi)辟一個(gè)輸出端作為新的一類。這造成一種自適應(yīng)諧振（ adaptive resonance）狀態(tài)，這就是 ART這個(gè)名稱的來(lái)源。? （ 2）學(xué)習(xí)是自治和自組織的，學(xué)習(xí)過(guò)程無(wú)需教師指導(dǎo)，因此是一種無(wú)監(jiān)督（ unsupervised）學(xué)習(xí)。下面對(duì) ART網(wǎng)絡(luò)的結(jié)構(gòu)、工作原理、學(xué)習(xí)方法及網(wǎng)絡(luò)的性能進(jìn)行分析。 ? ART1網(wǎng)絡(luò)的學(xué)習(xí)及工作，是通過(guò)反復(fù)地將輸入學(xué)習(xí)模式由輸入層向輸出層自下而上地識(shí)別比較來(lái)實(shí)現(xiàn)的。為了使初始比較不丟失信息，故將 { }的初值全部設(shè)置為 1，即 { } =1 （ i=1,2,… ,n。這里假設(shè)輸出層不存在神經(jīng)元之間的相互抑制，在這一階段，首先將輸入學(xué)習(xí)模式 提供給輸入層，然后用競(jìng)爭(zhēng)學(xué)習(xí)算法尋找輸出層獲勝神經(jīng)元。在這種情況下，如果網(wǎng)絡(luò)輸出層 m個(gè)神經(jīng)元已分別代表了 m個(gè)輸入學(xué)習(xí)模式的分類，若現(xiàn)在又讓網(wǎng)絡(luò)再記憶一個(gè)未學(xué)過(guò)的新模式，按競(jìng)爭(zhēng)規(guī)則，它總能在輸出層找到一個(gè)神經(jīng)元 j代表自己的分類。 ? 對(duì)于模式分類而言，同一類的模式不一定要求完全相等。對(duì)于式（ 515）后面還要做詳細(xì)分析。j=1,2,… ,m) (517) （ 2）將輸入模式 提供給網(wǎng)絡(luò)的輸入層。但是，當(dāng)輸入模式是全新的學(xué)習(xí)模式，并需要網(wǎng)絡(luò)對(duì)其加以記憶時(shí)，則必須按步驟（ 7）進(jìn)行連接權(quán)的調(diào)整。其優(yōu)點(diǎn)是學(xué)習(xí)速度快，適合于實(shí)時(shí)應(yīng)用。 （ 2）對(duì)已學(xué)習(xí)過(guò)的對(duì)象具有穩(wěn)定快速的識(shí)別能力。人們把這個(gè)神經(jīng)元形象地稱為 “祖母細(xì)胞 ”（ Grandmother Cell）， 意思是指，一旦記憶祖母相貌的細(xì)胞損壞，一個(gè)人一夜之間將不認(rèn)識(shí)自己的祖母了。 三月 2110:04 上午 三月 2110:04March 28, 20231行 動(dòng) 出成果，工作出 財(cái) 富。 28 三月 202310:04:44 上午 10:04:44三月 211楚塞三湘接， 荊門(mén) 九派通。 勝 人者有力，自 勝 者 強(qiáng) 。 28 三月 202310:04:44 上午 10:04:44三月 211最具挑 戰(zhàn) 性的挑 戰(zhàn) 莫 過(guò) 于提升自我。 2023/3/28 10:04:4410:04:4428 March 20231空山新雨后，天氣晚來(lái)秋。 10:04:44 上午 10:04 上午 10:04:44三月 21沒(méi)有失 敗 ，只有 暫時(shí) 停止成功！。 三月 21三月 21Sunday, March 28, 2023雨中黃葉 樹(shù) ，燈下白 頭 人。 （ 3）具有自歸一能力。慢速學(xué)習(xí)方式和快速學(xué)習(xí)方式不同之處在于連接權(quán)的調(diào)整不是一次性完成的，而是隨著輸入模式的方向變化，即以統(tǒng)計(jì)平均的方法，將輸入模式的統(tǒng)計(jì)特征分布存儲(chǔ)在連接權(quán)上。在式（ 523）中，如果忽略分母中的常數(shù)項(xiàng)，則相當(dāng)于對(duì) 進(jìn)行了規(guī)一化處理。 （ 6）取消識(shí)別結(jié)果，將輸出層神經(jīng)元 g的輸出置 0，并將這個(gè)神經(jīng)元排除在下次識(shí)別范圍之外，返回步驟（ 4），當(dāng)所有已記憶過(guò)的神經(jīng)元都不滿足式（ 522）時(shí)，則選擇一個(gè)新的神經(jīng)元作為分類結(jié)果，進(jìn)入步驟（ 7）。? （ 4）尋找階段。在 ART1網(wǎng)絡(luò)中定義 (513) 作為差距的測(cè)度。解決這一問(wèn)題的方法是，每當(dāng)給已學(xué)習(xí)結(jié)束的網(wǎng)絡(luò)提供一個(gè)供識(shí)別的輸入模式時(shí)，首先檢查一下這個(gè)模式是否已學(xué)習(xí)過(guò)，如果是，則讓網(wǎng)絡(luò)回想出這個(gè)模式的分類結(jié)果；如果不是，則對(duì)這個(gè)模式加以記憶，并分配一個(gè)還未用過(guò)的輸出層神經(jīng)元來(lái)代表這個(gè)模式的分類結(jié)果。實(shí)現(xiàn)算法如下： ?
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1