章基礎(chǔ)知識續(xù)人工神經(jīng)網(wǎng)絡(luò)常用學(xué)習(xí)規(guī)則(編輯修改稿)
2025-02-02 06:59 本頁面
【文章內(nèi)容簡介】 領(lǐng)域，除獲勝神經(jīng)元調(diào)整權(quán)值外，領(lǐng)域內(nèi)的其他神經(jīng)元也不同程度地調(diào)整權(quán)值。權(quán)值一般被初始化為任意值并進(jìn)行歸一化處理。 ? 7)Outstar（外星）學(xué)習(xí)規(guī)則 ?神經(jīng)網(wǎng)絡(luò)中有兩類常見節(jié)點，分別稱為內(nèi)星節(jié)點和外星節(jié)點，其特點見圖 58和 59。圖 58中的內(nèi)星節(jié)點總是接受來自四面八方的輸入加權(quán)信號，因此是信號的匯聚點，對應(yīng)的權(quán)值向量稱為內(nèi)星權(quán)向量；圖 59中的外星節(jié)點總是向四面八方發(fā)出輸出加權(quán)信號，因此是信號的發(fā)散點，對應(yīng)的權(quán)值向量稱為外星權(quán)向量。內(nèi)星學(xué)習(xí)規(guī)則定內(nèi)星節(jié)點的輸出響應(yīng)是輸入向量 X和內(nèi)星權(quán)向量 Wj的點積。該點積反映了 X與 Wj的相似程度，其權(quán)值按式 (523)調(diào)整。因此 WinnerTakeAll學(xué)習(xí)規(guī)則與內(nèi)星規(guī)則一致。 ?下面介紹外星學(xué)習(xí)規(guī)則。外星學(xué)習(xí)規(guī)則屬于有導(dǎo)師學(xué)習(xí)，其目的是為了生成一個期望的維輸出向量，設(shè)對應(yīng)的外星權(quán)向量用Wj表示，學(xué)習(xí)規(guī)則如下 )( jj WdW ??? ??式中， η的規(guī)定與作用與式 (523)中的 α相同，給出的外星學(xué)習(xí)規(guī)則使節(jié)點 j對應(yīng)的外星權(quán)向量向期望輸出向量 d靠近。 Wij Wnj W1j j Wij Wnj W1j j 表 2 . 1 常用學(xué)習(xí)規(guī)則一覽表權(quán)值調(diào)整學(xué)習(xí)規(guī)則向量式 元素式權(quán) 值初始化學(xué)習(xí)方式 轉(zhuǎn)移函數(shù)H e b b i an XXWW )(Tjjf???i)( xfwTjijXW?? ? 0 無導(dǎo)師 任意Pe r ce p t ro nXXWW )]([Tjjjs g nd?? ?i)]( xs g nd[wTjjijXW?? ? 任意 有導(dǎo)師 二進(jìn)制D el t aXW )()(jjjjn e tfod?? ?ijjjijxn e tfodw )()(?? ?任意 有導(dǎo)師 連續(xù)W i d ro w H o f fXXWW )(Tjjjd?? ?iTjjijxdw )( XW?? ?任意 有導(dǎo)師 任意相關(guān)XWjjd?? ?ijijxdw ?? ?0 有導(dǎo)師 任意W i n n e rt ak e al l)(mmWXW ?? ?? )(i immwx ?? ?? W隨機(jī)、歸一化無導(dǎo)師 連續(xù)O u t s t ar)(jjWdW ?? ?? )(kjkkjwdw ?? ??0 有導(dǎo)師 連續(xù)?人工神經(jīng)網(wǎng)絡(luò)是由人工神經(jīng)元（簡稱神經(jīng)元）互聯(lián)組成的網(wǎng)絡(luò)，它是從微觀結(jié)構(gòu)和功能上對人腦的抽象、簡化，是模擬人類智能的一條重要途徑，反映了人腦功能的若干基本特征，如并行信息處理、學(xué)習(xí)、聯(lián)想、模式分類、記憶等。目前，已發(fā)展了幾十種神經(jīng)網(wǎng)絡(luò)，例如 Hopfield模型，F(xiàn)eldmann等的連接型網(wǎng)絡(luò)模型， Hinton等的玻爾茨曼機(jī)模型，以及 Rumelhart等的多層感知機(jī)模型和 Kohonen的自組織網(wǎng)絡(luò)模型等等。 ?在這眾多神經(jīng)網(wǎng)絡(luò)模型中，應(yīng)用最廣泛的是多層感知機(jī)神經(jīng)網(wǎng)絡(luò)。多層感知機(jī)神經(jīng)網(wǎng)絡(luò)的研究始于 20世紀(jì) 50年代，但一直進(jìn)展不大。直到 1985年， Rumelhart等人提出了誤差反向傳遞學(xué)習(xí)算法（即 BP算法），實現(xiàn)了 Minsky的多層網(wǎng)絡(luò)設(shè)想。 ?神經(jīng)網(wǎng)絡(luò)對控制領(lǐng)域和反問題研究有吸引力的特征表現(xiàn)在： (1)能逼近任意 L2上的非線性函數(shù)； (2)信息的并行分布式處理與存儲； (3)可以多輸入、多輸出； (4)便于用超大規(guī)模集成電路 (VLSI)或光學(xué)集成電路系統(tǒng)實現(xiàn)，或用現(xiàn)有的計算機(jī)技術(shù)實現(xiàn)； (5)能進(jìn)行學(xué)習(xí)，以適應(yīng)環(huán)境的變化。 ?決定網(wǎng)絡(luò)整體性能的三大要素包括： (1)神經(jīng)元（信息處理單元）的特性； (2)神經(jīng)元間相互聯(lián)接的形式 — 拓?fù)浣Y(jié)構(gòu)； (3)為適應(yīng)環(huán)境而改善性能的學(xué)習(xí)規(guī)則。表 51為對神經(jīng)網(wǎng)絡(luò)發(fā)展有重要影響的神經(jīng)網(wǎng)絡(luò) ?神經(jīng)網(wǎng)絡(luò)通過相繼給網(wǎng)絡(luò)輸入一些樣本模式，并按照一定的規(guī)則（或?qū)W習(xí)算法）不斷改變網(wǎng)絡(luò)各層的連接權(quán)值，
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1