神經(jīng)網(wǎng)絡(luò)pappt課件(參考版)
2025-01-08 15:31本頁(yè)面
【正文】 ? 如果把一個(gè) 最優(yōu)化問(wèn)題的目標(biāo)函數(shù)轉(zhuǎn)換成網(wǎng)絡(luò)的能量函數(shù) ，把 問(wèn)題的變量對(duì)應(yīng)于網(wǎng)絡(luò)的狀態(tài) ，那么 Hopfield神經(jīng)網(wǎng)絡(luò)就能夠用于解決優(yōu)化組合問(wèn)題，如 TSP問(wèn)題（ 1985年） 。 ? 通常，計(jì)算機(jī)中的存儲(chǔ)器都是用地址進(jìn)行訪問(wèn)的，而在 優(yōu)化計(jì)算 ?Hopfield網(wǎng)絡(luò)作優(yōu)化計(jì)算的基本原理： ? Hopfield神經(jīng)網(wǎng)絡(luò)的能量函數(shù)表征網(wǎng)絡(luò)狀態(tài)的變化趨勢(shì)，并可以依據(jù) Hopfield工作運(yùn)行規(guī)則不斷進(jìn)行狀態(tài)變化，最終能夠達(dá)到的某個(gè)極小值的目標(biāo)函數(shù)。吸引域的存在，意味著可以輸入有噪聲干擾的的、殘缺的或是部分的信息而聯(lián)想出完整的信息。又稱 內(nèi)容尋址存儲(chǔ)器 。 ? CHNN (Continues Hopfield Neural Network) ：輸出函數(shù)為 S型函數(shù)，主要用于優(yōu)化計(jì)算。 ? 無(wú)自反饋： wii=0。 Hopfield神經(jīng)網(wǎng)絡(luò) ?1984年， Hopfield設(shè)計(jì)并研制了網(wǎng)絡(luò)模型的電路，并成功地解決了經(jīng)典的組合優(yōu)化問(wèn)題旅行商問(wèn)題 (Traveling Salesmen Problem，TSP) 。由美國(guó)加州理工學(xué)院物理學(xué)家 J. J. Hopfield教授于 1982年提出，是一種 單層反饋神經(jīng)網(wǎng)絡(luò) 。這種方法不僅無(wú)需事先確定類別數(shù)，而且能夠更好地適應(yīng)樣本不同的分布情況。 ?可以 根據(jù)各個(gè)類別在平面上的相對(duì)位置進(jìn)行類別的合并和類別之間關(guān)系的分析 。 自組織特征映射網(wǎng)絡(luò) ?自組織特征映射網(wǎng)絡(luò)可以較好地完成 聚類任務(wù) ，其中每一個(gè)神經(jīng)元結(jié)點(diǎn)對(duì)應(yīng)一個(gè)聚類中心。 自組織特征映射網(wǎng)絡(luò) ?隨著學(xué)習(xí)的進(jìn)行，勝出域變窄 ，勝出神經(jīng)元附近的神經(jīng)元數(shù)變少。 在這個(gè)鄰域內(nèi)的神經(jīng)元權(quán)值得到增強(qiáng)，鄰域之外的神經(jīng)元受到抑制或不增強(qiáng)。 ? 令輸入特征矢量為 ，第 j 個(gè)神經(jīng)元的權(quán)值為 ，則有： ? ?12, , , TNx x x?X? ?12, , , Tj j j jNw w w?W? ?1221Nj j i j iid x w???? ? ? ??????XW1NTj j ij iid w x??? ?WX歐氏距離： 矢量?jī)?nèi)積： 自組織特征映射網(wǎng)絡(luò) ?自組織特征映射網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程 ? 網(wǎng)絡(luò)學(xué)習(xí)的指導(dǎo)思想： SOM網(wǎng)絡(luò)的學(xué)習(xí)也是一個(gè)迭代的算法。 自組織特征映射網(wǎng)絡(luò) ?自組織特征映射網(wǎng)絡(luò)的識(shí)別過(guò)程 ? 當(dāng) SOM網(wǎng)絡(luò)訓(xùn)練好之后，我們 希望用網(wǎng)絡(luò)中的某個(gè)區(qū)域?qū)?yīng)某一類模式 ? 當(dāng)輸入一個(gè)待識(shí)模式時(shí)，計(jì)算輸入特征矢量與網(wǎng)絡(luò)中每個(gè)神經(jīng)元權(quán)值之間 矢量?jī)?nèi)積 ，以內(nèi)積 大 者作為 勝元 ，也就是興奮程度最大的神經(jīng)元 ? 然后根據(jù)這個(gè) 勝元所在的區(qū)域 確定待識(shí)模式的類別 自組織特征映射網(wǎng)絡(luò) ? 也可以采用輸入特征與神經(jīng)元權(quán)值之間的 歐氏距離確定勝元。 自組織特征映射網(wǎng)絡(luò) ?自組織特征映射網(wǎng)絡(luò)由芬蘭學(xué)者 Kohonen于1981年提出 自組織特征映射網(wǎng)絡(luò) ?自組織特征映射網(wǎng)絡(luò)結(jié)構(gòu)： 自組織特征映射網(wǎng)絡(luò) ? Kohonen依據(jù)這樣的思想提出了一種神經(jīng)網(wǎng)絡(luò)，一般稱為自組織特征映射網(wǎng)絡(luò) (SelfOrganizing Feature Map, SOM或 SOFM) ? SOM網(wǎng)絡(luò)是一個(gè)兩層網(wǎng)絡(luò)，包括 輸入層 和 競(jìng)爭(zhēng)層 ，輸入層的神經(jīng)元個(gè)數(shù)等于 特征的維數(shù) ，競(jìng)爭(zhēng)層的神經(jīng)元組成一個(gè) 方陣 。 更遠(yuǎn)的又是弱興奮。聚類現(xiàn)象對(duì)大腦的信息處理起著重要作用。 ? 處于空間位置不同的神經(jīng)元，各自對(duì)輸入模式的不同特征敏感。 Tj ij i jin e t x W X????? ?1 0 jkjn e t n e t j kye ls e? ? ????競(jìng)爭(zhēng)學(xué)習(xí)和側(cè)抑制 ? 網(wǎng)絡(luò)
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1