人工神經(jīng)網(wǎng)絡(luò)第七章-在線瀏覽
2024-10-01 10:25本頁面
【正文】 ? W是各個樣本向量自身的外積的和 —— 網(wǎng)絡(luò)實現(xiàn)的是 自相聯(lián)映射 。 最根本的 Hopfield網(wǎng) ????????????????????????????????????????????????????????????skknskkskkskkyyyyW1212312212100000000000003/10/2024 11 第十一頁，共七十三頁。 由式 7一 3知，對任意的 i和 j(i≠j), jiskikjkskjkikij wyyyyw ??? ???? 11所以， W是一個對角線元素為 0的對稱矩陣。顯然，這種訓練方法效率要高許多。 3/10/2024 13 第十三頁，共七十三頁。 ? 一般不考慮越層的信號傳送、中間的信號反響和同層的神經(jīng)元之間進行信號的直接傳送 3/10/2024 14 第十四頁，共七十三頁。網(wǎng)絡(luò)運行時每次只有一個神經(jīng)元 i按下式進行狀態(tài)的調(diào)整計算，其他神經(jīng)元的狀態(tài)均保持不變，即 3/10/2024 15 第十五頁，共七十三頁。每次神經(jīng)元在調(diào)整狀態(tài)時，根據(jù)其當前凈輸入值的正負決定下一時刻的狀態(tài)，因此其狀態(tài)可能會發(fā)生變化，也可能保持原狀。 網(wǎng)絡(luò)的同步工作方式是一種并行方式，所有神經(jīng)元同時調(diào)整狀態(tài)，即 xj(t+1)＝ sgn[j(t)] j＝ 1， 2,…,n 3/10/2024 16 第十六頁，共七十三頁。 3/10/2024 18 第十八頁，共七十三頁。網(wǎng)絡(luò)從初態(tài) X(0)開始，假設(shè)能經(jīng)有限次遞歸后， 其狀態(tài)不再發(fā)生變化，即X(t+1)＝ X(t)， 那么稱該網(wǎng)絡(luò)是穩(wěn)定的 3/10/2024 19 第十九頁，共七十三頁。如果網(wǎng)絡(luò)狀態(tài)的軌跡在某個確定的范圍內(nèi)變遷，但既不重復也不停止，狀態(tài)變化為無窮多個，軌跡也不發(fā)散到無窮遠，這種現(xiàn)象稱為混沌，其相圖如圖 6． 2(c)所示。 3/10/2024 20 第二十頁，共七十三頁。網(wǎng)絡(luò)的能量函數(shù)在網(wǎng)絡(luò)狀態(tài)按一定規(guī)那么變化時，能自動趨向能量的極小點。 網(wǎng)絡(luò)的初態(tài)可視為問題的初始解，而網(wǎng)絡(luò)從初態(tài)向穩(wěn)態(tài)的收斂過程便是優(yōu)化計算過程，這種尋優(yōu)搜索是在網(wǎng)絡(luò)演變 過程中自動完成的。 2．吸引子與能量函數(shù) 網(wǎng)絡(luò)到達穩(wěn)定時的狀態(tài) X，稱為網(wǎng)絡(luò)的吸引子。如果把吸引子視為問題的解，那么從初態(tài)朝吸引子演變的過程便是求解計算的過程。 3/10/2024 22 第二十二頁，共七十三頁。 定義 7． 1 假設(shè)網(wǎng)絡(luò)的狀態(tài) X滿足 X＝ f(WX— T)，那么稱X為網(wǎng)絡(luò)的吸引子。下面給出關(guān)于吸引域的兩個定義。 3/10/2024 23 第二十三頁，共七十三頁。 欲使反響網(wǎng)絡(luò)具有聯(lián)想能力，每個吸引子都應(yīng)該具有一定的吸引域。反響網(wǎng)絡(luò)設(shè)計的目的就是要使網(wǎng)絡(luò)能落到期望的穩(wěn)定點 (問題的解 )上， 并且還要具有盡可能大的吸引域，以增強聯(lián)想功能。 例 6． 2 有一 DHNN網(wǎng)， n＝ 4， Tj＝ 0， j＝ l， 2， 3， 4，向量 Xa、 Xb和權(quán)值矩陣 W分別為 檢驗 Xa和 Xb是否為網(wǎng)絡(luò)的吸引子，并考察其是否具有聯(lián)想記憶能力。 解 本例要求驗證吸引子和檢查吸引域，下面分兩步進行。 所以 Xa是網(wǎng)絡(luò)的吸引子，因為 Xb＝－ Xa，由吸引子的性質(zhì) 1知， Xb也是網(wǎng)絡(luò)的吸引子。 令網(wǎng)絡(luò)初態(tài) X(0)＝ X1＝ (－ 1， 1， 1， 1)T。 3/10/2024 27 第二十七頁，共七十三頁。設(shè)神經(jīng)元狀態(tài)調(diào)整次序為 1→2→3→4 ，有 X(0)＝ (1,－ 1,－ 1,－ 1)T→X(1) ＝ (－ 1,－ 1,－ 1,－ 1)T＝ Xb 可以看出樣本 X2比較接近吸引子 Xb，按異步方式調(diào)整一步后，樣本 X2收斂于 Xb。假設(shè)設(shè)神經(jīng)元狀態(tài)調(diào)整次序為1→2→3→4 ，有 X(0)＝ (1,1, － 1, － 1)T→X(1) ＝ (－ 1,1, － 1, － 1)T →X(2)＝ (－ l, － 1, － l, － 1)T＝ Xb 3/10/2024 28 第二十八頁，共七十三頁。 3/10/2024 29 第二十九頁，共七十三頁。 下面通過對能量函數(shù)的分析對定理 7． 1進行證明。 3/10/2024 31 第三十一頁，共七十三頁。 Lyapunov函數(shù) —— 能量函數(shù) ?作為網(wǎng)絡(luò)的穩(wěn)定性度量 – wijoioj：網(wǎng)絡(luò)的一致性測度 。 – θ joj：神經(jīng)元自身的穩(wěn)定性的測度 。 當 ANk的狀態(tài)從 ok變成 ok′ ANk是輸入神經(jīng)元 kkkkkkkkhkj1jkjjkhkj1jjkkjhkj1jjjnkj1jjjhki1ihkj1jjiijooxoow21oow21oow21ooxoow21E?????????? ??? ???? ????? ?????????????? ??kkkkhkjjjkkjhkjjjjnkjjjjhkiihkjjjiijooxoowooxoow??????????????? ????????? ????1111 1213/10/2024 34 第三十四頁，共七十三頁。 ΔΕ=(kθ k)Δ ok ? ANk狀態(tài)的變化： Δ ok=(ok′ ok) ? Δ ok=0， ΔΕ =0 ? Δ ok0， ok′ =1 ok=0， ok由 0變到 1， kθ k， kθ k0 所以， (kθ k)Δ ok0故 ΔΕ0 結(jié)論：網(wǎng)絡(luò)的目標函數(shù)總是下降 ? Δ ok0, ok′ =0 ok=1， ok由 1變到 0 kθ k， kθ k0 (kθ k)Δ ok0故 ΔΕ0 3/10/2024 36 第三十六頁，共七十三頁。 當 ANk的狀態(tài)從 ok變成 ok′ kkkkkkh1jjkjkkkhkj1jjkjkkkhkj1jjkkkjo)n e t()oo](ow[)oo](ow[)oo(]o)oo(w[EEE???????????????????????? ?????????????無論 ANk的狀態(tài)是如何變化的，總有 ΔΕ≤ 0 3/10/2024 38 第三十八頁，共七十三頁。 3/10/2024 39 第三十九頁，共七十三頁。否那么 ， 重復 2 3/10/2
數(shù)學相關(guān)推薦
鄂ICP備17016276號-1