【正文】 網絡處于自激狀態(tài)，即由反饋回來的向量X(1)作為下一次的輸入取而代之。,第十八頁，共七十三頁。tǒng)。,11/1/2024,20,如果網絡是穩(wěn)定的，它可以從任一初態(tài)收斂到一個(yī ɡ232。如果網絡狀態(tài)的軌跡在某個確定的范圍內變遷，但既不重復也不停止，狀態(tài)變化為無窮多個，軌跡也不發(fā)散到無窮遠，這種現(xiàn)象稱為混沌，其相圖如圖6．2(c)所示。,第二十頁，共七十三頁。網絡的能量函數(shù)在網絡狀態(tài)(zhu224。i)按一定規(guī)則變化時，能自動趨向能量的極小點。ngt224。 網絡的初態(tài)可視為問題的初始解，而網絡從初態(tài)向穩(wěn)態(tài)的收斂過程便是優(yōu)化計算過程，這種尋優(yōu)搜索是在網絡演變 過程中自動完成的。,11/1/2024,22,2．吸引子與能量函數(shù) 網絡達到穩(wěn)定時的狀態(tài)X，稱為網絡的吸引子。如果把吸引子視為問題的解，那么從初態(tài)朝吸引子演變的過程便是求解計算的過程。,第二十二頁，共七十三頁。 定義7．1 若網絡的狀態(tài)X滿足X＝f(WX— T)，則稱X為網絡的吸引子。下面給出關于吸引域的兩個定義。,第二十三頁，共七十三頁。 欲使反饋網絡(wǎnglu242。只有這樣，對于帶有一定噪聲或缺損的初始樣本，網絡(wǎnglu242。反饋網絡(wǎnglu242。)能落到期望的穩(wěn)定點(問題的解)上， 并且還要具有盡可能大的吸引域，以增強聯(lián)想功能。,11/1/2024,25,例6．2 有一DHNN網，n＝4，Tj＝0，j＝l，2，3，4，向量Xa、Xb和權值矩陣(jǔ zh232。 fǒu)為網絡的吸引子，并考察其是否(sh236。,第二十五頁，共七十三頁。nzh232。 ①檢驗吸引子 由吸引子定義,第二十六頁，共七十三頁。 ②考察聯(lián)想記憶能力 設有樣本Xl＝(－1，1，1，1)T、X2＝(1，－1，－1，－1)T、X3＝(1，1，－1，－1)T，試考察網絡以異步方式工作時兩個吸引子對3個樣本的吸引能力。設神經元狀態(tài)(zhu224。i)調整次序為1→2→3→4，有 X(0)＝(－1，1，1，1)T→X(1)＝(1，1，1，1)T＝Xa 可以看出該樣本比較接近吸引子Xa，事實上只按異步方式調整了一步，樣本X1即收斂于Xa。,11/1/2024,28,令網絡(wǎnglu242。設神經元狀態(tài)調整次序為1→2→3→4，有 X(0)＝(1,－1,－1,－1)T→X(1)＝(－1,－1,－1,－1)T＝Xb 可以看出樣本X2比較接近吸引子Xb，按異步方式調整一步后，樣本X2收斂于Xb。若設神經元狀態(tài)調整次序為1→2→3→4，有 X(0)＝(1,1, －1, －1)T→X(1)＝(－1,1, －1, －1)T →X(2)＝(－l, －1, －l, －1)T＝Xb,第二十八頁，共七十三頁。,第二十九頁，共七十三頁。 下面通過對能量函數(shù)的分析(fēnxī)對定理7．1進行證明。,11/1/2024,31,第三十一頁，共七十三頁。,11/1/2024,33,Lyapunov函數(shù)(h225。)——能量函數(shù),作為(zu242。i)網絡的穩(wěn)定性度量 wijoioj：網絡的一致性測度。 θjoj：神經元自身的穩(wěn)定性的測度。,11/1/2024,34,當ANk的狀態(tài)(zhu224。i)從ok變成ok′,ANk是輸入(shūr249。,11/1/2024,35,當ANk的狀態(tài)(zhu224。i)從ok變成ok′,wkk=0,第三十五頁，共七十三頁。ngt224。 ok=0，ok由0變到1， netkθk，netkθk0 所以(suǒyǐ)，(netkθk)Δok0故ΔΕ0,結論：網絡的目標函數(shù)總是(zǒnɡ sh236。 ok=1，ok由1變到0 netkθk，netkθk0 (netkθk)Δok0故ΔΕ0,第三十六頁，共七十三頁。ngt224。 shi)輸入神經元,第三十七頁，共七十三頁。ngt224。ngt224。,11/1/2024,39,7.3 統(tǒng)計(tǒngj236。)Hopfield網 在網絡運行中，神經元狀態(tài)與 “人工溫度”確定的概率相關 網絡運行模擬金屬退火過程,pi：ANi的狀態(tài)取1的概率 neti：ANi所獲網絡輸入(shūr249。,第三十九頁，共七十三頁。n fǎ) 71 統(tǒng)計Hopfield網運行算法(su224。n fǎ)結束。,11/1/2024,41,Boltzmann機的訓練(x249。n),Boltzmann機是多級循環(huán)網絡，是Hopfield網的一種擴展。ngt224。,第四十一頁，共七十三頁。nli224。,11/1/2024,43,Boltzmann機的訓練(x249。n),第四十三頁，共七十三頁。nli224。nhu225。 神經元ANi網絡輸入為：,T趨近于0時，神經元的狀態(tài)不再具有(j249。,第四十四頁，共七十三頁。nli224。ngt224。,11/1/2024,46,Boltzmann機的訓練(x249。n),神經元ANi在運行(y249。ng)中狀態(tài)發(fā)生了變化,Boltzmann機的能量(n233。ng)函數(shù)(一致性函數(shù) ),第四十六頁，共七十三頁。nli224。ngt224。 ΔΕi的值越大，神經元ANi應該處于狀態(tài)1的概率就應該越大。從而，oi=1的概率為：,第四十七頁，共七十三頁。nli224。ilǜ)Pa和Pb，對應于oi=1和oi=0，其它的神經元在a，b狀態(tài)下不變 Pa=γpi Pb =γ（1pi）,當系統(tǒng)的溫度較低時，如果EaPb：網絡處于較低能量(n233。ng)狀態(tài)的概率較大,第四十八頁，共七十三頁。nli224。 由于高溫(gāowēn)時網絡的各個狀態(tài)出現(xiàn)的概率基本相同，這就給它逃離局部極小點提供了機會。,11/1/2024,50,Boltzmann機的訓練(x249。n),1986年，H