【正文】 ， 輸出為“ 0”。 所以網(wǎng)絡(luò)學(xué)習(xí)的準(zhǔn)則應(yīng)該是：如果網(wǎng)絡(luò)作出錯誤的的判決 ， 則通過網(wǎng)絡(luò)的學(xué)習(xí) ， 應(yīng)使得網(wǎng)絡(luò)減少下次犯同樣錯誤的可能性 。 首先 ， 給網(wǎng)絡(luò)的各連接權(quán)值賦予 (0， 1)區(qū)間內(nèi)的隨機(jī)值 ， 將 “ A”所對應(yīng)的圖象模式輸入給網(wǎng)絡(luò) ， 網(wǎng)絡(luò)將輸入模式加權(quán)求和 、與門限比較 、 再進(jìn)行非線性運(yùn)算 ， 得到網(wǎng)絡(luò)的輸出 。在此情況下 ， 網(wǎng)絡(luò)輸出為 “ 1”和 “ 0”的概率各為50%， 也就是說是完全隨機(jī)的 。 這時如果輸出為“ 1”(結(jié)果正確 )， 則使連接權(quán)值增大 ， 以便使網(wǎng)絡(luò)再次遇到 “ A”模式輸入時 ， 仍然能作出正確的判斷 。 ? 如果輸出為 “ 0”(即結(jié)果錯誤 )，則把網(wǎng)絡(luò)連接權(quán)值朝著減小綜合輸入加權(quán)值的方向調(diào)整，其目的在于使網(wǎng)絡(luò)下次再遇到 “ A”模式輸入時，減小犯同樣錯誤的可能性。如此操作調(diào)整，當(dāng)給網(wǎng)絡(luò)輪番輸入若干個手寫字母 “ A”、 “ B”后，經(jīng)過網(wǎng)絡(luò)按以上學(xué)習(xí)方法進(jìn)行若干次學(xué)習(xí)后，網(wǎng)絡(luò)判斷的正確率將大大提高。這說明網(wǎng)絡(luò)對這兩個模式的學(xué)習(xí)已經(jīng)獲得了成功，它已將這兩個模式分布地記憶在網(wǎng)絡(luò)的各個連接權(quán)值上。當(dāng)網(wǎng)絡(luò)再次遇到其中任何一個模式時，能夠作出迅速、準(zhǔn)確的判斷和識別。一般說來，網(wǎng)絡(luò)中所含的神經(jīng)元個數(shù)越多，則它能記憶、識別的模式也就越多。 ? 人工神經(jīng)網(wǎng)絡(luò)的特點(diǎn)和優(yōu)越性，主要表現(xiàn)在三個方面： ? 第一，具有自學(xué)習(xí)功能。例如實(shí)現(xiàn)圖像識別時，只在先把許多不同的圖像樣板和對應(yīng)的應(yīng)識別的結(jié)果輸入人工神經(jīng)網(wǎng)絡(luò)，網(wǎng)絡(luò)就會通過自學(xué)習(xí)功能，慢慢學(xué)會識別類似的圖像。自學(xué)習(xí)功能對于預(yù)測有特別重要的意義。預(yù)期未來的人工神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)將為人類提供經(jīng)濟(jì)預(yù)測、市場預(yù)測、效益預(yù)測，其前途是很遠(yuǎn)大的。 ? 第二，具有聯(lián)想存儲功能。人的大腦是具有聯(lián)想功能的。如果有人和你提起你幼年的同學(xué)張某某，你就會聯(lián)想起張某某的許多事情。用人工神經(jīng)網(wǎng)絡(luò)的反饋網(wǎng)絡(luò)就可以實(shí)現(xiàn)這種聯(lián)想。 ? 第三，具有高速尋找優(yōu)化解的能力。尋找一個復(fù)雜問題的優(yōu)化解，往往需要很大的計(jì)算量，利用一個針對某問題而設(shè)計(jì)的反饋型人工神經(jīng)網(wǎng)絡(luò)，發(fā)揮計(jì)算機(jī)的高速運(yùn)算能力，可能很快找到優(yōu)化解。 幾種典型神經(jīng)網(wǎng)絡(luò)簡介 (1)多層感知網(wǎng)絡(luò) (誤差逆?zhèn)鞑ド窠?jīng)網(wǎng)絡(luò) )：在1986年以 Rumelhart和 McCelland為首的科學(xué)家出版的 《 Parallel Distributed Processing》 一書中，完整地提出了誤差逆?zhèn)鞑W(xué)習(xí)算法，并被廣泛接受。多層感知網(wǎng)絡(luò)是一種具有三層或三層以上的階層型神經(jīng)網(wǎng)絡(luò)。典型的多層感知網(wǎng)絡(luò)是三層、前饋的階層網(wǎng)絡(luò)，即：輸入層 I、隱含層 (也稱中間層 ) J、輸出層 K。相鄰層之間的各神經(jīng)元實(shí)現(xiàn)全連接，即下一層的每一個神經(jīng)元與上一層的每個神經(jīng)元都實(shí)現(xiàn)全連接，而且每層各神經(jīng)元之間無連接。 ? 除了競爭的方法外，還有通過抑制手段獲取勝利的方法，即網(wǎng)絡(luò)競爭層各神經(jīng)元抑制所有其它神經(jīng)元對輸入模式的響應(yīng)機(jī)會，從而使自己 “ 脫穎而出 ” ，成為獲勝神經(jīng)元。除此之外還有一種稱為側(cè)抑制的方法，即每個神經(jīng)元只抑制與自己鄰近的神經(jīng)元，而對遠(yuǎn)離自己的神經(jīng)元不抑制。這種方法常常用于圖象邊緣處理，解決圖象邊緣的缺陷問題。 競爭型神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)和不足：因?yàn)樗鼉H以輸出層中的單個神經(jīng)元代表某一類模式。所以一旦輸出層中的某個輸出神經(jīng)元損壞，則導(dǎo)致該神經(jīng)元所代表的該模式信息全部丟失。 ? (3)Hopfield神經(jīng)網(wǎng)絡(luò)： 1986年美國物理學(xué)家 ，提出了Hopfield神經(jīng)網(wǎng)絡(luò)。他利用非線性動力學(xué)系統(tǒng)理論中的能量函數(shù)方法研究反饋人工神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性，并利用此方法建立求解優(yōu)化計(jì)算問題的系統(tǒng)方程式。基本的Hopfield神經(jīng)網(wǎng)絡(luò)是一個由非線性元件構(gòu)成的全連接型單層反饋系統(tǒng) . ? 神經(jīng)網(wǎng)絡(luò)的研究內(nèi)容相當(dāng)廣泛，反映了多學(xué)科交叉技術(shù)領(lǐng)域的特點(diǎn)。迄今為止，在人工神經(jīng)網(wǎng)絡(luò)研究領(lǐng)域中，有代表性的網(wǎng)絡(luò)模型已達(dá)數(shù)十種，而學(xué)習(xí)算法的類型更難以統(tǒng)計(jì)其數(shù)量。神經(jīng)網(wǎng)絡(luò)研究熱潮的興起是本世紀(jì)末人類科學(xué)技術(shù)發(fā)展全面飛躍的一個組成部分。它與多種科學(xué)領(lǐng)域的發(fā)展密切相關(guān)，縱觀當(dāng)代新興科學(xué)技術(shù)的發(fā)展歷史，人類在征服宇宙空間、基本粒子、生命起源等科學(xué)領(lǐng)域的進(jìn)程之中歷經(jīng)了崎嶇不平之路。我們也會看到，探索人腦功能和神經(jīng)網(wǎng)絡(luò)的研究將伴隨著重重困難的克服而日新月異。 學(xué)習(xí)規(guī)則及過程：它以一種有教師示教的方式進(jìn)行學(xué)習(xí)。首先由教師對每一種輸入模式設(shè)定一個期望輸出值。然后對網(wǎng)絡(luò)輸入實(shí)際的學(xué)習(xí)記憶模式，并由輸入層經(jīng)中間層向輸出層傳播 (稱為 “ 模式順傳播 ” )。實(shí)際輸出與期望輸出的差即是誤差。按照誤差平方最小這一規(guī)則，由輸出層往中間層逐層修正連接權(quán)值，此過程稱為 “ 誤差逆?zhèn)鞑?” 。所以誤差逆?zhèn)鞑ド窠?jīng)網(wǎng)絡(luò)也簡稱 BP(Back Propagation)網(wǎng)。隨著 “ 模式順傳播 ” 和 “ 誤差逆?zhèn)鞑?” 過程的交替反復(fù)進(jìn)行。網(wǎng)絡(luò)的實(shí)際輸出逐漸向各自所對應(yīng)的期望輸出逼近，網(wǎng)絡(luò)對輸入模式的響應(yīng)的正確率也不斷上升。通過此學(xué)習(xí)過程，確定下來各層間的連接權(quán)值之后就可以工作了。 由于 BP網(wǎng)及誤差逆?zhèn)鞑ニ惴ň哂兄虚g隱含層并有相應(yīng)的學(xué)習(xí)規(guī)則可尋，使得它具有對非線性模式的識別能力。特別是其數(shù)學(xué)意義明確、步驟分明的學(xué)習(xí)算法，更使其具有廣泛的應(yīng)用前景。目前，在手寫字體的識別、語音識別、文本 ——語言轉(zhuǎn)換、圖象識別以及生物醫(yī)學(xué)信號處理方面已有實(shí)際的應(yīng)用。但 BP網(wǎng)并不是十分的完善，它存在以下一些主要缺陷：學(xué)習(xí)收斂速度太慢、網(wǎng)絡(luò)的學(xué)習(xí)記憶具有不穩(wěn)定性，即：當(dāng)給一個訓(xùn)練好的網(wǎng)提供新的學(xué)習(xí)記憶模式時，將使已有的連接權(quán)值被打亂，導(dǎo)致已記憶的學(xué)習(xí)模式的信息的消失。 (2)競爭型 (KOHONEN)神經(jīng)網(wǎng)絡(luò)：它是基于人的視網(wǎng)膜及大腦皮層對剌激的反應(yīng)而引出的。神經(jīng)生物學(xué)的研究結(jié)果表明：生物視網(wǎng)膜中，有許多特定的細(xì)胞，對特定的圖形(輸入模式 )比較敏感，并使得大腦皮層中的特定細(xì)胞產(chǎn)生大的興奮，而其相鄰的神經(jīng)細(xì)胞的興奮程度被抑制。對于某一個輸入模式，通過競爭在輸出層中只激活一個相應(yīng)的輸出神經(jīng)元。許多輸入模式，在輸出層中將激活許多個神經(jīng)元，從而形成一個反映輸入數(shù)據(jù)的 “ 特征圖形 ” 競爭型神經(jīng)網(wǎng)絡(luò)是一種以無教師方式進(jìn)行網(wǎng)絡(luò)訓(xùn)練的網(wǎng)絡(luò)。它通過自身訓(xùn)練，自動對輸入模式進(jìn)行分類。競爭型神經(jīng)網(wǎng)絡(luò)及其學(xué)習(xí)規(guī)則與其它類型的神經(jīng)網(wǎng)絡(luò)和學(xué)習(xí)規(guī)則相比，有其自己的鮮明特點(diǎn)。在網(wǎng)絡(luò)結(jié)構(gòu)上，它既不象階層型神經(jīng)網(wǎng)絡(luò)那樣各層神經(jīng)元之間只有單向連接，也不象全連接型網(wǎng)絡(luò)那樣在網(wǎng)絡(luò)結(jié)構(gòu)上沒有明顯的層次界限。它一般是由輸入層 (模擬視網(wǎng)膜神經(jīng)元 )和競爭層 (模擬大腦皮層神經(jīng)元，也叫輸出層 )構(gòu)成的兩層網(wǎng)絡(luò)。兩層之間的各神經(jīng)元實(shí)現(xiàn)雙向全連接，而且網(wǎng)絡(luò)中沒有隱含層，如圖 5。有時競爭層各神經(jīng)元之間還存在橫向連接。 競爭型神經(jīng)網(wǎng)絡(luò)的基本思想是網(wǎng)絡(luò)競爭層各神經(jīng)元競爭對輸入模式的響應(yīng)機(jī)會，最后僅有一個神經(jīng)元成為競爭的勝者，并且只將與獲勝神經(jīng)元有關(guān)的各連接權(quán)值進(jìn)行修正，使之朝著更有利于它競爭的方向調(diào)整。神經(jīng)網(wǎng)絡(luò)工作時，對于某一輸入模式，網(wǎng)絡(luò)中與該模式最相近的學(xué)習(xí)輸入模式相對應(yīng)的競爭層神經(jīng)元將有最大的輸出值，即以競爭層獲勝神經(jīng)元來表示分類結(jié)果。這是通過競爭得以實(shí)現(xiàn)的，實(shí)際上也就是網(wǎng)絡(luò)回憶聯(lián)想的過程。 演講完畢，謝謝觀看！