【正文】 人工神經(jīng)網(wǎng)絡(luò) (Artificial Neural Netwroks ANN) HZAU 數(shù)?；? 引 言 ? 利用機器模仿人類的智能是長期以來人們認識自然、改造自然和認識自身的理想。 ? 研究 ANN目的： ? （ 1）探索和模擬人的感覺、思維和行為的規(guī) 律，設(shè)計 具有人類智能的計算機系統(tǒng)。 ? （ 2）探討人腦的智能活動，用物化了的智能來 考察和研 究人腦智能的物質(zhì)過程及其規(guī)律。 ANN的研究內(nèi)容 （ 1） 理論研究 ： ANN模型及其學(xué)習(xí)算法，試圖從數(shù)學(xué)上描述 ANN的動力學(xué)過程，建立相應(yīng)的 ANN模型，在該模型的基礎(chǔ)上，對于給定的學(xué)習(xí)樣本，找出一種能以較快的速度和較高的精度調(diào)整神經(jīng)元間互連權(quán)值，使系統(tǒng)達到穩(wěn)定狀態(tài)，滿足學(xué)習(xí)要求的算法。 （ 2） 實現(xiàn)技術(shù)的研究 ：探討利用電子、光學(xué)、生物等 技術(shù)實現(xiàn)神經(jīng)計算機的途徑。 （ 3） 應(yīng)用的研究 ：探討如何應(yīng)用 ANN解決實際問題，如模式識別、故障檢測、智能機器人等。 研究 ANN方法 （ 1） 生理結(jié)構(gòu)的模擬： 用仿生學(xué)觀點，探索人腦的生理結(jié)構(gòu)，把對人腦的微觀結(jié)構(gòu)及其智能行為的研究結(jié)合起來即人工神經(jīng)網(wǎng)絡(luò)（ Artificial Neural Netwroks，簡稱 ANN）方法。 （ 2）宏觀功能的模擬： 從人的思維活動和智能行為的心理學(xué)特性出發(fā)，利用計算機系統(tǒng)來對人腦智能進行宏觀功能的模擬，即符號處理方法。 ANN研究的目的和意義 (1)通過揭示物理平面與認知平面之間的映射，了解它們相互聯(lián)系和相互作用的機理，從而揭示思維的本質(zhì)，探索智能的本源。 (2)爭取構(gòu)造出盡可能與人腦具有相似功能的計算機，即 ANN計算機。 (3)研究仿照腦神經(jīng)系統(tǒng)的人工神經(jīng)網(wǎng)絡(luò)，將在模式識別、組合優(yōu)化和決策判斷等方面取得傳統(tǒng)計算機所難以達到的效果。 神經(jīng)網(wǎng)絡(luò)研究的發(fā)展 (1)第一次熱潮 (4060年代未 ) 1943年 ,美國心理學(xué)家 ，即 MP模型。1958年， (Perceptron）。 (2)低潮 (7080年代初 ): (3)第二次熱潮 1982年，美國物理學(xué)家 Hopfield模型，它是一個互聯(lián)的非線性動力學(xué)網(wǎng)絡(luò) .他解決問題的方法是一種反復(fù)運算的動態(tài)過程 ,這是符號邏輯處理方法所不具備的性質(zhì) . 1987年首屆國際 ANN大會在圣地亞哥召開，國際 ANN聯(lián)合會成立，創(chuàng)辦了多種 ANN國際刊物。 1990年 12月，北京召開首屆學(xué)術(shù)會議。 人工神經(jīng)網(wǎng)絡(luò) 研究的局限性 （ 1） ANN研究受到腦科學(xué)研究成果的限制。 （ 2） ANN缺少一個完整、成熟的理論體系。 （ 3） ANN研究帶有濃厚的策略和經(jīng)驗色彩。 （ 4） ANN與傳統(tǒng)技術(shù)的接口不成熟。 人工神經(jīng)網(wǎng)絡(luò)概述 ? 什么是 人工神經(jīng)網(wǎng)絡(luò) ？ ? ： “人工神經(jīng)網(wǎng)絡(luò) 是由 具有適應(yīng)性的簡單單元組成的廣泛并行互連的網(wǎng)絡(luò)，它的組織能夠模擬生物神經(jīng)系統(tǒng)對真實世界物體所作出的交互反應(yīng)。 ” 二、神經(jīng)元與神經(jīng)網(wǎng)絡(luò) ? 大腦可視作為 1000多億神經(jīng)元組成的神經(jīng)網(wǎng)絡(luò) ? 圖 3 神經(jīng)元的解剖圖 ? 神經(jīng)元的信息傳遞和處理是一種電化學(xué)活動．樹突由于電化學(xué)作用接受外界 的刺激；通過胞體內(nèi)的活動體現(xiàn)為軸突電位，當 軸突電位達到 一定的值 則形成神經(jīng)脈沖或動作電位；再通過軸突末梢傳遞給其它的神經(jīng)元．從控制論的觀點來看；這一過程可以看作一個 多輸入單輸出 非線性系統(tǒng)的動態(tài)過程 神經(jīng)網(wǎng)絡(luò)研究的兩個方面 ? 從生理上 、 解剖學(xué)上進行研究 ? 從工程技術(shù)上 、 算法上進行研究 腦神經(jīng)信息活動的特征 (1)巨量并行性。 (2)信息處理和存儲單元結(jié)合在一起。 (3)自組織自學(xué)習(xí)功能。 神經(jīng)網(wǎng)絡(luò)基本模型 細 胞 體突觸軸 突樹突圖 1 2 . 2 生 物 神 經(jīng) 元 功 能 模 型輸入輸出信 息 處 理電 脈 沖形 成傳 輸?神經(jīng)元的數(shù)學(xué)模型 圖 4神經(jīng)元的數(shù)學(xué)模型 ? 其中 x＝ （ x1， … xm） T 輸入向量 ， y為輸出 ，wi是權(quán)系數(shù)；輸入與輸出具有如下關(guān)系 ： ????miiixwfy1)( ?? θ 為閾值 ， f（ X） 是激發(fā)函數(shù)；它可以是線性函數(shù) ， 也可以是非線性函數(shù) ． 例如，若記 取激發(fā)函數(shù)為符號函數(shù) ????miii xwz1???????.0,0,0,1)sg n (xxx則 S型激發(fā)函數(shù)： ???????????????miiimiiixwxwzfy11,0,1)(??,1 1)( xexf ??? 。1)(0 ?? xf或 ? 注： 若將閾值看作是一個權(quán)系數(shù)， 1是一個固定的輸入，另有 m1個正常的輸入，則（ 1）式也可表示為： ,)( xxxxeeeexf????? .1)(1 ??? xf???miii xwfy1)( （ 1） ? 參數(shù)識別 ：假設(shè)函數(shù)形式已知，則可以從已有的輸入輸出數(shù)據(jù)確定出權(quán)系數(shù)及閾值。 神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型 ? 眾多神經(jīng)元之間組合形成神經(jīng)網(wǎng)絡(luò)，例如下圖的含有中間層（隱層）的 BP網(wǎng)絡(luò) 基本 BP網(wǎng)絡(luò)的拓撲結(jié)構(gòu) b1 bi a1 c1 cq cj ah bp an … … … … … … Wp1 Wiq Wpj W1q W1j Wij V11 W11 Wpq Wi1 Vh1 Vhi V1i Vn1 Vni V1p Vhp Vnp kjc kqckha kna1ka輸出層 LC 隱含層 LB 輸入層 LA W V klc ANN類型與功能 一般而言 , ANN與經(jīng)典計算方法相比并非優(yōu)越 , 只有當常規(guī)方法解決不了或效果不佳時 ANN方法才能顯示出其優(yōu)越性。尤其對問題的機理不甚了解或不能用數(shù)學(xué)模型表示的系統(tǒng) ,如故障診斷、特征提取和預(yù)測等問題 ,ANN往往是最有利的工具。另一方面 , ANN對處理大量原始數(shù)據(jù)而不能用規(guī)則或公式描述的問題 , 表現(xiàn)出極大的靈活性和自適應(yīng)性。 人工神經(jīng)網(wǎng)絡(luò) （ Artificial Neuron Nets=ANN） 例 ? 1981年生物學(xué)家格若根 （ W． Grogan） 和維什 （ W． Wirth） 發(fā)現(xiàn)了兩類蚊子 (或飛蠓 midges)． 他們測量了這兩類蚊子每個個體的翼長和觸角長 ， 數(shù)據(jù)如下： ? 翼長 觸角長 類別 ? Af ? Af ? Af ? Af ? Af ? Af ? Af ? 翼長 觸角長 類別 ? Apf ? Apf ? Apf ? Af ? Apf ? Apf ? Apf ? Af ? 問： 如果抓到三只新的蚊子，它們的觸角長和翼長分別為 (,)。 (， )；（ ，）．問它們應(yīng)分別屬于哪一個種類？ 解法一 ： ? 把翼長作縱坐標，觸角長作橫坐標；那么每個蚊子的翼長和觸角決定了坐標平面的一個點 .其中 6個蚊子屬于 APf類；用黑點 “ ”表示； 9個蚊子屬 Af類；用小圓圈 “ 。 ” 表示． ? 得到的結(jié)果見圖 1 ? 圖 1飛蠓的觸角長和翼長 ? 思路 ： 作一直線將兩類飛蠓分開 ? 例如；取 A＝ （ ， ） 和 B＝ (， )，過 A B兩點作一條直線： ? y＝ ? 其中 X表示觸角長； y表示翼長． ? 分類規(guī)則 ： 設(shè)一個蚊子的數(shù)據(jù)為 （ x, y） ? 如果 y≥ ， 則判斷蚊子屬 Apf類； ? 如果 y＜ ；則判斷蚊子屬 Af類 ．