【正文】 人工神經(jīng)網(wǎng)絡(luò) (Artificial Neural Netwroks ANN) HZAU 數(shù)?；? 引 言 ? 利用機(jī)器模仿人類(lèi)的智能是長(zhǎng)期以來(lái)人們認(rèn)識(shí)自然、改造自然和認(rèn)識(shí)自身的理想。 ? 研究 ANN目的： ? （ 1）探索和模擬人的感覺(jué)、思維和行為的規(guī) 律，設(shè)計(jì) 具有人類(lèi)智能的計(jì)算機(jī)系統(tǒng)。 ? （ 2）探討人腦的智能活動(dòng)，用物化了的智能來(lái) 考察和研 究人腦智能的物質(zhì)過(guò)程及其規(guī)律。 ANN的研究?jī)?nèi)容 （ 1） 理論研究 ： ANN模型及其學(xué)習(xí)算法，試圖從數(shù)學(xué)上描述 ANN的動(dòng)力學(xué)過(guò)程，建立相應(yīng)的 ANN模型，在該模型的基礎(chǔ)上，對(duì)于給定的學(xué)習(xí)樣本，找出一種能以較快的速度和較高的精度調(diào)整神經(jīng)元間互連權(quán)值，使系統(tǒng)達(dá)到穩(wěn)定狀態(tài)，滿(mǎn)足學(xué)習(xí)要求的算法。 （ 2） 實(shí)現(xiàn)技術(shù)的研究 ：探討利用電子、光學(xué)、生物等 技術(shù)實(shí)現(xiàn)神經(jīng)計(jì)算機(jī)的途徑。 （ 3） 應(yīng)用的研究 ：探討如何應(yīng)用 ANN解決實(shí)際問(wèn)題，如模式識(shí)別、故障檢測(cè)、智能機(jī)器人等。 研究 ANN方法 （ 1） 生理結(jié)構(gòu)的模擬： 用仿生學(xué)觀(guān)點(diǎn)，探索人腦的生理結(jié)構(gòu)，把對(duì)人腦的微觀(guān)結(jié)構(gòu)及其智能行為的研究結(jié)合起來(lái)即人工神經(jīng)網(wǎng)絡(luò)（ Artificial Neural Netwroks，簡(jiǎn)稱(chēng) ANN）方法。 （ 2）宏觀(guān)功能的模擬： 從人的思維活動(dòng)和智能行為的心理學(xué)特性出發(fā)，利用計(jì)算機(jī)系統(tǒng)來(lái)對(duì)人腦智能進(jìn)行宏觀(guān)功能的模擬，即符號(hào)處理方法。 ANN研究的目的和意義 (1)通過(guò)揭示物理平面與認(rèn)知平面之間的映射，了解它們相互聯(lián)系和相互作用的機(jī)理，從而揭示思維的本質(zhì)，探索智能的本源。 (2)爭(zhēng)取構(gòu)造出盡可能與人腦具有相似功能的計(jì)算機(jī)，即 ANN計(jì)算機(jī)。 (3)研究仿照腦神經(jīng)系統(tǒng)的人工神經(jīng)網(wǎng)絡(luò)，將在模式識(shí)別、組合優(yōu)化和決策判斷等方面取得傳統(tǒng)計(jì)算機(jī)所難以達(dá)到的效果。 神經(jīng)網(wǎng)絡(luò)研究的發(fā)展 (1)第一次熱潮 (4060年代未 ) 1943年 ,美國(guó)心理學(xué)家 ，即 MP模型。1958年， (Perceptron）。 (2)低潮 (7080年代初 ): (3)第二次熱潮 1982年，美國(guó)物理學(xué)家 Hopfield模型，它是一個(gè)互聯(lián)的非線(xiàn)性動(dòng)力學(xué)網(wǎng)絡(luò) .他解決問(wèn)題的方法是一種反復(fù)運(yùn)算的動(dòng)態(tài)過(guò)程 ,這是符號(hào)邏輯處理方法所不具備的性質(zhì) . 1987年首屆國(guó)際 ANN大會(huì)在圣地亞哥召開(kāi)，國(guó)際 ANN聯(lián)合會(huì)成立，創(chuàng)辦了多種 ANN國(guó)際刊物。 1990年 12月，北京召開(kāi)首屆學(xué)術(shù)會(huì)議。 人工神經(jīng)網(wǎng)絡(luò) 研究的局限性 （ 1） ANN研究受到腦科學(xué)研究成果的限制。 （ 2） ANN缺少一個(gè)完整、成熟的理論體系。 （ 3） ANN研究帶有濃厚的策略和經(jīng)驗(yàn)色彩。 （ 4） ANN與傳統(tǒng)技術(shù)的接口不成熟。 人工神經(jīng)網(wǎng)絡(luò)概述 ? 什么是 人工神經(jīng)網(wǎng)絡(luò) ？ ? ： “人工神經(jīng)網(wǎng)絡(luò) 是由 具有適應(yīng)性的簡(jiǎn)單單元組成的廣泛并行互連的網(wǎng)絡(luò)，它的組織能夠模擬生物神經(jīng)系統(tǒng)對(duì)真實(shí)世界物體所作出的交互反應(yīng)。 ” 二、神經(jīng)元與神經(jīng)網(wǎng)絡(luò) ? 大腦可視作為 1000多億神經(jīng)元組成的神經(jīng)網(wǎng)絡(luò) ? 圖 3 神經(jīng)元的解剖圖 ? 神經(jīng)元的信息傳遞和處理是一種電化學(xué)活動(dòng)．樹(shù)突由于電化學(xué)作用接受外界 的刺激；通過(guò)胞體內(nèi)的活動(dòng)體現(xiàn)為軸突電位，當(dāng) 軸突電位達(dá)到 一定的值 則形成神經(jīng)脈沖或動(dòng)作電位；再通過(guò)軸突末梢傳遞給其它的神經(jīng)元．從控制論的觀(guān)點(diǎn)來(lái)看；這一過(guò)程可以看作一個(gè) 多輸入單輸出 非線(xiàn)性系統(tǒng)的動(dòng)態(tài)過(guò)程 神經(jīng)網(wǎng)絡(luò)研究的兩個(gè)方面 ? 從生理上 、 解剖學(xué)上進(jìn)行研究 ? 從工程技術(shù)上 、 算法上進(jìn)行研究 腦神經(jīng)信息活動(dòng)的特征 (1)巨量并行性。 (2)信息處理和存儲(chǔ)單元結(jié)合在一起。 (3)自組織自學(xué)習(xí)功能。 神經(jīng)網(wǎng)絡(luò)基本模型 細(xì) 胞 體突觸軸 突樹(shù)突圖 1 2 . 2 生 物 神 經(jīng) 元 功 能 模 型輸入輸出信 息 處 理電 脈 沖形 成傳 輸?神經(jīng)元的數(shù)學(xué)模型 圖 4神經(jīng)元的數(shù)學(xué)模型 ? 其中 x＝ （ x1， … xm） T 輸入向量 ， y為輸出 ，wi是權(quán)系數(shù)；輸入與輸出具有如下關(guān)系 ： ????miiixwfy1)( ?? θ 為閾值 ， f（ X） 是激發(fā)函數(shù)；它可以是線(xiàn)性函數(shù) ， 也可以是非線(xiàn)性函數(shù) ． 例如，若記 取激發(fā)函數(shù)為符號(hào)函數(shù) ????miii xwz1???????.0,0,0,1)sg n (xxx則 S型激發(fā)函數(shù)： ???????????????miiimiiixwxwzfy11,0,1)(??,1 1)( xexf ??? 。1)(0 ?? xf或 ? 注： 若將閾值看作是一個(gè)權(quán)系數(shù)， 1是一個(gè)固定的輸入，另有 m1個(gè)正常的輸入，則（ 1）式也可表示為： ,)( xxxxeeeexf????? .1)(1 ??? xf???miii xwfy1)( （ 1） ? 參數(shù)識(shí)別 ：假設(shè)函數(shù)形式已知，則可以從已有的輸入輸出數(shù)據(jù)確定出權(quán)系數(shù)及閾值。 神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型 ? 眾多神經(jīng)元之間組合形成神經(jīng)網(wǎng)絡(luò)，例如下圖的含有中間層（隱層）的 BP網(wǎng)絡(luò) 基本 BP網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu) b1 bi a1 c1 cq cj ah bp an … … … … … … Wp1 Wiq Wpj W1q W1j Wij V11 W11 Wpq Wi1 Vh1 Vhi V1i Vn1 Vni V1p Vhp Vnp kjc kqckha kna1ka輸出層 LC 隱含層 LB 輸入層 LA W V klc ANN類(lèi)型與功能 一般而言 , ANN與經(jīng)典計(jì)算方法相比并非優(yōu)越 , 只有當(dāng)常規(guī)方法解決不了或效果不佳時(shí) ANN方法才能顯示出其優(yōu)越性。尤其對(duì)問(wèn)題的機(jī)理不甚了解或不能用數(shù)學(xué)模型表示的系統(tǒng) ,如故障診斷、特征提取和預(yù)測(cè)等問(wèn)題 ,ANN往往是最有利的工具。另一方面 , ANN對(duì)處理大量原始數(shù)據(jù)而不能用規(guī)則或公式描述的問(wèn)題 , 表現(xiàn)出極大的靈活性和自適應(yīng)性。 人工神經(jīng)網(wǎng)絡(luò) （ Artificial Neuron Nets=ANN） 例 ? 1981年生物學(xué)家格若根 （ W． Grogan） 和維什 （ W． Wirth） 發(fā)現(xiàn)了兩類(lèi)蚊子 (或飛蠓 midges)． 他們測(cè)量了這兩類(lèi)蚊子每個(gè)個(gè)體的翼長(zhǎng)和觸角長(zhǎng) ， 數(shù)據(jù)如下： ? 翼長(zhǎng) 觸角長(zhǎng) 類(lèi)別 ? Af ? Af ? Af ? Af ? Af ? Af ? Af ? 翼長(zhǎng) 觸角長(zhǎng) 類(lèi)別 ? Apf ? Apf ? Apf ? Af ? Apf ? Apf ? Apf ? Af ? 問(wèn)： 如果抓到三只新的蚊子，它們的觸角長(zhǎng)和翼長(zhǎng)分別為 (,)。 (， )；（ ，）．問(wèn)它們應(yīng)分別屬于哪一個(gè)種類(lèi)？ 解法一 ： ? 把翼長(zhǎng)作縱坐標(biāo)，觸角長(zhǎng)作橫坐標(biāo)；那么每個(gè)蚊子的翼長(zhǎng)和觸角決定了坐標(biāo)平面的一個(gè)點(diǎn) .其中 6個(gè)蚊子屬于 APf類(lèi)；用黑點(diǎn) “ ”表示； 9個(gè)蚊子屬 Af類(lèi)；用小圓圈 “ 。 ” 表示． ? 得到的結(jié)果見(jiàn)圖 1 ? 圖 1飛蠓的觸角長(zhǎng)和翼長(zhǎng) ? 思路 ： 作一直線(xiàn)將兩類(lèi)飛蠓分開(kāi) ? 例如；取 A＝ （ ， ） 和 B＝ (， )，過(guò) A B兩點(diǎn)作一條直線(xiàn)： ? y＝ ? 其中 X表示觸角長(zhǎng)； y表示翼長(zhǎng)． ? 分類(lèi)規(guī)則 ： 設(shè)一個(gè)蚊子的數(shù)據(jù)為 （ x, y） ? 如果 y≥ ， 則判斷蚊子屬 Apf類(lèi)； ? 如果 y＜ ；則判斷蚊子屬 Af類(lèi) ．