【正文】 wdsth[i],amp。 float err[wON]。 } fprintf(wfpout,\n)。i++) { wD[i]=wDT[i][k]。 float h=wymin[wIN+k]。 } for (i=0。 if ((wfpout=fopen(wszOut,w))==NULL) { printf(Can39。wsth[i],amp。 } 所以對(duì)預(yù)測(cè)判斷的程序如下： void wTest() { int k,j,i。 /*printf(循環(huán) %4d 次后 err[%d]為 : %e\n,ct,i,err[i])。j++) { fprintf(wfpwt,%e,%e,%e\n,ww[j][i],wdw[j][i],wdw1[j][i])。 for (i=0。 printf(\n)。 ww[i][j]+=wdw[i][j]。jwON。 中間層各單元的校正誤差為： )1(1jjqtktjtkj bbdve ??? ???? （ j =1， 2， … ， p k=1， 2， … ， m ） 對(duì)于輸出層至中間層連接權(quán)和輸出層閾值的校正量為 . kkjt t jV d b??? （ ） . kttd???? （ ） 其中， kjb ——中間層 j 單元的輸出； ktd ——輸出層的誤差校正。jwIN。 由于 BP 網(wǎng)絡(luò)有處于中間位置的隱含層，并有相應(yīng)的學(xué)習(xí)規(guī)則可循，可訓(xùn)練這種網(wǎng)絡(luò)，使其具有對(duì)非線性模式的識(shí)別能力。隱層的傳遞函數(shù)為 f1(直到誤差 反向傳播算法 （ BP 算法）的提出，成功地解決了求解非線性連續(xù)函數(shù)的 多層前饋神經(jīng)網(wǎng)絡(luò) 權(quán)重調(diào)整問(wèn)題。神經(jīng)網(wǎng)絡(luò)能夠通過(guò)對(duì)樣本的學(xué)習(xí)訓(xùn)練，不斷改變網(wǎng)絡(luò)的連接權(quán)值以及拓?fù)浣Y(jié)構(gòu)，以使網(wǎng)絡(luò)的輸出不斷地接近期望的輸出。人工神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元常稱為節(jié)點(diǎn)或處理單元，每個(gè)節(jié)點(diǎn)均具有相同的結(jié)構(gòu)，其動(dòng)作在時(shí)間和空間上均同步。 圖 閾值型變換函數(shù) （ 2）非線性變換函數(shù) 非線性變換函數(shù)為實(shí)數(shù)域 R 到 [0， l]閉集的非減連續(xù)函數(shù)，代表了狀態(tài)連續(xù)型神經(jīng)元模型。因此，模擬生物神經(jīng)網(wǎng)絡(luò)應(yīng)首先模擬生物神經(jīng)元。 圖 生物神經(jīng)元示意圖 細(xì)胞體是由細(xì)胞 核、細(xì)胞質(zhì)、細(xì)胞膜等組成。當(dāng)實(shí)際輸出與期望輸出不符時(shí)，進(jìn)入誤差的反向傳播階段。目前，主要的研究工作集中在以下幾個(gè)方面： 1． 生物原型研究。 80年代初期，模擬與數(shù)字混合的 超大規(guī)模集成電路 制作技術(shù)提高到新的水平，完全付諸實(shí)用化，此外，數(shù)字計(jì)算機(jī)的發(fā)展在若干應(yīng)用領(lǐng)域遇到困難。 1945 年馮 本科學(xué)生畢業(yè)設(shè)計(jì) 基于 C 語(yǔ)言的 BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)程序開(kāi)發(fā) 系部名稱： 汽車與交通工程學(xué)院 專業(yè)班級(jí)： 車輛 學(xué)生姓名： 指導(dǎo)教師： 職 稱： 實(shí)驗(yàn)師 The Graduation Design for Bachelor39。諾依曼領(lǐng)導(dǎo)的設(shè)計(jì)小組試制成功存儲(chǔ)程序式電子計(jì)算機(jī)，標(biāo)志著電子計(jì)算機(jī)時(shí)代的開(kāi)始。這一背景預(yù)示，向人工神經(jīng)網(wǎng)絡(luò)尋求出路的時(shí)機(jī)已經(jīng)成熟。從生理學(xué)、心理學(xué)、解剖學(xué)、腦科學(xué)、病理學(xué)等生物科學(xué)方面研究神經(jīng)細(xì)胞、神經(jīng)網(wǎng)絡(luò)、神經(jīng)系統(tǒng)的生物原型結(jié)構(gòu)及其功能機(jī)理。誤差通過(guò)輸出層，按誤差梯度下降的方式修正各 層權(quán)值，向隱層、輸入層逐層反傳。在高等動(dòng)物的神經(jīng)細(xì)胞，除了特殊的無(wú) “軸突 ”神經(jīng)元外，一般每個(gè)神經(jīng)元從細(xì)胞體伸出一根粗細(xì)均勻、表面光滑的突起，長(zhǎng)度從幾微米到 1m左右，稱為軸突，它的功能是傳出從細(xì)胞體來(lái)的神經(jīng)信息。在人工神經(jīng)網(wǎng)絡(luò)中，神經(jīng)元常被稱為 “處理單元 ”，有時(shí)從網(wǎng)絡(luò)的觀點(diǎn)出發(fā)常把它稱為 “節(jié)點(diǎn) ”。最常用的非線性變換函數(shù)是單極性的 Sigmoid 函數(shù)曲線，簡(jiǎn)稱 S型函數(shù) (圖 )，其特點(diǎn)是函數(shù)本身及其導(dǎo)數(shù)都是連續(xù)的，因而在處理上十分方便。 人工神經(jīng)網(wǎng)絡(luò)的模型有很多種，可以按照不同的方法分類。這一過(guò)? 12 程稱為神經(jīng)網(wǎng)絡(luò)的學(xué) 習(xí)或訓(xùn)練，其本質(zhì)是可變權(quán)值的動(dòng)態(tài)調(diào)整。 BP (Back Propagation)神經(jīng)網(wǎng)絡(luò)，即誤差反傳誤差反向傳播算法的學(xué)習(xí)過(guò)程，由信息的正向傳播和誤差的反向傳播兩個(gè)過(guò)程組成。)，輸出層的傳遞函數(shù)為 f2(特別是它的數(shù)學(xué)意義明確、步驟分明的學(xué)習(xí)算法，更使其具有廣泛的應(yīng)用前景。j++) { sum+=ww[j][i]*wIV[j]。 j =1， 2， … ， p t =1， 2， … ， q k=1， 2， … ， m 中間層至輸入層的校正量為 ..kkij j iW e a??? （ ） . kjje???? （ ） 式中： kje ——中間層 j 單元的校正誤差。j++) { for (i=0。 wdw1[i][j]=wdw[i][j]。 printf(Please wait patiently!\n)。iwON。 } fprintf(wfpwt,%e,%e,%e\n,wsth[i],wdsth[i],wdsth1[i])。*/ } fclose(wfperr)。 float err[wON]。wdsth[i],amp。t write output data file:%s!,wszOut)。iwTN。 float l=wymax[wIN+k]。 } wforward()。 } if ((wfperr=fopen(wszerr,w))==NULL) { /* printf(Can39。 float x。wdsth1[i])。wsth[i],amp。得到如下程序 : void wpre() { int k,j,i。 fprintf(wfpout,%\t,(wD[i]wOV[i])/wD[i])。iwON。 float n=wxmax[wIN+k]。wymax[i])。 } fclose(wfpwt)。 } fscanf(wfpwt,%e,%e,%e,amp。 return (y)。 fprintf(wfperr,%e\n,err[i])。jwIN。 26 } wforward()。 printf(\n)。 wdw[i][j]=(float)(weta*sum+walpha*wdw1[i][j])。 } for (j=0。(.)f ——對(duì)輸出層函數(shù)的導(dǎo)數(shù)。 21 for (j=0。隨著這種誤差逆?zhèn)鞑ビ?xùn)練的不斷 ，網(wǎng)絡(luò)對(duì)輸入模式回應(yīng)的正確率也不斷提高。 正向傳播 圖 三層神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu) 設(shè) BP 網(wǎng)絡(luò)的輸入層有 n 個(gè)節(jié)點(diǎn)，隱層有 q 個(gè)節(jié)點(diǎn)，輸出層有 m個(gè)節(jié)點(diǎn)，輸入層與隱層之間的權(quán)值為 kiv ，隱層與輸出層之間的權(quán)值為 jkw ，如圖 所示。 圖 BP 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)示意圖 在人工神經(jīng)網(wǎng)絡(luò)發(fā)展歷史中，很長(zhǎng)一段時(shí)間里沒(méi)有找到隱層的連接權(quán)值調(diào)整問(wèn)題的有效算法。神經(jīng)網(wǎng)絡(luò)全體連接權(quán)值的可用一個(gè)矩陣 W 表示，它的整體反映了神經(jīng)網(wǎng)絡(luò)對(duì)于所解決問(wèn)題的知識(shí)存儲(chǔ)。生物神經(jīng)網(wǎng)絡(luò)由數(shù)以億計(jì)的生物神經(jīng)元連接而戒，而人工神經(jīng)網(wǎng)絡(luò)限于物理實(shí)現(xiàn)的困難和為了計(jì)算簡(jiǎn)便，是由相對(duì)少量的神經(jīng)元按一定規(guī)律構(gòu)成的網(wǎng)絡(luò)。)可以有以下幾種形式： 閾值型變換函數(shù) (圖 )，單極性函數(shù)用下式定義： 1( 0)() 0( 0)xfx x??? ? ?? 具有這一作用方式的神經(jīng)元稱為閾值型神經(jīng)元，是神經(jīng)元模型中最簡(jiǎn)單的一種，經(jīng) 典的 MP 模型就屬于這一類。根據(jù)前面對(duì)生物神經(jīng)網(wǎng)絡(luò)的介紹可知，神經(jīng)元及其突觸是神經(jīng)網(wǎng)絡(luò)的基本器件。一個(gè)神經(jīng)元的構(gòu)造如圖 所示，主要包括細(xì)胞體、樹(shù)突和軸突。輸入層各神經(jīng)元負(fù)責(zé)接收來(lái)自外界的輸入信息，并傳遞給中間層各神經(jīng)元；中間層是內(nèi)部信息處理層，負(fù)責(zé)信息變換，根據(jù)信息變化能力的需求，中間層可以設(shè)計(jì)為單隱層或者多隱層結(jié)構(gòu)；最后一個(gè)隱層傳遞到輸出層各神經(jīng)元的信息，經(jīng)進(jìn)一步處理后，完成一次學(xué)習(xí)的正向傳播處理過(guò)程，由輸出層向外界輸出信息處理結(jié)果。 神經(jīng)網(wǎng)絡(luò)的研究?jī)?nèi)容相當(dāng)廣泛，反映了多學(xué)科交叉技術(shù)領(lǐng)域的特點(diǎn)。 隨著人們對(duì)感知機(jī)興趣的衰退，神經(jīng)網(wǎng)絡(luò)的研究沉寂了相當(dāng)長(zhǎng)的時(shí)間。因而，他們兩人可稱為人工神經(jīng)網(wǎng)絡(luò)研究的先驅(qū)。s Degree Development on BP Neural Network Prediction Program Based on C Language Candidate： Gao Xiaolin Specialty： Vehicles Engineering Class： 0711 Supervisor： Lecturer Wang Yuexin Heilongjiang Institute of Technology I 摘 要 人工神經(jīng)網(wǎng)絡(luò)理論是新近發(fā)展起來(lái)的交叉學(xué)科，采用物理器件或計(jì)算機(jī)軟硬件模擬生物體中神經(jīng)細(xì)胞的某些結(jié)構(gòu)與功能，進(jìn)而將其應(yīng)用于工程領(lǐng)域，尤其適合高度復(fù)雜的非線性動(dòng)力學(xué)系統(tǒng)仿真。 1948 年，他在研究工作中比較了人腦結(jié)構(gòu)與存儲(chǔ)程序式計(jì)算機(jī)的根本區(qū)別，提出了以簡(jiǎn)單神經(jīng)元構(gòu)成的再生自動(dòng)機(jī)網(wǎng)絡(luò)結(jié) 構(gòu)。 美國(guó) 的物理學(xué)家 Hopfield 于 1982 年和 1984 年在美國(guó)科學(xué)院院刊上發(fā)表了兩篇關(guān)于人工神經(jīng)網(wǎng)絡(luò)研究的論文，引起了巨大的反響。 2． 建立理論模型。周而復(fù)始的信息正向傳播和誤差反向傳播過(guò)程，是各層權(quán)值不斷調(diào)整的過(guò)程，也是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的過(guò)程，此過(guò)程一直進(jìn)行到網(wǎng)絡(luò)輸出的誤差減少到可以接受的程度，或者預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止。從細(xì)胞體延伸出像樹(shù)枝一樣向四處分散開(kāi)來(lái)的許多突起，稱之為樹(shù)突，其作用是感受其他神經(jīng)元的傳遞信號(hào)。人工神經(jīng)元是對(duì)生物神經(jīng)元的一種形式化描述，它對(duì)生物神經(jīng)元的信息處理過(guò)程進(jìn)行抽象，并用數(shù)學(xué)語(yǔ)言予以描述；對(duì)生物神經(jīng)元的結(jié)構(gòu)和功能進(jìn)行模擬，并用模型圖予以表達(dá)。單極性 S 型函數(shù)定義如下： 1() 1 xfx e?? ? 有時(shí)也常采用雙極性 S 型函數(shù)等形式 1 1 1 0 0 F(x) F(x) x x （ ） （ ） 9 21( ) 111xxxefx ee????? ? ??? （ 3）非線性變換函數(shù) 該函數(shù)的特點(diǎn)是神經(jīng)元的輸入與輸出在一定區(qū)間內(nèi)滿足線性關(guān)系。其中常見(jiàn)的兩種分類方法是：按網(wǎng)絡(luò)連接的拓?fù)浣Y(jié)構(gòu)和按網(wǎng)絡(luò)內(nèi)部的信息流向分類。當(dāng)大量處理單元集體進(jìn)行權(quán)值調(diào)整時(shí)，網(wǎng)絡(luò)就呈現(xiàn)出 “智能 ”特性。輸入層各神經(jīng)元負(fù)責(zé)接收來(lái)自外界的輸入信息，并傳遞給中間層各神經(jīng)元；中間層是內(nèi)部信息處理層，負(fù)責(zé)信息變換，根據(jù)信息變化能力的需求，中間層可以設(shè)計(jì)為單隱層或者多隱層結(jié)構(gòu)；最后一個(gè)隱層傳遞到輸出層各神經(jīng)元的信息，經(jīng)進(jìn)一步處理后，完成一次學(xué)習(xí)的正向傳播處理過(guò)程，由輸出層向外界輸出信息處理結(jié)果。)，則隱層節(jié)點(diǎn)的輸出為（將閾值寫入求和項(xiàng)中）： )( 01 ikjnik xvfz ???? k=1， 2， …… q （ ） 輸出層節(jié)點(diǎn)的輸出為： )(y 02j kjknk zwf ???? j=1， 2， ……m （ ） 1x ....... ix ......nx n q m 1y 1z V my jy W kz qz ..... j 16 至此 BP 網(wǎng)絡(luò)就完成了 n 維空間矢量對(duì) m維空間的近似映射。 BP 網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程主要由四部分組成： （ 1） 輸入模式順傳播（輸入模式 由輸入層經(jīng)中間層向輸出層傳播計(jì)算）； （ 2） 輸出誤差逆?zhèn)鞑ィㄝ敵龅恼`差由輸出層經(jīng)中間層傳向輸入層）； （ 3） 循環(huán)記憶訓(xùn)練（模式順傳播與誤差逆?zhèn)鞑サ挠?jì)算過(guò)程反復(fù)交替循環(huán)進(jìn)行）； （ 4） 學(xué)習(xí)結(jié)果判別（判定全局誤差是否趨向極小值）。 } sum=s