【文章內(nèi)容簡(jiǎn)介】 BP網(wǎng)絡(luò)算法：設(shè)有任意大小的多層前向神經(jīng)網(wǎng)絡(luò)，各神經(jīng)元的激勵(lì)函數(shù)選取為Sigmoid函數(shù)： f(x)= （1）設(shè)有m個(gè)學(xué)習(xí)樣本（Xk,Yk）(k=1,2,…,m),XK,YK分別為第K個(gè)樣本的輸入，期望輸出矢量，其中，XK=（xk1,xk2,…xkn）、YK=(yk1,yk2,…ykp)。對(duì)于某一個(gè)輸入XK，網(wǎng)絡(luò)的實(shí)際輸出為Y/k，節(jié)點(diǎn)I的輸出為Qki，節(jié)點(diǎn)j的輸入為：　　　　　　netkj= 　　　　　?。?）節(jié)點(diǎn)j的輸出為 　　　　 Ikj=f（netkj） 　　　　?。?）對(duì)應(yīng)網(wǎng)絡(luò)的期望輸出YK，有輸出誤差： 　　　　EK= 　　　?。?） 訓(xùn)練集中每個(gè)樣本輸至網(wǎng)絡(luò)時(shí)，網(wǎng)絡(luò)的權(quán)重Wji都做相應(yīng)的調(diào)整，其改變?yōu)? 　　　　 　　　　　（5）若j是輸出層，則有 　　　 　　= 　　= 　　　　?。?）若j是隱含層，則有 　　　 　　　　　（7）試中為節(jié)點(diǎn)j上一節(jié)點(diǎn)l的誤差信號(hào)；Wlj為節(jié)點(diǎn)j到其上一節(jié)點(diǎn)l的連接權(quán)重。 所示。 BP算法流程圖 BP網(wǎng)絡(luò)缺陷 收斂到局部最小值在BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練時(shí)，有時(shí)會(huì)出現(xiàn)這樣一種情況：網(wǎng)絡(luò)的輸出與期望輸出之間的誤差在某一個(gè)值左右徘徊，但是無(wú)法再減少。這時(shí)就表明網(wǎng)絡(luò)的訓(xùn)練陷入了局部最小值。 誤差進(jìn)入平坦區(qū)另外，在BP網(wǎng)絡(luò)的訓(xùn)練過(guò)程中，有時(shí)候也會(huì)出現(xiàn)誤差在一定時(shí)間內(nèi)的減少極度緩慢，但是的確是在減少。這時(shí)表示網(wǎng)絡(luò)已經(jīng)進(jìn)入了誤差的平坦區(qū)。誤差曲面的平坦區(qū)域會(huì)使訓(xùn)練次數(shù)大大增加，從而影響了收斂速度。 第五章 需求分析要實(shí)現(xiàn)一個(gè)軟件系統(tǒng)首先應(yīng)該進(jìn)行需求分析，這樣才能令設(shè)計(jì)出的軟件滿足用戶的要求。只有通過(guò)需求分析才能把軟件功能和性能的總體概念描述為具體的軟件需求規(guī)格說(shuō)明，從而奠定軟件開(kāi)發(fā)的基礎(chǔ)。下面就是對(duì)我們這個(gè)系統(tǒng)進(jìn)行的需求分析。 系統(tǒng)應(yīng)解決的問(wèn)題 首先，我們這個(gè)系統(tǒng)是一套基于計(jì)算機(jī)測(cè)控技術(shù)的安全監(jiān)測(cè)設(shè)備，主要應(yīng)用在煤礦行業(yè)。用戶可以將井下監(jiān)測(cè)到的數(shù)據(jù)輸入這個(gè)系統(tǒng)，系統(tǒng)用訓(xùn)練好的網(wǎng)絡(luò)對(duì)這些數(shù)據(jù)進(jìn)行處理、分析，從而判斷出煤礦頂板的穩(wěn)定性。為了系統(tǒng)的規(guī)范，對(duì)于每一個(gè)用戶來(lái)說(shuō)，他們所輸入的數(shù)據(jù)都應(yīng)在一個(gè)特定的范圍內(nèi)，因?yàn)樯窠?jīng)網(wǎng)絡(luò)識(shí)別方法是從實(shí)例中獲取知識(shí)，提煉出數(shù)據(jù)間的復(fù)雜關(guān)系，而我們選取的樣本數(shù)據(jù)是測(cè)定好的數(shù)據(jù)，這就要求用戶根據(jù)實(shí)際情況來(lái)輸入數(shù)據(jù)，同時(shí)，用戶也可以參考系統(tǒng)樣本數(shù)據(jù)，來(lái)選擇數(shù)據(jù)的輸入范圍。另外，系統(tǒng)還可以完成將用戶輸入的數(shù)據(jù)添加到數(shù)據(jù)庫(kù)中。 系統(tǒng)功能1）煤層頂?shù)装鍘r石力學(xué)參數(shù)結(jié)果表：根據(jù)煤層頂?shù)装鍘r石力學(xué)參數(shù)結(jié)果表，讓用戶更加清楚地認(rèn)識(shí)到各種巖石的力學(xué)參數(shù)與頂板穩(wěn)定性的關(guān)系，從而達(dá)到指導(dǎo)實(shí)踐的目的。2）網(wǎng)絡(luò)模型的檢驗(yàn)樣本集：可以查詢網(wǎng)絡(luò)的數(shù)據(jù)樣本并且看到整個(gè)網(wǎng)絡(luò)的預(yù)測(cè)結(jié)果。3）煤層頂板預(yù)測(cè)：用戶可以根據(jù)實(shí)際情況，自己輸入數(shù)據(jù)來(lái)檢測(cè)頂板的穩(wěn)定性。4）圍巖訓(xùn)練及預(yù)測(cè)：同頂板的訓(xùn)練及預(yù)測(cè)一樣，可以完成煤礦圍堰的穩(wěn)定性預(yù)測(cè)預(yù)報(bào)。5）數(shù)據(jù)分析與查詢：查詢數(shù)據(jù)庫(kù)中樣本和歷史紀(jì)錄的數(shù)據(jù)。6）屏幕報(bào)警：工程人員可以根據(jù)系統(tǒng)報(bào)警做出相應(yīng)的措施，避免事故的發(fā)生，確保礦井的安全。第六章 概要設(shè)計(jì)經(jīng)過(guò)反復(fù)的試驗(yàn)和比較，最后我們采用了VB語(yǔ)言和MATLAB神經(jīng)網(wǎng)絡(luò)工具箱相結(jié)合的方法。系統(tǒng)程序的大部分還是有VB語(yǔ)言來(lái)編寫，只是BP網(wǎng)絡(luò)的訓(xùn)練由MATLAB專用神經(jīng)網(wǎng)絡(luò)工具箱來(lái)完成，最后通過(guò)MATLAB與VB語(yǔ)言的接口把二者結(jié)合起來(lái)。MATLAB神經(jīng)網(wǎng)絡(luò)工具箱是以神經(jīng)網(wǎng)絡(luò)理論作為背景的專業(yè)工具箱，它以人工神經(jīng)網(wǎng)絡(luò)理論為基礎(chǔ)，用MATLAB語(yǔ)言構(gòu)造典型神經(jīng)網(wǎng)絡(luò)的激活函數(shù)，使設(shè)計(jì)者對(duì)所選定網(wǎng)絡(luò)輸出的計(jì)算，變成對(duì)激活函數(shù)的調(diào)用。另外，根據(jù)各種典型的學(xué)習(xí)規(guī)則和網(wǎng)絡(luò)的訓(xùn)練過(guò)程，用MATLAB編寫出各種網(wǎng)絡(luò)權(quán)值訓(xùn)練的子程序。從而大大節(jié)省了編程和調(diào)試的時(shí)間，提高了效率和質(zhì)量。通過(guò)實(shí)際檢驗(yàn)，采用神經(jīng)網(wǎng)絡(luò)工具相對(duì)BP網(wǎng)絡(luò)的訓(xùn)練，訓(xùn)練速率有了明顯的提高，效果大大改善，基本滿足我們的要求。 系統(tǒng)開(kāi)發(fā)目標(biāo)及系統(tǒng)結(jié)構(gòu)系統(tǒng)開(kāi)發(fā)的目的是充分利用計(jì)算機(jī)強(qiáng)大的計(jì)算能力和神經(jīng)網(wǎng)絡(luò)的智能性，為頂板及圍巖穩(wěn)定性分類提供可靠的、智能化的手段，為工程穩(wěn)定性評(píng)價(jià)提供依據(jù)。為此，系統(tǒng)必須實(shí)現(xiàn)從數(shù)據(jù)初始化處理到結(jié)論評(píng)價(jià)輸出的一系列功能，包括數(shù)據(jù)優(yōu)化、模型建立、數(shù)據(jù)分析和結(jié)果處理輸出等。此外還應(yīng)具備先進(jìn)性、實(shí)用性、可靠性、界面友好和易擴(kuò)充性等特征。本系統(tǒng)按照一般的軟件系統(tǒng)設(shè)計(jì)，由輸入、輸出、數(shù)據(jù)庫(kù)、分析處理和界面等部分組成。簡(jiǎn)單模塊關(guān)系如下圖所示。 模型建立通過(guò)網(wǎng)絡(luò)學(xué)習(xí)，確定網(wǎng)絡(luò)結(jié)構(gòu)和權(quán)值等模型參數(shù)，并存儲(chǔ)于模型庫(kù)中。模型應(yīng)用部分相對(duì)簡(jiǎn)單，它用訓(xùn)練好了的網(wǎng)絡(luò)模型對(duì)工程數(shù)據(jù)進(jìn)行分析，并統(tǒng)計(jì)輸出。 系統(tǒng)結(jié)構(gòu)模塊圖主界面幫助數(shù)據(jù)庫(kù)管理數(shù)據(jù)預(yù)測(cè)退出文件數(shù)據(jù)庫(kù)數(shù)據(jù)顯示網(wǎng)絡(luò)訓(xùn)練誤差曲線系統(tǒng)信息預(yù)測(cè)數(shù)據(jù)的輸入規(guī)則信息預(yù)測(cè)結(jié)果圖數(shù)據(jù)庫(kù)數(shù)據(jù)添加數(shù)據(jù)庫(kù)數(shù)據(jù)查詢數(shù)據(jù)庫(kù)數(shù)據(jù)的刪除 （見(jiàn) 0 號(hào)圖）第七章 詳細(xì)設(shè)計(jì)7．1 確定BP網(wǎng)絡(luò)模型 實(shí)現(xiàn)BP神經(jīng)網(wǎng)絡(luò)的第一步，也是最重要的一步就是對(duì)網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計(jì)。在設(shè)計(jì)時(shí)需要針對(duì)某一特定應(yīng)用，做出仔細(xì)的分析與比較，確定最佳的設(shè)計(jì)方案，以便能高效地完成制定的任務(wù)。數(shù)據(jù)準(zhǔn)備是否得當(dāng)，直接影響訓(xùn)練時(shí)間和網(wǎng)絡(luò)性能。訓(xùn)練樣本數(shù)據(jù)選擇的科學(xué)性及數(shù)據(jù)表示的合理性，對(duì)網(wǎng)絡(luò)設(shè)計(jì)具有極為重要的影響，樣本數(shù)據(jù)的準(zhǔn)備工作是網(wǎng)絡(luò)設(shè)計(jì)與訓(xùn)練的基礎(chǔ)。 訓(xùn)練數(shù)據(jù)的多少與網(wǎng)絡(luò)訓(xùn)練時(shí)間有著明顯的關(guān)系。一般來(lái)說(shuō)網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)要考慮以下問(wèn)題：訓(xùn)練數(shù)據(jù)組中必須包括全部模式；各輸入數(shù)據(jù)之間盡可能互不相關(guān)或相關(guān)性小，輸入量必須選擇那些對(duì)輸出量影響大，且能夠控制的訓(xùn)練數(shù)據(jù)；網(wǎng)絡(luò)輸入輸出數(shù)據(jù)的標(biāo)準(zhǔn)化問(wèn)題；參數(shù)變化范圍的一致性和樣本分布的正常性。我們以徐州礦務(wù)局張集礦為例。經(jīng)過(guò)對(duì)現(xiàn)場(chǎng)資料的分析，影響張集礦沖擊地壓的主要因素為煤層開(kāi)采深度、頂板巖性、地質(zhì)構(gòu)造復(fù)雜程度、煤層傾角、開(kāi)采方法、有無(wú)煤柱、炮采或綜采等8個(gè)影響因素。因此，可以將它們作為神經(jīng)網(wǎng)絡(luò)的8個(gè)輸入變量。（見(jiàn)附錄） 樣本數(shù)據(jù)的處理對(duì)變量進(jìn)行取值時(shí)，考慮到采樣條件的隨機(jī)性和一致性，首先需要在研究區(qū)劃分統(tǒng)計(jì)單元，然后在各個(gè)單元中對(duì)不同的變量進(jìn)行取值。對(duì)輸入變量中的定性變量的處理方法是采用數(shù)量化理論中的二態(tài)變量取值法，即用“0”和“1”來(lái)表示某種屬性的“無(wú)”和“有”。選取一定的閾值，可以將頂板巖性、地質(zhì)構(gòu)造復(fù)雜程度、有無(wú)煤柱、開(kāi)采方法、炮采或綜采等作為定性變量來(lái)處理。各變量的取值結(jié)果將作為建立神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型的訓(xùn)練樣本。 初步確定網(wǎng)絡(luò)的輸入輸出 在設(shè)計(jì)BP網(wǎng)絡(luò)結(jié)構(gòu)的時(shí)候一般需要確定網(wǎng)絡(luò)的輸入神經(jīng)元個(gè)數(shù)、輸出神經(jīng)元個(gè)數(shù)、隱含層數(shù)和隱含層神經(jīng)元個(gè)數(shù)。按照《沖擊地壓煤層安全開(kāi)采暫行規(guī)定》中的要求，工作地區(qū)按照沖擊危險(xiǎn)程度分為三級(jí)：Ⅰ級(jí)—嚴(yán)重沖擊危險(xiǎn)區(qū)；Ⅱ級(jí)—中等沖擊危險(xiǎn)區(qū)；Ⅲ級(jí)—無(wú)沖擊危險(xiǎn)區(qū)。因此可以選定網(wǎng)絡(luò)的輸出層神經(jīng)元個(gè)數(shù)為2。當(dāng)輸出為（1，1）時(shí)，表示Ⅰ級(jí)；當(dāng)輸出為（1，0）時(shí)，表示Ⅱ級(jí)；當(dāng)輸出為（0，1）時(shí)，表示Ⅲ級(jí)。綜上所述， BP神經(jīng)網(wǎng)絡(luò)的輸入層有輸入神經(jīng)元14個(gè)，分別與8個(gè)輸入變量所劃分的14個(gè)子變量相對(duì)應(yīng)（表）。輸出層有2個(gè)輸出神經(jīng)元，與輸出變量—沖擊地壓危險(xiǎn)性的兩個(gè)子變量相對(duì)應(yīng)。 確定輸入、輸出神經(jīng)元個(gè)數(shù)后，就需要解決隱含層數(shù)和隱含層神經(jīng)元個(gè)數(shù)的問(wèn)題了。 確定網(wǎng)絡(luò)的層數(shù) 隱含層其抽象的作用，即它能夠從輸入樣本中提取特征。增加隱含層可以增加神經(jīng)網(wǎng)絡(luò)的處理能力，但是同時(shí)也會(huì)增加訓(xùn)練的復(fù)雜度和訓(xùn)練時(shí)間。 鑒于只含一個(gè)隱層的神經(jīng)網(wǎng)絡(luò)就能解決模式識(shí)別問(wèn)題，故這里不再對(duì)網(wǎng)絡(luò)的隱層層數(shù)選擇作進(jìn)一步探討，本文只對(duì)含一個(gè)隱層的三層網(wǎng)絡(luò)進(jìn)行討論。 層內(nèi)節(jié)點(diǎn)數(shù)的確定1989年Robert HechtNielson 證明了對(duì)于任何在閉區(qū)間的一個(gè)連續(xù)函數(shù)都可以用一個(gè)隱層的BP網(wǎng)絡(luò)逼近，因而一個(gè)3層網(wǎng)絡(luò)可以完成人意的N維到M維的映射，因此在BP網(wǎng)絡(luò)中多采用單隱層網(wǎng)絡(luò)。然而隱層節(jié)點(diǎn)數(shù)的選擇一直是一個(gè)令人感興趣的話題。隱層節(jié)點(diǎn)數(shù)目過(guò)少，網(wǎng)絡(luò)將不能建立復(fù)雜的判斷界，使網(wǎng)絡(luò)訓(xùn)練不出來(lái)，或不能識(shí)別以前沒(méi)有的樣本，且容錯(cuò)性差；而節(jié)點(diǎn)數(shù)目過(guò)多，學(xué)習(xí)時(shí)間過(guò)長(zhǎng)，使網(wǎng)絡(luò)的泛化能力降低。因此BP網(wǎng)絡(luò)應(yīng)有一個(gè)最佳隱層節(jié)點(diǎn)數(shù)。文獻(xiàn)（15）中指出當(dāng)n1=P1時(shí)（P為學(xué)習(xí)樣本數(shù)），迭代次數(shù)有明顯減少。我們?cè)诙啻卧囼?yàn)中發(fā)現(xiàn)，隱層節(jié)點(diǎn)數(shù)取輸入節(jié)點(diǎn)數(shù)和輸出節(jié)點(diǎn)數(shù)之間的值，在靠近輸入節(jié)點(diǎn)數(shù)時(shí)，網(wǎng)絡(luò)的收斂速度較快。所以經(jīng)過(guò)我們的多次試驗(yàn)比較，我們將隱含層的神經(jīng)元個(gè)數(shù)確定為10。 初步確定網(wǎng)絡(luò)的模型綜上所述，我們將這個(gè)BP 網(wǎng)絡(luò)模型定義為只含有一個(gè)隱含層的三層網(wǎng)絡(luò)模型。輸入層的節(jié)點(diǎn)數(shù)應(yīng)等于輸入向量的分量數(shù)目，即分類時(shí)所考慮的因素?cái)?shù)。對(duì)于輸出層的節(jié)點(diǎn)，它取決于輸出的表示方法。所以我們定義的網(wǎng)絡(luò)的輸入層有輸入神經(jīng)元14個(gè)，分別于8個(gè)輸入變量所劃分的14個(gè)子變量相對(duì)應(yīng)（見(jiàn)表）。輸出層有2個(gè)輸出神經(jīng)元，與輸出變量—沖擊地壓危險(xiǎn)性的兩個(gè)子變量相對(duì)應(yīng)。隱含層的個(gè)數(shù)定義為10個(gè)神經(jīng)元個(gè)數(shù)。 圖71 BP網(wǎng)絡(luò)模型 BP網(wǎng)絡(luò)在MATLAB中的實(shí)現(xiàn) 網(wǎng)絡(luò)參數(shù)的確定 在確定了神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)后，結(jié)構(gòu)對(duì)于訓(xùn)練效率的影響就確定下來(lái)了。接下來(lái)需要確定的另一個(gè)隊(duì)訓(xùn)練效率有很大影響的因素是學(xué)習(xí)速率。學(xué)習(xí)率η：學(xué)習(xí)率決定每一次循環(huán)訓(xùn)練中所產(chǎn)生的權(quán)值變化量。大的學(xué)習(xí)速率可能導(dǎo)致系統(tǒng)的不穩(wěn)定，但小的學(xué)習(xí)速率將會(huì)導(dǎo)致訓(xùn)練較長(zhǎng)，收斂速度很慢，不過(guò)能保證網(wǎng)絡(luò)的誤差值不跳出誤差表面的低谷而最終趨于最小誤差值。所以在一般情況下，傾向于選區(qū)較小的學(xué)習(xí)速率以保證系統(tǒng)的穩(wěn)定性?！Ｆ谕`差goal:期望誤差當(dāng)然希望越小越好,.網(wǎng)絡(luò)的輸入層的節(jié)點(diǎn)只起到緩沖器的作用，不具有傳遞函數(shù)的功能。MATLAB工具箱提供了三種傳遞函數(shù)：Logsigmoid、Tansigmoid和線性函數(shù)purelin。前兩種為非線性函數(shù)，分別將x(,+)的輸入壓縮為y[0,1]和y[1,1]的輸出。因此，對(duì)非線性問(wèn)題，輸入層和隱含層多采用非線性傳遞函數(shù)，輸出層采用線性函數(shù)，以保持輸出的范圍，就非線性傳遞函數(shù)而言，若樣本輸出均大于零時(shí)，多采用Logsigmoid函數(shù)。對(duì)線性系統(tǒng)而言，各層多采用線性函數(shù)。本文中根據(jù)實(shí)際情況，我們采用tansig 和 purlin 兩個(gè)函數(shù)作為網(wǎng)絡(luò)的傳遞函數(shù)。 網(wǎng)絡(luò)的建立BP網(wǎng)絡(luò)生成函數(shù)newff：它是用來(lái)生成BP神經(jīng)網(wǎng)絡(luò)并進(jìn)行初始化，可以確定網(wǎng)絡(luò)層數(shù)、每層中的神經(jīng)元數(shù)和變換函數(shù)。這個(gè)函數(shù)有六個(gè)輸入?yún)?shù)，分別是:輸入向量的范圍、網(wǎng)絡(luò)結(jié)構(gòu)、各層變換函數(shù)、訓(xùn)練算法函數(shù)、學(xué)習(xí)函數(shù)和性能函數(shù)。輸出參數(shù)為多生成的BP神經(jīng)網(wǎng)絡(luò)名net。本文中我們用下面這條語(yǔ)句來(lái)創(chuàng)建BP網(wǎng)絡(luò)：net=newff(minmax(pn),[10,2],{39。tansig39。,39。purelin39。},39。traingdm39。)。這個(gè)命令建立了網(wǎng)絡(luò)對(duì)象并且初始化了網(wǎng)絡(luò)的權(quán)重和偏置，它的輸入是一個(gè)矩陣，輸入范圍是pn的最大值和最小值；網(wǎng)絡(luò)結(jié)構(gòu)是第一層有10個(gè)神經(jīng)元，第二層有2個(gè)神經(jīng)元；第一層的轉(zhuǎn)移函數(shù)是雙曲線正切S型變換函數(shù)tansig ，輸出層的轉(zhuǎn)移函數(shù)是線性變換函數(shù)purelin，網(wǎng)絡(luò)的訓(xùn)練函數(shù)是traingdm。 網(wǎng)絡(luò)的初始化 初始化函數(shù)用于在對(duì)所建立的網(wǎng)絡(luò)訓(xùn)練前為網(wǎng)絡(luò)權(quán)矩陣W和閾值向量b賦初始值，此值對(duì)算法的收斂性及訓(xùn)練速度具有一定的影響，所以初始化就顯得十分必要和重要。神經(jīng)網(wǎng)絡(luò)工具箱提供的初始化函數(shù)及調(diào)用格式為