【正文】 。輸入預(yù)測數(shù)據(jù)，對網(wǎng)絡(luò)進(jìn)行預(yù)測。當(dāng)創(chuàng)建函數(shù)為 trainlm函數(shù)時，傳遞函數(shù)是隨機(jī)的，權(quán)值和閾值也是隨機(jī)的，沒有進(jìn)行初始化。trainlm函數(shù)采 用 LevenbergMarquardt算法 ,對于中等規(guī)模的 BP神經(jīng)網(wǎng)絡(luò)有最快的收斂速度 ,是系統(tǒng)默認(rèn)的算法。隱含層的個數(shù)最終選為5，在隱含層個數(shù)的選取過程中，首先利用隱含層個數(shù)計算公式得出隱含層個數(shù)初始值，然后利用試湊法對逐個數(shù)值進(jìn)行測試，選取誤差最小的隱含層個數(shù)作為最終的結(jié)果，本次仿真中，當(dāng)隱含層個數(shù)為 5時誤差最小。 其中， inputn為輸入數(shù)據(jù)，即影響空氣質(zhì)量指數(shù)的五個因素。 數(shù)據(jù)進(jìn)行歸一化后的范圍會在 01之間，方便數(shù)據(jù)進(jìn)行訓(xùn)練和預(yù)測。 其中， inputn為歸一化后的數(shù)據(jù)， inputps為歸一化后的結(jié)構(gòu)體，包含最大、最小、平均值等，可用于測試數(shù)據(jù)歸一化及反歸一化。 輸入樣本數(shù)據(jù)，并對輸入樣本數(shù)據(jù)進(jìn) 行歸一化： [inputn,inputps]=mapminmax(input_train)。 沈陽理工大學(xué)學(xué)士學(xué)位論文 24 基本流程圖如下圖 所示： No Yes No Yes 圖 程序設(shè)計步驟框圖 連接權(quán)及閾值初始化 向網(wǎng)絡(luò)提供學(xué) 習(xí)模式對 計算中間層各單元的輸入、輸出 計算輸出層各單元的輸入、輸出 計算輸出層各單元的校正誤差 計算中間層各單元的校正誤差 調(diào)整中間層至輸出層之間的連接權(quán)及輸出層各單元的輸出閾值 調(diào)整輸入層至中間層之間的連接權(quán)及中間層各單元的輸出閾值 更新學(xué)習(xí)輸入模式 更新學(xué)習(xí)次數(shù) 學(xué)習(xí)結(jié)束 開始 誤差 e? 全部模式訓(xùn)練完 沈陽理工大學(xué)學(xué)士學(xué)位論文 25 基于 BP 網(wǎng)絡(luò)預(yù)測仿真實現(xiàn) 首先建立預(yù)測模型，選用 3 層結(jié)構(gòu) BP 神經(jīng)網(wǎng)絡(luò)：輸入層、一個隱含層和輸出層，輸入層的輸入個數(shù)為 5，隱含層個數(shù) 為 5，輸出層個數(shù)為 1。因為每次初始化網(wǎng)絡(luò)時都是隨機(jī)的，而且訓(xùn)練終止的誤差也不完全相同，結(jié)果訓(xùn)練后的權(quán)值和閾值也不完全相同（大致是一樣的），所以每次訓(xùn)練后的結(jié)果也略有不同。否則，隨機(jī)選取下一個學(xué)習(xí)樣本，返回到第三步，轉(zhuǎn)入下一輪學(xué)習(xí)過程。 設(shè)共有 P 對訓(xùn)練樣本，網(wǎng)絡(luò)對于不同的樣本具有不同的誤差，可將全部樣本輸出誤差的平方進(jìn)行累加再開方，作為總輸出 誤差，也可用諸誤差中的最大者代表網(wǎng)絡(luò)的總誤差，實用中更多采用均方根誤差 ???P1p2pR M E )E(P1E （ ） （ 8）判斷網(wǎng)絡(luò)誤差是否滿足要求。對后 7 組數(shù)據(jù)進(jìn)行預(yù)測，預(yù)測結(jié)束后，利用反歸一化對數(shù)據(jù)進(jìn)行處理，得到預(yù)測后的數(shù)據(jù)。在 BP 網(wǎng)絡(luò)的訓(xùn)練過程中，為了達(dá)到較好亦或最優(yōu)的網(wǎng)絡(luò)性能，我們必須耐心的反復(fù)運用多種學(xué)習(xí)算法和訓(xùn)練沈陽理工大學(xué)學(xué)士學(xué)位論文 23 方式，改變各個參數(shù)，對于特定問題，摸索出網(wǎng)絡(luò)性能與各個變量之間的復(fù)雜關(guān)系，才有可能最終獲得我們所期望的網(wǎng)絡(luò)模型。 在訓(xùn)練過程中， BP 網(wǎng)絡(luò)應(yīng)用 BP 算法不斷調(diào)整網(wǎng)絡(luò)權(quán)值和閥值，使網(wǎng)絡(luò)模型輸出值與已知的訓(xùn)練樣本輸出值之間的誤差平方和或者其他性能函數(shù)值不斷減小，直至達(dá)到設(shè)定的停止訓(xùn)練要求，這些要求主要包括誤差值達(dá)到某一設(shè)定的較小值、訓(xùn)練次數(shù)達(dá)到最大迭代次數(shù)以及誤差保持不變等。 （ 5）訓(xùn)練網(wǎng)絡(luò)。針對這一原則，目前有學(xué)者提出了動態(tài)的隱層節(jié)點數(shù)方案，該方案先根據(jù)性能要求逐步增加隱層節(jié)點數(shù)，然后隨著訓(xùn)練進(jìn)行逐步減少節(jié)點數(shù)以找到滿足性能要求的最少節(jié)點數(shù)，該方案有一定的實現(xiàn)價值，但是也增加了學(xué)習(xí)過程的復(fù)雜性。不過，這在實踐中難以 滿足，實踐中常常出現(xiàn)各種計算公式得到的隱層節(jié)點數(shù)相差較大，甚至達(dá)百倍。這些公式計算出來的隱節(jié)點數(shù)只是一種粗略的估計值，可作為試湊法的初始值。 其中，隱層節(jié)點數(shù)對建立的神經(jīng)網(wǎng)絡(luò)模型的性能有重大影響，甚至關(guān)系到網(wǎng)絡(luò)訓(xùn)練時是否出現(xiàn)“過適配”現(xiàn)象，然而，目前理論上還沒有一種通用的科學(xué)方法來確定隱層的節(jié)點數(shù)，多數(shù)文獻(xiàn)中提出的確定隱層節(jié)點數(shù)的計算方法為試湊法，可先設(shè)置較少的隱節(jié)點訓(xùn)練網(wǎng)絡(luò)，然后逐漸增加隱節(jié)點數(shù)，用同一樣本集進(jìn)行訓(xùn)練，從中確定網(wǎng)絡(luò)誤差最小時對應(yīng)的隱節(jié)點數(shù)。 （ 4）選用三層結(jié)構(gòu) BP 神經(jīng)網(wǎng)絡(luò)建立預(yù)測模型。對空氣質(zhì)量指數(shù)進(jìn)行預(yù)測的基礎(chǔ)是空氣質(zhì)量指數(shù)的歷史數(shù)據(jù)，這些數(shù)據(jù)主要是每日的二氧化硫、二氧化氮、一氧化碳、 、 PM10 和臭氧等。 將輸入數(shù)據(jù)變換為 [1,1]區(qū)間的值常用以下變換式： 2 xxx m inm axm id ?? （ ） )xx(21xxxm inm axm idii??? （ ） 其中，代表數(shù)據(jù)變化范圍的中間值，按上述方法變換后，處于中間值的原始數(shù)據(jù)轉(zhuǎn)化為零，而最大值和最小值分別轉(zhuǎn)化為 1 和 入或輸出向量中的某個分量值過于密集時，對其進(jìn)行以上預(yù)處理可將數(shù)據(jù)點拉開距離。將數(shù)據(jù)規(guī)范在 [0,1]之間，這樣可以盡可能地平滑數(shù)據(jù)，從而消除預(yù)測結(jié)果 的噪聲。 （ 2）對空氣質(zhì)量指數(shù)樣本數(shù)據(jù)進(jìn)行預(yù)處理。另外，如果訓(xùn)練樣本的個數(shù)選取太多有可能造成計算量巨大，訓(xùn)練過程難以擬合，可能導(dǎo)致最終預(yù)測失??；而選取樣本過少有可能造成擬合誤差過大。空氣質(zhì)量指數(shù)是一個很不穩(wěn)定的動態(tài)變化的非線性系統(tǒng)，尾氣、煤炭燃放等都影響著空氣質(zhì)量指數(shù)。 LM 算法適合訓(xùn)練中等規(guī)模的前饋網(wǎng)絡(luò)，它對 MATLAB 的實現(xiàn)也一樣可行，因為它的矩陣的計算在 MATLAB 中的實現(xiàn)方式是函數(shù)。牛頓法逼近最小誤差更快更準(zhǔn)，所以要使算法更加接近牛頓法。類似于牛頓法， LM 算法用上述近似 Hessian 矩陣按下式進(jìn)行修正。當(dāng)誤差性能函數(shù)具有平方和誤差（訓(xùn)練前饋網(wǎng)絡(luò)的典型誤差函數(shù)）的形式時， Hessian 矩陣可以近似表示為： JJH T? () 其中， J 為 Jacobian 矩陣可以表示為 ? ?? ? ? ? ? ?? ? ? ? ? ?? ? ? ? ? ?nN2N1Nn22212n12111wwewwewwewwewwewwewwewwewwewJ?????????????????????????? 梯度的計算表達(dá)式為 eJg T? （ ） 式中， H 是雅可比矩陣， e 是網(wǎng)絡(luò)的誤差向量。下面將介紹本文采用的算法 —LM 算法。動量和學(xué)習(xí)率參數(shù)隨著訓(xùn)練迭代次數(shù)的增加而調(diào)整（通常是減少的）。 ?修正權(quán)值 沈陽理工大學(xué)學(xué)士學(xué)位論文 20 0wEww ijijij ??????? （ ） （ 3）結(jié)束。7）中，則得 )(11 ljklmjm lmkljk n e tfw ??? ???? （ ） 總結(jié)上述結(jié)果，有 ????????????????111 )(ljkljklijkmljklmjlmkljkwEn e tfw???? （ ） 因此，反向傳播算法的步驟可概括如下： （ 1）選定權(quán)系數(shù)初值； （ 2）重復(fù)下述過程，直到誤差指標(biāo)滿足精度要求，即： ?? ,21 1 ?? ??Nk kENE：精度 ?對 k=1 到 N 正向過程計算：計算每層單元的 1?ljk? ， ljk 和 ky ,k=2， ...， N。 在 (l+1)層第 m 個單元時 111111 ?????? ?? ? ?? ????? ???? lmjmlmklmjm m lmkkljklmklmkkljkk wwne tEne tne tEE ??? （ ） 將式（ 3 采用的誤差函數(shù)為 ? ??l lklkk yyE2)(21 （ ） 其中 lky 為單元 j 的實際輸出。為簡單起見，認(rèn)為網(wǎng)絡(luò)只有一個輸出 y。下面我們將詳細(xì)講解權(quán)值調(diào)整的算法。以上兩個階段交替循環(huán)進(jìn)行，通過各神經(jīng)元權(quán)值和閥值的不斷修正使網(wǎng)絡(luò)的實際輸出逐步接近期望的輸出值。 預(yù)測方法 BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練學(xué)習(xí)過程包括如下兩個階段： (1)工作信號的正向傳播，輸入信號從輸入層進(jìn)入網(wǎng)絡(luò)，經(jīng)隱含層后，傳向輸出層，在輸出端產(chǎn)生輸出信號，在此期間，網(wǎng)絡(luò)各神經(jīng)元的權(quán)值和閥值保持不變，每一層神經(jīng)元只影響下一層神經(jīng)元的輸入和狀態(tài) ，如果在輸出端沒有得到期望的輸出值，網(wǎng)絡(luò)即轉(zhuǎn)沈陽理工大學(xué)學(xué)士學(xué)位論文 18 入誤差信號的反向傳播過程 [20]。 本文中，我們一共選取 30 組樣本，其中 23 組樣本作為訓(xùn)練樣本， 7 組樣本作為測試樣本。 這里，我們用 BP 神經(jīng)網(wǎng)絡(luò)對空氣質(zhì)量指數(shù)進(jìn)行預(yù)測。 近年來迅速發(fā)展的人工神經(jīng)網(wǎng)絡(luò)，由于具有人腦思維的特點和具有自學(xué)習(xí)、 自適應(yīng)及自組織的功能，應(yīng)用于模式分類與識別有適應(yīng)性強(qiáng)、客觀性好的優(yōu)點，已廣泛地用于系統(tǒng)控制和預(yù)測等方面。在MATLAB R2021b 神經(jīng)網(wǎng)絡(luò)工具箱中有 許多 BP 網(wǎng)絡(luò)和 RBF 網(wǎng)絡(luò)分析與設(shè)計的函數(shù)， BP網(wǎng)絡(luò)的常用函數(shù)如表 所示： 沈陽理工大學(xué)學(xué)士學(xué)位論文 16 表 BP網(wǎng)絡(luò)的常用函數(shù)表 RBF 網(wǎng)絡(luò)的常用函數(shù)如表： 表 RBF網(wǎng)絡(luò)的常用函數(shù)表 函數(shù)名稱 函數(shù)用途 newcf 創(chuàng)建級聯(lián)前向 BP 網(wǎng)絡(luò) newff 創(chuàng)建前向 BP 網(wǎng)絡(luò) logsig S 型的對數(shù)函數(shù) tansig S 型的正切函數(shù) purelin 純線性函數(shù) learngd 基于梯度下降法的學(xué)習(xí)函數(shù) learngdm 梯度下降動量學(xué)習(xí)函數(shù) mse 均方誤差函數(shù) traingd 梯度下降 BP 算法函數(shù) traingdm 梯度下降動量 BP 算法函數(shù) plotperf 繪制誤差曲面 errsurf 計算神經(jīng)元的誤差曲面 函數(shù)名稱 函數(shù)用途 newrb 創(chuàng)建徑向基網(wǎng)絡(luò) newrbe 創(chuàng)建準(zhǔn)確的徑向基網(wǎng)絡(luò) dist 計算歐幾里得距離 radbas 實現(xiàn)徑向基函數(shù)的傳遞 mse 均方誤差函數(shù) 沈陽理工大學(xué)學(xué)士學(xué)位論文 17 4 基于 BP 空氣質(zhì) 量預(yù)測仿真 研究 預(yù)測原理 近年來，隨著我國經(jīng)濟(jì)社會的快速發(fā)展，以煤炭為主的能源消耗大幅攀升，機(jī)動車數(shù)量急劇增加，沈陽地區(qū)氮 氧化合物和揮發(fā)性有機(jī)物排放量顯著增長，臭氧和細(xì)顆粒物污染加劇，可吸入顆粒物和總懸浮物污染還未全面解決的情況下，由于經(jīng)濟(jì)的發(fā)展，加之機(jī)動車迅猛增加，汽車尾氣排放量加大，使得二氧化硫、二氧化氮、一氧化碳、 、PM10 和臭氧等污染加重，霧霾現(xiàn)象頻繁發(fā)生，能見度降低，環(huán)境空氣質(zhì)量評價以及污染治理等問題再一次引起大眾的關(guān)注。目前，神經(jīng)網(wǎng)絡(luò)工具箱中主要提供的神經(jīng)網(wǎng)絡(luò)模型類別有 BP 網(wǎng)絡(luò)、 RBF網(wǎng)絡(luò)、感知器網(wǎng)絡(luò)、自組織映射、動態(tài)網(wǎng)絡(luò)和向量量子化網(wǎng)絡(luò)。另外，神經(jīng)網(wǎng)絡(luò)工具箱還有很多的演示示例，對初學(xué)者加深理解有很大的幫助。 最新版本的神經(jīng)網(wǎng)絡(luò)工具箱涵蓋了幾乎所有的神經(jīng)網(wǎng)絡(luò)方面的常用的基本模型。另一部分則為通用的函數(shù)，幾乎可用于神經(jīng)網(wǎng)絡(luò)的所有類型，如初始化函數(shù)、訓(xùn)練函數(shù)和神經(jīng)網(wǎng)絡(luò)仿真函數(shù)等。這 些工具箱主要分為兩部分。 神經(jīng)網(wǎng)絡(luò)工具箱是許多在 MATLAB 環(huán)境下開發(fā)出來的工具箱的其中一種。 MATLAB 神經(jīng)網(wǎng)絡(luò)工具箱開拓了神經(jīng)網(wǎng)絡(luò)的應(yīng)用空間。除內(nèi)部函數(shù)外， 所有 MATLAB 的核心文件和工具箱文件都是可讀改的 源文件，用戶可通過對源文件的修改以及加入自己的文件構(gòu)成新的工具箱。功