【正文】 預(yù)測結(jié)束后對輸出數(shù)據(jù)進行反歸一化。由于其避免了直接計算赫賽矩陣 ,從而減少了訓(xùn)練中的計算量 ,但需要較大內(nèi)存量。 outputn為輸出數(shù)據(jù)，輸出數(shù)據(jù)為綜合五個影響空氣質(zhì)量因素而得到的空氣質(zhì)量指數(shù)。 input_train為訓(xùn)練的原始數(shù)據(jù)。用 23 組數(shù)據(jù)進行訓(xùn)練， 7組數(shù)據(jù)進行測試。注意，以上算法步驟采取的是順序訓(xùn)練方式，當(dāng)采取批處理訓(xùn)練方式時， 每次訓(xùn)練的樣本是一批而不是一個，除此以外，訓(xùn)練學(xué)習(xí)步驟基本一致。 （ 7）全局誤差計算。在給定有限個訓(xùn)練樣本數(shù)據(jù)的情況下，設(shè)計二個合理的 BP 網(wǎng)絡(luò)模型，并通過所給的有限個樣本的訓(xùn)練來滿意地逼近樣本所蘊含的規(guī)律，目前在很大程度上還需要依靠經(jīng)驗知識或者設(shè)計者個人的經(jīng)驗。理論研究和實踐表明，隱層節(jié)點數(shù)主要與以下幾個因素有關(guān)： （ 1） 輸入層節(jié)點數(shù)； （ 2） 輸出層節(jié)點 數(shù)； （ 3） 激勵函數(shù)的形式； （ 4） 問題的復(fù)雜程度。下面介紹幾個公式： ???? lnm （ ） nlogm 2? （ ） 式中， m為隱節(jié)點數(shù)； n 為輸入層節(jié)點數(shù)； l 為輸出節(jié)點數(shù)；α為 110 之間的常數(shù)。第一層為輸入層，輸入訓(xùn)練樣本，第二層為隱含層，第三層為輸出層，輸出最終結(jié)果，最終結(jié)果包括期望輸出，預(yù)測輸出 ，沈陽理工大學(xué)學(xué)士學(xué)位論文 22 預(yù)測誤差以及預(yù)測誤差百分比。 （ 3）構(gòu)造訓(xùn)練樣本。在進行神經(jīng)網(wǎng)絡(luò)預(yù)測之前，要對原始數(shù)據(jù)進行歸一化處理，對于預(yù)測值，由于變化幅度較大，也不宜直接作為神經(jīng)網(wǎng)絡(luò)的輸出，因此仍需進行必要的歸一化。因此，必須考 慮到影響空氣質(zhì)量指數(shù)的各項因素，否則會降低網(wǎng)絡(luò)的預(yù)測能力。若是要實現(xiàn)誤差最小，則應(yīng)減小 μ的值。雅可比矩陣可以通過標(biāo)準(zhǔn)的前饋網(wǎng)絡(luò)技術(shù)進行計算，比 Hessian 矩陣的計算要簡單得多。 以上是 BP 神經(jīng)網(wǎng)絡(luò)基本的學(xué)習(xí)算法，梯度下降法。 反向過程：對各層（ l=L1 到 2），對每層各單元，計算 ljk? ?？傉`差為 ???Nk kENE 121 （ ） 定義 ljkkljk E???? 于是 11 ?? ??????????? ljkljkljkljkklijljkljkklijk ne tEwne tne tEwE ??? () 下面分兩種情況來討論： 沈陽理工大學(xué)學(xué)士學(xué)位論文 19 （ 1）若節(jié)點 j 為輸出單元，則 jkljk y?? )()( ljkkkljkjkjkkljkkljk ne tfyyne tyyEne tE ?????????? ??? （ ） （ 2）若節(jié)點 j 不是輸出單元，則 )( ljkljkkljkljkjkkljkkljk ne tfEne tyEne tE ???????????? ??? （ ） 式中 ljk? 是送到下一層 (l+1)層的輸入，計算ljkkE???要從 (l+1)層算回來。 設(shè)含有共 L 層和 n 個節(jié)點的一個任意網(wǎng)絡(luò)，每層單元只接受前一層的輸出信息并輸出給下一層各單元，各節(jié)點（有時稱為單元）的特性為 Sigmoid 型（它是連續(xù)可微的，不同于感知器中的線性閾值函數(shù)，因為它是不連續(xù)的）。 (2)誤差信號的反向傳播，網(wǎng)絡(luò)的實際輸出與期望輸出之間的差即誤差信號，誤差信號由輸出端開始逐層回傳，在此傳播過程中，網(wǎng)絡(luò)各神經(jīng)元的權(quán)值和閥值由誤差反饋按照一定的規(guī)則得以調(diào)整。 BP 神經(jīng)網(wǎng)絡(luò)通過對以往歷史數(shù)據(jù)的學(xué)習(xí)，找出空氣污染指數(shù)的變化趨勢之間的非線性關(guān)系，并將其存儲在網(wǎng)絡(luò)具體的權(quán)值和閾值中，從而對空氣污 染指數(shù)未來的走勢進行預(yù)測。通過污染物監(jiān)測項目，加嚴(yán)部分污染物限值，客觀反映我國環(huán)境空氣質(zhì)量狀況，推動大氣污染治理，并通過空氣污染指數(shù)判斷空氣質(zhì)量。在 MATLAB 的命令窗口中輸入命令 heip n，便可以得到神經(jīng)網(wǎng)絡(luò)工具箱有關(guān)函數(shù)列表和版本信息。這些函數(shù)的 MATLAB 實現(xiàn)使設(shè)計者對選定的網(wǎng)絡(luò)進行計算工程，轉(zhuǎn)變?yōu)閷?shù)的選擇和對函數(shù)的調(diào)用，這樣一來，網(wǎng)絡(luò)設(shè)計人員可以根據(jù)所需調(diào)用相關(guān)的設(shè)計和訓(xùn)練的程序在 MATLAB 工具箱中，從而可以使設(shè)計者從繁瑣的編程中解脫，提高了工作效率 [19]。它將人工神經(jīng)網(wǎng)絡(luò)理論作為基礎(chǔ)，利用 MATLAB 構(gòu)造出許多框架和相關(guān)函數(shù)。 基于 MATLAB 神經(jīng)網(wǎng)絡(luò)工具箱函數(shù) 神經(jīng)網(wǎng)絡(luò)理論的實現(xiàn)基于 MATLAB 提供的一種方便的仿真手段。其工具箱又可分為兩類：功能性和學(xué)科性工具箱。 （ 7） MATLAB的缺點是，它和其他高級程序相比，程序的執(zhí)行速度較慢。 （ 5）程序的可移植性好，基本不做修改就可以在各種型號的計算機和操作系統(tǒng)上運行。由于 MATLAB是用 C語言編寫的， MATLAB提供了和 C語言幾乎一樣多的運算符，靈活使用 MATLAB的運算符將使程序變得極為簡短。 其中： 解為： x=A/b；設(shè) A的特征值組成的向量為 e， e=eig（ A）。解線性方程的程序用 FORTRAN 和 C 這樣的高級語言編寫至少需要好幾十行。例如，如果用戶想求解一個線 性代數(shù)方程，就得編寫一個程序塊讀入數(shù)據(jù)，然后再使用一種求解線性方程的算法（例如追趕法）編寫一個程序塊來求解方程，最后再輸出計算結(jié)MATLAB R12 2021 MATLAB R2021b 2021 MATLAB 2021 MATLAB R2021a 2021 MATLAB R13 2021 MATLAB R2021b 2021 MATLAB R13SP1 2021 MATLAB R2021a 2021 MATLAB R13SP2 2021 MATLAB R2021b 2021 MATLAB 7 R14 2021 MATLAB R2021a 2021 MATLAB R14SP1 2021 MATLAB R2021b 2021 沈陽理工大學(xué)學(xué)士學(xué)位論文 14 果 [18]。 MATLAB程序書寫形式自由，利用其豐富的庫函數(shù)避開繁雜的子程序編程任務(wù)，壓縮了一切不必要的編程工作。 MATLAB用更直觀的、符合人們思維習(xí)慣的代碼，代替了 C和 FORTRAN語言的冗長代碼。到 20 世紀(jì) 90 年代，MATLAB 已成為國際控制界的標(biāo)準(zhǔn)計算軟件 。 除了以上三種神經(jīng)網(wǎng)絡(luò)之外還有很多其他的神經(jīng)網(wǎng)絡(luò)，比如競爭學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)，反饋神經(jīng)網(wǎng)絡(luò)，小波神經(jīng)網(wǎng)絡(luò)等等。如果將二者有機地結(jié)合起來 ，可起到互補的效果 [17]。不過，混合模糊神經(jīng)網(wǎng)絡(luò)一般是用于計算而不是用于學(xué)習(xí)的，它不必一定學(xué)習(xí)。學(xué)習(xí)算法是模糊神經(jīng)網(wǎng)絡(luò)優(yōu)化權(quán)系數(shù)的關(guān)鍵。 沈陽理工大學(xué)學(xué)士學(xué)位論文 10 模糊神經(jīng)網(wǎng)絡(luò)簡介 模糊神經(jīng)網(wǎng)絡(luò)定義 模糊神經(jīng)網(wǎng)絡(luò)就是 模糊理論 同神經(jīng)網(wǎng)絡(luò)相結(jié)合的產(chǎn)物，它匯集了神經(jīng)網(wǎng)絡(luò)與模糊理論的優(yōu)點，集學(xué)習(xí)、聯(lián)想、識別、信息處理于一體。 （ 3）把一切問題的 特征都變?yōu)閿?shù)字，把一切推理都變?yōu)閿?shù)值計算，其結(jié)果勢必是丟失信息。采用局部激勵函 數(shù)的 RBF 網(wǎng)絡(luò)在很大程度上克服了上述缺點， RBF 不僅有良好的泛化能力，而且對于每個輸入值，只有很少幾個節(jié)點具有非零激勵值，因此只需很少部分節(jié)點及權(quán)值改變。但由于它們使用的激勵函數(shù)不同，其逼近性能也不相同。 RBF 神經(jīng)網(wǎng)絡(luò)除了具有一般神經(jīng)網(wǎng)絡(luò)的優(yōu)點，如多維非線性映射能力，泛化能力，并行信息處理能力等，還具有很強的聚類分析能力，學(xué)習(xí)算法簡單方便等優(yōu)點；徑向基函數(shù) (RBF) 神經(jīng)網(wǎng)絡(luò)是一種性能良好的前向網(wǎng)絡(luò)利用在多維空間中插值的傳統(tǒng)技術(shù) , 可以對幾 乎所有的系統(tǒng)進行辯識和建模它不僅在理論上有著任意逼近性能和最佳逼近性能 , 而且在應(yīng)用中具有很多優(yōu)勢如和 Sigmoid 函數(shù)作為激活函數(shù)的神經(jīng)網(wǎng)絡(luò)相比 , 算法速度大大高于一般的 BP 算法 [16]。 （ 2） RBF 神經(jīng)網(wǎng)絡(luò)具有較強的輸入和輸出映射功能，并且理論證明在前向網(wǎng)絡(luò)中RBF 網(wǎng)絡(luò)是完成映射功能的最優(yōu)網(wǎng)絡(luò)。 RBF 網(wǎng)絡(luò)的隱層執(zhí)行一種固定不變的非線性變換，將輸入空間 Rn 映射到一個新的隱層空間 Rh，輸出層在該新的空間中實現(xiàn)線性組合。因此， RBF 網(wǎng)絡(luò)有時也稱為局部接受域網(wǎng)絡(luò) (Localized Receptive Field Network)。 RBF 神經(jīng)網(wǎng)絡(luò)的特點 RBF 神經(jīng)網(wǎng)絡(luò)是一種性能優(yōu)良的前饋型神經(jīng)網(wǎng)絡(luò)， RBF 網(wǎng)絡(luò)可以任意精度逼近任意的非線性函數(shù)，且具有全局逼近能力，從根本上解決了 BP 網(wǎng)絡(luò)的局部最優(yōu)問題，而且拓?fù)浣Y(jié)構(gòu)緊湊，結(jié)構(gòu)參數(shù)可實現(xiàn)分離學(xué)習(xí)，收斂速度快 [15]。 它只有一個隱含層 ， 輸出單元是線性求和單元 ， 即輸出是各隱單元的加權(quán)求和 ， 隱單元的轉(zhuǎn)移函數(shù)用徑向基函數(shù) （ Radial Basis Function ,RBF）， 輸入單元和隱單元的連接權(quán)值固定為 1， 只有隱單元和輸出單元的連接權(quán)值可調(diào) [13]。 1989 年， Jackson 論證了 RBF 人工神經(jīng)網(wǎng)絡(luò)對非線性連續(xù)函數(shù)的一致逼近性能由于 RBF 人工神經(jīng)網(wǎng)絡(luò)輸出層是對隱含層的線性加權(quán)， 使得該網(wǎng)絡(luò)避免了像 BP 網(wǎng)絡(luò)那樣繁瑣冗長的計算，具有較高 的運算速度和外推能力，同時使得網(wǎng)絡(luò)有較強的非線性映射功能 [12]。盡管如此，由于它理論上的完整性和應(yīng)用的廣泛性，所以它仍然有重要的意義，但它也存在著不少問題 [11]。另外 ， BP 神經(jīng)網(wǎng)絡(luò)具有優(yōu)化計算能力。 BP 神經(jīng)網(wǎng)絡(luò)通過預(yù)先存儲信息和學(xué)習(xí)機制進行自適應(yīng)訓(xùn)輸出層 輸入層 沈陽理工大學(xué)學(xué)士學(xué)位論文 6 練，可以從不完整的信息和噪聲干擾中恢復(fù)原始的完整信息。 BP 神經(jīng)網(wǎng)絡(luò)的優(yōu)點及局限性 BP 神經(jīng)網(wǎng)絡(luò)最主要的優(yōu)點是具有極強的非線性映射能力。 （ 2）模式識別：用一個待定的輸出向量將它與輸入向量聯(lián)系起來。 BP 神經(jīng)網(wǎng)絡(luò)的應(yīng)用 目前，在人工神經(jīng)網(wǎng)絡(luò)的實際應(yīng)用中，絕大部分的神經(jīng)網(wǎng)絡(luò)模型都采用 BP 神經(jīng)網(wǎng)絡(luò)及其變化形式。如輸出層不能得到期望的輸出，則轉(zhuǎn)入誤差反向傳播過程，誤差信號沿原來的連接通路返回，逐次調(diào)整網(wǎng)絡(luò)各層的權(quán)值和閾值，直至到達(dá)輸入層，再重復(fù)向計算 [10]。層與層之間有兩種信號在流通：一種是工作信號 （ 用實線表示 ） ，它是施加輸入信號后向前 傳播直到在輸出端產(chǎn)生實際輸出的信號，是輸入和權(quán)值的函數(shù)。 BP 學(xué)習(xí)算法是訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)的基本方法，它也是一個非常重要且經(jīng)典的學(xué)習(xí)算法，其實質(zhì)是求解誤差函數(shù)的最小值問題，利用它可以實現(xiàn)多層前饋神經(jīng)網(wǎng)絡(luò)權(quán)值的調(diào)節(jié) [9]。 沈陽理工大學(xué)學(xué)士學(xué)位論文 4 2 神經(jīng)網(wǎng)絡(luò)簡介 BP 神經(jīng)網(wǎng)絡(luò)簡介 BP 神經(jīng)網(wǎng)絡(luò)的定義 BP 網(wǎng)絡(luò)（ Back Propagation），是 1986 年由 Rumelhart 和 McCelland 為首的科學(xué)家小組提出，是一種按誤差逆 傳播 算法訓(xùn)練的多層前饋網(wǎng)絡(luò)，是目前應(yīng)用最廣泛的 神經(jīng)網(wǎng)絡(luò) 模型之一 [8]。在第二章里簡單的講述了三種神經(jīng)網(wǎng)絡(luò)的基本知識點，以便讀者可以對神經(jīng)網(wǎng)絡(luò)有初步的了解，在后續(xù)章節(jié)中還會重點對 BP 神經(jīng)網(wǎng)絡(luò)和 RBF 神經(jīng)網(wǎng)絡(luò)進行 詳細(xì)的介紹。 沈陽理工大學(xué)學(xué)士學(xué)位論文 3 課題設(shè)計路線及主要工作 本文的主要工作是探討基于 BP 和 RBF 神經(jīng)網(wǎng)絡(luò)對空氣質(zhì)量指數(shù)的預(yù)測。 進入 21 世紀(jì)后，人們除繼續(xù)研究基于非線性系統(tǒng)的神經(jīng)網(wǎng)絡(luò)建模與預(yù)測外，還針對一些較為特殊且復(fù)雜的非線性系統(tǒng)，開展了一些關(guān)于神經(jīng)網(wǎng)絡(luò)預(yù)測理論以及應(yīng)用方面的新的研究。（ 3）數(shù)值計算和解析相結(jié)合的方法。神經(jīng)網(wǎng)絡(luò)工具箱提供了很多經(jīng)典的學(xué)習(xí)算法，使用它能夠快速實現(xiàn)對實際問題的建模求解。神經(jīng)網(wǎng)絡(luò)具有大規(guī)模并行、分布式存儲和處理、自組織、自適應(yīng)和自學(xué)習(xí)能力，特別適合處理需要同時考慮許多因素和 條件的、不精確和模糊的信息處理問題。 通過 近年來對人工神經(jīng)網(wǎng)絡(luò)的研究，可以看出神經(jīng)網(wǎng)絡(luò)的研究目的和意義有以下三點： （ 1）通過揭示物理 和 認(rèn)知平面間的映射 關(guān)系 ，了解它們相互 作用 和 相互 聯(lián)系 的機理，從而揭示思維的本質(zhì)，探索智能的 根本 。 預(yù)測方法 ................................................................................................................... 17 預(yù)測步驟 ......................................................................................................