【正文】 第 1 頁 ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ 裝 ┊ ┊ ┊ ┊ ┊ 訂 ┊ ┊ ┊ ┊ ┊ 線 ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ 基于 MATLAB 神經(jīng)網(wǎng)絡(luò)仿真 摘 要 隨著人工神經(jīng)網(wǎng)絡(luò)的 研究和 應(yīng)用越來越廣泛， 誤差反向傳播算法（ BP 算法）的提出，成功地解決了求解非線性連續(xù)函數(shù)的多層前饋神經(jīng)網(wǎng)絡(luò) 權(quán)值 調(diào)整問題 ， BP 神經(jīng) 網(wǎng)絡(luò) 如今 成為最廣泛 使 用的網(wǎng)絡(luò) ，研究它對探索非線性復(fù)雜問題具有重要意義，而且 它 具有廣泛的應(yīng)用前景 。 以 BP 神經(jīng)網(wǎng)絡(luò)為例， 討論了 BP 神經(jīng)網(wǎng)絡(luò)及幾種改進(jìn) BP神經(jīng)網(wǎng)絡(luò)性能的算法 ； 通過 BP 學(xué)習(xí) 算法 的推導(dǎo) 和分析 得知 BP網(wǎng)絡(luò)是一種多層前饋網(wǎng)絡(luò)，采用最小均方差的學(xué)習(xí)方式， 缺點(diǎn)是僅為有導(dǎo)師訓(xùn)練，訓(xùn)練時間長，易限于局部極??； 運(yùn)用 MATLAB 來實(shí)現(xiàn)各種 BP 神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)的設(shè)計與訓(xùn)練 ，比較 不同 BP 神經(jīng)網(wǎng)絡(luò)的性能，驗(yàn)證改進(jìn) BP 網(wǎng)絡(luò)的優(yōu)勢，得出如何根據(jù)對象選取神經(jīng)網(wǎng)絡(luò)的結(jié)論。 關(guān)鍵詞： 人工神經(jīng)網(wǎng)絡(luò) 、 BP神經(jīng)網(wǎng)絡(luò)、誤差反向傳播算法、 MATLAB、 仿真 第 2 頁 ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ 裝 ┊ ┊ ┊ ┊ ┊ 訂 ┊ ┊ ┊ ┊ ┊ 線 ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ Abstract With the artificial neural work of research and application of more and more widely, the error backpropagation algorithm (BP algorithm) is proposed, successfully resolved the continuous function for solving nonlinear multilayer feedforward neural work weights adjustment, BP work has bee now the most widely used works, Study to explore its plicated nonlinear problem has important significance, but also has broad application prospects. BP neural work is discussed and several improvements in the performance of BP neural work algorithm. BP learning algorithm through the derivation and analysis that the BP work is a multilayer feedforward works, the use of leastmeanvariance approach to learning, there is only disadvantage is that the training instructors, training time, limited to local minimum easily. The use of MATLAB to achieve a variety of BP neural work to achieve the design and training, to pare the performance of BP neural work to verify the advantages of improving the BP work, how to draw the object selected in accordance with the conclusions of neural works. Key words: Artificial neural work, BP neural works, error backpropagation algorithm, MATLAB, simulation 第 3 頁 ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ 裝 ┊ ┊ ┊ ┊ ┊ 訂 ┊ ┊ ┊ ┊ ┊ 線 ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ 目 錄 ................................................................. 5 引言 ............................................................. 5 神經(jīng)網(wǎng)絡(luò)概述 ..................................................... 5 1． 2． 1 神經(jīng)網(wǎng)絡(luò)起源 ................................................ 5 1． 2． 2 神經(jīng)網(wǎng)絡(luò)的發(fā)展歷程 .......................................... 5 1． 2． 3 神經(jīng)網(wǎng)絡(luò)國內(nèi)發(fā)展概況 ........................................ 6 1． 2． 4 神經(jīng)網(wǎng)絡(luò)研究現(xiàn)狀 ............................................ 7 、方法和問題（ BP神經(jīng)網(wǎng)絡(luò)） ............................... 7 1． 3． 1 研究目的 .................................................... 8 1． 3． 2 研究方法 .................................................... 8 1． 3． 3 研究問題 .................................................... 8 神經(jīng)網(wǎng)絡(luò) .......................................................... 10 BP 神經(jīng)網(wǎng)絡(luò)相關(guān)原理 .............................................. 10 2． 1． 1 神經(jīng)元非線性模型 ........................................... 10 2． 1． 2 有教師監(jiān)督學(xué)習(xí) ............................................. 10 2． 1． 3 神經(jīng)元數(shù)學(xué)模型 ............................................. 11 2． 1． 4 Delta 學(xué)習(xí)規(guī)則 ............................................. 11 2． 1． 5 神經(jīng)元激活函數(shù) ............................................. 12 2． 1． 6 BP 神經(jīng)網(wǎng)絡(luò)收斂準(zhǔn)則 ........................................ 12 BP 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過程描述 .......................................... 13 2． 2． 1 BP 神經(jīng)網(wǎng)絡(luò)計算模型建立 .................................... 13 2． 2． 2 BP 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過程描述 .................................... 13 2． 2． 3 BP 神經(jīng)網(wǎng)絡(luò)方框圖 .......................................... 14 BP 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)方法 .............................................. 14 2． 3． 1 BP 神經(jīng)網(wǎng)絡(luò)信號流程 ........................................ 14 2． 3． 2 誤差反向傳播計算 ........................................... 14 2． 3． 3 BP 神經(jīng)網(wǎng)絡(luò)算法描述 ........................................ 17 影響因素分析 .................................................... 18 2． 4． 1 權(quán)值初始值設(shè)置影響分析 ..................................... 18 2． 4． 2 權(quán)值調(diào)整方法影響分析 ....................................... 18 2． 4． 3 激活函數(shù)選擇影響分析 ....................................... 19 2． 4． 4 學(xué)習(xí)率 η 選擇影響分析 ...................................... 19 2． 4． 5 輸入輸出歸一化影響分析 ..................................... 20 2． 4． 6 其他影響因素分析 ........................................... 21 BP 學(xué)習(xí)算法的改進(jìn) ................................................ 21 2． 5． 1 BP 學(xué)習(xí)算法的優(yōu)缺點(diǎn) ........................................ 21 2． 5． 2 增加動量項(xiàng) ................................................. 22 2． 5． 3 彈性 BP 學(xué)習(xí)算法 ............................................ 22 2． 5． 4 自適應(yīng)學(xué)習(xí)速率法 ........................................... 23 2． 5． 5 共軛 梯度法 ................................................. 23 2． 5． 6 LevenbergMarquardt 算法 ................................... 24 第 4 頁 ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ 裝 ┊ ┊ ┊ ┊ ┊ 訂 ┊ ┊ ┊ ┊ ┊ 線 ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ ┊ 神經(jīng)網(wǎng)絡(luò)仿真 ...................................................... 26 仿真平臺 MATLAB .................................................. 26 3． 1． 1 MATLAB 簡介 ................................................ 26 3． 1． 2 仿真平臺的構(gòu)建和策略 ....................................... 26 仿真實(shí)驗(yàn) ........................................................ 27 3． 2． 1 BP 神經(jīng)網(wǎng)絡(luò) MATLAB 設(shè)計 ..................................... 27 3． 2． 2 各種 BP 學(xué)習(xí)算法 MATLAB 仿真 ................................. 28 3． 2． 3 各種算法 仿真結(jié)果比較與分析 ................................. 30 3． 2． 4 調(diào)整初始權(quán)值和閾值的仿真 ................................... 31 3． 2． 5 其