人工神經(jīng)網(wǎng)絡的研究方法-資料下載頁
2025-01-08 06:34本頁面
【正文】 于梯度變化值逐漸趨于零，算法的收斂就越來越慢。在網(wǎng)絡參數(shù)中，學習率 η和動量因子 α是很重要的，它們的取值直接影響到網(wǎng)絡的性能，主要是收斂速度。為提高學習速度，應采用大的 η。但 η太大卻可能導致在穩(wěn)定點附近振蕩，乃至不收斂。針對具體的網(wǎng)絡結構模型和學習樣本，都存在一個最佳的學習率門和動量因子 α，它們的取值范圍一般 0～ 1之間，視實際情況而定。我們在上述范圍內(nèi)通過對不同的 η和 α的取值進行了考察，確定本文神經(jīng)網(wǎng)絡模型的參數(shù)為： η＝ ， α＝ 。 2．初始權值的選擇 在前饋多層神經(jīng)網(wǎng)絡的 BP算法中，初始權、閾值一般是在一個固定范圍內(nèi)按均勻分布隨機產(chǎn)生的。一般文獻認為初始權值范圍為 1～＋ 1之間，初始權值的選擇對于局部極小點的防止和網(wǎng)絡收斂速度的提高均有一定程度的影響，如果初始權值范圍選擇不當，學習過程一開始就可能進入“假飽和”現(xiàn)象，甚至進入局部極小點，網(wǎng)絡根本不收斂。初始權、閾值的選擇因具體的網(wǎng)絡結構模式和訓練樣本不同而有所差別，一般應視實際情況而定。本文考察了不同初始權、閾值的賦值范圍對網(wǎng)絡收斂速度的影響，確定本文神經(jīng)網(wǎng)絡模型的初始權和閾值的隨機賦值范圍為－ ～ +。 3．收斂誤差界值 Emin 在網(wǎng)絡訓練過程中應根據(jù)實際情況預先確定誤差界值。誤差界值的選擇完全根據(jù)網(wǎng)絡模型的收斂速度大小和具體樣本的學習精度來確定。當 Emin 值選擇較小時，學習效果好，但收斂速度慢，訓練次數(shù)增加。如果 Emin值取得較大時則相反。本文神經(jīng)網(wǎng)絡的誤差界值 Emin為 ，即在迭代計算時誤差值 E Emin＝ ，則認為學習完成，停止計算，輸出結果。 輸入數(shù)據(jù)的預處理 在 BP算法中，神經(jīng)元具有飽和非線性特征（如果神經(jīng)元的總輸入與閾值相距甚遠，神經(jīng)元的實際輸出要么為最大值、要么為最小值）。前饋型靜態(tài)網(wǎng)絡的神經(jīng)元作用函數(shù)的總輸入是與其相連的其它神經(jīng)元輸出的加權，在使用 BP算法時，要防止神經(jīng)元進入飽和狀態(tài)，必須限制與其相連的其它神經(jīng)元的輸出幅值。由于輸入層只起數(shù)據(jù)傳送作用，層中的神經(jīng)元是扇區(qū)單元，通常使用線性作用函數(shù) (輸出等于輸入 )，不存在飽和狀態(tài)。第一隱層中的神經(jīng)元通常采用飽和非線性作用函數(shù)，學習過程中會出現(xiàn)飽和現(xiàn)象，因此要防止此層神經(jīng)元進入飽和，必須限制網(wǎng)絡輸入的幅值。所以，為減少平臺現(xiàn)象出現(xiàn)的可能，加快學習，應對網(wǎng)絡的輸入樣本進行歸一化（或稱正則化）處理，這也是 BP算法必須對輸入數(shù)據(jù)進行預處理的真正原因。本文使用的標準化方法如下： 式中， P為輸入量， T為輸出量， P/和 T/為經(jīng)過歸一化處理后的實驗數(shù)據(jù)。 ? ?? ?m ax/m ax/m axm ax//m a xm a xTTTPPPTTPP???? 訓練樣本 實驗號 臭氧濃度 (mg/L) 入口 UV254 UV254去除率 (%) 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 檢驗樣本 實驗號 臭氧濃度 (mg/L) 入口 UV254 UV254去除率 (%) 1 2 3 4 5 進水 UV254值 臭 氧 濃 度 ， mg/L UV254去除率，％ BP網(wǎng)絡訓練誤差曲線和網(wǎng)絡模型 實驗號 臭氧 (mg/L) UV254去除率 (%) 相對誤差 （ %） 實測值 網(wǎng)絡預測值 1 2 3 4 5 模型預測結果與實測值比較 O3 濃度 ， mg/L UV254= UV254= O3 濃度 ， mg/L UV254= O3 濃度 ， mg/L UV254= O3 濃度 ， mg/L UV254= O3 濃度 ， mg/L UV254= O3 濃度 ， mg/L UV254去除率，％ UV254去除率，％ UV254去除率，％ UV254去除率，％ UV254去除率，％ UV254去除率，％ 利用 BP網(wǎng)絡對 O3濃度的優(yōu)化
教學課件相關推薦
鄂ICP備17016276號-1