[小學教育]在matlab6x中構建bp-資料下載頁
2024-10-18 23:23本頁面
【正文】 reg’。 = (難以確定 )。 ? 修改網(wǎng)絡的性能函數(shù)使得在減小 MSE的同時也減小權值的絕對值大小 , 這會使得網(wǎng)絡產(chǎn)生的曲線更加光滑因而過擬合可能性變小 . 21211m se = ( )N1m se r e g = m se + ( 1 )Niiinjjtam sw wnm sw??????????? c. Early stopping: ? 將訓練數(shù)據(jù)分為兩部分 : training set (訓練集 ) ? validation set(驗證集 ), 每次迭代用 training set 更新網(wǎng)絡 , 然后用網(wǎng)絡來預測 validation set并與更新前的網(wǎng)絡預測誤差比較 , 當發(fā)現(xiàn)預測 validation set的誤差開始上升的時候停止訓練 .(效果不如 trainbr) ? ?推薦方法 : trainbr ? 在函數(shù)擬合的時候 trainbr效果比 early stopping更好 ,尤其是當訓練數(shù)據(jù)比較少得時候 . This is because Bayesian regularization does not require that a validation data set be separated out of the training data set. It uses all of the data. ?注意事項 : ? a. 在多種初始化條件下訓練網(wǎng)絡 . It is possible for either method to fail in certain circumstances. By testing several different initial conditions, you can verify robust work performance. ? b. trainbr在用于模式識別的網(wǎng)絡訓練時效果不佳 . ? c. trainbr 更耗費時間 五 .檢驗模型性能 ? ? 對于訓練樣本集 (x, t)來說 , 假設訓練得到的網(wǎng)絡輸出為 a, [m,b,r] = postreg(a,t), 這樣得到線性回歸模型 ? a = m *t + b, r為得到的這個線性回歸模型的相關系數(shù) . ? m, r 越接近于 1, b越接近于 0的時候得到的網(wǎng)絡越好 . ? . ? Evaluating machine learning models for engineering problems (Artificial Intelligence in Engineering 13 (1999) 257–272 Yoram Reich ) ? Demobp1示例了如何綜合以上過程 ? Nnsample1 集中了以上過程用到的命令
教學課件相關推薦
鄂ICP備17016276號-1