人工神經(jīng)網(wǎng)絡(luò)應(yīng)用實(shí)例分析(編輯修改稿)
2024-10-03 10:27 本頁(yè)面
【文章內(nèi)容簡(jiǎn)介】 果會(huì)更好，訓(xùn)練也更方便。 第八頁(yè)，共二十頁(yè)。 數(shù)據(jù)的預(yù)處理 要對(duì)輸入數(shù)據(jù)進(jìn)行預(yù)處理。 如果輸出層節(jié)點(diǎn)也采用 Sigmoid轉(zhuǎn)換函數(shù)，輸出變量也必須作相應(yīng)的預(yù)處理，否那么，輸出變量也可以不做預(yù)處理。 預(yù)處理的方法有多種多樣，各文獻(xiàn)采用的公式也不盡相同。但必須注意的是，預(yù)處理的數(shù)據(jù)訓(xùn)練完成后，網(wǎng)絡(luò)輸出的結(jié)果要進(jìn)行反變換才能得到實(shí)際值。 再者，為保證建立的模型具有一定的外推能力，最好使數(shù)據(jù)預(yù)處理后的值在 ~間。 第九頁(yè)，共二十頁(yè)。 隱層數(shù)的選取 一般認(rèn)為，增加隱層數(shù)可以降低網(wǎng)絡(luò)誤差〔也有文獻(xiàn)認(rèn)為不一定能有效降低〕，提高精度，但也使網(wǎng)絡(luò)復(fù)雜化，從而增加了網(wǎng)絡(luò)的訓(xùn)練時(shí)間和出現(xiàn) “過擬合〞的傾向。 Hornik等早已證明：假設(shè)輸入層和輸出層采用線性轉(zhuǎn)換函數(shù)，隱層采用 Sigmoid轉(zhuǎn)換函數(shù)，那么含一個(gè)隱層的 MLP網(wǎng)絡(luò)能夠以任意精度逼近任何有理函數(shù)。顯然，這是一個(gè)存在性結(jié)論。在設(shè)計(jì) BP網(wǎng)絡(luò)時(shí)可參考這一點(diǎn)，應(yīng)優(yōu)先考慮 3層 BP網(wǎng)絡(luò)〔即有 1個(gè)隱層〕。 一般地，靠增加隱層節(jié)點(diǎn)數(shù)來獲得較低的誤差，其訓(xùn)練效果要比增加隱層數(shù)更容易實(shí)現(xiàn)。 第十頁(yè)，共二十頁(yè)。 隱層節(jié)點(diǎn)數(shù) 在 BP 網(wǎng)絡(luò)中，隱層節(jié)點(diǎn)數(shù)的選擇非常重要，它不僅對(duì)建立的神經(jīng)網(wǎng)絡(luò)模型的性能影響很大，而且是訓(xùn)練時(shí)出現(xiàn) “過擬合〞的直接原因，但是目前理論上還沒有一種科學(xué)的和普遍確實(shí)定方法。 目前多數(shù)文獻(xiàn)中提出確實(shí)定隱層節(jié)點(diǎn)數(shù)的計(jì)算公式都是針對(duì)訓(xùn)練樣本任意多的情況，而且多數(shù)是針對(duì)最不利的情況，一般工程實(shí)踐中很難滿足，不宜采用。事實(shí)上，各種計(jì)算公式得到的隱層節(jié)點(diǎn)數(shù)有時(shí)相差幾倍甚至上百倍。 為盡可能防止訓(xùn)練時(shí)出現(xiàn) “過擬合〞現(xiàn)象，保證足夠高的網(wǎng)絡(luò)性能和泛化能力，確定隱層節(jié)點(diǎn)數(shù)的最根本原那么是：在滿足精度要求的前提下取盡可能緊湊的結(jié)構(gòu)，即取盡可能少的隱層節(jié)點(diǎn)數(shù)。研究說明，隱層節(jié)點(diǎn)數(shù)不僅與
高考資料相關(guān)推薦
鄂ICP備17016276號(hào)-1