淺談神經(jīng)網(wǎng)絡(luò)word版-資料下載頁(yè)
2025-01-07 16:50本頁(yè)面
【正文】 驟。 公式為：歸一值 = (當(dāng)前值 x最小值 min)/(最大值 max最小值 min) 如果限定了范圍，公式為： y = (ymaxymin)*(xxmin)/(xmaxxmin) + ymin。 ~： ()*(xmin)/(maxmin)*()+ 把 5, 2, 6, 3這四個(gè)數(shù)歸一化： Matlab的歸一化命令為： mapminmax 注：網(wǎng)上的不少教程里用 premnmx命令來(lái)歸一化，要注意 Matlab版本 R2022b和 R2022b，premnmx在處理單列數(shù)據(jù)時(shí)有 bug， Matlab已給出了警告， R2022a版才修正。因此推薦使用 mapminmax。 mapminmax的輸入輸出值和 premnmx是行列顛倒的，使用時(shí)要注意代碼中是否添加轉(zhuǎn)置符號(hào)。 a = [5, 2, 6, 3]。 b = mapminmax(a, 0, 1) % 歸一化到 0~1之間 % b = 0 c = mapminmax(a) % 歸一化到 1~1之間 % c = 反歸一化 (Denormalization)就是按歸一化時(shí)的比例還原數(shù)值。 a = [5, 2, 6, 3]。 [c,PS] = mapminmax(a)。 % PS記錄歸一化時(shí)的比例 mapminmax(39。reverse39。, c, PS) % 利用 PS反歸一化 % ans = 5 2 6 3 神經(jīng)網(wǎng)絡(luò)的歸一化 (0~1范圍 )代碼： p = rand(1,50)*7。 % 特征數(shù)據(jù) t = sin(p)。 % 樣本值 s = [0::7]。 % 測(cè)試數(shù)據(jù) [pn, ps] = mapminmax(p, 0, 1)。 % 特征數(shù)據(jù)歸一化 [tn, ts] = mapminmax(t, 0, 1)。 % 樣本值歸一化 sn = mapminmax(39。apply39。, s, ps)。 % 測(cè)試數(shù)據(jù)，按 ps 比例縮放 = newff(pn, tn, [5 1], {39。logsig39。 39。logsig39。})。 % 創(chuàng)建神經(jīng)網(wǎng)絡(luò) = train(, pn, tn)。 % 開(kāi)始訓(xùn)練 yn = sim(, sn)。 % 模擬 y = mapminmax(39。reverse39。, yn, ts)。 % 按 ps的比例還原 plot(s, y, 39。x39。) % 畫(huà)散點(diǎn)圖 神經(jīng)網(wǎng)絡(luò)工具箱還有一個(gè) UI圖形操作界面，執(zhí)行 nntool就可以打開(kāi)。我覺(jué)得不如寫(xiě)代碼方便，所以不怎么用。我提供一個(gè)相關(guān)的教程鏈接，有興趣的可以看一下： matlab神經(jīng)網(wǎng)絡(luò)工具箱創(chuàng)建神經(jīng)網(wǎng)絡(luò) 關(guān)于 Sigmoid的由來(lái)，中文的網(wǎng)站上很少有提及的。下面簡(jiǎn)單講一下，希望能給大家拓展一下思路。 PS: 這里的公式我都給出了求解過(guò)程，但如今這個(gè)年頭，用手工解題的人越來(lái)越少了，一般的方程用軟件來(lái)解就行了。 例如解 Sigmoid微分 方程，可以用 Matlab去解 : dsolve(39。Dx=x*(1x)39。) % ans = 1/(1+exp(t)*C1) logsig Sigmoid函數(shù) (S形函數(shù)， Logistic Function)是受統(tǒng)計(jì)學(xué)模型的啟發(fā)而產(chǎn)生的激活函數(shù)。 基于生物學(xué)的神經(jīng)元激活函數(shù)是這樣的： 實(shí)踐證明了基于統(tǒng)計(jì)學(xué)的 Sigmoid函數(shù)激活效果要比基于生物學(xué)的模型好 ，而且計(jì)算起來(lái)很方便，所以說(shuō)不能以機(jī)器和人的相似度為標(biāo)準(zhǔn)來(lái)判斷 AI算法的好壞。 Sigmoid函數(shù)原先是個(gè)描述人口增長(zhǎng)的數(shù)學(xué)模型， 1838提出，給出的是導(dǎo)數(shù)形式 (概率密度 )。人口增長(zhǎng)規(guī)律：起初階段大致是指數(shù)增長(zhǎng)；然后逐漸開(kāi)始變得飽和，增長(zhǎng)變慢；達(dá)到成熟時(shí)幾乎停止增長(zhǎng)；整個(gè)過(guò)程形如一條 S型曲線。 導(dǎo)數(shù)的形式知道了，那么它的原函數(shù)是什么樣子呢？已知導(dǎo)數(shù)求原函數(shù)，用統(tǒng)計(jì)學(xué)的話來(lái)講，即根據(jù)概率密度函數(shù) (PDF)求累積分布函數(shù) (CDF)，不定積分 (Indefinite Integral)就是專(zhuān)門(mén)用來(lái)做這個(gè)的工具。 根據(jù)不定積分的知識(shí)可知，由于常數(shù)項(xiàng)是可變的，所以存在無(wú)數(shù)個(gè)原函數(shù)的可能。讓我們先用圖解法看一下：既然導(dǎo)數(shù)是函數(shù)曲線的斜率，那么可以把一定數(shù)值范圍內(nèi)的斜率，都畫(huà)成一根根的短斜線，組成斜率 場(chǎng) (Slope Fields, Direction Fields)，然后根據(jù)這些斜線的走勢(shì)，畫(huà)出積分曲線。 Matlab可以用 quiver命令來(lái)畫(huà)斜率場(chǎng)。 從上圖中可以看出，在 y軸的 0~1之間是個(gè)分水嶺， 0和 1處的方向趨于水平。下面放大0~1的范圍看看是什么樣子的。 看到了吧，我們要的 Logistic Sigmoid就在這里呢。 下面給出符號(hào)求解的過(guò)程： tansig 雙曲正切函數(shù) (雙極 S形函數(shù) , tanh, Hyperbolic Tangent)，讀 tanch， 18世紀(jì)就已經(jīng)出現(xiàn)了。它的定義是： tanh(x)=sinh(x)/cosh(x)，可以由著名的歐拉公式 (Euler39。s formula)推導(dǎo)出來(lái)。 用 tanh作激活函數(shù)，收斂比較快，效果比 Logistic函數(shù)還要好。 歐拉公式： i是虛數(shù) (Imaginary Number)單位，它的定義是： (即 i^2 = 1) 題外話：根據(jù)上面的公式變換，可以得出史上最美的數(shù)學(xué)公式： ，數(shù)學(xué)中最神秘的 5個(gè)符號(hào) e、 i、 π、 1和 0，全包含在里面了。 求 tanh的導(dǎo)數(shù)： logsig和 tansig的關(guān)系：
公司管理相關(guān)推薦
鄂ICP備17016276號(hào)-1