neuralnetworksandfuzzysystemschapter-文庫吧
2024-10-04 17:25 本頁面
【正文】 樣本模式 x在樣本空間 中的連續(xù)分布的概率密度函數(shù) 都是未知，只有通過學(xué)習(xí)來更精確的估計 。 無監(jiān)督學(xué)習(xí)對 不作任何的假設(shè)，并且只是利用最少限度的信息 。 優(yōu)點：利用 “ 無標(biāo)志 ” 的模式樣本， “ 盲目 ”處理模式樣本 ，其計算復(fù)雜度小，速度快，適用于高速環(huán)境。缺點：精確度低 nR ? ?px? ?px? ?pxX2020/11/29 9 無監(jiān)督和有監(jiān)督學(xué)習(xí) 對于有監(jiān)督學(xué)習(xí)，它假設(shè)了一種樣本模式分組結(jié)構(gòu)或 性能 。 有監(jiān)督學(xué)習(xí)算法還依賴于每個學(xué)習(xí)樣本的分組隸屬度信息，即，假設(shè) 分成： 所以算法可以檢查出錯誤分組或計算出 “ 錯誤 ”信息或矢量。 優(yōu)點：精確度較高。缺點：速度較慢 ， 計算較復(fù)雜。 ? ?pxnR? ?1 2 j i, , . . . , , i jKD D D X D X D? ? ?而 并 且2020/11/29 10 在神經(jīng)網(wǎng)絡(luò)中的區(qū)別 有監(jiān)督學(xué)習(xí)利用在所有可能的突觸值的聯(lián)系空間中估計出的梯度下降，來估計依賴于的未知均方性能的測度梯度。監(jiān)督器利用分組隸屬度信息來確定數(shù)字誤差信號或矢量，以引導(dǎo)估計出的梯度下降。 無監(jiān)督學(xué)習(xí)類似與生物突觸，利用神經(jīng)信號的局部信息來改變參數(shù) ，而不利用分組隸屬度信息來處理未標(biāo)志的原始數(shù)據(jù)。它自適應(yīng)的把樣本模式分成模式簇 ，突觸扇入矢量估計樣本模式的分組軌跡，這個過程依賴于未知概率密度函數(shù) 。 jD? ?px2020/11/29 11 在神經(jīng)網(wǎng)絡(luò)中的區(qū)別 一般無監(jiān)督學(xué)習(xí)規(guī)則可用 一階差分或一階微分方程 來定義。一般來說，隨機(jī)微分方程就定義了一個無監(jiān)督學(xué)習(xí)規(guī)則，并且描述了 突觸如何處理局部可用信息 。 2020/11/29 12 局部信息 局部信息：突觸可以簡單獲得的，經(jīng)常是表示突觸性質(zhì)和神經(jīng)信號性質(zhì)的信息 。 局部化使突觸可以實時、異步地學(xué)習(xí)，不需要全局的誤差信息；也使無監(jiān)督學(xué)習(xí)定律的函數(shù)空間縮小，從而也使得突觸只能獲得局部非常有限的信息。 局部的無監(jiān)督突觸把信號和信號聯(lián)系起來，形成由局部化限定的共軛或相關(guān)學(xué)習(xí)定律。 學(xué)習(xí)定律中只包含神經(jīng)元、突觸和噪聲三項。 借助于 聯(lián)想 可以進(jìn)一步縮小函數(shù)空間，它把模式聯(lián)系起來。通過 把 、 聯(lián)系起來，神經(jīng)網(wǎng)絡(luò)的主要目的也就是估計函數(shù) 和未知的聯(lián)合概率密度函數(shù) 。 :f X Y?fX Y? ?,p x y2020/11/29 13 四種無監(jiān)督學(xué)習(xí) 主要介紹：信號 Hebbian學(xué)習(xí)、 微分 Hebbian學(xué)習(xí)、 競爭學(xué)習(xí)、 微分競爭學(xué)習(xí) 2020/11/29 14 四個無監(jiān)督學(xué)習(xí) 首先介紹這四種非監(jiān)督學(xué)習(xí)定律的基本形式； 簡單回顧一下概率論、隨機(jī)過程、布朗運(yùn)動和白噪聲； 最后，對這四種非監(jiān)督學(xué)習(xí)的學(xué)習(xí)定律的性質(zhì)分別加以簡單介紹。 2020/11/29 15 確定信號的 Hebbian學(xué)習(xí) 局部神經(jīng)信號： 或簡化為： 若 ，則第 個突觸連接被激活 若
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1