【正文】 ? ?10)( ， ???? ?? mm WXW)( i imm wx ?? ?? W)(m a x ,2,1 XX iTpimT WW ???在一些應(yīng)用中，以獲勝神經(jīng)元為中心定義一個獲勝領(lǐng)域。因它能使神經(jīng)元實際輸出與期望輸出之間的平方差最小，所以又稱為最小均方規(guī)則(LMS）。???XW )()( jjjj n e tfod ‘???)()( 39。 jjodr ?? ???????????0 10 1)(s g nXWXWXWXW TjTjTjTjj fd?神經(jīng)網(wǎng)絡(luò)學(xué)習(xí) ?離散感知器學(xué)習(xí)規(guī)則 19:35:29 84 《 醫(yī)學(xué)信息分析與決策 》 課程組 三、神經(jīng)網(wǎng)絡(luò)建?；A(chǔ) 當實際輸出與期望值相同時，權(quán)值不需要調(diào)整；在有誤差存在的情況下，由于 dj和 sgn(WjTX)屬于 {1， 1} XXWW )]([ Tjjj s gnd?? ?i)]( xs gnd[wTjjij XW?? ?XW ?2??? j?神經(jīng)網(wǎng)絡(luò)學(xué)習(xí) ?離散感知器學(xué)習(xí)規(guī)則 19:35:29 85 《 醫(yī)學(xué)信息分析與決策 》 課程組 三、神經(jīng)網(wǎng)絡(luò)建?；A(chǔ) 1986年，認知心理學(xué)家 McClelland和 Runelhart在神經(jīng)網(wǎng)絡(luò)中引入 δ 規(guī)則，該規(guī)則亦可稱為連續(xù)感知器學(xué)習(xí)規(guī)則，與上述離散感知器學(xué)習(xí)規(guī)則并行。 XXWW )( Tjj f???)( XW Tjfr ?i)( xfwTjij XW????神經(jīng)網(wǎng)絡(luò)學(xué)習(xí) ?Hebb學(xué)習(xí)規(guī)則 19:35:29 82 《 醫(yī)學(xué)信息分析與決策 》 課程組 三、神經(jīng)網(wǎng)絡(luò)建?；A(chǔ) 例：設(shè)有 4輸入單輸出神經(jīng)元模型，其閥值 T=0，學(xué)習(xí)效率 η＝ 1， 3個輸入樣本向量和初始權(quán)向量分別為 X1=(1,2,0), X2=(1,2,)T, X3=(0,1,1,)T,W(0)=(1,1,0,)T ?神經(jīng)網(wǎng)絡(luò)學(xué)習(xí) 19:35:29 83 《 醫(yī)學(xué)信息分析與決策 》 課程組 三、神經(jīng)網(wǎng)絡(luò)建模基礎(chǔ) 1958年，美國學(xué)者 Frank Rosenblatt首次定義了一個具有單層計算單元的神經(jīng)網(wǎng)絡(luò)結(jié)果，稱為感知器（ Perceptron）。 ?神經(jīng)網(wǎng)絡(luò)學(xué)習(xí) 19:35:29 79 《 醫(yī)學(xué)信息分析與決策 》 課程組 三、神經(jīng)網(wǎng)絡(luò)建?；A(chǔ) 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)類型： ?有導(dǎo)師學(xué)習(xí) (有監(jiān)督學(xué)習(xí) ) ?無導(dǎo)師學(xué)習(xí) (無監(jiān)督學(xué)習(xí) ) ?死記式學(xué)習(xí) ?神經(jīng)網(wǎng)絡(luò)學(xué)習(xí) 19:35:29 80 三、神經(jīng)網(wǎng)絡(luò)建?；A(chǔ) 學(xué)習(xí)的過程（權(quán)值調(diào)整的一般情況 ） w0j 1 w1j x1 X ┆ wij j oj xj ┆ xn wnj ⊿ Wj r ( Wj , X ，dj) 學(xué)習(xí)信號 X 生成器 dj η 19:35:29 81 《 醫(yī)學(xué)信息分析與決策 》 課程組 )()]()()([ ttd,t,tr jjj XXWW ???)()]()()([)()( ttd,t,trt1t jjjj XXWWW ????三、神經(jīng)網(wǎng)絡(luò)建?；A(chǔ) 1949年，心理學(xué)家 機理的“突觸修正”的假設(shè)。 19:35:29 75 《 醫(yī)學(xué)信息分析與決策 》 課程組 三、神經(jīng)網(wǎng)絡(luò)建?；A(chǔ) 前饋型網(wǎng)絡(luò) ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○ ○?網(wǎng)絡(luò)信息流向類型 19:35:29 76 《 醫(yī)學(xué)信息分析與決策 》 課程組 三、神經(jīng)網(wǎng)絡(luò)建?；A(chǔ) 反饋型網(wǎng)絡(luò) 〇〇 〇〇 〇 〇?網(wǎng)絡(luò)信息流向類型 19:35:29 77 三、神經(jīng)網(wǎng)絡(luò)建?；A(chǔ) ?節(jié)點本身的信息處理能力 (數(shù)學(xué)模型 ) ?節(jié)點與節(jié)點之間連接 (拓撲結(jié)構(gòu) ) ?相互連接的強度 (通過學(xué)習(xí)來調(diào)整 ) 19:35:29 78 《 醫(yī)學(xué)信息分析與決策 》 課程組 三、神經(jīng)網(wǎng)絡(luò)建模基礎(chǔ) 神經(jīng)網(wǎng)絡(luò)能夠通過對樣本的學(xué)習(xí)訓(xùn)練，不斷改變網(wǎng)絡(luò)的連接權(quán)值以及拓撲結(jié)構(gòu)，以使網(wǎng)絡(luò)的輸出不斷地接近期望的輸出。 19:35:29 67 《 醫(yī)學(xué)信息分析與決策 》 課程組 三、神經(jīng)網(wǎng)絡(luò)建模基礎(chǔ) ?分類： ?按網(wǎng)絡(luò)連接的拓撲結(jié)構(gòu)分類 ?層次型結(jié)構(gòu) ?互連型網(wǎng)絡(luò)結(jié)構(gòu) ?按網(wǎng)絡(luò)內(nèi)部的信息流向分類 ?前饋型網(wǎng)絡(luò) ?反饋型網(wǎng)絡(luò) 19:35:29 68 《 醫(yī)學(xué)信息分析與決策 》 課程組 三、神經(jīng)網(wǎng)絡(luò)建模基礎(chǔ) ?層次型結(jié)構(gòu)：將神經(jīng)元按功能分成若干層 ， 如輸入層 、 中間層 （ 隱層 ） 和輸出層 ， 各層 順序 相連 。 神經(jīng)元的轉(zhuǎn)移函數(shù)： 三、神經(jīng)網(wǎng)絡(luò)建?；A(chǔ) ?節(jié)點本身的信息處理能力 (數(shù)學(xué)模型 ) ?節(jié)點與節(jié)點之間連接 (拓撲結(jié)構(gòu) ) ?相互連接的強度 (通過學(xué)習(xí)來調(diào)整 ) 19:35:29 66 《 醫(yī)學(xué)信息分析與決策 》 課程組 三、神經(jīng)網(wǎng)絡(luò)建?；A(chǔ) 人工神經(jīng)網(wǎng)絡(luò)的模型很多 ， 可以按照不同的方法進行分類 。這類函數(shù)也稱為偽線性函數(shù)，表達式如下： 神經(jīng)元的轉(zhuǎn)移函數(shù)： (3)分段線性轉(zhuǎn)移函數(shù) 0 x≤ 0 f(x)= cx 0＜ x≤ xc (9) 1 xc＜ x f ( x ) x0 xc三、神經(jīng)網(wǎng)絡(luò)建?；A(chǔ) 19:35:29 64 《 醫(yī)學(xué)信息分析與決策 》 課程組 神經(jīng)元的轉(zhuǎn)移函數(shù)： (4)概率型轉(zhuǎn)移函數(shù) x / Te11P (1 )???溫度參數(shù) 三、神經(jīng)網(wǎng)絡(luò)建?；A(chǔ) 19:35:29 65 《 醫(yī)學(xué)信息分析與決策 》 課程組 采用概率型轉(zhuǎn)移函數(shù)的神經(jīng)元模型其輸入與輸出之間的關(guān)系是不確定的，需用一個隨機函數(shù)來描述輸出狀態(tài)為 1或為0的概率。 S型函數(shù)函數(shù)又分為單極性和雙極性兩種，分別定義如下： 神經(jīng)元的轉(zhuǎn)移函數(shù)： (2)非線性轉(zhuǎn)移函數(shù) xe11f (x )??? xxx e1e11e12f ( x )??? ?????? f ( x ) x0 f ( x ) 0