【正文】 而被改變。oi(t)oj(t) 其中： Wij(t+1)、 Wij(t)為神經(jīng)元 i聯(lián)結(jié)到 神經(jīng)元 j的聯(lián)結(jié)在 t+1時(shí)刻和 t時(shí)刻的強(qiáng)度 oi(t)、 oj(t)為這兩個(gè)神經(jīng)元 t時(shí)刻的輸出， 223。 BP算法的收斂速度非常慢，在高維曲面上局部極小點(diǎn)逃離。 BP算法的基本思想 BP(Back Propagation)算法利用輸出層的誤差來估計(jì)輸出層 的直接前導(dǎo)層的誤差，再用這個(gè)誤差估計(jì)更前一層的誤差， 如此下去，就獲得了所有其他各層的誤差估計(jì)。 輸入向量是模式； 輸出向量是模式； 同層神經(jīng)元的某一時(shí)刻的狀態(tài)是模式； 所有神經(jīng)元的某一時(shí)刻的狀態(tài)是模式； 權(quán)矩陣及其所含的向量都是模式。據(jù)統(tǒng)計(jì)，人類大腦約有 1010－ 1011個(gè)神經(jīng)元，每個(gè)神經(jīng)元與 103－105個(gè)其它的神經(jīng)元互相連接，從而構(gòu)成一個(gè)極為龐大復(fù)雜的網(wǎng)絡(luò)。 隱藏層：網(wǎng)絡(luò)輸入層與輸出層以外的層 層數(shù)：網(wǎng)絡(luò)輸入層的層號(hào) 第 j1層到第 j層的聯(lián)結(jié)矩陣稱第 j層聯(lián)結(jié)矩陣，記 W(j) 非線性激活函數(shù) 非線性激活函數(shù)在多級(jí)網(wǎng)絡(luò)中其著非常重要的作用。 、 d=0； 、 for 每個(gè)樣本 (X,Y) do； 、輸入 X 設(shè)置精度控制參數(shù) ,學(xué)習(xí)率 、精度控制變量 d=1+ while d= do 、求 O=F(XW) 、修改權(quán)矩陣 W for i=1 to n, j=1 to m do wij= wij + (yjoj)xi 、累積誤差 for j=1 to m do d=d+(yjoj)2 “異或”運(yùn)算真值表 “異或”運(yùn)算是計(jì)算機(jī)領(lǐng)域最基本的運(yùn)算： g(x,y) 運(yùn)算對(duì)象 y 運(yùn)算對(duì)象 x 0 1 0 0 0 1 1 1 異或運(yùn)算的真值表 1 o 1 y w1x+w2y= 0 if x=y “異或”運(yùn)算的定義： g(x,y)= 即 g(x,y)=xy xy 1 其他 感知器無法實(shí)現(xiàn)“異或”運(yùn)算 如果要實(shí)現(xiàn)“異或”運(yùn)算則 w1+w2 =0 0+0 =0 W1+0 0 0+w2 0 顯然，上述方程無解 線性不可分問題的克服 增加網(wǎng)絡(luò)的層數(shù)可以解決感知器線性不可分的問題 多層網(wǎng)絡(luò)權(quán)重確定的難題 理想輸出與實(shí)際輸出之差被直接用來估計(jì)直接達(dá)到該 神經(jīng)元的聯(lián)結(jié)的權(quán)重的誤差。 BP網(wǎng)絡(luò)的構(gòu)成 —神經(jīng)元 X=(x1 , x2 , … , x n) W=(w1, w2, …, w n) =?xiwi =XW 神經(jīng)元網(wǎng)絡(luò)輸入： x1 x2 xn =