【正文】
人工神經(jīng)元的工作過(guò)程 對(duì)于某個(gè)處理單元(神經(jīng)元)來(lái)說(shuō),假設(shè)來(lái)自其他處理單元(神經(jīng)元) i的信息為 Xi,它們與本處理單元的互相作用強(qiáng)度即連接權(quán)值為 Wi, i=0,1,…,n 1,處理單元的內(nèi)部閾值為 θ。 人工神經(jīng)網(wǎng)絡(luò)概述 ?2 概念解釋 ( 1)人工神經(jīng)網(wǎng)絡(luò)( Artificial Neural Networks,簡(jiǎn)記作 ANN),是對(duì)人類大腦系統(tǒng)的一階特性的一種描述。 人工神經(jīng)網(wǎng)絡(luò) Artificial Neural Networks 人工神經(jīng)網(wǎng)絡(luò)概述 ?1概念 ( 1) 人工神經(jīng)網(wǎng)絡(luò) 是集腦科學(xué)、神經(jīng)心理學(xué)和 信息科學(xué)等多學(xué)科的交叉研究領(lǐng)域,是近年來(lái) 高科技領(lǐng)域的一個(gè)研究熱點(diǎn)。簡(jiǎn)單地講,它是一個(gè) 數(shù)學(xué)模型 ,可以用 電子線路 來(lái)實(shí)現(xiàn),也可以用 計(jì)算機(jī)程序 來(lái)模擬,是人工智能研究的一種方法。 神經(jīng)元的結(jié)構(gòu)與功能特性 ???10niiixw而處理單元的輸出為 )xw(fy1n0iii ??? ???那么本處理單元(神經(jīng)元)的輸入為 BP神經(jīng)網(wǎng)絡(luò)模型與學(xué)習(xí)算法 ?Rumelhart, McClelland于 1985年提出了 BP網(wǎng)絡(luò)的誤差反向后傳 BP(Back Propagation)學(xué)習(xí)算法 ?BP算法基本原理 ?利用輸出后的誤差來(lái)估計(jì)輸出層的直接前導(dǎo)層的誤差,再用這個(gè)誤差估計(jì)更前一層的誤差,如此一層一層的反傳下去,就獲得了所有其他各層的誤差估計(jì)。 2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 算法思想 ?( 4)學(xué)習(xí)的類型:有導(dǎo)師學(xué)習(xí) ?( 5)核心思想: ? 將輸出誤差 以某種形式 通過(guò)隱層向輸入層逐層反傳 ?( 6)學(xué)習(xí)的過(guò)程: ?信號(hào)的正向傳播 誤差的反向傳播 將誤差分?jǐn)偨o各層的所有單元---各層單元的誤差信號(hào) 修正各單元權(quán)值 2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 學(xué)習(xí)過(guò)程 ?正向傳播: ? 輸入樣本---輸入層---各隱層---輸出層 ?判斷是否轉(zhuǎn)入反向傳播階段: ? 若輸出層的實(shí)際輸出與期望的輸出(教師信號(hào))不符 ?誤差反傳 ? 誤差以某種形式在各層表示----修正各層單元的權(quán)值 ?網(wǎng)絡(luò)輸出的誤差減少到可接受的程度 進(jìn)行到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止 2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 ?(7)網(wǎng)絡(luò)結(jié)構(gòu) ?輸入層有 n個(gè)神經(jīng)元,隱含層有 p個(gè)神經(jīng)元 , 輸出層有 q個(gè)神經(jīng)元 ?(8)變量定義 ?輸入向量 。 ?期望輸出向量 。 ()h k?()o k?2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 21212111( ( ( ) ( )) )()2( ) ( ) ( )1( ( ( ) f( ( )) ) )()2( ) ( )1( (( ( ) f( ( ) ) ))()2( ) ( )qoohoh h hqoohohhqpo h o h ohohhhd k yo ke h o kh i k h o k h i kd k yi kh o kh o k h i kd k w h o k bh o kh o k h i k?????????? ? ???????? ? ?????????11()( ( ) ( ) ) f ( ( ) )()( ( ) ) f ( ( ) ) ( )qho o o h oo hqo h o h hoh o kd k yo k yi k wh i kk w h i k k??????? ? ???? ? ???2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 ?第六步,利用輸出層各神經(jīng)元的 和隱含層各神經(jīng)元的輸出來(lái)修正連