【正文】
y(硬極限函數(shù)或階躍函數(shù)) (對(duì)稱硬極限函數(shù)) 15 神經(jīng)元數(shù)學(xué)模型 ? 非線性激勵(lì)函數(shù)(傳輸函數(shù)、輸出變換函數(shù)) L o g S i g m o i d T r a n s f e r F u n c t i o n y = l o g s i g ( x ) =1??xe???11T a n S i g m o i d T r a n s f e r F u n c t i o n y = t a n s i g ( x ) =xxxxeeee????????1??x x( 對(duì)數(shù) S 形函數(shù)或 S型函數(shù) ) ( 雙曲正切 S形函數(shù) ) 16 神經(jīng)元數(shù)學(xué)模型 ? 工作過程 : ? 從各輸入端接收輸入信號(hào) uj ( j = 1, 2, …, n ) ? 根據(jù)連接權(quán)值求出所有輸入的加權(quán)和 ? 用非線性激勵(lì)函數(shù)進(jìn)行轉(zhuǎn)換,得到輸出 )()(0????njjijii uwfxfy)或 iinjjijnjijijnjijijibuwuwuwbuwuwxii?????????? ??????00011,1,1(00??17 神經(jīng)元數(shù)學(xué)模型 iMkkikNjjij ubyav i ???? ???? 11TsiieTsssHsVsXsH???111,1:)()()()(18 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)與工作方式 ? 決定人工神經(jīng)網(wǎng)絡(luò) 性能的三大要素: ? 神經(jīng)元的特性。 :第 個(gè)神經(jīng)元的閾值。 ?人工神經(jīng)網(wǎng)絡(luò) (artificial neural works, ANN): 模擬 人腦神經(jīng)系統(tǒng) 的結(jié)構(gòu)和功能 , 運(yùn)用大量簡單處理單元經(jīng)廣泛連接而組成的人工網(wǎng)絡(luò)系統(tǒng) 。 ? 神經(jīng)元約有 1000種類型,每個(gè)神經(jīng)元大約與 103- 104個(gè)其他神經(jīng)元相連接,形成極為錯(cuò)綜復(fù)雜而又靈活多變的神經(jīng)網(wǎng)絡(luò)。 神經(jīng)網(wǎng)絡(luò)控制是近年來智能控制的一個(gè)非?;钴S的研究領(lǐng)域 。Artificial Intelligence Principles and Applications 第 13章 神經(jīng)網(wǎng)絡(luò)控制 教材: 王萬良 , 現(xiàn)代控制工程 , 高等教育出版社 , 2022 2 第 13章 神經(jīng)網(wǎng)絡(luò)控制 ? 人工神經(jīng)網(wǎng)絡(luò)( Artificial Neural Network,簡稱 ANN)有著很強(qiáng)的自學(xué)習(xí)功能和對(duì)非線性系統(tǒng)映射能力,已廣泛應(yīng)用于復(fù)雜對(duì)象的控制中,成為智能控制中的重要研究領(lǐng)域。 神經(jīng)網(wǎng)絡(luò)控制主要是將神經(jīng)網(wǎng)絡(luò)作為控制系統(tǒng)中的控制器與 ( 或 ) 辨識(shí)器 , 主要是為了解決復(fù)雜的非線性 、 不確定性系統(tǒng)在不確定性環(huán)境中的控制問題 , 使控制系統(tǒng)穩(wěn)定 、 魯棒性好 , 具有要求的動(dòng)態(tài)和靜態(tài)性能 。 ? 人的智能行為就是由如此高度復(fù)雜的組織產(chǎn)生的。 神經(jīng)網(wǎng)絡(luò)方法: 隱式 的知識(shí)表示方法 生物神經(jīng)元的結(jié)構(gòu) 8 生物神經(jīng)元的結(jié)構(gòu) ( 輸入 ) ( 輸出 ) 神經(jīng)沖動(dòng) 生物神經(jīng)元結(jié)構(gòu) 9 生物神經(jīng)元的結(jié)構(gòu) ? 工作狀態(tài): ? 興奮狀態(tài) :細(xì)胞膜電位 動(dòng)作電位的閾值 → 神經(jīng)沖動(dòng) ? 抑制狀態(tài) : 細(xì)胞膜電位 動(dòng)作電位的閾值 ? 學(xué)習(xí)與遺忘: 由于神經(jīng)元結(jié)構(gòu)的可塑性,突觸的傳遞作用可增強(qiáng)和減弱 。 :外部輸入。 ? 神經(jīng)元之間相互連接的形式 —— 拓?fù)浣Y(jié)構(gòu)。 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)與工作方式 22 ?神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)是指調(diào)整神經(jīng)網(wǎng)絡(luò)的連接權(quán)值或者結(jié)構(gòu),使輸入輸出具有需要的特性。 神經(jīng)網(wǎng)絡(luò)的發(fā)展概況 24 ? 1958年 , 羅森布拉特 ( F. Rosenblatt) 提出感知器模型 ( perceptron) 。 ? 1972年 , T. Kohonen 和 J. Anderson 分別提出能完成記憶的新型神經(jīng)網(wǎng)絡(luò) 。 ? 1987年 6月 , 首屆國際神經(jīng)網(wǎng)絡(luò)學(xué)術(shù)會(huì)議在美國圣地亞哥召開 , 成立了國際神經(jīng)網(wǎng)絡(luò)學(xué)會(huì) ( INNS) 。 BP學(xué)習(xí)算法 ? 兩個(gè)問題: ?( 2) 如何調(diào)整 BP神經(jīng)網(wǎng)絡(luò)的連接權(quán) , 使網(wǎng)絡(luò)的輸入與輸出與給定的樣本相同 。 ? 2. 學(xué)習(xí)算法 mpmmmyyy21121pxxx35 BP學(xué)習(xí)算法 ? 2. 學(xué)習(xí)算法 ( ) ( )mmmmiii s i fyydu ???— — 輸 出 層 連 接 權(quán) 調(diào) 整 公 式1 ( )k k k kk lii i llfwd u d ??? ?— — 隱 層 連 接 權(quán) 調(diào) 整 公 式y(tǒng)d kjkikijw 11 ?? ??? ?36 BP學(xué)習(xí)算法 ? 2. 學(xué)習(xí)算法 式—輸出層連接權(quán)調(diào)整公—))(1( yyyydimimimim