【正文】 這一思路的具體作法是，在原轉(zhuǎn)移函數(shù)引入一個陡因子 16 ?/1 1eo ??? 圖 壓縮后的轉(zhuǎn)移函數(shù)曲線 當(dāng)發(fā)現(xiàn) E? 接近零而 od? 仍較大時，可判斷已進入平坦區(qū)，此時令 1?? ；當(dāng)退出平坦區(qū)后，再令 1?? 。為了加速收斂過程，一個較好的思路是自適應(yīng)調(diào)節(jié)學(xué)習(xí)率，使其該大時增大，該小時減小。當(dāng)誤差曲面出現(xiàn)驟然起伏時，可減小振蕩趨勢，提高訓(xùn)練速度。然而標(biāo)準(zhǔn)的 BP 算法在應(yīng)用中暴露出不少內(nèi)在的缺陷： (1)易形成局部極小而得不 到全局最優(yōu)； (2)訓(xùn)練次數(shù)多使得學(xué)習(xí)效率低，收斂速度慢； (3)隱節(jié)點的選取缺乏理論指導(dǎo)； (4)訓(xùn)練時學(xué)習(xí)新樣本有遺忘舊樣本的趨勢； 針對上述問題，國內(nèi)外已提出不少有效的改進算法，下面僅介紹其中 3 種較常用的方法。 網(wǎng)絡(luò)誤差與權(quán)值調(diào)整 : 當(dāng)網(wǎng)絡(luò)輸出與期望輸出不等時，存在輸出誤差 E，定義如下 212 )(21)(21 klk k ododE ???? ????????? ???? （ ） 將以上誤差定義式展開至隱層，有 20121 )]([21)]([21 ?????? ????mj jjklk kklk k ywfdn e tfdE??? （ ） 進一步展開至輸入層，有 20 01201]})([{21]})([{21? ????? ????????mjniiijjklkkmjjjklkkxvfwfdfwfdE?????? ??? （ ） 由上式可以看出，網(wǎng)絡(luò)輸入誤差是各層權(quán)值 jkw 、 ijv ，的函數(shù)，因此調(diào)整權(quán)值可改變誤差 E。 輸 入 層 到 隱 層 之 間 的 權(quán) 值 矩 陣 用 V 表示，Tni VVVVV ),( 21 ??? ,其中列向量 jV 為隱層第 j 個神經(jīng)元對應(yīng)的權(quán)向量；隱層到輸出層之間的權(quán)值矩陣用 W 表示， Tni WWWWW ),( 21 ??? ,其中列向量 kW 為 輸出層第 k 個神經(jīng)元對應(yīng)的權(quán)向量。在多層前饋網(wǎng)? 2p 1p ? np b a 圖 線性神經(jīng)元模型 13 絡(luò)的應(yīng)用中，已圖 所示的單隱層網(wǎng)絡(luò)的應(yīng)用最為普遍。這種信號正向傳播與誤差反向傳播的各層權(quán)值調(diào)整過程，是周而復(fù)始地進行的。 BP 控制方法 BP 算法的基本思想是，學(xué)習(xí)過程由信號的正 向傳播與誤差的反向傳播兩個過程組成。線性神經(jīng)網(wǎng)絡(luò)采用線性函數(shù)作為傳遞函數(shù)，因此其輸出可取任意值。 修正權(quán)值 2x … ? f _ + dd 1x nx 誤差 ? 圖 感知器 12 感知器只有一層神經(jīng)元，這是由感知器學(xué)習(xí)規(guī)則所決定的，因為感知器學(xué)習(xí)規(guī)則只能訓(xùn)練單層神經(jīng)網(wǎng)絡(luò)。與 MP 模型不同之處在于其聯(lián)結(jié)權(quán)值可變，因此它具有學(xué)習(xí)功能。 前向神經(jīng)網(wǎng)絡(luò) 前向神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元是分層排列的，每個神經(jīng)元只與前一層神經(jīng)元相連，最上一層為輸出層，最下一層為輸入層。 在競爭中，與輸入單元間聯(lián)結(jié)權(quán)值變化最大的為優(yōu)勝者，優(yōu)勝者的聯(lián)結(jié)權(quán)值按式（ ） 改變，而失敗的單元，其 ijW? 為零。調(diào)整的原則是：當(dāng) ?ijp ?ijp 時增加權(quán)值，否則減小權(quán)值。 從上述簡化過程可知，在選用簡化的 G 函數(shù)時，我們實際上令 )(tay jj ? ，也就是用了線性可分函數(shù)。 在 式（ ） 中，如將教師示教信號 )(ttj 作為期望輸出 jd ，而把 )(taj 理解為實際輸出jy ，則該式變?yōu)椋? )()() tytyydW iijjij ??? ????? ??????????????? ???? （ ） 式中 jj yd??? 為期望輸出與實際輸出的差值。 上式表明，對一個神經(jīng)元 ju 而言，若該神經(jīng)元有較大的活性度或有較大的輸入（即)(tai iu )(taj ju )(tyj 教師示教信號 )(ttj )(tyj ijW 圖 Hebb學(xué)習(xí)規(guī)則 10 )(tyi ）時，他們之間的聯(lián)結(jié)權(quán)值會變大。 對于神經(jīng)元 ju 而言，其輸入（即 iu 的輸出） )(tyj 可以理解為學(xué)習(xí)的內(nèi)容，連接權(quán)值ijW 可以理解為學(xué)習(xí)的基礎(chǔ)， )(ttj 是教師的指導(dǎo)內(nèi)容， ju 的活性度 )(taj 可以理解為學(xué)習(xí)的“積極性”。常用的學(xué)習(xí)規(guī)則有以下幾種： （ 1）聯(lián)想式學(xué)習(xí) —— Hebb 規(guī)則 心理學(xué)家 Hebb 在 1949 年提出突觸聯(lián)系的神經(jīng)群體理論，他指出，突觸前后兩個同時興奮（即活性度高，或稱處于激發(fā)狀態(tài)）的神經(jīng)元之間的連接強度（權(quán)值）將增強，雖然他本人沒有給出數(shù)學(xué)表達式，但后來許多研究者用不同的數(shù)學(xué)公式來表示這一基本思想。 學(xué)習(xí)方式 神經(jīng)網(wǎng)絡(luò)性能的改善是按某種預(yù)定的度量通過調(diào)節(jié)自身參數(shù)（如權(quán)值）隨時間逐步達到的，學(xué)習(xí)方式按環(huán)境提供信息量的多少分為三種： (1)無教師學(xué)習(xí) 如圖 (a)所示，無教師學(xué)習(xí)完全按照環(huán)境提供數(shù)據(jù)的某些統(tǒng)計規(guī)律來調(diào)節(jié)自身參數(shù)或結(jié)構(gòu)，以表示外部輸入的某些固有特性。從作用效果看，前饋型網(wǎng)絡(luò)主要是函數(shù)映射，可用于模式識別和函數(shù)逼近。反饋型網(wǎng)絡(luò)的所有節(jié)點都是計算單元，同時可接受輸入并向外 。 互連網(wǎng)絡(luò)模型 在這類模型中，任意兩個神經(jīng)元之間都有相互連接的關(guān)系。 傳遞函數(shù) f(x)可為線性函數(shù)，或 S 狀的非線性函數(shù)，或具有任意階導(dǎo)數(shù)的非線性函數(shù)，常用的非線性函數(shù)有閥值函數(shù)、雙向閥值函數(shù)、 S 型函數(shù)、雙曲正切函數(shù)、高斯函數(shù)等。 （ 3）一個非線性傳遞函數(shù)，起非線性映射作用并限制神經(jīng)元輸出幅度在一定的范圍內(nèi)（一般限制在 [0， 1]或 [1， +1]之間）。 第 2 章 模糊神經(jīng)網(wǎng)絡(luò)控制 6 人工神經(jīng)元模型 人腦約由 1011個神經(jīng)元組成，神經(jīng)元之間的聯(lián)系多過 1014~1015，每個神經(jīng)元由兩部分 構(gòu)成：神經(jīng)細胞體及突起（樹突和軸突）。 為實現(xiàn)史密斯預(yù)估補償控制，需要求取補償器的數(shù)學(xué)模型。此外，還有將神經(jīng)網(wǎng)絡(luò)用于判定化學(xué)反應(yīng)的生成物；用于判定鉀、鈣、硝酸、氯等離子的濃度。神經(jīng)網(wǎng)絡(luò)在載重車柴油機燃燒系統(tǒng)方案優(yōu)化中的應(yīng)用有效地降低了油耗和排煙度，獲得了良好的社會經(jīng)濟效益。對于復(fù)雜非線形系統(tǒng)，神經(jīng)控制所達到的控制效果往往明顯好于常規(guī)控制器。只將該特征傳出，接受后在將其恢復(fù)成原始模式。前者如信號的自適應(yīng)濾波、時間序列預(yù)測、譜估計、噪聲消除等；后者如非線形濾波、非線形預(yù)測、非線形編碼、調(diào)制 /調(diào)解等。 1990 年 2 月，由中國八個學(xué)會（即中國電子學(xué)會、計算機學(xué)會、人工智能學(xué)會、自動化學(xué)會、通信學(xué)會、物理學(xué)會、生物物理學(xué)會、和心理學(xué)會）聯(lián)合在北京召開“中國神經(jīng)網(wǎng)絡(luò)首屆學(xué)術(shù)大會”。與此同時，美國、日本等國在神經(jīng)網(wǎng)絡(luò)計算機的硬件實現(xiàn)方面也取得了一些實實在在的成績。各種學(xué)術(shù)的神經(jīng)網(wǎng)絡(luò)特刊也層出不窮。 新時期 1987 年 6月，首屆國際神經(jīng)網(wǎng)絡(luò)會議在美國加州圣地亞哥召開，這標(biāo)志著全世界范圍內(nèi)掀起神經(jīng)網(wǎng)絡(luò)開發(fā)研究的熱潮。 復(fù)興時期 1982 年美國加州理工學(xué)院優(yōu)秀物理學(xué)家 John 博士總結(jié)與吸取前人對神經(jīng)網(wǎng)絡(luò)研究的成果與經(jīng)驗，把網(wǎng)絡(luò)的各種結(jié)構(gòu)和算法概括起來，塑造出一種新穎的強有力的網(wǎng)絡(luò)模型，稱為 Hopfiled 網(wǎng)絡(luò)模型。使神經(jīng)網(wǎng)絡(luò)研究處于低潮時期的重要原因是， 20 世紀(jì) 70 年代以來集成電路和微電子技術(shù)的迅速發(fā)展，是傳統(tǒng)的 Von Neumenn 型計算機進入發(fā)展的全盛時期，基于邏輯符號處理方法的人工智能的迅速發(fā)展并取得顯著成就，他們的問題和局限性尚未暴露，因此暫時就掩蓋了發(fā)展新型計算機和尋求新的神經(jīng)網(wǎng)絡(luò)的必要性和迫切性 [4]。 1960 年，他們發(fā)表了 一篇為“自適應(yīng)開關(guān)電路”的文章。為此， MP 模型被認為開創(chuàng)了神經(jīng)科學(xué)理論研究的新時代。結(jié)束于《并行分布式處理》一書的發(fā)表。 神經(jīng)網(wǎng)絡(luò)的研究發(fā)展史 神經(jīng)網(wǎng)絡(luò)的研究可追溯到 19 世紀(jì)末，其發(fā)展歷史可分為四個時期。人工神經(jīng)網(wǎng)絡(luò)是由簡單的處理單元所組成的大量并行分布的處理機，這種處理機具有存儲和應(yīng)用經(jīng)驗知識的自然特性，它與人腦的相似之處概括為兩個方面：一是通過學(xué)習(xí)過程利用神經(jīng)網(wǎng)絡(luò)從外部環(huán)境中獲取知識；二是內(nèi)部神經(jīng)元（突觸權(quán)值）用來存儲的知識信息。對本研究提供過幫助和做出過貢獻的個人或集體，均已在文中作了明確的說明并表示了謝意。 circuit accident。 I 基于 神經(jīng)網(wǎng)絡(luò)的電力電子裝置故障檢測與診斷研究 摘要 ： 提出采用基于波形直接分析的神經(jīng)網(wǎng)絡(luò)故障診斷方法實現(xiàn)電力電子電路在線故障診斷 ,以三相整流電路為例 ,選用 BP 網(wǎng)絡(luò)對其進行了有效故障診斷。 關(guān)鍵詞 ： 神經(jīng)網(wǎng)絡(luò) ； 電力電子 ； 電路故障 ； 診斷 ； 故障診斷 Abstract： Based on neural work theory ,a new online fault diagnosis method for power electronic circuits is presented. A neural BP work is founded ,which is able to diagnosis faults of three phase rectifier ef fectively. The method is verified by both simulation and experiment. The circuit model for electronic of electric power is with strong nonline arity, it is usually difficult to diagnose the accident online, by the mapping features of nonline arity on the nerve , the essay will study and store the mapping relationship between the accident signs and accident types(causes) about the circuit for electronic of electric power, and put it into the diagnose online, which will be used to diagnose the accident automatically to the circuit of electronic of electric power. Keywords: nerve ’electronic of electric power 。盡我所知，除文中特別加以標(biāo)注和致謝的地方外，不包含其他人或組織已經(jīng)發(fā)表或公布過的研究成果，也不 包含我為獲得 及其它教育機構(gòu)的學(xué)位或?qū)W歷而使用過的材料。它是根于神經(jīng)學(xué)、數(shù)學(xué)、同統(tǒng)計學(xué)、物 理學(xué)、計算機學(xué)及工程等的一種技術(shù)。其應(yīng)用領(lǐng)域包括：建模、時間序列分析、模式識別和控制等，并在不斷的拓展。第三個時期為復(fù)興時期，開始于 的突破性研究論文。在這篇文章中，他們在已知的神經(jīng)細胞生物學(xué)基礎(chǔ)上從信息處理的角度出發(fā)，提出形式神經(jīng)元數(shù)學(xué)模型，稱 MP 模型。啟蒙時期的最后兩位代表人物是電機工程師 Bernard Widrow 和 Marcian Hoff 。由于當(dāng)時對神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力的過高估計，而隨著神經(jīng)網(wǎng) 絡(luò)研究的深入開展，人們遇到了來自認識方面、應(yīng)用方面和實現(xiàn)方面的各種困難和迷惑，使得一些人產(chǎn)生了懷疑和失望。 1972 年芬蘭的 教授，提出了自組織映射理論，并稱其神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為“聯(lián)想存儲器”；另一位是美國的神經(jīng)心理學(xué)家和心理學(xué)家 提出了一個類似的神經(jīng)網(wǎng)絡(luò)，稱為“交互存儲器”。該算法 已成為當(dāng)今最大的一種網(wǎng)絡(luò)學(xué)習(xí)方法。隨后， IEEE 也成立了神經(jīng)網(wǎng)絡(luò)協(xié)會并于 1990 年 3 月開始出版神經(jīng)網(wǎng)絡(luò)會刊。神經(jīng)網(wǎng)絡(luò)的應(yīng)用已涉及到模式識別、圖象處理、非線形優(yōu)化、語音處理、自然語言理解、自動目標(biāo)識別、機器人、專家系統(tǒng)等各個領(lǐng)域，并取得了令人矚目的成果。1989年 10月和 11月份別在北京和廣州召開了神經(jīng)網(wǎng)絡(luò)及其應(yīng)用學(xué)術(shù)討論會和第一屆全國信號處理 神經(jīng)網(wǎng)絡(luò)學(xué)術(shù)會議。（ 1）信號處理 神經(jīng)網(wǎng)絡(luò)廣泛應(yīng)用于自適應(yīng)信號處理和非信號處理。（ 3）數(shù)據(jù)壓縮 神經(jīng)網(wǎng)絡(luò)可對待傳送的數(shù)據(jù)提取模式特征。（ 2）神經(jīng)控制器 神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)和自適應(yīng)等智能特點，因而非常適合于做控制器。 工程領(lǐng)域 （ 1） 汽車工程 神經(jīng)網(wǎng)絡(luò)在汽車剎車自動控制系統(tǒng)中也有成功的應(yīng)用，該系統(tǒng)能在給定剎車距離、車速和最大減速度的情況下，以人體感受到最小沖擊實現(xiàn)平穩(wěn)剎車，而不受路面坡度和車重的影響。 （ 3） 化學(xué)工程 在譜分析方