神經(jīng)網(wǎng)絡分類器ppt課件(已修改)
2025-01-17 15:32 本頁面
【正文】 第五章 神經(jīng)網(wǎng)絡分類器 感知器算法 神經(jīng)網(wǎng)絡分類器 感知器算法 一、引言 模式識別與人工智能是研究如何利用計算機實現(xiàn)人腦的一些功能。 人工神經(jīng)網(wǎng)絡研究的發(fā)展： ? 1943年，提出形式神經(jīng)元的數(shù)學模型，人工神經(jīng)網(wǎng)絡研究的開端。 ? 1949年，提出神經(jīng)元的學習準則，為神經(jīng)網(wǎng)絡的學習算法奠定了基礎。 ? 50年代，研究類似于神經(jīng)網(wǎng)絡的分布系統(tǒng)。 ? 50年代末提出感知模型，把神經(jīng)網(wǎng)絡的實現(xiàn)付諸工程實踐。 ? 1982年，提出神經(jīng)網(wǎng)絡的數(shù)學模型，引入了能力的概念，研究了網(wǎng)絡的動力學特性；設計出用電子線路實現(xiàn)網(wǎng)絡的方案，大大促進了神經(jīng)網(wǎng)絡的研究。 ? 1986年，提出多層感知器的反向傳播算法。 ? 現(xiàn)在神經(jīng)網(wǎng)絡的應用已滲透到智能控制、信號處理、優(yōu)化計算、生物醫(yī)學工程等領域。 二、人工神經(jīng)元 生物神經(jīng)元 典型的神經(jīng)元，即神經(jīng)細胞結(jié)構(gòu)：胞體、樹突、軸突、突觸 胞體：神經(jīng)細胞的本體，完成普通細胞的生存功能。 樹突：有大量的分枝，接受來自其他神經(jīng)元的信號。 軸突：用以輸出信號。 突觸：神經(jīng)元相聯(lián)系的部位，對樹突的突觸為興奮性的，使下一個神經(jīng)元興奮；對胞體的突觸為抑制性的，阻止下一個神經(jīng)元興奮。 神經(jīng)元的基本工作機制： ?神經(jīng)元的兩種工作狀態(tài)：興奮和抑制。 ?動態(tài)極化原則：在每一個神經(jīng)元中，信息以預知的確定方向流動，即從神經(jīng)元的接收信息部分傳到軸突的電脈沖起始部分，再傳到軸突終端的突觸，以與其它神經(jīng)元通信。 ?連接的專一性原則：神經(jīng)元之間無細胞質(zhì)的連續(xù)，神經(jīng)元不構(gòu)成隨機網(wǎng)絡，每一個神經(jīng)元與另一些神經(jīng)元構(gòu)成精確的聯(lián)接。 信號的傳遞過程： ? 接受興奮電位； ? 信號的匯集和傳導； ? 信號的輸出。 人工神經(jīng)元 1niiin e t w x????人工神經(jīng)元模型： xi：輸入，神經(jīng)元的輸入值 ωi：權(quán)值，突觸的連接強度 f ：輸出函數(shù)，非線性函數(shù) y ：輸出 神經(jīng)元動作： ()y f ne t?常用輸出函數(shù)： 閾值函數(shù)： )s g n ()( xxf ?22( ) ( ) 11 xf x th x e ?? ? ??雙曲正切函數(shù)： 非線性，單調(diào)性 無限次可微 權(quán)值很大時接近閾值函數(shù) 權(quán)值很小時接近線性函數(shù) 階躍函數(shù)： )()( xstepxf ?)(1???? niii xwfy ? f 為閾值函數(shù)： 感知器模型 )s g n(1???? niii xwy ?則： y=sgn (WTX) 即： y =f (WTX) 這種神經(jīng)元沒有內(nèi)部狀態(tài)的轉(zhuǎn)變，而且函數(shù)為閾值型。因此，它實質(zhì)上是一種線性閾值計算單元。 感知器是一個具有單層計算單元的人工神經(jīng)網(wǎng)絡。感知器訓練算法就是由這種神經(jīng)網(wǎng)絡演變來的。 設閾值： θ=ω0 W=(ω1,ω2, … , ωn,ω0)T X=(x1, x2, … , xn, 1)T ??????????????jiTTxxW xW ??01 01感知器算法能夠通過對訓練模式樣本集的“學習”得出判別函數(shù)的系數(shù)解。 算法描述 用樣本訓練時，若 x∈ ωi， g(x)0，則 w不變。 若 g(x)0，則修改 w，直到所有樣本都滿足條件為止。 通過上面的定義，感知器問題變成 wi/wj兩類問題。因此，感知器的自組織、自學習思想可以用于確定性分類器的訓練 —— 感知器訓練方法。 感知器訓練算法 初始化： ? 給定一個訓練模式集 {x1, x2,… xN}，其中每個類別已知，它們分屬于 ω1,ω2。 ? xi＝ (xi1, xi2,… xin)T為 n維向量，增廣為 (n+1)維向量： xi＝(xi1, xi2,… xin,1) ? ω2類樣本乘以－ 1。 ? 權(quán)向量 w為 (n+1)維向量。 感知器算法步驟 ?置步數(shù) k=1，令增量 C為常數(shù)，且 C0，分別賦予初始增廣權(quán)矢量 w(1)的各分量較小的任意值。
教學課件相關推薦
鄂ICP備17016276號-1