神經(jīng)網(wǎng)絡(luò)分類器(1)(參考版)
2025-05-29 18:03本頁面
【正文】 神經(jīng)網(wǎng)絡(luò)與模式識別 神經(jīng)網(wǎng)絡(luò)與統(tǒng)計模式識別在方法上具有一定的等價關(guān)系： ?單層感知器 vs. 線性分類器 ?多層感知器 vs. 非線性分類器 ?徑向基函數(shù)網(wǎng)絡(luò) vs. Parzen窗密度估計分類器 ?競爭學習和側(cè)抑制 。 它通過自身訓練 ， 自動對輸入模式進行分類 。 兩層之間的各神經(jīng)元實現(xiàn)雙向全連接 ， 網(wǎng)絡(luò)中沒有隱含層 。 帶反饋的神經(jīng)網(wǎng)絡(luò)示意圖 輸入：外部輸入信號和同一區(qū)域的反饋信號 自組織特征映射神經(jīng)網(wǎng)絡(luò) 輸入信號 反饋信號 輸出信號 概念 ? 依據(jù)大腦對信號處理的特點 ， 提出了一種神經(jīng)網(wǎng)絡(luò)模型 —— 自組織特征映射模型 ， 自組織特征映射模型是典型的自組織系統(tǒng) ， 因而也有人稱其為 “ 自組織模型 ” 。 ? 學習結(jié)果受初始值和學習樣本順序影響很大，聚類的結(jié)果不一定理想，需要加入適當?shù)娜斯じ深A(yù)。競爭的結(jié)果是：具有較大輸入的單元輸出為 1，其他單元輸出都為 0 網(wǎng)絡(luò)功能 實現(xiàn)無監(jiān)督學習，完成聚類的任務(wù) 1?jwXWxwn et Tji iijj?? ???? ???其他0)(1 kjn e tn e ty kjj網(wǎng)絡(luò)動作機制 學習時先用隨機數(shù)作為權(quán)值初始值，整個學習過程隨時將權(quán)值進行歸一化處理，即： ??ijiijijwww239。引進競爭機制的前饋網(wǎng)絡(luò)可以實現(xiàn)無監(jiān)督學習，完成聚類的任務(wù)。輸出為隱層的線性加權(quán)求和，采用基函數(shù)的加權(quán)和來實現(xiàn)對函數(shù)的逼近 ? 隱層把原始的非線性可分的特征空間變換到另一個空間（通常是高維空間），使之可以線性可分。 ? 輸出節(jié)點為線性輸出單元，隱層到輸出節(jié)點之間的權(quán)值可調(diào)，輸出為隱層的加權(quán)求和。通常采用小隨機數(shù)，如區(qū)間 [， ] ? 初始值影響收斂，不收斂時改變初始值重新迭代 ? 步長參數(shù) η對收斂影響大，不同問題最佳值不同，約 ~3 ? 慣性系數(shù) α影響收斂速度，常用 ~1， α≥1時不收斂 ? 輸入單元 數(shù) =特征向量維數(shù)，輸出單元數(shù) =類別 個數(shù) 徑向基函數(shù)：沿某種徑向?qū)ΨQ的標量函數(shù)。)( jjjjjjjjjjj OOOyn e tfOyn e tyyE ?????????????????? ???? k kjkjjk kjkjj wOOwne tf ??? )1()(39。誤差反向傳播原理示意圖 隱層單元 j的局部梯度 σj正比于輸出單元局部梯度的 σk加權(quán)和 由此，輸出單元的局部梯度就“反向”傳播回到隱層單元 當非線性函數(shù) f為雙曲正切函數(shù)時： 11 2)( 2 ???? ? xexfy 22221)1( 4)(39。)( jjjjjjj n e tfyyn e tyyE ??? ??????????若單元 j不是輸出單元，則 Oj會影響后層所有單元，有： ?????????????????????kjkkjjjkkkjjjkk kjjwn e tfn e tfwn e tOOn e tn e tEn e tE???)(39。 反向傳播算法 ?反向傳播算法：從后向前反向逐層“傳播”輸出層的誤差，以間接算出隱層誤差。 ? 可見層：輸入層和輸出層 ? 隱層：中間層 前饋神經(jīng)網(wǎng)絡(luò)及其主要方法 例：感知器 ? 雙層神經(jīng)網(wǎng)絡(luò)：一層為輸入層，另一層有計算單元； ? 修正權(quán)值 w： )())()(()()1( kxkykykwkwiiiijji ???????式中 k為迭代次數(shù)。 ? 前饋神經(jīng)網(wǎng)絡(luò)：各神經(jīng)元接受前級輸入，并輸出到下一級，無反饋，可用一有向無環(huán)圖表示。 Papert, 1969) ? Hopfield模型 (Hopfield， 1982) ? 多層感知機 MLP與反向傳播算法 BP (Rumelhart, 1986) 神經(jīng)網(wǎng)絡(luò)分類器 神經(jīng)網(wǎng)絡(luò)的特點 ? 自學習 ? 自適應(yīng) ? 并行處理
畢業(yè)設(shè)計相關(guān)推薦
鄂ICP備17016276號-1