freepeople性欧美熟妇, 色戒完整版无删减158分钟hd, 无码精品国产vα在线观看DVD, 丰满少妇伦精品无码专区在线观看,艾栗栗与纹身男宾馆3p50分钟,国产AV片在线观看,黑人与美女高潮,18岁女RAPPERDISSSUBS,国产手机在机看影片

正文內(nèi)容

神經(jīng)網(wǎng)絡(luò)pappt課件(已修改)

2025-01-17 15:31 本頁面
 

【正文】 神經(jīng)網(wǎng)絡(luò) 劉芳,戚玉濤 BP網(wǎng)絡(luò)和 BP算法 ?線性不可分問題:感知器模型的局限 ?三層感知器 ?多層網(wǎng)絡(luò)的表達(dá)能力 ?BP網(wǎng)絡(luò):多層感知器 ?BP算法:反向傳播算法的思想和流程, 訓(xùn)練協(xié)議,隱含層的作用,實用技術(shù) 反向傳播算法 ( BP算法) ?敏感度的反向傳播 反向傳播算法 ( BP算法) ?BP算法流程: ? Step1: 選定權(quán)系數(shù)初值 ? Step2: 重復(fù)下述過程直至收斂 (對各個樣本依次計算 ) ? 前饋 : 從前向后各層計算各單元 jxj ij iine t x?? ? ? ? 11jjj n e tx f n e t e ??? ?反向傳播算法 ( BP算法) ? :對輸出層計算 ? :從后向前計算各隱層 ? :計算并保存各個權(quán)值修正量 j?j?? ? ? ?1j j j j jy x x x? ? ? ?? ?1j j j j k kkxx? ? ??? ?ij j ix? ? ???反向傳播算法 ( BP算法) ?:修正權(quán)值 ? ? ? ?1ij ij ijtt? ? ?? ? ? ?以上算法是對每個樣本作權(quán)值修正(單樣本) 也可以對各個樣本計算 后求和,按照總誤差修正權(quán)值(批處理) j?BP算法的訓(xùn)練協(xié)議 ?訓(xùn)練協(xié)議 (學(xué)習(xí)協(xié)議 ): 神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程中如何根據(jù)訓(xùn)練樣本調(diào)整權(quán)值 ?三種最有用的訓(xùn)練協(xié)議: ? 隨機(jī)訓(xùn)練 ( stochastic training ) :模式隨機(jī)從訓(xùn)練集中選取,每輸入一個模式,權(quán)值就更新一次 ? 成批訓(xùn)練 ( batch training ) :所有模式一次全部送入網(wǎng)絡(luò),然后才進(jìn)行一次權(quán)值更新 ? 在線訓(xùn)練 ( online training ) : 每種模式只提供一次,每提供一種模式,權(quán)值更新一次 BP算法的訓(xùn)練協(xié)議 ?隨機(jī)反向傳播 BP算法的訓(xùn)練協(xié)議 ?成批反向傳播 累計更新 BP算法的訓(xùn)練協(xié)議 ?在線反向傳播 隱含層的作用 ? 隱含層的作用: 學(xué)習(xí)到一組非線性映射,將樣本映射到線性可分的空間 ? 非線性彎曲能力,本質(zhì)上是一種非線性的特征映射 ? 異或問題的例子: 隱含層的作用 ? 隱含層的非線性彎曲能力 160個回合的非線性映射和誤差的變化 總誤差 各個模式上的誤差 BP算法的優(yōu)缺點(diǎn) ?優(yōu)點(diǎn): ? 理論基礎(chǔ)牢固 ? 推導(dǎo)過程嚴(yán)謹(jǐn) ? 物理概念清晰 ? 通用性好 ? 所以,它是目前用來訓(xùn)練 多層前向網(wǎng)絡(luò)( BP網(wǎng)絡(luò)) 較好的算法。 BP算法的優(yōu)缺點(diǎn) ?缺點(diǎn): ? BP算法只能收斂于 局部最優(yōu)解 ,不能保證收斂于全局最優(yōu)解; ? 當(dāng)隱層元的數(shù)量足夠多時,網(wǎng)絡(luò)對訓(xùn)練樣本的識別率很高,但對測試樣本的識別率有可能很差,即網(wǎng)絡(luò)的 推廣能力 有可能較差。 BP算法的實用技術(shù) ? 輸出函數(shù)(激活函數(shù)) ? 輸入信號尺度變換 ? c類問題的目標(biāo)輸出 ? 帶噪聲的訓(xùn)練法 ? 人工 “ 制造 ” 數(shù)據(jù) ? 隱單元數(shù) ? 權(quán)值初始化 ? 學(xué)習(xí)率 ? 沖量項 ? 權(quán)值衰減 BP算法的實用技術(shù) ?輸出函數(shù)(激活函數(shù))應(yīng)具備的性質(zhì) ? 非線性: 非線性特征映射,否則三層網(wǎng)絡(luò)將等同于兩層網(wǎng)絡(luò)的計算能力 ? 飽和性: 存在最大和最小值,即輸出有上下界 ? 連續(xù)性: 在整個自變量范圍內(nèi)都有定義 ? 光滑性: 在整個自變量范圍內(nèi)一階導(dǎo)數(shù)存在 ? 最好有單調(diào)性: 導(dǎo)數(shù)在自變量范圍內(nèi)不變號,避免引入不必要的局部極值 ? Sigmoid函數(shù)滿足上述性質(zhì),因此被廣泛采用 BP算法的實用技術(shù) ? 輸入信號尺度變換 ? 魚分類的例子: x1 :質(zhì)量 x2:長度 ?x1 = 1500克, x2=,則網(wǎng)絡(luò)權(quán)值的調(diào)整主要由 x1 控制 ? x1
點(diǎn)擊復(fù)制文檔內(nèi)容
教學(xué)課件相關(guān)推薦
文庫吧 www.dybbs8.com
公安備案圖鄂ICP備17016276號-1