【正文】 之后 ， 這些變量會自動在 MATLAB的工作空間中清除掉 。 腳本 M文件 在命令窗口中輸入并執(zhí)行，它所用的變量都要在工作空間中獲取，不需要輸入輸出參數(shù)的調(diào)用，退出 MATLAB后就釋放了。 ? 程序運行時只需在工作空間中鍵入其名稱即可 。 程序 M文件 ? 以 .m格式進行存取 ， 包含一連串的 MATLAB指令和必要的注解 。 ?While循環(huán)和 for循環(huán)的區(qū)別在于， while循環(huán)結構的循環(huán)體被執(zhí)行的次數(shù)不是確定的，而 for結構中循環(huán)體的執(zhí)行次數(shù)是確定的。循環(huán)結構可以嵌套使用。 ? Matlab也允許用戶編寫自己所需的函數(shù) ，其擴展名為 .m， 其中必須以關鍵字 function開頭 . 流程控制 ?循環(huán)語句 for, while ?條件轉移 if end, if elseif else end ?開關語句 switch case ?注是語句 % ?中斷語句 break ?暫停語句 pause ?回顯語句 echo on/off for循環(huán)語句 基本格式 for 循環(huán)變量＝起始值：步長：終止值 循環(huán)體 end 步長缺省值為 1，可以在正實數(shù)或負實數(shù)范圍內(nèi)任意指定。 注 2：多個語句可在同一行 ， 用逗號分開 。5 6 7 8。 當出現(xiàn)被零除時 ， Matlab就返回 inf，并不中斷執(zhí)行而繼續(xù)計算 ? NaN 定義為 “ Not a Number”， 這個非數(shù)值要么是 ％類型 ， 要么是 inf/inf 向量的創(chuàng)建 ? 在 matlab的命令窗口鍵入以下字符 ? a = [1 2 3 4 5 6 9 8 7] ? a = ? 1 2 3 4 5 6 9 8 7 ? 希望得到元素從 0到 20， 步距為 2的一個向量 ，只需鍵入以下命令即可 ? t = [0:2:20] ? t = ? 2 4 6 8 10 12 14 16 18 20 矩陣的創(chuàng)建 輸入矩陣時每一行元素有分號或者回車鍵分隔 。 程序 ?M文件與 m函數(shù) ?圖形顯示 ?流程控制 其它輸出 ?函數(shù) ?語句 變量 ?各種運算符 MATLAB的程序構成： 常變量及其命名規(guī)則 ?變量名可以有數(shù)字 、 字母 、 下劃線構成； ?變量的首字符必須是字母； ?區(qū)分變量名的大小寫 ?每個變量名最長只能包含 19個字符 。 ?double 是一個雙精度浮點數(shù) ， 每個存儲的雙精度數(shù)用 64位 。 MATLAB的構成 開發(fā)環(huán)境 包括：命令窗口、圖形窗口、編輯窗口、幫助窗口 The MATLAB Language MATLAB 語言的特點 ?Matlab的基本數(shù)據(jù)單元是不需指定維數(shù)的矩陣 。 MATLAB廣泛應用于： ? 數(shù)值計算 、 圖形處理 、 符號運算 、 數(shù)學建模 、 系統(tǒng)辨識 、 小波分析 、 實時控制 、 動態(tài)仿真等領域 。 最初采用FORTRAN語言編寫 ， 20世紀 80年代后出現(xiàn)了 MATLAB的第二版 ， 全部采用 C語言編寫 . ? 1984年 Moler博士和一批數(shù)學家及軟件專家創(chuàng)建了MathWorks公司 ， 專門開發(fā) MATLAB。 ?有大量事先定義的數(shù)學函數(shù)，并且有很強的用戶自定義函數(shù) 的能力； ?有強大的繪圖功能，可方便地輸出復雜的二維、三維圖圖形； ?能與其它語言編寫的程序結合，具有輸入輸出格式化數(shù)據(jù)的能力； ?有在多個應用領域解決難題的工具箱； ?Simulink是一個基于圖形界面的動態(tài)系統(tǒng)建模與仿真工具； ?具有符號運算能力。 均 方 誤差 測試數(shù)據(jù) 訓練數(shù)據(jù) 訓練次數(shù)三、網(wǎng)絡訓練與測試 三、網(wǎng)絡訓練與測試 MATLAB是一個功能十分強大的工程計算及數(shù)值分析軟件 ?在 20世紀 70年代末期 ， 線性代數(shù)領域頗有名望的 Cleve Moler博士利用 Fortran語言 、 基于特征值計算的軟件包EISPACK和線性代數(shù)軟件包 LINPACK， 開發(fā)了集命令 、解釋 、 科學計算于一身的交互式軟件 MATLAB. ? 1983年 ， 工程師 John Little接觸到 Matlab并深受其影響 ，于是與 Cleve Moler、 Stev Bangert合作用 C開發(fā)了第二代Matlab專業(yè)版 ， 增加了數(shù)據(jù)可視化功能 。 二、輸入輸出數(shù)據(jù)的歸一化 三、網(wǎng)絡訓練與測試 網(wǎng)絡的性能好壞主要看其是否具有很好的泛化能力，對泛化能力的測試不能用訓練集的數(shù)據(jù)進行，而要用訓練集以外的測試數(shù)據(jù)來進行檢驗。 二、輸入輸出數(shù)據(jù)的歸一化 歸一化的方法： 將輸入輸出數(shù)據(jù)變換為 [0， 1]區(qū)間的值常用以下變換式 m inm a xm inxxxxx ii ???其中， xI代表輸入或輸出數(shù)據(jù)， xmin代表數(shù)據(jù)變化的最小值， xman代表數(shù)據(jù)的最大值。 進行歸一化的主要原因： 歸一化的方法： 進行歸一化的主要原因： ? ① 網(wǎng)絡的各個輸入數(shù)據(jù)常常具有不同的 物理意義和不同的量綱 ， 歸一化給各輸入分量以同等重要的地位； ? ② BP網(wǎng)的神經(jīng)元均采用 Sigmoid轉移函數(shù) ， 變換后可防止因凈輸入的絕對值過大而使神經(jīng)元輸出 飽和 ， 繼而使權值調(diào)整進入誤差曲面的平坦區(qū)； ? ③ Sigmoid轉移函數(shù)的輸出在 0~1或 1~1之間 。數(shù)值的選擇要注意保持由小到大的漸進關系，并要根據(jù)實際意義拉開距離。例如，用 000、 00 010和 100也可表示優(yōu)、良、中、差 4個類別。例如，用 000 00 0100 和 1000可分別表示優(yōu)、良、中、差 4個類別。 (4)圖象輸入 ? 在這類應用中 ， 一般先根據(jù)識別的具體目的從圖象中提取一些有用的特征參數(shù) ， 再根據(jù)這些參數(shù)對輸入的貢獻進行篩選 ， 這種特征提取屬于圖象處理的范疇 。 ? 當選用語言變量作為網(wǎng)絡的輸入或輸出變量時 ， 需將其語言值轉換為離散的數(shù)值量 。 ? 數(shù)值變量 的值是數(shù)值確定的連續(xù)量或離散量 。 ? 應用結果表明該方法對于提高BP算法的收斂速度十分有效 。 ?/11n e teo ???改進 3： 引入陡度因子 作用分析： ? λ1 ： 坐標壓縮了 λ倍 ， 神經(jīng)元的轉移函數(shù)曲線的敏感區(qū)段變長 ， 從而可使絕對值較大的退出飽和值 。 ? 基本思想： ? 如果在調(diào)整進入平坦區(qū)后 ， 設法壓縮神經(jīng)元的凈輸入 ，使其輸出退出轉移函數(shù)的不飽和區(qū) ， 就可以改變誤差函數(shù)的形狀 ， 從而使調(diào)整脫離平坦區(qū) 。 改進 3： 引入陡度因子 ? 提出的原因： ? 誤差曲面上存在著平坦區(qū)域 。 改進 2：自適應調(diào)節(jié)學習率 ? 基本思想： ? 自適應改變學習率 ， 使其根據(jù)環(huán)境變化增大或減小 。 改進 1 ：增加動量項 改進 2：自適應調(diào)節(jié)學習率 ?提出的原因： ? 標準 BP算法中 ， 學習率 η也稱為步長 ， 確定一個從始至終都合適的最佳學習率很難 。 ? 方法： )1(δ)( ????? tt WXW ??α 為動量系數(shù)，一般有 α ∈ (0， 1) ?實質(zhì)： ? 從前一次權值調(diào)整量中取出一部分迭加到本次權值調(diào)整量中 ?作用： ? 動量項反映了以前積累的調(diào)整經(jīng)驗 ， 對于 t時刻的調(diào)整起阻尼作用 。 針對上述問題 ， 國內(nèi)外已提出不少有效的改進算法 ， 下面僅介紹其中 3種較常用的方法 。 標準 BP算法的改進－－引言 ? 誤差曲面的形狀－－固有的 ? 算法的作用是什么 ？ ? 調(diào)整權值 ， 找到最優(yōu)點 ? 那么如何更好地調(diào)整權值 ？ ? 利用算法使得權值在更新的過程中 ， ‘ 走 ’ 合適的路徑 ，比如跳出平坦區(qū)來提高收斂速度 ， 跳出局部最小點等等 ? 如何操作 ？ ? 需要在進入平坦區(qū)或局部最小點時進行一些判斷 ， 通過改變某些參數(shù)來使得權值的調(diào)整更為合理 。 誤差曲面的分布－－ BP算法的局限性 ? 曲面的分布特點 算法的局限性 ? (1)存在平坦區(qū)域 誤差下降緩慢 ， 影響收斂速度 ? (2)存在多個極小點 易陷入局部最小點 曲面分布特點 1：存在平坦區(qū)域 ? 平坦－－誤差的梯度變化?。? 接近于零 ok?jokikywE ?????存在平坦區(qū)域的原因分析 ? 接近于零的情況分析 ? 造成平坦區(qū)的原因： 各節(jié)點的凈輸入過大 f ( x ) 1 . 0 0 . 5x0)1()( kkkkok oood ????30???mjjjk ywok?對應著誤差的某個谷點 平坦區(qū) 曲面分布特點 2：存在多個極小點