【正文】 kis[7]等人收集的時間數(shù)據(jù)序列中 75 個對 ANN和 ARMA 模型進行了比較，結(jié)果顯示 ANN 和 ARMA 性能相當。石山銘和劉豹 [9]研究了神經(jīng)網(wǎng)絡(luò)用于多變量時間序列預(yù)測的原理與方法，提出了組合多種信息的綜合預(yù)測方法，結(jié)果表明神經(jīng)網(wǎng)絡(luò)模型用于多變量時間序列預(yù)測，其精度和趨勢均較傳統(tǒng)統(tǒng)計方法有所提高。1989 年 10 月和 11 月分別在北京和廣州召開了神經(jīng)網(wǎng)絡(luò)及其應(yīng)用討論會和第一屆全國信號處理神經(jīng)網(wǎng)路學術(shù)會議；1990 年 2 月由國內(nèi) 8 個學會，即中國電子學會、人工智能學會、自動化學會、通信學會、物理學會、生物學會、生物物理學會和心理學會聯(lián)合在北京召開“中國神經(jīng)網(wǎng)絡(luò)首屆學術(shù)會議” 。另外，十幾種國際著名的神經(jīng)網(wǎng)絡(luò)學術(shù)刊物相繼問世，如 IEEE Transactions on Neural Networks、IEEE Transactions on Circuit and Systems、Neural Networks 等，至此，神經(jīng)網(wǎng)絡(luò)理論研究在國際學術(shù)領(lǐng)域獲得了其應(yīng)有的地位。 人工神經(jīng)網(wǎng)絡(luò)在經(jīng)濟預(yù)測中的應(yīng)用 [13]人工神經(jīng)網(wǎng)絡(luò)作為仿生學的杰出成果，廣泛運用到了在社會經(jīng)濟等各個領(lǐng)域，它是從微觀結(jié)構(gòu)與功能上對人腦神經(jīng)系統(tǒng)進行模仿、抽象而形成的一類模型。信貸分析，這類問題中，信用評估機構(gòu)要針對不同申請公司各自的特點提出信用評價，判斷失誤的例子經(jīng)常發(fā)生，給信貸機構(gòu)帶來巨大的損失。市場預(yù)測，市場預(yù)測問題可歸結(jié)為影響市場供求關(guān)系的諸多因素的綜合分析，以及對價格變化規(guī)律的掌握。神經(jīng)網(wǎng)絡(luò)市場預(yù)測在股票走勢預(yù)測中也有廣泛的應(yīng)用。神經(jīng)元由細胞及其發(fā)出的許多突起構(gòu)成。1?????fowpii?)(xfP1P2P3wpi?w132 ?)(???f其中： 為神經(jīng)元的的輸入總和，相當于生物神經(jīng)元的膜電位；o 為神經(jīng)元的輸出； 表示第 i 個輸入神經(jīng)元到該神經(jīng)元的連接權(quán)值； 表示第 i 個wi pi輸入神經(jīng)元的輸入分量；θ 為神經(jīng)元的偏差，即閾值；f (x)為激活函數(shù)，表示神經(jīng)元輸入輸出關(guān)系. 人工神經(jīng)網(wǎng)絡(luò)的特性人工神經(jīng)網(wǎng)絡(luò)由大量處理單元互聯(lián)組成的非線性、自適應(yīng)信息處理系統(tǒng)。人工神經(jīng)元處于激活或抑制二種不同的狀態(tài)，這種行為在數(shù)學上表現(xiàn)為一種非線性關(guān)系。通過單元之間的大量連接模擬大腦的非局限性。經(jīng)常采用迭代過程描寫動力系統(tǒng)的演化過程?！　∪斯ど窠?jīng)網(wǎng)絡(luò)中，神經(jīng)元處理單元可表示不同的對象，例如特征、字母、概念，或者一些有意義的抽象模式。人工神經(jīng)網(wǎng)絡(luò)是一種非程序化、適應(yīng)性、大腦風格的信息處理，其本質(zhì)是通過網(wǎng)絡(luò)的變換和動力學行為得到一種并行分布式的信息處理功能，并在不同程度和層次上模仿人腦神經(jīng)系統(tǒng)的信息處理功能。這種能力是通過神經(jīng)元之間的協(xié)同結(jié)構(gòu)及信息處理的集體行為而實現(xiàn)的。要求輸出，即去掉偏差使信號按樣本復(fù)原。假定神經(jīng)網(wǎng)絡(luò)輸入 X 有 m 類樣本，樣本元素為 n，輸入 相應(yīng)與 m 類樣本之一，ykk=0,1,2,….m1，輸入 X 與輸出 Y 之間的關(guān)系如圖 22 所示：圖 22 神 經(jīng) 網(wǎng) 絡(luò) 分 類 器 圖對于 ，則： 。設(shè)置一組隨機數(shù)據(jù)作為起始條件，當系統(tǒng)的狀態(tài)趨于穩(wěn)定時，神經(jīng)網(wǎng)絡(luò)方程的解作為輸出優(yōu)化結(jié)果。 人工神經(jīng)網(wǎng)絡(luò)的基本要素在人工神經(jīng)網(wǎng)絡(luò)設(shè)計及應(yīng)用研究中，通常需要考慮 3 個方面的內(nèi)容，即神經(jīng)元功能函數(shù)、神經(jīng)元之間的連接形式和網(wǎng)絡(luò)的學習（訓練） 。激活函數(shù)是一個神經(jīng)元及網(wǎng)絡(luò)的核心，本作用是：控制輸入對輸出的激活作用；對輸入輸出進行函數(shù)轉(zhuǎn)換；將可能無限域的輸入變換成指定的有限范圍內(nèi)的輸出。經(jīng)過幾十年的興衰，人們已經(jīng)發(fā)展了上百種人。節(jié)點分為兩類，即輸入單元和計算單元。圖 26 分 層 型 神 經(jīng) 網(wǎng) 絡(luò) 的 拓 撲 結(jié) 構(gòu)分層型神經(jīng)網(wǎng)絡(luò)按照將所有神經(jīng)元按功能分為若干層，一般有輸入層、中間層、輸出層，所以又稱為隱層，根據(jù)處理功能的不同，隱層可以有多層，也可以沒有。某一特定的模式可以根據(jù)某一學習規(guī)則，提交修改處理單元之間的連接權(quán)值，存儲到神經(jīng)網(wǎng)絡(luò)模型中，并且通過學習后的神經(jīng)網(wǎng)絡(luò)模型識別新的模式或回憶過去的記憶。顯然，經(jīng)常出現(xiàn)的輸入模式將對權(quán)向量有較大的影響。典型的應(yīng)用如利用 Hebb 規(guī)則訓練線性聯(lián)想器的權(quán)矩陣。, kjXYojTkk ???此時，網(wǎng)絡(luò)的輸出等于其相應(yīng)的目標輸出。第 3 章 BP 神經(jīng)網(wǎng)絡(luò)概述 BP 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) [16]BP（Back Propagation）網(wǎng)絡(luò)是 1986 年由 Rumelhart 和 McCelland 為首的科學家小組提出，是一種按誤差逆?zhèn)鞑ニ惴ㄓ柧毜亩鄬忧梆伨W(wǎng)絡(luò)，是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。其中分別代表來自神經(jīng)元 2…i…n 的輸入：xni?? ,21則分別表示神經(jīng)元 2…i…n 與第 j 個神經(jīng)元的連接強度，wjjijj??即權(quán)值； 為閾值；f()是單調(diào)上升函數(shù)，而且必須是有界函數(shù)，因為細胞傳遞的信號不可能無限增加，必有一最大值。通過這兩個過程的交替進行，在權(quán)向量空間執(zhí)行誤差函數(shù)梯度下降策略，動態(tài)迭代搜索一組權(quán)向量，使網(wǎng)絡(luò)誤差函數(shù)達到最小值，從而完成信息提取和記憶過程。)，則隱層節(jié)點的輸出為（將閾值寫入求和項中）： qixvfznikik ?,1),(01???輸出層節(jié)點的輸出為： mjwfykqkjj ?,21),(02??至此 BP 網(wǎng)絡(luò)就完成了 n 維空間向量對 m 維空間的近似映射。tpj對于 P 個樣本，全局誤差為： ???ppmjjjytE11)(22）輸出層權(quán)值的變化采用累計誤差 BP 算法調(diào)整 ，使全局誤差 E 變小，即wjk ?????????pjkppjkjkjk wE11)()(??式中： —學習率定義誤差信號為： Syjjpjpyj ??????其中第一項： ?????mjpjjmjjp yttEpj112)(]2[)(第二項： )(39。21于是輸出層各神經(jīng)元的權(quán)值調(diào)整公式為： ftkjpmjpjjjk ????)((39。于是： )()((39。21從而得到隱層各神經(jīng)元的權(quán)值調(diào)整公式為： ?? ???pmj ikjkjki Sffytpj1 39。 1） 利用動量法改進 BP 算法標準 BP 算法實質(zhì)上是一種簡單的最速下降靜態(tài)尋優(yōu)方法，在修正 W(K)時，只按照第 K 步的負梯度方向進行修正，而沒有考慮到以前積累的經(jīng)驗，即以前時刻的梯度方向，從而常常使學習過程發(fā)生振蕩，收斂緩慢。 2） 自適應(yīng)調(diào)整學習速率標準 BP 算法收斂速度緩慢的一個重要原因是學習率選擇不當，學習率選得太小，收斂太慢；學習率選得太大，則有可能修正過頭，導(dǎo)致振蕩甚至發(fā)散。將以上兩種方法結(jié)合起來，就得到動量自適應(yīng)學習速率調(diào)整算法。②各輸入量之間互不相關(guān)或相關(guān)很小。2）輸出量選擇與表示①輸出量一般代表系統(tǒng)要實現(xiàn)的功能目標，如分類問題的類別歸屬等。一般說來，訓練樣本數(shù)是網(wǎng)絡(luò)連接權(quán)總數(shù)的 5～10 倍，但許多情況難以達到這樣的要求。若訓練樣本誤差很小，而對測試集的樣本誤差很大，泛化能力差。 BP 網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)設(shè)計1）隱層數(shù)設(shè)計理論證明：具有單隱層的前饋網(wǎng)絡(luò)可以映射所有連續(xù)函數(shù)，只有當學習不連續(xù)函數(shù)時才需要兩個隱層，故一般情況下隱層最多需要兩層。一般方法是湊試法：①先由經(jīng)驗公式確定 或 ，m 為隱層節(jié)點數(shù)，n 為輸???LnmL?入節(jié)點，L 為輸出節(jié)點， 為調(diào)節(jié)常數(shù)，在 1～10 之間。因此，做到積極有效果的宏觀經(jīng)濟預(yù)測，甚至預(yù)測某一宏觀經(jīng)濟指針，試圖用一個模型來描述其變化規(guī)律，或用一種算法計算出較好的預(yù)測值，都是十分困難。 xn?21,研究表明影響 GDP 預(yù)測指標的主要有以下 7 個指標：國家 GDP（ ，單位：1億元）、社會消費品零售總額（ ，單位：億元）、固定資產(chǎn)投資（ ，單2 x3位：億元）、實際利用外資（ ，單位：萬美元）、財政支出（ ，單位：x4 5萬元）、財政收入（ ，單位：萬元）和外貿(mào)出口總額（ ，單位：億美元）6 7則根據(jù)四川省統(tǒng)計局數(shù)據(jù)來源有下表：表 41 四川省 GDP 預(yù)測原始數(shù)據(jù)（19972022）年份 GDP x1 x2 x3 x4 x5 x6 x71997 78973 87680 2750975 1728966 1998 106477 3209282 1972882 1999 106949 3634981 2114756 2022 95629 4520221 2338630 2022 110041 5940981 2711245 2022 106620 7016201 2918746 2022 92528 7322993 3365917 2022 100075 8952534 3857848 2022 110206 10321769 4796635 2022 147428 13473951 6075850 2022 202269 17591304 8508606 對這七個指標進行預(yù)處理作為神經(jīng)網(wǎng)絡(luò)的輸入變量 數(shù)據(jù)的預(yù)處理 數(shù)據(jù)預(yù)處理方法 [18]神經(jīng)網(wǎng)絡(luò)由輸入樣本與連到第一隱層的初始權(quán)值進行內(nèi)積運算得到第一隱層神經(jīng)元的總輸入，經(jīng)非線性激勵函數(shù)的作用后得到輸出，此輸出再作為下一層的輸入，依次計算直至輸出層得到網(wǎng)絡(luò)的輸出。因此，在進行神經(jīng)網(wǎng)絡(luò)預(yù)測之前，為避免原始數(shù)據(jù)過大造成網(wǎng)絡(luò)麻痹，要對原始數(shù)據(jù)進行歸一化處理，對于預(yù)測值，由于變化幅度較大，也不宜直接作為神經(jīng)網(wǎng)絡(luò)的輸出。另外，微)/1(RjwLjRz??波之中也就是電路分析、信號系統(tǒng)、電磁波傳輸?shù)?，有很多運算都可以如此處理，既保證了運算的便捷，又能凸現(xiàn)出物理量的本質(zhì)含義。3. 關(guān)于神經(jīng)網(wǎng)絡(luò)（matlab）的歸一化由于采集的各數(shù)據(jù)單位不一致，因而須對數(shù)據(jù)進行[1，1]歸一化處理，歸一化方法主要有如下幾種：1） 線性函數(shù)轉(zhuǎn)換，表達式如： )/()( MinValueaxleMinVluexy???說明：x、y 分別為轉(zhuǎn)換前、后的值，MaxValue、MinValue 分別為樣本的最大值和最小值。premnmx 函數(shù)用于將網(wǎng)絡(luò)的輸入數(shù)據(jù)或輸出數(shù)據(jù)進行歸一化，歸一化后的數(shù)據(jù)將分布在[1,1]區(qū)間內(nèi)。本文采用 作為激勵函數(shù)，該函數(shù)特點是值域為(一 1，l)1)exp(12)(???vvf?對樣本數(shù)據(jù)進行如下歸一化處理公式為: ()minax??y其中，max 和 min 分別為樣本數(shù)據(jù)中的最大值和最小值，為原始樣本數(shù)據(jù)，y 為變換后的數(shù)值。 minai????[，]之間，從而也可以大大加快網(wǎng)絡(luò)的學習速度，數(shù)據(jù)間的聯(lián)系進一步減少.進一步歸一化的數(shù)據(jù)如下表：表 43 進一步歸一化結(jié)果 神經(jīng)網(wǎng)絡(luò)預(yù)測方法設(shè)計 [19]GDP 神經(jīng)網(wǎng)絡(luò)模型屬于數(shù)據(jù)驅(qū)動的方法，就是利用神經(jīng)網(wǎng)絡(luò)的非線性特性去逼近一個時間序列或一個時間序列的變形，通過神經(jīng)網(wǎng)絡(luò)清晰的邏輯關(guān)系，列預(yù)測和多變量時間序列預(yù)測。nn,21??(3) ，然后將輸出反饋給輸入端作為網(wǎng)絡(luò)輸入的一部分，預(yù)測未來 k 時刻的值. 四川省 GDP 預(yù)測模型本文選用 軟件 [20]的神經(jīng)網(wǎng)絡(luò)工具箱進行建模。newff 函數(shù)的常用格式為: )},{],[( 121 BTFTPRnewft Snn???其中，PR 為 Rx2 維矩陣，表示 R 維輸入矢量中每維輸入的最小值和最大值之間的范圍。newff 在生成 BP 網(wǎng)絡(luò)的同時即對網(wǎng)絡(luò)的各層的權(quán)值和閥值自動進行了初始化，根據(jù)不同的需要，一般采用其默認的初始值即可。train 函數(shù)的常用格式如下:[,tr]=train(,P,T)其中，P 為輸入樣本矢量集。（3）網(wǎng)絡(luò)層數(shù)的確定:BP 網(wǎng)絡(luò)可以包含不同的隱層，但理論上已經(jīng)證明，在不限制隱層節(jié)點數(shù)的情況下，兩層(只有一個隱層)的 BP 網(wǎng)絡(luò)可以實現(xiàn)任意非線性映射。tansig39。traingdx39。=。學習效果圖如下： 圖 41 隱層為 10 的學習效果圖我們設(shè)定的網(wǎng)絡(luò)隱層為 10，學習誤差為 ，網(wǎng)絡(luò)在學習訓練了 6 次后達到指定的精度。 神經(jīng)網(wǎng)絡(luò)預(yù)測與傳統(tǒng)預(yù)測方法的比較 多元線性回歸模型 [21] 假定被解釋變量 Y 與多個解釋變量 之間具有線性關(guān)系，是解Xk,21?釋變量的多元線性函數(shù)，稱為多元線性回歸模型。比較結(jié)果如表 44 所示：2022 年原始 GDP 輸出 GDP 誤差BP 算法 回歸分析 表 44 兩種方法結(jié)果比較結(jié) 論本文介紹了神經(jīng)網(wǎng)絡(luò)的當前研究現(xiàn)狀，分析了四川省近 10 年來的經(jīng)濟狀況以及對傳統(tǒng)的經(jīng)濟預(yù)測方法進行