【正文】 kis[7]等人收集的時(shí)間數(shù)據(jù)序列中 75 個(gè)對(duì) ANN和 ARMA 模型進(jìn)行了比較，結(jié)果顯示 ANN 和 ARMA 性能相當(dāng)。石山銘和劉豹 [9]研究了神經(jīng)網(wǎng)絡(luò)用于多變量時(shí)間序列預(yù)測(cè)的原理與方法，提出了組合多種信息的綜合預(yù)測(cè)方法，結(jié)果表明神經(jīng)網(wǎng)絡(luò)模型用于多變量時(shí)間序列預(yù)測(cè)，其精度和趨勢(shì)均較傳統(tǒng)統(tǒng)計(jì)方法有所提高。1989 年 10 月和 11 月分別在北京和廣州召開了神經(jīng)網(wǎng)絡(luò)及其應(yīng)用討論會(huì)和第一屆全國信號(hào)處理神經(jīng)網(wǎng)路學(xué)術(shù)會(huì)議；1990 年 2 月由國內(nèi) 8 個(gè)學(xué)會(huì)，即中國電子學(xué)會(huì)、人工智能學(xué)會(huì)、自動(dòng)化學(xué)會(huì)、通信學(xué)會(huì)、物理學(xué)會(huì)、生物學(xué)會(huì)、生物物理學(xué)會(huì)和心理學(xué)會(huì)聯(lián)合在北京召開“中國神經(jīng)網(wǎng)絡(luò)首屆學(xué)術(shù)會(huì)議” 。另外，十幾種國際著名的神經(jīng)網(wǎng)絡(luò)學(xué)術(shù)刊物相繼問世，如 IEEE Transactions on Neural Networks、IEEE Transactions on Circuit and Systems、Neural Networks 等，至此，神經(jīng)網(wǎng)絡(luò)理論研究在國際學(xué)術(shù)領(lǐng)域獲得了其應(yīng)有的地位。 人工神經(jīng)網(wǎng)絡(luò)在經(jīng)濟(jì)預(yù)測(cè)中的應(yīng)用 [13]人工神經(jīng)網(wǎng)絡(luò)作為仿生學(xué)的杰出成果，廣泛運(yùn)用到了在社會(huì)經(jīng)濟(jì)等各個(gè)領(lǐng)域，它是從微觀結(jié)構(gòu)與功能上對(duì)人腦神經(jīng)系統(tǒng)進(jìn)行模仿、抽象而形成的一類模型。信貸分析，這類問題中，信用評(píng)估機(jī)構(gòu)要針對(duì)不同申請(qǐng)公司各自的特點(diǎn)提出信用評(píng)價(jià)，判斷失誤的例子經(jīng)常發(fā)生，給信貸機(jī)構(gòu)帶來巨大的損失。市場(chǎng)預(yù)測(cè)，市場(chǎng)預(yù)測(cè)問題可歸結(jié)為影響市場(chǎng)供求關(guān)系的諸多因素的綜合分析，以及對(duì)價(jià)格變化規(guī)律的掌握。神經(jīng)網(wǎng)絡(luò)市場(chǎng)預(yù)測(cè)在股票走勢(shì)預(yù)測(cè)中也有廣泛的應(yīng)用。神經(jīng)元由細(xì)胞及其發(fā)出的許多突起構(gòu)成。1?????fowpii?)(xfP1P2P3wpi?w132 ?)(???f其中： 為神經(jīng)元的的輸入總和，相當(dāng)于生物神經(jīng)元的膜電位；o 為神經(jīng)元的輸出； 表示第 i 個(gè)輸入神經(jīng)元到該神經(jīng)元的連接權(quán)值； 表示第 i 個(gè)wi pi輸入神經(jīng)元的輸入分量；θ 為神經(jīng)元的偏差，即閾值；f (x)為激活函數(shù)，表示神經(jīng)元輸入輸出關(guān)系. 人工神經(jīng)網(wǎng)絡(luò)的特性人工神經(jīng)網(wǎng)絡(luò)由大量處理單元互聯(lián)組成的非線性、自適應(yīng)信息處理系統(tǒng)。人工神經(jīng)元處于激活或抑制二種不同的狀態(tài)，這種行為在數(shù)學(xué)上表現(xiàn)為一種非線性關(guān)系。通過單元之間的大量連接模擬大腦的非局限性。經(jīng)常采用迭代過程描寫動(dòng)力系統(tǒng)的演化過程?！　∪斯ど窠?jīng)網(wǎng)絡(luò)中，神經(jīng)元處理單元可表示不同的對(duì)象，例如特征、字母、概念，或者一些有意義的抽象模式。人工神經(jīng)網(wǎng)絡(luò)是一種非程序化、適應(yīng)性、大腦風(fēng)格的信息處理，其本質(zhì)是通過網(wǎng)絡(luò)的變換和動(dòng)力學(xué)行為得到一種并行分布式的信息處理功能，并在不同程度和層次上模仿人腦神經(jīng)系統(tǒng)的信息處理功能。這種能力是通過神經(jīng)元之間的協(xié)同結(jié)構(gòu)及信息處理的集體行為而實(shí)現(xiàn)的。要求輸出，即去掉偏差使信號(hào)按樣本復(fù)原。假定神經(jīng)網(wǎng)絡(luò)輸入 X 有 m 類樣本，樣本元素為 n，輸入 相應(yīng)與 m 類樣本之一，ykk=0,1,2,….m1，輸入 X 與輸出 Y 之間的關(guān)系如圖 22 所示：圖 22 神 經(jīng) 網(wǎng) 絡(luò) 分 類 器 圖對(duì)于 ，則： 。設(shè)置一組隨機(jī)數(shù)據(jù)作為起始條件，當(dāng)系統(tǒng)的狀態(tài)趨于穩(wěn)定時(shí)，神經(jīng)網(wǎng)絡(luò)方程的解作為輸出優(yōu)化結(jié)果。 人工神經(jīng)網(wǎng)絡(luò)的基本要素在人工神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)及應(yīng)用研究中，通常需要考慮 3 個(gè)方面的內(nèi)容，即神經(jīng)元功能函數(shù)、神經(jīng)元之間的連接形式和網(wǎng)絡(luò)的學(xué)習(xí)（訓(xùn)練） 。激活函數(shù)是一個(gè)神經(jīng)元及網(wǎng)絡(luò)的核心，本作用是：控制輸入對(duì)輸出的激活作用；對(duì)輸入輸出進(jìn)行函數(shù)轉(zhuǎn)換；將可能無限域的輸入變換成指定的有限范圍內(nèi)的輸出。經(jīng)過幾十年的興衰，人們已經(jīng)發(fā)展了上百種人。節(jié)點(diǎn)分為兩類，即輸入單元和計(jì)算單元。圖 26 分 層 型 神 經(jīng) 網(wǎng) 絡(luò) 的 拓 撲 結(jié) 構(gòu)分層型神經(jīng)網(wǎng)絡(luò)按照將所有神經(jīng)元按功能分為若干層，一般有輸入層、中間層、輸出層，所以又稱為隱層，根據(jù)處理功能的不同，隱層可以有多層，也可以沒有。某一特定的模式可以根據(jù)某一學(xué)習(xí)規(guī)則，提交修改處理單元之間的連接權(quán)值，存儲(chǔ)到神經(jīng)網(wǎng)絡(luò)模型中，并且通過學(xué)習(xí)后的神經(jīng)網(wǎng)絡(luò)模型識(shí)別新的模式或回憶過去的記憶。顯然，經(jīng)常出現(xiàn)的輸入模式將對(duì)權(quán)向量有較大的影響。典型的應(yīng)用如利用 Hebb 規(guī)則訓(xùn)練線性聯(lián)想器的權(quán)矩陣。, kjXYojTkk ???此時(shí)，網(wǎng)絡(luò)的輸出等于其相應(yīng)的目標(biāo)輸出。第 3 章 BP 神經(jīng)網(wǎng)絡(luò)概述 BP 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) [16]BP（Back Propagation）網(wǎng)絡(luò)是 1986 年由 Rumelhart 和 McCelland 為首的科學(xué)家小組提出，是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò)，是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。其中分別代表來自神經(jīng)元 2…i…n 的輸入：xni?? ,21則分別表示神經(jīng)元 2…i…n 與第 j 個(gè)神經(jīng)元的連接強(qiáng)度，wjjijj??即權(quán)值； 為閾值；f()是單調(diào)上升函數(shù)，而且必須是有界函數(shù)，因?yàn)榧?xì)胞傳遞的信號(hào)不可能無限增加，必有一最大值。通過這兩個(gè)過程的交替進(jìn)行，在權(quán)向量空間執(zhí)行誤差函數(shù)梯度下降策略，動(dòng)態(tài)迭代搜索一組權(quán)向量，使網(wǎng)絡(luò)誤差函數(shù)達(dá)到最小值，從而完成信息提取和記憶過程。)，則隱層節(jié)點(diǎn)的輸出為（將閾值寫入求和項(xiàng)中）： qixvfznikik ?,1),(01???輸出層節(jié)點(diǎn)的輸出為： mjwfykqkjj ?,21),(02??至此 BP 網(wǎng)絡(luò)就完成了 n 維空間向量對(duì) m 維空間的近似映射。tpj對(duì)于 P 個(gè)樣本，全局誤差為： ???ppmjjjytE11)(22）輸出層權(quán)值的變化采用累計(jì)誤差 BP 算法調(diào)整 ，使全局誤差 E 變小，即wjk ?????????pjkppjkjkjk wE11)()(??式中： —學(xué)習(xí)率定義誤差信號(hào)為： Syjjpjpyj ??????其中第一項(xiàng)： ?????mjpjjmjjp yttEpj112)(]2[)(第二項(xiàng)： )(39。21于是輸出層各神經(jīng)元的權(quán)值調(diào)整公式為： ftkjpmjpjjjk ????)((39。于是： )()((39。21從而得到隱層各神經(jīng)元的權(quán)值調(diào)整公式為： ?? ???pmj ikjkjki Sffytpj1 39。 1） 利用動(dòng)量法改進(jìn) BP 算法標(biāo)準(zhǔn) BP 算法實(shí)質(zhì)上是一種簡單的最速下降靜態(tài)尋優(yōu)方法，在修正 W(K)時(shí)，只按照第 K 步的負(fù)梯度方向進(jìn)行修正，而沒有考慮到以前積累的經(jīng)驗(yàn)，即以前時(shí)刻的梯度方向，從而常常使學(xué)習(xí)過程發(fā)生振蕩，收斂緩慢。 2） 自適應(yīng)調(diào)整學(xué)習(xí)速率標(biāo)準(zhǔn) BP 算法收斂速度緩慢的一個(gè)重要原因是學(xué)習(xí)率選擇不當(dāng)，學(xué)習(xí)率選得太小，收斂太慢；學(xué)習(xí)率選得太大，則有可能修正過頭，導(dǎo)致振蕩甚至發(fā)散。將以上兩種方法結(jié)合起來，就得到動(dòng)量自適應(yīng)學(xué)習(xí)速率調(diào)整算法。②各輸入量之間互不相關(guān)或相關(guān)很小。2）輸出量選擇與表示①輸出量一般代表系統(tǒng)要實(shí)現(xiàn)的功能目標(biāo)，如分類問題的類別歸屬等。一般說來，訓(xùn)練樣本數(shù)是網(wǎng)絡(luò)連接權(quán)總數(shù)的 5～10 倍，但許多情況難以達(dá)到這樣的要求。若訓(xùn)練樣本誤差很小，而對(duì)測(cè)試集的樣本誤差很大，泛化能力差。 BP 網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)設(shè)計(jì)1）隱層數(shù)設(shè)計(jì)理論證明：具有單隱層的前饋網(wǎng)絡(luò)可以映射所有連續(xù)函數(shù)，只有當(dāng)學(xué)習(xí)不連續(xù)函數(shù)時(shí)才需要兩個(gè)隱層，故一般情況下隱層最多需要兩層。一般方法是湊試法：①先由經(jīng)驗(yàn)公式確定 或 ，m 為隱層節(jié)點(diǎn)數(shù)，n 為輸???LnmL?入節(jié)點(diǎn)，L 為輸出節(jié)點(diǎn)， 為調(diào)節(jié)常數(shù)，在 1～10 之間。因此，做到積極有效果的宏觀經(jīng)濟(jì)預(yù)測(cè)，甚至預(yù)測(cè)某一宏觀經(jīng)濟(jì)指針，試圖用一個(gè)模型來描述其變化規(guī)律，或用一種算法計(jì)算出較好的預(yù)測(cè)值，都是十分困難。 xn?21,研究表明影響 GDP 預(yù)測(cè)指標(biāo)的主要有以下 7 個(gè)指標(biāo)：國家 GDP（ ，單位：1億元）、社會(huì)消費(fèi)品零售總額（ ，單位：億元）、固定資產(chǎn)投資（ ，單2 x3位：億元）、實(shí)際利用外資（ ，單位：萬美元）、財(cái)政支出（ ，單位：x4 5萬元）、財(cái)政收入（ ，單位：萬元）和外貿(mào)出口總額（ ，單位：億美元）6 7則根據(jù)四川省統(tǒng)計(jì)局?jǐn)?shù)據(jù)來源有下表：表 41 四川省 GDP 預(yù)測(cè)原始數(shù)據(jù)（19972022）年份 GDP x1 x2 x3 x4 x5 x6 x71997 78973 87680 2750975 1728966 1998 106477 3209282 1972882 1999 106949 3634981 2114756 2022 95629 4520221 2338630 2022 110041 5940981 2711245 2022 106620 7016201 2918746 2022 92528 7322993 3365917 2022 100075 8952534 3857848 2022 110206 10321769 4796635 2022 147428 13473951 6075850 2022 202269 17591304 8508606 對(duì)這七個(gè)指標(biāo)進(jìn)行預(yù)處理作為神經(jīng)網(wǎng)絡(luò)的輸入變量 數(shù)據(jù)的預(yù)處理 數(shù)據(jù)預(yù)處理方法 [18]神經(jīng)網(wǎng)絡(luò)由輸入樣本與連到第一隱層的初始權(quán)值進(jìn)行內(nèi)積運(yùn)算得到第一隱層神經(jīng)元的總輸入，經(jīng)非線性激勵(lì)函數(shù)的作用后得到輸出，此輸出再作為下一層的輸入，依次計(jì)算直至輸出層得到網(wǎng)絡(luò)的輸出。因此，在進(jìn)行神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)之前，為避免原始數(shù)據(jù)過大造成網(wǎng)絡(luò)麻痹，要對(duì)原始數(shù)據(jù)進(jìn)行歸一化處理，對(duì)于預(yù)測(cè)值，由于變化幅度較大，也不宜直接作為神經(jīng)網(wǎng)絡(luò)的輸出。另外，微)/1(RjwLjRz??波之中也就是電路分析、信號(hào)系統(tǒng)、電磁波傳輸?shù)?，有很多運(yùn)算都可以如此處理，既保證了運(yùn)算的便捷，又能凸現(xiàn)出物理量的本質(zhì)含義。3. 關(guān)于神經(jīng)網(wǎng)絡(luò)（matlab）的歸一化由于采集的各數(shù)據(jù)單位不一致，因而須對(duì)數(shù)據(jù)進(jìn)行[1，1]歸一化處理，歸一化方法主要有如下幾種：1） 線性函數(shù)轉(zhuǎn)換，表達(dá)式如： )/()( MinValueaxleMinVluexy???說明：x、y 分別為轉(zhuǎn)換前、后的值，MaxValue、MinValue 分別為樣本的最大值和最小值。premnmx 函數(shù)用于將網(wǎng)絡(luò)的輸入數(shù)據(jù)或輸出數(shù)據(jù)進(jìn)行歸一化，歸一化后的數(shù)據(jù)將分布在[1,1]區(qū)間內(nèi)。本文采用 作為激勵(lì)函數(shù)，該函數(shù)特點(diǎn)是值域?yàn)?一 1，l)1)exp(12)(???vvf?對(duì)樣本數(shù)據(jù)進(jìn)行如下歸一化處理公式為: ()minax??y其中，max 和 min 分別為樣本數(shù)據(jù)中的最大值和最小值，為原始樣本數(shù)據(jù)，y 為變換后的數(shù)值。 minai????[，]之間，從而也可以大大加快網(wǎng)絡(luò)的學(xué)習(xí)速度，數(shù)據(jù)間的聯(lián)系進(jìn)一步減少.進(jìn)一步歸一化的數(shù)據(jù)如下表：表 43 進(jìn)一步歸一化結(jié)果 神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法設(shè)計(jì) [19]GDP 神經(jīng)網(wǎng)絡(luò)模型屬于數(shù)據(jù)驅(qū)動(dòng)的方法，就是利用神經(jīng)網(wǎng)絡(luò)的非線性特性去逼近一個(gè)時(shí)間序列或一個(gè)時(shí)間序列的變形，通過神經(jīng)網(wǎng)絡(luò)清晰的邏輯關(guān)系，列預(yù)測(cè)和多變量時(shí)間序列預(yù)測(cè)。nn,21??(3) ，然后將輸出反饋給輸入端作為網(wǎng)絡(luò)輸入的一部分，預(yù)測(cè)未來 k 時(shí)刻的值. 四川省 GDP 預(yù)測(cè)模型本文選用 軟件 [20]的神經(jīng)網(wǎng)絡(luò)工具箱進(jìn)行建模。newff 函數(shù)的常用格式為: )},{],[( 121 BTFTPRnewft Snn???其中，PR 為 Rx2 維矩陣，表示 R 維輸入矢量中每維輸入的最小值和最大值之間的范圍。newff 在生成 BP 網(wǎng)絡(luò)的同時(shí)即對(duì)網(wǎng)絡(luò)的各層的權(quán)值和閥值自動(dòng)進(jìn)行了初始化，根據(jù)不同的需要，一般采用其默認(rèn)的初始值即可。train 函數(shù)的常用格式如下:[,tr]=train(,P,T)其中，P 為輸入樣本矢量集。（3）網(wǎng)絡(luò)層數(shù)的確定:BP 網(wǎng)絡(luò)可以包含不同的隱層，但理論上已經(jīng)證明，在不限制隱層節(jié)點(diǎn)數(shù)的情況下，兩層(只有一個(gè)隱層)的 BP 網(wǎng)絡(luò)可以實(shí)現(xiàn)任意非線性映射。tansig39。traingdx39。=。學(xué)習(xí)效果圖如下： 圖 41 隱層為 10 的學(xué)習(xí)效果圖我們?cè)O(shè)定的網(wǎng)絡(luò)隱層為 10，學(xué)習(xí)誤差為 ，網(wǎng)絡(luò)在學(xué)習(xí)訓(xùn)練了 6 次后達(dá)到指定的精度。 神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)與傳統(tǒng)預(yù)測(cè)方法的比較 多元線性回歸模型 [21] 假定被解釋變量 Y 與多個(gè)解釋變量 之間具有線性關(guān)系，是解Xk,21?釋變量的多元線性函數(shù)，稱為多元線性回歸模型。比較結(jié)果如表 44 所示：2022 年原始 GDP 輸出 GDP 誤差BP 算法 回歸分析 表 44 兩種方法結(jié)果比較結(jié) 論本文介紹了神經(jīng)網(wǎng)絡(luò)的當(dāng)前研究現(xiàn)狀，分析了四川省近 10 年來的經(jīng)濟(jì)狀況以及對(duì)傳統(tǒng)的經(jīng)濟(jì)預(yù)測(cè)方法進(jìn)行