【導(dǎo)讀】forecasting.temperature,humidity,windspeed,etc.),non-lineartechniques,bothformodeling

　　

【正文】 氣候條件影響程度大于工業(yè)負(fù)荷較多的區(qū)域。但是，工業(yè)區(qū)域?qū)τ诮?jīng)濟(jì)因素較為敏感，如假期。 如下一個例子，圖 表示了午夜開始的一天中負(fù)荷的變化。 圖 一天中負(fù)荷變化的示例 混合神經(jīng)網(wǎng)絡(luò) 我們所研究的負(fù)荷預(yù)測系統(tǒng)由兩類網(wǎng)絡(luò)組成： ARMA 模型的線性神經(jīng)網(wǎng)絡(luò)和前饋非線性神經(jīng)網(wǎng)絡(luò)。非線性神經(jīng)網(wǎng)絡(luò)常用來捕獲負(fù)荷與各種輸入?yún)?shù)間的高度非線性關(guān)系。我們常用線性神經(jīng)網(wǎng)絡(luò)來建立 ARMA 模型，這種基于 ARMA 模型的神經(jīng)網(wǎng)絡(luò)主要用來捕獲負(fù)荷在很短時間期限（一個小時）內(nèi)的變化。 線性神經(jīng)網(wǎng)絡(luò) 一般的多元線性的調(diào)整參數(shù) p 和獨(dú)立變量 x 的關(guān)系是： tptpititttptpitittt uxcxcxc xcxczazazazaz ???? ????????????????? ? ??221102211 其中： tz t 時刻的電力負(fù)荷 tx t 時刻的獨(dú)立變量 tu t 時刻的隨機(jī)干擾量 ii ca, 系數(shù) 線性神經(jīng)網(wǎng)絡(luò)能成功地學(xué)習(xí)歷史負(fù)荷數(shù)據(jù) itz? 和獨(dú)立變量 itx? 中的系數(shù) ia 和ix ， WidrowHoff 已經(jīng)決定了這些系數(shù)。 這個模型包括了先前所以數(shù)據(jù)高達(dá) p 的延遲，如上所示，這些數(shù)據(jù)不是獨(dú)立的，它與負(fù)荷有不用程度的相關(guān)性。相關(guān)性學(xué)習(xí)用來決定模型中包含的最重要的參數(shù)，決定了許多參數(shù)會被去掉。這樣就減少了給定精度模型的大小和運(yùn)算時間或是提高了給定規(guī)模大小的模型的精度。 非線性神經(jīng)網(wǎng)絡(luò) 為了能進(jìn)行非線性預(yù)測，要建立一個類似線性模型的非線性模型， 如下表示： ? ? tptittttptitttt uxxxxxzzzzfz ?? ???????? ,,, 2121 ??? 其中： ??.f 是由人工神經(jīng)網(wǎng)絡(luò)決定的非線性函數(shù) 前饋神經(jīng)網(wǎng)絡(luò)用層來表示，通常有一個隱含層（在某些情況下有 2 層），層和層之間是充分聯(lián)系的，每一層有一個偏置單元（輸出層除外）。輸出是每個單元的加權(quán)輸入的總和（包括偏置），中間是通過指數(shù)激活函數(shù)來傳遞。 我們已經(jīng)應(yīng)用了修正的反向神經(jīng)網(wǎng)絡(luò)。錯誤的是定義了輸出單元的計數(shù)值和實際值或理想值之間的偏差的平方，這個定義使函數(shù)在微分的時候發(fā)生錯誤。 不像線性的時間序列模型那樣在每個滯后變量有一個裝有系數(shù)，非線性神經(jīng)網(wǎng)絡(luò)滯后輸入變量的選擇和裝有系數(shù)的數(shù)量是獨(dú)立的，而網(wǎng)絡(luò)的規(guī)模，是有由層數(shù)和隱含層單元的數(shù)目決定的。此外，在線性回歸模型中，如果輸入變量是無關(guān)的，那么它的回歸系數(shù)是零。但是在非線性神經(jīng)網(wǎng)絡(luò)中者不一定是真實的；一個輸入變量可能不重要但是仍可能有權(quán)重；這些權(quán)重將會影響到下層的傳遞，對于隱含單元來說也是重要的。 所以，在傳統(tǒng)的反向傳播神經(jīng)網(wǎng)絡(luò)中，沒有自動消除無關(guān)輸入節(jié)點(diǎn)和隱含節(jié)點(diǎn)的功能。但是，在實際預(yù)測中有必要建立一個簡約模型，它能解決實際問題，但不 會太簡單也不會太復(fù)雜。如果神經(jīng)網(wǎng)絡(luò)太小（輸入端少或是隱含單元少），就不夠靈活來捕獲電力系統(tǒng)的動態(tài)需求變化。這就是我們所知的“欠擬合”現(xiàn)象。相反地，如果神經(jīng)網(wǎng)絡(luò)太大，它不僅可以容納基本信號，還可以容納訓(xùn)練時的噪聲，這就是我們所知的“過擬合”現(xiàn)象。“過擬合”模型可能在訓(xùn)練時顯示較低的錯誤率，但不能以偏概全，可能在實際預(yù)測時會有較高的錯誤率。 非線性模型可以產(chǎn)生比線性規(guī)劃更高的準(zhǔn)確度，但是要更長的訓(xùn)練時間。較大的神經(jīng)網(wǎng)絡(luò)容易出現(xiàn)“過擬合”，預(yù)測需要簡約模型的一般化概括。非線性神 經(jīng)網(wǎng)絡(luò)的大小可以通過檢查相關(guān)性系數(shù)或 是通過遺傳算法來選擇最優(yōu)的輸入變量來減小。線性模型相對于非線性模型來說是一個令人滿意的模型，而非線性模型是用來決定輸入?yún)?shù)的。 用反向傳播來訓(xùn)練大型的人工神經(jīng)網(wǎng)絡(luò)是很耗費(fèi)時間的，很多用來減少訓(xùn)練時間的方法已經(jīng)通過評估，已經(jīng)找到一個減少訓(xùn)練時間的方法來取代使用最小二乘法來修改網(wǎng)絡(luò)權(quán)重而達(dá)到速下降搜索的技術(shù)。每一步的計算量大了，但是迭代次數(shù)卻大大減少。減少訓(xùn)練時間是我們希望達(dá)到的，不僅可以通過減少計算消耗，也可以通過研究考慮更多的可取的輸入變量來達(dá)到，從而達(dá)到優(yōu)化預(yù)測的精度。 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的確定 自 動校正 一階線性自動校正就是校正負(fù)荷在兩個不同時間之間的校正系數(shù)，可以用下式表示： ? ? ? ?? ???? ?? tztzE 其中： ?? 是在 ? 時的自動校正系數(shù) ??E 是期望值 ??tz 是在 t 時刻的電力負(fù)荷值 圖 顯示了滯后于某個特殊電力用戶的電力需求自動校正系數(shù)的每小時 負(fù)荷變化。這個圖證實了常識經(jīng)驗，就是在任何時候的負(fù)荷與前幾天同一時刻的負(fù)荷有高度相關(guān)性。這很有趣，并且對負(fù)荷預(yù)測很多幫助，另外，滯后的自動校正在24 小時中比前整個一周都高出許多。除了前 4 天，負(fù)荷的相關(guān)峰值下降到 外，第 7 天又上升了。 圖 我們也分析了樣本負(fù)荷在時間序列上的偏自相關(guān)函數(shù)（ PACF）。這衡量去除了干擾變量 121 , ???? httt zzz ? 后 htz? 和 tz 之間的依賴關(guān)系。 圖 顯示了負(fù)荷序列的 PACF?？梢杂^測到，負(fù)荷變化與之前的負(fù)荷有很大影響，這就表明一個小時后的負(fù)荷預(yù)測將會變得簡單。 圖 上午 1點(diǎn)負(fù)荷的 PACF 遺傳算法 在時間序列模型中重要系數(shù)可以通過遺傳算法自動鑒定出，不像反向傳播模 型的最小平方誤差那樣，遺傳算法可以直接將 MAPE 減到最小。 MAPE 就是平均絕對誤差百分比，它廣泛用于衡量負(fù)荷預(yù)測的準(zhǔn)確度。 為了描述遺傳算法里的負(fù)荷預(yù)測模型，要定義一根曲線，它包括滯后值 i 和每個滯后的系數(shù) ia 或是 ic ，那么這根曲線可以表示為： 常數(shù)項 第一個滯后， 1i 1ia 系數(shù) 1itz? 第二個滯后， 2i 2ia 系數(shù) 2itz? ???? thp? 滯 后， pi ipa 系數(shù) iptz? 第一個獨(dú)立變量的滯后 1j ， 1jc 系數(shù) 1jtx? 第二個獨(dú)立變量的滯后 2j ， 2jc 系數(shù) 2jtx? ???? 獨(dú)立變量的滯后 pj ， jpc 系數(shù) jptx? 這樣一種曲線是隨機(jī)產(chǎn)生的。然后兩根曲線被隨機(jī)選擇（與它們的 MAPEs 的概率成反比）。兩根曲線的交叉點(diǎn)被隨機(jī)選擇，而兩條母曲線通過交叉點(diǎn)復(fù)制兩條新的曲線。這個過程中產(chǎn)生了新一代的曲線。將會計算出每一條曲線的適應(yīng)值（通過一組負(fù)荷數(shù)據(jù)訓(xùn)練而產(chǎn)生的預(yù)測 MAPE 的逆值）。這些低適應(yīng)能力的將會被丟棄，高適應(yīng)能力的將會繁殖下一代。突變也用來隨機(jī)修改下一代中獨(dú)特的。結(jié)果就是經(jīng)過多代的 繁殖過程，曲線具有高度的適應(yīng)性（低 MAPE 值），這就是用電力負(fù)荷通過訓(xùn)練后最好的預(yù)測值。 短期負(fù)荷預(yù)測系統(tǒng) 本文的短期負(fù)荷預(yù)測系統(tǒng)是一個線性神經(jīng)網(wǎng)絡(luò)（ ARMA 模型）和非線性神經(jīng)網(wǎng)絡(luò)的組合。整個系統(tǒng)的結(jié)構(gòu)如圖 示。 圖 短期負(fù)荷預(yù)測系統(tǒng)的結(jié)構(gòu)圖 在這個系統(tǒng)中，線性系統(tǒng)和非線性系統(tǒng)兩者都有第二部分中提到的影響負(fù)荷預(yù)測的幾種或全部因素作為歷史數(shù)據(jù)的輸入。數(shù)據(jù)處理器的數(shù)據(jù)是從線性和非線性神經(jīng)網(wǎng)絡(luò)的歷史數(shù)據(jù)中提取出來的，分別地，線性神經(jīng)網(wǎng)絡(luò)的輸出作為反饋，輸入到非線性神經(jīng)網(wǎng)絡(luò)中。有歷史數(shù)據(jù)和線性神 經(jīng)網(wǎng)絡(luò)的輸出作為輸入，非線性神經(jīng)網(wǎng)絡(luò)就會預(yù)測出一天或者一周的負(fù)荷值。 這兩個網(wǎng)絡(luò)組成的最初的網(wǎng)絡(luò)結(jié)構(gòu)是基于統(tǒng)計分析和遺傳算法。如圖 所示， t 時刻的負(fù)荷值很大程度上取決于 1?t 時刻的歷史負(fù)荷值。所以，準(zhǔn)確地預(yù)測 1 小時后負(fù)荷的會提高短期負(fù)荷預(yù)測準(zhǔn)確度。 但是，一天（ 24 小時）后或在一個星期（ 168 小時）后的預(yù)測，在之前的幾個小時的負(fù)荷值仍然是預(yù)測值。例如，我們要預(yù)測明天上午 10 點(diǎn)的負(fù)荷值，顯然，我們擁有的明天上午 9 點(diǎn)的負(fù)荷值 不是實際值，我們只有明天上午 9 點(diǎn)的預(yù)測值。因為在 9 點(diǎn)的負(fù)荷對 10 點(diǎn)的負(fù)荷的影響較密切，準(zhǔn)確的預(yù)測 9 點(diǎn)的負(fù)荷會提高預(yù)測 10 點(diǎn)負(fù)荷的準(zhǔn)確度。在我們這個系統(tǒng)中，線性神經(jīng)網(wǎng)絡(luò)（ ARMA 模型）是用來預(yù)測一個小時后的負(fù)荷值的。 對于非線性神經(jīng)網(wǎng)絡(luò)來說，輸入層包括不同時間滯后的變量。雖然 t 時刻的負(fù)荷受到 1?t 時刻的顯著影響，但是 1?t 時刻的負(fù)荷本身的準(zhǔn)確度不足夠以至影響預(yù)測 t 時刻負(fù)荷的準(zhǔn)確度。這主要受長期負(fù)荷變化的影響（見圖 ） 仿真結(jié)果 我們可以通過公共事業(yè)公司獲得歷史數(shù)據(jù)和各種天氣數(shù)據(jù)。我們用來仿真的數(shù)據(jù)是 1898， 1990和 1991年的每小時歷史負(fù)荷數(shù)據(jù)和當(dāng)年的每小時的溫度數(shù)據(jù)。 非線性神經(jīng)網(wǎng)絡(luò)由 24 個子網(wǎng)組成，沒一個代表一天中一個特定的時間。相似的，線性神經(jīng)網(wǎng)絡(luò)也有 24 個子網(wǎng)。全部 48 個子網(wǎng)有很多個輸入節(jié)點(diǎn)，但是只有一個輸出節(jié)點(diǎn)。在任何時候，只有一個非線性子網(wǎng)和一個線性子網(wǎng)在工作（總共只有 2 個網(wǎng)）。這種獨(dú)一無二的結(jié)構(gòu)具有以下優(yōu)點(diǎn)： （ 1） 預(yù)測速度快 （ 2） 重新訓(xùn)練系統(tǒng)快 （ 3） 模塊化?？梢栽谔囟〞r間根據(jù)預(yù)測精度更新系統(tǒng) （ 4） 預(yù)測精度高 可以得出系統(tǒng)的這些優(yōu)點(diǎn)對于商業(yè)應(yīng)用來說是很重要的。根據(jù)每小時或每天預(yù)測的原則來說，預(yù)測速度很精度對于公共事業(yè)來說是非常需要的 我們用 1898 和 1990 年的歷史負(fù)荷數(shù)據(jù)和溫度數(shù)據(jù)來訓(xùn)練； 1991 年的負(fù)荷和溫度來作驗證。在訓(xùn)練和驗證期間，用到了未來的實際溫度。圖 顯示了利用 1991 年第一季度的數(shù)據(jù)驗證我們的系統(tǒng)預(yù)測 24 小時后的 MAPE 值曲線。 圖 1991第一季度 MAPE的驗證結(jié)果 優(yōu)化處理 由經(jīng)驗可知，我們發(fā) 現(xiàn)只有一個傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的系統(tǒng)不足夠處理我們往往遇到的那些具有多種變化情況的公共事業(yè)公司。例如，當(dāng)天氣突然變化時，利用常規(guī)的數(shù)據(jù)來訓(xùn)練系統(tǒng)不能得到較好的預(yù)測效果。當(dāng)系統(tǒng)的歷史數(shù)據(jù)點(diǎn)不足夠系統(tǒng)來學(xué)習(xí)時，可以通過簡單地增加相似的歷史負(fù)荷點(diǎn)到訓(xùn)練數(shù)據(jù)中來解決上述問題。 我們將增加兩個附加的子系統(tǒng)到我們的短期負(fù)荷預(yù)測系統(tǒng)中，給它取名為：基于規(guī)則的系統(tǒng)和模式識別系統(tǒng)。這兩個字子系統(tǒng)在遇到上述的一些情況下會起不同的作用和完成不同的任務(wù)。 基于規(guī)則系統(tǒng) 模式識別，遺傳算法和人工神經(jīng)網(wǎng)絡(luò)的時間序列模型所構(gòu)成的神經(jīng)網(wǎng)絡(luò) 都可用作短期負(fù)荷預(yù)測。但是，為了獲得最小的預(yù)測誤差，且在可接受的復(fù)雜程度和訓(xùn)練時間，需要知道使用這個網(wǎng)絡(luò)的特殊公共事業(yè)的使用范圍。特別是對于區(qū)域的負(fù)荷預(yù)測，這些特殊地理區(qū)域和服務(wù)場所或多或少受到諸如溫度和假期的影響，取決于這個區(qū)域的負(fù)荷是工業(yè)負(fù)荷占重要部分，還是商業(yè)負(fù)荷，或是民用負(fù)荷，或取決于負(fù)荷是在夏季達(dá)到峰值還是冬季達(dá)到峰值等。 為了使公共事業(yè)單位或其他沒背景的公司能夠成功使用人工智能的短期負(fù)荷預(yù)測系統(tǒng)，當(dāng)它達(dá)到最佳性能的時候，有必要提供根據(jù)當(dāng)?shù)貤l件來設(shè)置變化參數(shù)的規(guī)則。 模式識別系統(tǒng) 這個系統(tǒng) 被很多公共事業(yè)單位所用來作日常負(fù)荷預(yù)測的一種方法，它給出了一個小時為單位的負(fù)荷的大型數(shù)據(jù)庫，只要找出與預(yù)測日相似的負(fù)荷記錄，將它所在那天的數(shù)據(jù)作為預(yù)測的依據(jù)。這個系統(tǒng)的問題就是如何在歷史負(fù)荷數(shù)據(jù)記錄中找出相似的記錄。 有很多種可行的方式來定義相似，我們所用的其中一種就是比較平均絕對誤差百分比，我們概括為： （ 1） 神經(jīng)網(wǎng)絡(luò)可以用來識別模式或評估相似匹配程度。 （ 2） 這些神經(jīng)網(wǎng)絡(luò)應(yīng)該組合起來，如用時間序列法 (利用延遲線 ) 那樣單獨(dú)來預(yù)測，就存在每一種方法矛盾錯誤的權(quán)重。 結(jié) 論 在本文中，我們介紹了以用線性和非線性網(wǎng)絡(luò)組 成的負(fù)荷預(yù)測系統(tǒng)為基礎(chǔ)的混合神經(jīng)網(wǎng)絡(luò)。我們已經(jīng)論證了這個系統(tǒng)是理想的，可為公共事業(yè)或是商業(yè)應(yīng)用服務(wù)的。另外本文也描述兩個子系統(tǒng)，它們作為優(yōu)化處理我們現(xiàn)有的系統(tǒng)來處理各種不平常的情況。