基于貝葉斯神經網絡方法的短期負荷預測(編輯修改稿)
2025-07-23 05:21 本頁面
【文章內容簡介】 了權重空間的概率密度函數。該概率密度函數用來表示能夠確信采取的權重向量的不同值的程度。概率密度函數的初始設置為某些先驗分布，其在數據通過使用貝葉斯定理[14]觀察到的時候轉換成一個后驗分布。因此，貝葉斯方法不是由經典的最大似然（最小化誤差函數）方法來計算單一的“最佳”權重集合，而是構造了一個完整的神經網絡參數分布。這個后驗分布可以被用來推斷網絡的輸入變量的新值。 先驗由于我們最開始就在想象什么樣的權重值應該是合適的，因此先驗分布被我們首選為一個廣泛分布。這可通過描述先驗概率密度是具有較大方差的高斯分布來實現： 其中α代表所設置的權重和偏移值的方差的倒數，Zw（α）表示概率密度函數的標準化常量。在貝葉斯理論中，α被稱為超參數，因為它控制其它參數的分布。高斯分布的選擇簡化了分析并允許進一步進行分析。另外，高斯先驗的權重選擇詮釋了前述調整量的概率意義。事實上，前述調整量可以被解釋為減去參數的先驗概率分布的對數。要注意，權重先前的分布用給定的值α來定義是很重要的。因此，就目前而言，我們假設它的值是已知的。在接下來的部分，我們將沿用這一假定。由于我們選擇了高斯先驗，所以標準化因子Zw（α）可由下式給出： 我們仍然假定m為神經網絡參數的總個數。 似然函數與噪聲模型 似然函數的推導和噪聲模型的定義是聯(lián)系在一起的。表示N個樣本的訓練集D，神經網絡學習的目標是找到xi與ti之間的關系R?？紤]到這種關系的不確定性以及噪聲或者某種其他某種因素的影響，該關系可描述為: 其中噪聲為表示各種不確定性因素的附加量。在我們的分析中，我們用y(x。w)來近似R（X），即由MLP給出了非線性回歸模型。因此，在下文中，我們假設第i個目標變量ti（或被測量量）由輸入向量x與附加的獨立高斯噪聲的一些確定函數給出。此外，如果我們假定誤差的分布為正態(tài)分布N(0，)，其中那么噪聲的分布函數可由下式給出： 假設噪聲是獨立的，那么具有N個噪聲的總體聯(lián)合概率可以寫為: 然后算出數據和模型的差異并把它帶到方程中得到似然函數： 5 結果與討論與貝葉斯方法（即數據框架以及ARD技術）相關的短期負荷預測模型是通過使用特定的被稱為NETLAB[18]的MATLAB工具箱來實現的。我們選擇連續(xù)變化的數據來進行訓練和測試，即將693個小時的實時值用來進行神經網絡訓練，其余的數據則用于測試（包括381個樣本）。該模型的性能好壞通過對他們的平均絕對百分誤差和均方根誤差的計算來進行評估。 關于經典神經網絡建模方法過度擬合問題的說明（模型1）為了說明過度擬合的問題，突出貝葉斯方法的優(yōu)點，我們特意選擇了具有32個隱藏單元（命名為模型1）的經典神經網絡模型來對電力負荷進行建模。有一點很明確，也就是我們事先不會知道隱藏單元的最優(yōu)數量，除非執(zhí)行了交叉驗證程序。表2列出了在訓練集和測試集中獲得的模型的性能，圖2顯示了預測的逐時負荷與實測值。正如我們所看到的，訓練集中數據的擬合結果是非常好的，但是在測試集合中它的性能會降低。這種結果是過度擬合的標志。在這里，模型過于復雜，我們必須采用某種方法來降低這種復雜性。在接下來的部分，我們將表明這種過度擬合問題可以通過使用能夠控制神經網絡復雜性的貝葉斯方法來消除。 表2 不同模型的性能表現圖2 經典神經網絡模型1（a）訓練集 （b）測試集 貝葉斯神經網絡建模方法（模型2）在這個實驗中，我們采取了和模型1相同的神經網絡結構，但是我們使用貝葉斯方法來預測電力負荷。我們稱這個模型為模型2。 圖3 經典神經網絡模型2 （a）訓練集 （b）測試集圖3和表2（2號線）清楚地表明了貝葉斯方法所帶來的改善。事實上，測試數據中的性能已得到增強。貝葉斯神經網絡建模方法將測試集數據的均方根誤差和平均絕對誤差減少了52％。圖4示出數據框架的趨同趨勢。我們還記得，不像傳統(tǒng)的神經網絡
外語相關推薦
鄂ICP備17016276號-1