無約束優(yōu)化方法ppt課件(編輯修改稿)
2025-02-10 20:27 本頁(yè)面
【文章內(nèi)容簡(jiǎn)介】 x a d? ??kkg G x b??從點(diǎn) 出發(fā)，沿 G某一共軛方向 作一維搜索 ,到達(dá) kx kd 1kx ?11 kkg Gx b?? ??而在點(diǎn) 、 處的梯度分別為： kx 1kx ?? ?11 k k kk k kg g G x x a G d?? ? ? ? ?? ? 1 0Tjkd G d ??? ? ? 0Tjkd G d ?? ? ? ?1 0Tj kkd G g g? ??得出共軛方向與梯度之間的關(guān)系。此式表明沿方向 kd進(jìn)行一維搜索，其終點(diǎn) 與始點(diǎn) 的梯度值差 1kx ? kx1kkgg? ? 與 的共軛方向 正交。 kd jd圖 49 共軛梯度法的幾何說明 第六節(jié)變尺度法 ? ?1k k k kx x H f x?? ? ? ?變尺度法的基本思想： 前面討論的梯度法和牛頓法，它們的迭代公式可以看作下列 公式的特例。 變尺度法是對(duì)牛頓法的修正，它不是計(jì)算二階導(dǎo)數(shù)的矩陣和 它的逆矩陣，而是設(shè)法構(gòu)造一個(gè)對(duì)稱正定矩陣 H來代替 Hesse 矩陣的逆矩陣。并在迭代過程中，使其逐漸逼近 H1 。 由于對(duì)稱矩陣 H在迭代過程中是不斷修正改變的，它對(duì)于一 般尺度的梯度起到改變尺度的作用，因此 H又稱變尺度矩陣。 一、尺度矩陣的概念 變量的尺度變換是放大或縮小各個(gè)坐標(biāo)。 通過尺度變換可以把函數(shù)的偏心程度降低到最低限度。 對(duì)于一般二次函數(shù) ? ? 12 TTf x x G x b x c? ? ?如果進(jìn)行尺度變換 x Qx?則在新的坐標(biāo)系中，函數(shù)的二次項(xiàng)變?yōu)? 1122T T Tx G x x Q G Q x?選擇這樣變換的目的：降低二次項(xiàng)的偏心程度。 若矩陣 G是正定的，則總存在矩陣 Q使 TQ G Q I?使得函數(shù)偏心度變?yōu)榱恪? 用 Q1 右乘等式兩邊，得 1TQ G Q ??再用 Q左乘等式兩邊，得 TQ Q G I?所以 1TQ Q G ??說明二次函數(shù)矩陣 G的逆矩陣，可以通過尺度變換矩陣 Q 求得。 這樣，牛頓法迭代過程中的牛頓方向可寫成： ? ? ? ?1k k T kd G f x Q Q f x?? ? ? ? ? ?? ?1k k k T kx x Q Q f x?? ? ? ?三、變尺度法的一般步驟 第七節(jié) 坐標(biāo)輪換法 坐標(biāo)輪換法是每次搜索只允許一個(gè)變量變化，其余變量保持 不變，即沿坐標(biāo)方向輪流進(jìn)行搜索的尋優(yōu)方法。 它把多變量的優(yōu)化問題輪流地轉(zhuǎn)化成單變量的優(yōu)化問題。 因此又稱變量輪換法。
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1