[工學(xué)]4無(wú)約束優(yōu)化方法-資料下載頁(yè)
2025-01-21 12:56本頁(yè)面
【正文】 XfxXfxxxxxXfxxxXf2222????????????????????????? ?? ?? ? ? ?? ? ? ? ? ?? ? ? ?? ? ? ?? ?jikijnmkijkkTkmrkrjkrijimrrjixXfXJXJXJXJXJXFXJXJxxXfxxXF???????????????????? 其中 即： 22211222? ? ? ?? ? ? ? ? ?? ? ? ?? ? ? ? ? ?kTkkTkkkkkTkkTkkkXfXJXJXJXXN e w t o nG a u s sXfXJXJXJXXN e w t o nG a u s s1111??????????? 公式：得修正公式，帶入阻尼牛頓法的迭代 最小二乘法公式：得，帶入牛頓法的迭代公式? ? ? ? ? ? ? ?? ?? ? ? ?? ? ? ?? ?? ? ? ?? ? ? ? ? ?21654320111*111210，轉(zhuǎn)，則、若，結(jié)束，則、若、進(jìn)行一維搜索，得：、計(jì)算 其中 、計(jì)算：，令、給定初始點(diǎn)迭代步驟：???????????????????????kkXXXXXXSXXXfXJXJXJSxXfXJXJXJXfXfXfXfkxkkkkkkkkkkTkkTkkjiijnmijTkmkkk?????? ? ? ? ? ? ? ?? ? ? ? ? ?? ?? ?? ? ? ? ? ? ? ? ? ?? ?? ? ? ?00100010110000110020020224001001200011020110001100000000110112121212121112120212212????????????????????????????????????? ???????????????????????????????????????????????再進(jìn)行一維搜索，得 則 解：的極小點(diǎn)，例：求SXXSxxxXJXJxxxxxxXfXJxXJxxxXfxxxxXFkTkTkTkTTMarquardt法 ? ?? ?? ? ? ?? ?? ? ? ?控制探索方向及步長(zhǎng)程中用它來(lái)同時(shí)是一個(gè)參數(shù)，在迭代過(guò) 法迭代公式： 牛頓法的迭代公式： 最速下降法迭代公式：kkkkkkkkkkkkkkxfIxfxxM a r q u a r d txfxfxxxfxx????????????????????1211211? ?? ? ? ?? ?? ? ? ?? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ?然后再迭代下一步，例如，則取 若，例如，則取 若迭代過(guò)程中，逐漸變?yōu)閯t由時(shí)，方向由足夠大逐漸減小至故當(dāng)足夠小時(shí)，當(dāng)足夠大時(shí)，當(dāng)kkkkkkkkkkkkkkkkkkkkkkkkkxfxfxfxfxfxfxfSxfIxfIIIxf???????????????201111111121212112???????????????????????????????????????? ? ? ? ?? ?? ? ? ?? ? ? ?? ? ? ? 重新計(jì)算，轉(zhuǎn)，令、若，轉(zhuǎn)，令、若、計(jì)算、計(jì)算；滿足，結(jié)束、不滿足，轉(zhuǎn)，檢查、計(jì)算，、令迭代步驟：4275443?21001111114kkkkkkkkkkkkkkkkkkXfXfkkXfXfSXXXfIXHSXfXfk?????????????????????????????共軛方向及共軛方向法 共軛方向的概念是在研究二次函數(shù) （ G為對(duì)稱正定矩陣）時(shí)引出的。 為了克服最速下降法的鋸齒現(xiàn)象以提高其收斂速度，發(fā)展了一類共軛方向法。 ? ?? ? bGxxfcbxGxxxfTT??????21 為了避免搜索鋸齒的出現(xiàn)，我們?nèi)∠乱淮蔚姆较蛑敝笜O小點(diǎn) 。 * 1 11x x d???11 d? —方向上的最佳步長(zhǎng)。 二元二次函數(shù)：等值線為同心橢圓族、過(guò)橢圓中心的直線與諸橢圓交點(diǎn)處的切線相互平行。 1 0 00x x a d??? ?110 0Txf f x dd? ? ? ??那么這樣的 方向應(yīng)該滿足什么條件？ 1d? ?? ?? ? ? ? ? ?11*** 1 1 1 11100f x Gx bf x Gx bf x G x d b f x Gd??? ? ?? ? ? ?? ? ? ? ? ? ? ?將等式兩邊同是左乘 ，又由于 ? ?0 Td? ? ? ?11 0 0 1000T Txf f x d d G dd? ??? ? ? ????稱 和 對(duì) G是共軛方向。 0d 1d? ? bGxxf T ??? ?定義 設(shè) G為 n n對(duì)稱正定矩陣，若 n維空間中有 m個(gè)非零向量 滿足 0 1 2 1, , , , md d d d ?? ? ? ? ? ?0 , 0 , 1 , 2 , , 1Tijd G d i j m i j? ? ? ?則稱 對(duì) G共軛，或稱是 G的共軛方向。 0 1 2 1, , , , md d d d ?當(dāng) G=I（單位矩陣）時(shí)，上式變成 0 1 2 1, , , , md d d d ?? ? ? ?0Tijd d i j?? 即向量 互相正交。由此可見(jiàn)，共軛概念是正交概念的推廣，正交是共軛的特例。 性質(zhì) 1 若非零向量系 是對(duì) G共軛的，則這 m個(gè)向量是線性無(wú)關(guān)的。 性質(zhì) 3 從任意初始點(diǎn) 出發(fā)，順次沿 n個(gè) G的共軛方向 進(jìn)行一維搜索，最多經(jīng)過(guò) n次迭代可以找到二次函數(shù) 極小點(diǎn) 。 此性質(zhì)表明這種迭代方法具有有限步收斂的特性，即具有二次收斂性。 0 1 2 1, , , , md d d d ?0x0 1 2 1, , , , md d d d ?性質(zhì) 2 在 n維 空間中互相共軛的非零向量的個(gè)數(shù)不超過(guò) n。 ? ?fx *x? ?? ?? ? ? ?? ?? ? ? ?? ?? ?? ? ? ?? ?? ? 003110111112211211111210????????????????????????????????????????????????????????nnnnkjjkjkknknkjjjknnnnnnnnnkkkTkkkTkkTkkTnxfdddnxfGddxfdxfdGdxfGdGdxfGdxfxfGdxfbdxGbGxxfbGxxfbGxxfxxxx 都正交、個(gè)共軛向量與即則 則 由于、得的近似解為設(shè)依次進(jìn)行一維搜索求證明：性質(zhì)?????????共軛方向法 ? ?? ?）。，轉(zhuǎn)）置。，使）提供新的共軛方向）。停機(jī)，否則轉(zhuǎn)，印是否滿足，若滿足則打）判斷。方向進(jìn)行一維搜索，得）沿。置，和收斂精度，下降方向）選定初始點(diǎn)215,2,1,04432011111100???????????????kkkjGdddxxfdxxdkdxkTjkkkkkkkk???? 共軛方向法程序框圖如右圖所示。提供共軛向量系的方法有許多種，從而形成各種具體的共軛方向法，如共軛梯度法，鮑威爾（ Powell）法等。 共軛方向的選擇有多種， 下面介紹格拉姆 — 斯密特（ GramSchmidt）向量系共軛化方法，它是格拉姆 — 斯密特向量系正交化方法的推廣。 ? ? ? ? ? ?? ?? ?? ?? ?`000010110001010010101001100101100110dGddGvdvddGddGvddvGdGdddddvdvdnvvvTTTTTTn???????????共軛的從而求得與即共軛條件來(lái)確定，與是待定系數(shù)，它根據(jù)其中令?。?，首先個(gè)坐標(biāo)軸上的單位向量（例如，它們是，，系設(shè)已選定線性無(wú)關(guān)向量?????? ?? ? ? ?? ?? ?? ?? ???????????????????????????????????kjjjTjkTjkkjTjkTjjkkrrrkkTjkTjjkkrrrkkkkkdGddGvdvdGddGvddvGdGddkjdddvddddd01111,10,11110,111100,2,1,0于是由此解得共軛，應(yīng)有與為使令。，現(xiàn)求，，設(shè)已求得共軛向量?????? ?? ?? ?? ?? ?? ?TTTTTTTTddedGddGedGddGedddeddedGddGeddededeeedddG?????????????????????????????????????????????????????????????????????????????????????????????132310320121210011000100012101210120201212200202011212102012122010110010
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1