優(yōu)化方法的數(shù)學(xué)基礎(chǔ)(編輯修改稿)
2025-02-09 05:58 本頁面
【文章內(nèi)容簡介】 或 f(X)=aX+c 167。 23 二次函數(shù)及正定矩陣 ? ? cxbxxgxxxf niiininjjiijn ??? ?? ??? ? 11 121 21, ?其中 均為常數(shù)。 cbg iij ,jiij gg ?若 ， X≠0 ， 均有 ＞ 0 ，則稱矩陣 Q是 正定 的。 nXR?? TX QX在代數(shù)學(xué)中將特殊的二次函數(shù) 稱為 二次型 。 對于二次函數(shù)，我們更關(guān)心的是 Q為正定矩陣的情形。 ? ? 12 Tf X X Q X?? ? 12 TTf X X Q X b X c? ? ? 若 ，且 X≠0，均有 ＜ 0，則稱 Q是 負(fù)定 的。 nXR?? TX QX定義：設(shè) Q為 n n對稱矩陣 ??????????????nnnnnnggggggggg??????212222111211??????????????nbbb?21其中 Q= b= Q為對稱矩陣 其向量矩陣表示形式是： 二次函數(shù)的一般形式為： 6 6 0?? 63 3032????6 3 13 2 0 1 0 01 0 4?? ? ?解：對稱矩陣 Q的三個主子式依次為： ????????????401023136例：判定矩陣 Q= 是否正定 一個 n n對稱矩陣 Q是正定矩陣的充要條件是矩陣 Q的各階主子式都是正的。 一個 n n對稱矩陣 Q是負(fù)定矩陣的充要條件是矩陣 Q的各階主子式的值負(fù)、正相間。 因此知矩陣 Q是正定的。 ? ? 12 Tf Z X Q X b X c? ? ?定理： 若二次函數(shù) 中 Q正定，則它的等值面是同心橢球面族，且中心為 *1X Q b???證明：作變換 ，代入二次函數(shù)式中： 1X Y Q b???? ? ? ?bQYfY 1????? ? ? ? ? ? cbQYbbQYQbQY TT ?????? ??? 11121cbQbQYY TT ??? ? 12121根據(jù)解析幾何知識， Q為正定矩陣的二次型 的等值面是以坐標(biāo)原點(diǎn) 為中心的同心橢球面族。由于上式中的 是常數(shù)，所以 的等值面也是以 =0為中心的同心橢球面族，回到原坐標(biāo)系中去，原二次函數(shù)就是以 為中心的同心橢球面族。 QYY T210Y? ?112Tb Q b c? ? ? ?Y??Y*1X Q b??? 前面已說過，一般目標(biāo)函數(shù)的等值面在極小點(diǎn)附近近似地呈現(xiàn)為橢球面族。由此可見對于二次目標(biāo)函數(shù)有效的求極小點(diǎn)的算法，當(dāng)用于一般目標(biāo)函數(shù)時，至少在極小點(diǎn)附近同樣有效。因此在最優(yōu)化理論中判定一個算法好壞的標(biāo)準(zhǔn)之一，是把該算法用于 Q為正定的二次目標(biāo)函數(shù)，如能迅速找到極小點(diǎn)，就是好算法；否則就不是太好的算法。 特別地若算法對于 Q為正定的二次目標(biāo)函數(shù)能在有限步內(nèi)找出極小點(diǎn)來，就稱此算法為二次收斂算法，或具有二次收斂性。 另外，這族橢球面的中心 恰是二次目標(biāo)函數(shù)的唯一極小點(diǎn)。 *1X Q b???例：把二次函數(shù) 化為矩陣向量形式并檢驗(yàn) Q是否正定，如正定，試用公式 求這個函數(shù)的極小點(diǎn)。 ? ? 2 2 21 2 3 1 2 3 1 2 1 3 1 2, , 3 2 3 4 5f x x x x x x x x x x x x? ? ? ? ? ? ?*1X Q b???? ?1 2 3 12 TTf x x x X Q Z b X????????????????????????1031031021031023101210210121081Q極小點(diǎn)是 = = *X bQ 1?????????????????707682解：展開 ? ? ? ????????????????????????????????321321321333231232221131211321 ,21xxxbbbxxxgggggggggxxx = 332211322331132112233322222111 212121 xbxbxbxxgxxgxxgxgxgxg ????????= ????????????401023136???????????054與題中函數(shù)比較各項(xiàng)系數(shù)為： Q= b= 由前例知 Q正定 一、 多元函數(shù)的泰勒展開 21( ) ( ) ( ) ( )2k k T T kF F F F? ? ? ? ? ? ? ? ?x x x x x x x 2221 1 220 2222 1 2()F
規(guī)章制度相關(guān)推薦
鄂ICP備17016276號-1