【正文】 ? f=(t4)^2+(s+2)^2+1 ? [x,mf]=minNT(f,[0 0],[t s]) ? 所得結(jié)果為： ? X= ? Mf=1 ).0,0(1)2()4(),( 022 ?????? xststf 的極小值，初始點(diǎn)取練習(xí) 1 用牛頓迭代法求方程 在 附近的近似根，誤差不超過 103 。 學(xué)： 牛頓迭代法的 MATLAB實(shí)現(xiàn) 做： 算法舉例 ? 牛頓法求解無約束多維極值問題實(shí)例。 ? minf = Funval(f,var,x)。 ? x0 = x1。 ? p = double(p)。 ? pv = Funval(jacf,var,x0)。 ? ? while toleps ? v = Funval(gradf,var,x0)。 ? gradf = jacobian(f,var)。 ? end ? tol = 1。 判別 Newton 法收斂的充分條件 ? function [x,minf] = minNT(f,x0,var,eps) ? format long。 設(shè) ?(x )在有根區(qū)間 (a,b)上存在二階導(dǎo)數(shù)，且滿足 （ 1） ?(a)?(b)0； （ 2） ?`(x)?0， x?(a,b)； （ 3） ?``(x)不變號， x?(a,b)； （ 4）初值 x0 ?(a,b)；且使 ?(x0)?``(x0)0。再者，牛頓迭代法計(jì)算量比較大。這是牛頓迭代法比簡單迭代法優(yōu)越的地方。 ???????????時(shí)。 步四、修改。此處 是允許誤差 , 0x)( 00 xff ?)( 00 xff ???0001 ffxx???1x)(),( 1111 xffxff ????1x 1???1x1?而 。如果 滿足 。選定初始近似值 ，計(jì)算 ? 步二、迭代。由圖可見，只要初值取的充分靠近 ,這個(gè)序列就會很快收斂于 。也就是說，新的近似值 是用代替曲線 y=f(x)的切線與 x 軸相交得到的。 KXKX?????????? 2)(!2 )())(()()( kkkkk xxxfxxxfxfxf0))(()()( ????? kkk xxxfxfxf0)( ?? kxf 1?kx)()(1kkkk xfxfxx????它對應(yīng)的迭代方程為 顯然是 f(x)=0的同解方程， 故其迭代函數(shù)為 在 f(x)=0的根 的某個(gè)鄰域 內(nèi) , 在 的鄰域 R 內(nèi)，對任意初值 ， 應(yīng)用 由公式（ 1） 來解方程的方法就稱為 牛頓迭代法 。 牛頓法 牛頓迭代法也稱為牛頓 拉夫森 (NewtonRaphson)迭代法，它是數(shù)值分析中最重要的方法之一，它不僅適用于方程或方程組的求解，還常用于微分方程和積分方程求解。用最速下降法求函數(shù) ? 解：在 MATLAB命令窗口中輸入： ? syms t s。 ? format short。 ? end ? ? x = x1。 ? x1 = x0 + xm*v。 ? [a,b] = minJT(yf,0,)。 ? y = x0 + l*v。 ? ? while toleps ? v = Funval(gradf,var,x0)。 ? tol = 1。 ? if nargin == 3 ? eps = 。 167。 GA最擅長于求解大型且復(fù)雜的優(yōu)化問題，求解簡單優(yōu)化問題反而效率不高（此時(shí)還不如選用普通優(yōu)化法）。 遺傳優(yōu)化法 GA法總能解決普通優(yōu)化法難以解決的問題。 區(qū)間消元法（如 法）；多項(xiàng)式插值法 多維搜索問題 爬山法 ：坐標(biāo)輪換法、步長加速法、方向加速法、單純形法、隨機(jī)搜索法 優(yōu)化算 法名稱 優(yōu)化算法細(xì)分類 說 明 網(wǎng)絡(luò)優(yōu)化法 數(shù)學(xué)模型為網(wǎng)絡(luò)圖形，采用圖論法求解。選用直接搜索法經(jīng)過若干次迭代計(jì)算而得到最優(yōu)點(diǎn)。采用求導(dǎo)數(shù)法或變分法求出泛函或目標(biāo)最優(yōu)的必要條件得到一組方程或不等式組，再求解方程組或不等式組，得到最優(yōu)解。 全局最優(yōu)點(diǎn)的判斷： 在上述基礎(chǔ)上，觀察求解結(jié)果是否趨向同一點(diǎn)？ ? 若從不同初始點(diǎn)出發(fā)搜索的結(jié)果是 同一個(gè)最優(yōu)點(diǎn) ，則認(rèn)為所得點(diǎn)是 全局最優(yōu)點(diǎn) ； ? 若從不同初始點(diǎn)出發(fā)搜索的結(jié)果 不是同一個(gè)點(diǎn) ，則需要進(jìn)一步比較這些結(jié)果值，從中找出 目標(biāo)函數(shù)值最小或最大的 那個(gè)作為 全局最優(yōu)點(diǎn) 。 ?GA法不存在如何選擇搜索 初始點(diǎn)問題 ，總能搜索到全局最優(yōu)點(diǎn)附近。 ?當(dāng)優(yōu)化問題存在若干個(gè) “ 山峰或極值點(diǎn) ” （即 多極值問題 ）時(shí)，傳統(tǒng)優(yōu)化法很容易陷入或收斂于局部最優(yōu)點(diǎn)，而 GA則不然。 目前，求解全局最優(yōu)點(diǎn)的有效方法主要有： 遺傳優(yōu)化法、多個(gè)局部最優(yōu)點(diǎn)比較綜合法 。 判斷是否全局、局部最優(yōu)點(diǎn)的依據(jù)和最實(shí)用方法是高等數(shù)學(xué)中的極值原理（開區(qū)間上講極值，閉區(qū)間上講最值）。 ● 2為可行區(qū)域 D內(nèi) 全局最小點(diǎn) 。 ★ 1為可行區(qū)域 D內(nèi) 全局最大點(diǎn)（全局最優(yōu)點(diǎn)） 。 ? 目標(biāo)函數(shù) Y=G(X)， ? 設(shè)計(jì)變量 X, ? 取值區(qū)間 [a， b]即 優(yōu)化問題的 可行區(qū)域D={X∣ a≤X≤b} 。局部最優(yōu)解都是全局最上述凸規(guī)劃問題的任何為凸集。K凸函數(shù)的幾何意義? 凸規(guī)劃 則稱此問題為凸規(guī)劃。 當(dāng) cos（ ▽ F(X) ， S ）＝ 1時(shí)，即 S 與 ▽ F(X)方向相同時(shí)，向量▽ F(X) 在 S 方向上的投影最大，其值為 ? 凸集 ? 凸函數(shù) 為凹函數(shù)。 以二元函數(shù)為例 ?????? ??????21)()()(xXFxXFXF函數(shù) F(X)在點(diǎn) X處的梯度 ▽ F(X), 可記作 grad F(X) 方向 S的單位向量 ? ?T21 c o sc o s ???S 1?S )(,)(,)()(21??????????????nxXFxXFxXFXF ?n元函數(shù) ),(21 nxxxF ?的梯度 : 說明： 梯度▽ F(X) 是一個(gè)向量，梯度方向是函數(shù)具有最大變化率的方向（方向?qū)?shù)最大的方向），即： ?梯度▽ F(X)方向是函數(shù) F(X) 的最速上升方向； ?負(fù)梯度 ▽ F(X)方向是函數(shù) F(X) 的最速下降方向。一般說來，函數(shù)在某一確定點(diǎn)沿不同方向的變化率是不同的。 基本概念 ? 函數(shù)的方向?qū)?shù) 一個(gè)二元函數(shù) ，在點(diǎn) 處沿某一方向 的方向?qū)?shù) (即變化率 )可定義如下： 第 2節(jié) 優(yōu)化設(shè)計(jì)的數(shù)學(xué)基礎(chǔ) ),( 21 xxF),( 02022 xxX??),(),(l i m)( 020220210100 xxFxxxxFSXF ?????????S 二元函數(shù) ，在點(diǎn) 處的偏導(dǎo)數(shù)（即沿坐標(biāo)軸方向的 變化率 ，或稱坐標(biāo)軸方向的 方向?qū)?shù) ）如下： 1020102101010 ),(),(l i m)(1 xxxFxxxFxXFx ?????????2020120201020 ),(),(l i m)(2 xxxFxxxFxXFx ?????????),( 21 xxF ),( 02022 xxX? 方向?qū)?shù)與偏導(dǎo)數(shù)之間的數(shù)量關(guān)系 二元函數(shù) 220110220201202010110201021010020120210100c o s)(c o s)( ),(),(l i m),(),(l i m ),(),(l i m)(????????xXFxXFxxxxFxxxFxxxxFxxxFxxFxxxxFSXF???????????????????????????????),(21 xxF),( 321 xxxF三元函數(shù) 3302201100 c os)(c os)(c os)()( ???xXFxXFxXFSXF???????????),( 21 nxxxF ?n元函數(shù) ?? ???????????????niiinnxXFxXFxXFxXFSXF1002201100c o s)(c o s)(c o s)(c o s)()(????　　　　?i?cos式中， 為 S方向與坐標(biāo)軸方向 xi 夾角的余弦。可取 )3,2,1(10~10 52 ?? ?? ii? 上述準(zhǔn)則都在一定程度上反映了逼近最優(yōu)點(diǎn)的程度，但都有一定的局限性。 第 k次迭代計(jì)算的步長。稱為第k步迭代點(diǎn)，亦第 k步設(shè)計(jì)方案。以此類推，一步一步地向前探索并重復(fù)數(shù)值計(jì)算，最終達(dá)到目標(biāo)的最優(yōu)點(diǎn)。 數(shù)值迭代法的基本思路： 搜索、迭代、逼近 即進(jìn)行反復(fù)數(shù)值計(jì)算，尋求目標(biāo)函數(shù)值不斷下降的可行計(jì)算點(diǎn)，直到最后獲得足夠精度的最優(yōu)點(diǎn)。數(shù)值解法是優(yōu)化設(shè)計(jì)問題的基本解法， 其中也可能用到解析解法 。 優(yōu)化設(shè)計(jì)數(shù)學(xué)模型的分類 （ 1）按有無約束條件分： 無約束優(yōu)化問題 約束優(yōu)化問題 （ 2）按約束條件和目標(biāo)函數(shù)是否同時(shí)為線性分： 線性規(guī)劃問題 非線性規(guī)劃問題（居多） （ 3）按問題規(guī)模的大小分： 大型：設(shè)計(jì)變量和約束條件的個(gè)數(shù)在 50以上 中型：設(shè)計(jì)變量和約束條件的個(gè)數(shù)在 10~50 小型：設(shè)計(jì)變量和約束條件的個(gè)數(shù)在 10個(gè)以下 三、優(yōu)化設(shè)計(jì)問題的基本解法 解析解法： 根據(jù)函數(shù)極值的必要條件和充分條件求得其最優(yōu)解析解的求解方法，適用于目標(biāo)函數(shù)比較簡單的情況。這時(shí)要抓住 關(guān)鍵因素 ，適當(dāng)忽略不重要的成分，使問題合理簡化，以易于列出數(shù)學(xué)模型，這樣不僅可節(jié)省時(shí)間，有時(shí)也會改善優(yōu)化結(jié)果。若目標(biāo)函數(shù)的最優(yōu)點(diǎn)為可行域中的最大值，則可以看成是 [f(x)]的最小值，當(dāng)然也可看成是求 1/f(x)的極小值。 ?多個(gè)“心”： 不是單峰函數(shù)，每個(gè)極（?。┲迭c(diǎn)只是局部極（?。┲迭c(diǎn)，必須通過比較各個(gè)極值點(diǎn)和 “ 鞍點(diǎn) ” （須正確判別）的值，才能確定極（?。┲迭c(diǎn)。 40),(21 ?xxf等值線 等值線的“心”（以二維為例） ?一個(gè)“心”： 是單峰函數(shù)的 極（?。┲迭c(diǎn) ，是全局極（?。┲迭c(diǎn)。從等值線上，可以清楚地看到函數(shù)值的變化情況。利用等值線的概念可用幾何圖形形象地表現(xiàn)出 目標(biāo)函數(shù)的變化規(guī)律 。在極值處目標(biāo)函數(shù)的等值線聚成一點(diǎn)，并位于等值線族的中心。 目標(biāo)函數(shù)的等值線（面）的數(shù)學(xué)表達(dá)式為： 如上圖表示目標(biāo)函數(shù) f(x)與兩個(gè)設(shè)計(jì)變量 x1和 x2所構(gòu)成的關(guān)系曲面上的等值線，它是由許多具有相等目標(biāo)函數(shù)值的設(shè)計(jì)點(diǎn)構(gòu)成的 平面曲線 。 目標(biāo)函數(shù)是 n維變量的函數(shù)，它的函數(shù)圖形只能在 n+1維空間中描述出來。如在二維設(shè)計(jì)空間中， f（ x1， x2） =c代表 x1x2設(shè)計(jì)平面上的一族曲線。 在實(shí)際工程設(shè)計(jì)問題中，常常會遇到在多目標(biāo)的某些目標(biāo)之間 存在矛盾的情況 ，這就要求設(shè)計(jì)者正確處理各目標(biāo)函數(shù)之間的關(guān)系。在一般的機(jī)械最優(yōu)化設(shè)計(jì)中，多目標(biāo)函數(shù)的情況較多。 ( ) m i nfx ?通常 在最優(yōu)化設(shè)計(jì)問題中，可以只有一個(gè)目標(biāo)函數(shù)稱為 單目標(biāo)函數(shù) 。在構(gòu)造目標(biāo)函數(shù)時(shí)，應(yīng)注意 目標(biāo)函數(shù)必須包含全部設(shè)計(jì)變量 。用它可以評價(jià)設(shè)計(jì)方案的好壞，所以它又被稱作評價(jià)函數(shù)。 ?邊界點(diǎn)與內(nèi)點(diǎn) 約束邊界上的可行點(diǎn)為邊界點(diǎn) ,其余可行點(diǎn)為內(nèi)點(diǎn)。（對應(yīng)