【正文】 非劣解（有效解、Parato最優(yōu)解）是指在有個(gè)目標(biāo)函數(shù)，當(dāng)要求 個(gè)目標(biāo)值不變壞是，找不到一個(gè)，使得另一個(gè)目標(biāo)函數(shù)值比更好，則將此作為非劣解。優(yōu)選方向法為滿足兩個(gè)條件內(nèi)的可行方向的優(yōu)選；梯度投影法為當(dāng)負(fù)梯度方向不滿足可行條件時(shí)，將方向投影到約束面上。優(yōu)點(diǎn)：對(duì)目標(biāo)函數(shù)的性態(tài)無(wú)特殊要求，程序設(shè)計(jì)簡(jiǎn)單，使用方便，收斂速度比較快。進(jìn)行轉(zhuǎn)軸運(yùn)算（高斯消元）。通過(guò)反射、擴(kuò)張、收縮、和縮邊等方式得到新的單純型，其中至少有一個(gè)頂點(diǎn)的函數(shù)值比原單純型要小。變尺度法中利用尺度矩陣代替海賽矩陣的逆陣進(jìn)行求解。多元函數(shù)求極值的牛頓法迭代公式：。兩種用二次函數(shù)逼近原來(lái)函數(shù)的方法：牛頓法（切線法）和拋物線法（二次插值法）。消元法:將等式約束條件的一個(gè)變量表示成另一個(gè)變量的函數(shù)。用函數(shù)的二階倒數(shù)來(lái)檢驗(yàn)駐點(diǎn)是否為極值點(diǎn)。解析解法是指優(yōu)化對(duì)象用數(shù)學(xué)方程（數(shù)學(xué)模型）描述，用數(shù)學(xué)解析方法的求解方法。6. 多元函數(shù)的泰勒展開。9. 等式約束優(yōu)化問(wèn)題的極值條件。適用于任何單谷函數(shù)求極小值問(wèn)題。最速下降法的收斂速度和變量的尺度關(guān)系很大。18. 變尺度法：放大或縮小各個(gè)坐標(biāo)，改善函數(shù)的偏心程度。若滿足上述判別條件，則將補(bǔ)充到原方向組中，下輪的始點(diǎn)是沿方向進(jìn)行進(jìn)行一維搜素的極小點(diǎn)22. 單形替換法?？尚薪猓和苟噙呅蝺?nèi)各點(diǎn)滿足全部約束條件的點(diǎn)。直接解法包括隨機(jī)方向法、復(fù)合型法、可行方向法、廣義節(jié)約梯度法，屬于間接解法的懲罰函數(shù)法和增廣乘子法。一是在約束面的迭代點(diǎn)處，產(chǎn)生一個(gè)可行方向，沿此方向作一維最優(yōu)化搜索，得到可行域內(nèi)的新點(diǎn)，再沿點(diǎn)的負(fù)梯度方向繼續(xù)搜索；二是在約束面的迭代點(diǎn)處，產(chǎn)生一個(gè)可行方向，沿此方向作一維最優(yōu)化搜索，得到可行域外的新點(diǎn)，再設(shè)法將點(diǎn)移動(dòng)到約束面上，即取與約束面的交點(diǎn)作為新的迭代點(diǎn)；三是沿約束面搜索，適用于只具有線性約束條件的非線性規(guī)劃問(wèn)題。用來(lái)求解勇士具有等式約束和不等式約束函數(shù)的優(yōu)化問(wèn)題。主要目標(biāo)法：從多個(gè)目標(biāo)中選擇一個(gè)目標(biāo)作為主要目標(biāo)，其他目標(biāo)轉(zhuǎn)化成約束函數(shù)，將多目標(biāo)優(yōu)化問(wèn)題變成單目標(biāo)優(yōu)化問(wèn)題；統(tǒng)一目標(biāo)法：線性加權(quán)和法、理想點(diǎn)法和平方和加權(quán)法、分目標(biāo)乘除法；分層序列法及寬容分層序列法：將多目標(biāo)優(yōu)化問(wèn)題中的個(gè)目標(biāo)函數(shù)分清主次，按其重要程度逐一排除，依次對(duì)各個(gè)目標(biāo)函數(shù)求最優(yōu)解，后一目標(biāo)在前一目標(biāo)函數(shù)最優(yōu)解的集合內(nèi)尋優(yōu)。基本思路是將約束優(yōu)化問(wèn)題中的不等式和等式約束函數(shù)經(jīng)過(guò)加權(quán)轉(zhuǎn)化后，和目標(biāo)函數(shù)結(jié)合形成新的目標(biāo)函數(shù)——懲罰函數(shù)，加權(quán)項(xiàng)可分為障礙項(xiàng)和懲罰項(xiàng)；障礙項(xiàng)的作用是當(dāng)?shù)c(diǎn)在可行域內(nèi)時(shí)，在迭代過(guò)程中將阻止迭代點(diǎn)越出可行域，懲罰項(xiàng)的作用是當(dāng)?shù)c(diǎn)在非可行域內(nèi)或不滿足等式約束條件時(shí)，在迭代過(guò)程中將迫使迭代點(diǎn)逼近約束邊界或等式約束曲面。產(chǎn)生個(gè)維隨機(jī)單位向量，找到個(gè)隨機(jī)點(diǎn)中使目標(biāo)函數(shù)最小的點(diǎn)，得到可行搜索方向，進(jìn)行迭代計(jì)算，直到搜索到一個(gè)滿足全部約束條件且目標(biāo)函數(shù)值不再下降的新點(diǎn)?；究尚薪獾搅硪粋€(gè)基本可行解的轉(zhuǎn)換。擴(kuò)張（收縮）：當(dāng)時(shí)，取擴(kuò)張點(diǎn)并計(jì)算其函數(shù)值，若則以代替，代替,構(gòu)成一新單純型。算法的形式：經(jīng)過(guò)推到后的校正公式：20. 坐標(biāo)輪換法（變量輪換法）：每次搜索只允許一個(gè)變量變化，其余變量保持不變，沿坐標(biāo)方向輪流進(jìn)行搜索的尋優(yōu)方法。牛頓法和阻尼牛頓法統(tǒng)稱為牛頓型方