【正文】 （）擬牛頓迭代為 （）或 . （） 擬牛頓條件使二次模型具有如下插值性質(zhì)：如果滿足擬牛頓條件（），那么在點(diǎn)的二次模型 （）滿足 . （）上式中的第一、第二等式是顯然的，第三個(gè)等式是利用擬牛頓條件（）得到的。 設(shè)：在開集商二次連續(xù)可微，在附近的二次近似為 （）對上式兩邊求導(dǎo)，有 ， （）令 （）（）成為 . （）顯然，如果是正定二次函數(shù)，上述關(guān)系式（）精確成立。第2章 擬牛頓法算法設(shè)計(jì) 擬牛頓法條件 考慮目標(biāo)函數(shù)在當(dāng)前點(diǎn)處的二階模型 . （.）其中，是對稱正定矩陣，是Hesse近似，它將在每次迭代中進(jìn)行校正。由于是使得上述不等式成了的最小非負(fù)整數(shù)，因而不會(huì)太小，從而保證了目標(biāo)函數(shù)的充分下降，令。Armijo準(zhǔn)則為： 給定，設(shè)是使得下述不等式A： . （） 成立的最小非負(fù)整數(shù)，令。因此對于超線性收斂速度的方法， .是一個(gè)比較合適的終止準(zhǔn)則。 一個(gè)理想的算法終止準(zhǔn)則為 .然而由于是未知的，這樣的準(zhǔn)則并不具有任何實(shí)用價(jià)值。 當(dāng)時(shí)，稱序列超線性收斂于，超線性收斂是一種比線性收斂快的收斂，多數(shù)的最有化方法具有超線性收斂的特性，在上述收斂率的定義中，所有的收斂獨(dú)屬于超線性收斂。最常見的為和的情形，當(dāng)，時(shí)稱為線性收斂，這是的誤差序列具有以下性能： .依最簡單的情形，在上式中取等號，設(shè)初始誤差為1，如果=，則誤差序列為 1，…，如果，則誤差序列為 1，…，可以看出越小，收斂越快。因而不是一個(gè)有效的方法。則是總體極小點(diǎn)的充分必要條件是 . 收斂速度是迭代方法的又一重要性質(zhì)。第1章 最優(yōu)化基礎(chǔ) 在這一章里我們首先簡要介紹判斷無約束最優(yōu)化問題的最優(yōu)解常用的最優(yōu)性條件，接著給出擬牛頓算法的概述，最后說明本文的主要工作． 最優(yōu)化理論與方法是一門應(yīng)用性很強(qiáng)的年輕學(xué)科，它研究某些數(shù)學(xué)上定義的問題的最優(yōu)解，即對于給出的實(shí)際問題，從眾多的方案中找出最符合要求的最佳方案．在電子計(jì)算機(jī)的推動(dòng)下，最優(yōu)化理論與方法在經(jīng)濟(jì)計(jì)劃、工程設(shè)計(jì)、生產(chǎn)管理、交通運(yùn)輸?shù)确矫娴玫搅藦V泛應(yīng)用，成為一門十分活躍的學(xué)科．最優(yōu)化問題根據(jù)有無約束條件可分為約束和無約束最優(yōu)化問題．現(xiàn)實(shí)生活中存在的主要是有約束的問題，但我們可以通過某些處理將有約束的問題轉(zhuǎn)化為無約束的問題處理，并且無約束最優(yōu)化問題的求解相對容易的多，而解法的基本思想又常?？梢酝茝V到一般有約束的情況，因此使得研究無約束最優(yōu)化問題的計(jì)算方法顯得尤為重要，人們對它的研究情況也十分重視． 對于無約束問題, . （）的最優(yōu)性條件可以分為一階條件和二階條件．設(shè)的一階導(dǎo)數(shù)和二階導(dǎo)數(shù)存在，且分別表示為 ,則我們有以下定理．(一階必要條件)設(shè)：寸R1在開集上連續(xù)可微。 對于擬牛頓法的算法設(shè)計(jì)，也已經(jīng)有不少學(xué)者提出過，早年袁亞湘與孫文瑜合作《最優(yōu)化理論與方法》一書中對其進(jìn)行了詳細(xì)的設(shè)計(jì)，而后也有不少學(xué)者對其進(jìn)行研究?？梢载挢愫芏鄦栴}。但牛頓法中每次迭代都需要計(jì)算Hessian矩陣，但計(jì)算Hessian矩陣工作量大，并且有的很難計(jì)算，甚至不好求，而以擬牛頓方程為基礎(chǔ)構(gòu)造的擬牛頓算法克服了牛頓法的這一不足。在非線性無約束最優(yōu)化問題中，對于正定的二次函數(shù)，牛頓法一步即可達(dá)到最優(yōu)解。牛頓法作為求解最優(yōu)化問題最有效的方法之一。 無約束優(yōu)化問題是最優(yōu)化問題的基礎(chǔ)，是數(shù)值計(jì)算領(lǐng)域中十分活躍的研究課題之一，歷時(shí)較長，獲得的成果也較多，有關(guān)的方法和理論比較成熟。本章將介紹最優(yōu)化方法的研究對象、特點(diǎn)，以及最優(yōu)化方法模型的建立和模型的分析、求解、應(yīng)用。最優(yōu)化方法的目的在于針對所研究的系統(tǒng)，求得一個(gè)合理運(yùn)用人力、物力和財(cái)力的最佳方案，發(fā)揮和提高系統(tǒng)的效能及效益，最終達(dá)到系統(tǒng)的最優(yōu)目標(biāo)。 to be Newton method and the convergence proof and presents numerical analysis.Key words:Quasinewton,Unconstrained optimization ,Convergence1前 言 最優(yōu)化方法是近幾十年形成的，它主要運(yùn)用數(shù)學(xué)方法研究各種系統(tǒng)的優(yōu)化途徑及方案，為決策者提供科學(xué)決策的依據(jù)。 A quasinewton method for Unconstrained optimization Abstract:Newton method is to solving unconstrained optimization problem of one of the most monly used method is in Newton put forward on the basis of method the key to success is the use of the Hesse matrix the curvature of the information but provide Hesse matrix calculation workload is big, and some of the objective function Hesse matrix is difficult to calculate, even bad work method through the first derivative constructed out of the curvature approximate avoid a for the Hesse matrix couldn39。本論文將依靠前人的基礎(chǔ),對擬牛頓法進(jìn)行介紹并對其收斂性進(jìn)行證明,同時(shí)給出數(shù)值分析。擬牛頓算法在求解無約束優(yōu)化問題中占有不可取代的地位。擬牛頓法通過函數(shù)的一階導(dǎo)數(shù)構(gòu)造出曲率的近似,從而避免了求函數(shù)的Hesse矩陣,不需要求函數(shù)的二階導(dǎo)數(shù),從而大大的減小了計(jì)算的復(fù)雜度。 目 錄摘 要 1前 言 2第1章 最優(yōu)化基礎(chǔ) 4 無約束最優(yōu)化問題的最優(yōu)性條件 4 收斂概念 5 Wolfe準(zhǔn)則和Armijo準(zhǔn)則 7第2章 擬牛頓法算法設(shè)計(jì) 9 擬牛頓法條件 9 算法設(shè)計(jì) 11第3章 收斂性證明 12 總體收斂 12 局部超線性收斂 16第4章 數(shù)值驗(yàn)算 21 問題模型 21 數(shù)值結(jié)果 23總 結(jié) 24致 謝 25參考文獻(xiàn) 26附 錄 27無約束最優(yōu)化問題的擬牛頓法摘要：擬牛頓法是求解無約束最優(yōu)化問題最常用的方法之一，擬牛頓法是在牛頓法的基礎(chǔ)上提出來的。寫出畢業(yè)設(shè)計(jì)說明書，完成全部研究工作和畢業(yè)論文。討論算法的收斂速度 ，通過數(shù)值試驗(yàn)對算法的有效性進(jìn)行驗(yàn)證。作者簽名： 日期： 年 月 日導(dǎo)師簽名： 日期： 年 月 日指導(dǎo)教師評閱書指導(dǎo)教師評價(jià)：一、撰寫（設(shè)計(jì)）過程學(xué)生在論文（設(shè)計(jì)）過程中的治學(xué)態(tài)度、工作精神□ 優(yōu) □ 良 □ 中 □ 及格 □ 不及格學(xué)生掌握專業(yè)知識、技能的扎實(shí)程度□ 優(yōu) □ 良 □ 中 □ 及格 □ 不及格學(xué)生綜合運(yùn)用所學(xué)知識和專業(yè)技能分析和解決問題的能力□ 優(yōu) □ 良 □ 中 □ 及格 □ 不及格研究方法的科學(xué)性；技術(shù)線路的可行性；設(shè)計(jì)方案的合理性□ 優(yōu) □ 良 □ 中 □ 及格 □ 不及格完成畢業(yè)論文（設(shè)計(jì)）期間的出勤情況□ 優(yōu) □ 良 □ 中 □ 及格 □ 不及格二、論文（設(shè)計(jì)）質(zhì)量論文（設(shè)計(jì)）的整體結(jié)構(gòu)是否符合撰寫規(guī)范？□ 優(yōu) □ 良 □ 中 □ 及格 □ 不及格是否完成指定的論文（設(shè)計(jì)）任務(wù)（包括裝訂及附件）？□ 優(yōu) □ 良 □ 中 □ 及格 □ 不及格三、論文（設(shè)計(jì)）水平論文（設(shè)計(jì)）的理論意義或?qū)鉀Q實(shí)際問題的指導(dǎo)意義□ 優(yōu) □ 良 □ 中 □ 及格 □ 不及格論文的觀念是否有新意？設(shè)計(jì)是否有創(chuàng)意？□ 優(yōu) □ 良 □ 中 □ 及格 □ 不及格論文（設(shè)計(jì)說明書）所體現(xiàn)的整體水平□ 優(yōu) □ 良 □ 中 □ 及格 □ 不及格建議成績：□ 優(yōu) □ 良 □ 中 □ 及格 □ 不及格（在所選等級前的□內(nèi)畫“√”）指導(dǎo)教師：