【正文】 ） 如果上式滿足，則終止搜索，否則，我們可以縮小，或者在區(qū)間[0,]上用二次插值公式求近似極小點(diǎn) . （） 將其作為一個(gè)新的。證明 定義 ， . （）由（）和（)得 ， . （）由BFGS校正，計(jì)算其跡和行列式，得 （）和 . （） 定義 ， （）這里是和之間的夾角，于是 . （）又由（）和（），有 . （）現(xiàn)在我們定義 . （）其中表示自然對(duì)數(shù)。設(shè){}收斂到解點(diǎn)。 設(shè)，又該序列的牛頓校正為。由于故由可得 . 所以 .即 . （）由于正定，故存在，使得對(duì)于充分大的k， .成立，從而有泰勒展式和（）有 （）其中位于與之間。本文進(jìn)一步工作將是提出更完善的擬牛頓算法。至此論文完成之際，在此向尊敬的老師和親愛的同學(xué)們表示深深的謝意。funnum39。 =gradientof(,F,m)。 %記錄f和theta的變化軌跡 uu(,2)=。disp(num2str())。作者簽名: 二〇一〇年九月二十日另外，我還要感謝大學(xué)四年和我一起走過的同學(xué)朋友對(duì)我的關(guān)心與支持，與他們一起學(xué)習(xí)、生活，讓我在大學(xué)期間生活的很充實(shí)，給我留下了很多難忘的回憶。他無論在理論上還是在實(shí)踐中，都給與我很大的幫助，使我得到不少的提高這對(duì)于我以后的工作和學(xué)習(xí)都有一種巨大的幫助，感謝他耐心的輔導(dǎo)。郭謙功老師淵博的知識(shí)、嚴(yán)謹(jǐn)?shù)淖黠L(fēng)和誨人不倦的態(tài)度給我留下了深刻的印象。盡我所知，除文中已經(jīng)注明引用的內(nèi)容外，本設(shè)計(jì)（論文）不含任何其他個(gè)人或集體已經(jīng)發(fā)表或撰寫過的作品成果。)disp(num2str())。*yk)/(yk*sk39。 tk=0。%F=strcat(39。要想做成功一件事，你必須要腳踏實(shí)地，有充分的準(zhǔn)備。同時(shí)對(duì)算法進(jìn)行了數(shù)值驗(yàn)算，從而證明了算法的可行性和有效性。假定對(duì)某，迭代序列產(chǎn)生的都在D中且。如果（）成立，那么{}超線性收斂到且的充要條件是收斂到1.證明 先假定{}超線性收斂到且。下面，我們研究BFGS方法的局部超線性收斂。 第3章 收斂性證明 設(shè)是任意初始點(diǎn)，是對(duì)稱正定矩陣的初始Hesse近似。Wolfe準(zhǔn)則為 .其中。并有很多人多擬牛頓法做了研究。t ask the second order greatly reduced the plexity of the calculation and quasinewton method also has superlinear convergence and convergence speed advantages quasinewton algorithms in solving unconstrained optimization has irreplaceable position in also many scholars research project of this paper will be depend on the basis of predecessors39。涉密論文按學(xué)校規(guī)定處理。作 者 簽 名：　　 　 　　日　 期：　　 　 　　 指導(dǎo)教師簽名：　　 　 　　 日　　期：　　 　 　　 使用授權(quán)說明本人完全了解 大學(xué)關(guān)于收集、保存、使用畢業(yè)設(shè)計(jì)（論文）的規(guī)定，即：按照學(xué)校要求提交畢業(yè)設(shè)計(jì)（論文）的印刷本和電子版本；學(xué)校有權(quán)保存畢業(yè)設(shè)計(jì)（論文）的印刷本和電子版，并提供目錄檢索與閱覽服務(wù)；學(xué)?？梢圆捎糜坝?、縮印、數(shù)字化或其它復(fù)制手段保存論文；在不以贏利為目的前提下，學(xué)?？梢怨颊撐牡牟糠只蛉績?nèi)容。擬牛頓法通過函數(shù)的一階導(dǎo)數(shù)構(gòu)造出曲率的近似,從而避免了求函數(shù)的Hesse矩陣,不需要求函數(shù)的二階導(dǎo)數(shù),從而大大的減小了計(jì)算的復(fù)雜度。牛頓法作為求解最優(yōu)化問題最有效的方法之一。最常見的為和的情形，當(dāng)，時(shí)稱為線性收斂，這是的誤差序列具有以下性能： .依最簡單的情形，在上式中取等號(hào)，設(shè)初始誤差為1，如果=，則誤差序列為 1，…，如果，則誤差序列為 1，…，可以看出越小，收斂越快。 利用擬牛頓條件，我們可以得到 .上述公式成為BFGS校正公式（關(guān)于）如果令，則擬牛頓條件為 ， （）擬牛頓迭代為 （）或 . （） 擬牛頓條件使二次模型具有如下插值性質(zhì)：如果滿足擬牛頓條件（），那么在點(diǎn)的二次模型 （）滿足 . （）上式中的第一、第二等式是顯然的，第三個(gè)等式是利用擬牛頓條件（）得到的。于是，由于Wolfe不精確線性搜索的總體收斂性定理得 . （）為了證明 ，只要證明存在子序列{}，使得。 . （）從上式易知 ，代入（），得到 這表明是超線性收斂的。如果，則,為正且 ， （）反之，如果,為正且()成立，則 . （）證明 首先假設(shè) ，則 ，于是（）中第一個(gè)不等式成立。從這些結(jié)果中我們可以看到算法的可行性和有效性。通過到圖書館，上網(wǎng)查閱資料。Sons，1987附 錄源代碼function [data,uu,cc]=nfu(m,x)%num所要求解的題目編號(hào),x0初始點(diǎn)，n是維數(shù)ticif size(x,1)==1, x=x。 %設(shè)初始點(diǎn)x0 =eye(n)。 end %BFGS校正=+rho^tk*。%=xn。})。首先非常感謝學(xué)校開設(shè)這個(gè)課題，為本人日后從事計(jì)算機(jī)方面的工作提供了經(jīng)驗(yàn)，奠定了基礎(chǔ)。感謝老師四年來對(duì)我孜孜不倦的教誨，對(duì)我成長的關(guān)心和愛護(hù)。四年的風(fēng)風(fēng)雨雨，我們一同走過，充滿著關(guān)愛，給我留下了值得珍藏的最美好的記憶。本次畢業(yè)設(shè)計(jì)是對(duì)我大學(xué)四年學(xué)習(xí)下來最好的檢驗(yàn)。盡我所知，除文中已經(jīng)特別注明引用的內(nèi)容和致謝的地方外，本論文不包含任何其他個(gè)人或集體已經(jīng)發(fā)表或撰寫過的研究成果。f* : 39。sk=yk= %yk=feval(gfun,x,varargin{:})gk。 =0。epsilon=1e5。擴(kuò)充了自己對(duì)題目的認(rèn)。如下表41。此外，若，則由上面的等式部分可知，從而。 (2)（）也是擬牛頓法超線性收斂的充要條件，即當(dāng)且僅當(dāng)擬牛頓步在長度和方向上都趨向于牛頓步，則擬牛頓法超線性收斂。則存在，使得對(duì)所有，有 . （）其中是上面定義的常數(shù)。，停止。 當(dāng)時(shí)，稱序列超線性收斂于，超線性收斂是一種比線性收斂快的收斂，多數(shù)的最有化方法具有超線性收斂的特性，在上述收斂率的定義中，所有的收斂獨(dú)屬于超線性收斂。在非線性無約束最優(yōu)化問題中，對(duì)于正定的二次函數(shù)，牛頓法一步即可達(dá)到最優(yōu)解。擬牛頓算法在求解無約束優(yōu)化問題中占有不可取代的地位。除了文中特別加以標(biāo)注引用的內(nèi)容外，本論文不包含任何其他個(gè)人或集體已經(jīng)發(fā)表或撰寫的成果作品。作者簽名： 日期： 年 月 日學(xué)位論文版權(quán)使用授權(quán)書本學(xué)位論文作者完全了解學(xué)校有關(guān)保留、使用學(xué)位論文的規(guī)定，同意學(xué)校保留并向國家有關(guān)部門或機(jī)構(gòu)送交論文的復(fù)印件和電子版，允許論文被查閱和借閱。關(guān)鍵詞：擬牛頓法，無約束優(yōu)化，收斂性。因此擬牛頓法被廣泛的認(rèn)可，她的應(yīng)用相當(dāng)廣泛。但是由于 在序列{}超線性收斂于時(shí)，我們可以得到 .上式表明對(duì)于一個(gè)超線性收斂的算法是的一個(gè)估計(jì)。（或校正產(chǎn)生的），使得擬牛頓條件（）或（）成立。上述定理證明了：采用Wolfe不精確線性搜索的BFGS擬牛頓算法是總體收斂的。：，滿足，設(shè)是非奇異矩陣序列。由這個(gè)引理可得，若（）成立，即對(duì)任意給定的，當(dāng)時(shí)， .，應(yīng)有且當(dāng)時(shí)有 和 3.這表明（）等價(jià)于 .