【正文】 的誤差序列具有以下性能： .依最簡(jiǎn)單的情形，在上式中取等號(hào)，設(shè)初始誤差為1，如果=，則誤差序列為 1，…，如果，則誤差序列為 1，…，可以看出越小，收斂越快。 一個(gè)理想的算法終止準(zhǔn)則為 .然而由于是未知的，這樣的準(zhǔn)則并不具有任何實(shí)用價(jià)值。Armijo準(zhǔn)則為： 給定，設(shè)是使得下述不等式A： . （） 成立的最小非負(fù)整數(shù)，令。第2章 擬牛頓法算法設(shè)計(jì) 擬牛頓法條件 考慮目標(biāo)函數(shù)在當(dāng)前點(diǎn)處的二階模型 . （.）其中，是對(duì)稱(chēng)正定矩陣，是Hesse近似，它將在每次迭代中進(jìn)行校正。 利用擬牛頓條件，我們可以得到 .上述公式成為BFGS校正公式（關(guān)于）如果令，則擬牛頓條件為 ， （）擬牛頓迭代為 （）或 . （） 擬牛頓條件使二次模型具有如下插值性質(zhì)：如果滿(mǎn)足擬牛頓條件（），那么在點(diǎn)的二次模型 （）滿(mǎn)足 . （）上式中的第一、第二等式是顯然的，第三個(gè)等式是利用擬牛頓條件（）得到的。，并令。 （a）在開(kāi)凸集上二次可微； (b）水平集是凸的，存在正的常數(shù)m和M使得Hesse矩陣滿(mǎn)足 . （） (c）在的領(lǐng)域內(nèi)，是Lipschitz連續(xù)的，即 . （） 上述假設(shè)條件（b）意味著Hesse矩陣式上是正定的，有唯一的極小點(diǎn)。不難證明。于是，由于Wolfe不精確線(xiàn)性搜索的總體收斂性定理得 . （）為了證明 ，只要證明存在子序列{}，使得。這矛盾表明存在子序列{}，使得，從而 . （）（b），問(wèn)題是強(qiáng)凸的，這表明。首先我們給出擬牛頓法超線(xiàn)性收斂的充分必要條件。則當(dāng)且僅當(dāng) . （）時(shí)，序列{}超線(xiàn)性收斂到。 . （）從上式易知 ，代入（），得到 這表明是超線(xiàn)性收斂的。這個(gè)定理是基本的和一般的，當(dāng)我們討論每個(gè)具體的擬牛頓法的超線(xiàn)性收斂性時(shí)，都要驗(yàn)證充要條件（）。必有 ， ()意味著 .由于，故上式可寫(xiě)成 . （）由于非奇異。由于，則 .因此等價(jià)于 . （）上式表明當(dāng){}超線(xiàn)性收斂時(shí)，作為的近似向量，其對(duì)稱(chēng)誤差應(yīng)趨于零。如果，則,為正且 ， （）反之，如果,為正且()成立，則 . （）證明 首先假設(shè) ，則 ，于是（）中第一個(gè)不等式成立。反之，若,為正且（）成立，則 .由于，故得（）。又設(shè)該序列收斂到。又由泰勒展式可得利用（），有. （）由（）和（）可知成立，從而對(duì)于充分大的k。從這些結(jié)果中我們可以看到算法的可行性和有效性。在程序?qū)崿F(xiàn)過(guò)程中選用了Armijo非精確線(xiàn)搜索求步長(zhǎng)。本文吸取了大量前人的經(jīng)驗(yàn)。對(duì)其收斂性進(jìn)行更完善的證明。通過(guò)到圖書(shū)館，上網(wǎng)查閱資料。到最后能夠順利的編寫(xiě)出程序再調(diào)試成功。這樣才能把每件事做好。 我要對(duì)我的導(dǎo)師xx老師表示誠(chéng)摯的感謝。Sons，1987附 錄源代碼function [data,uu,cc]=nfu(m,x)%num所要求解的題目編號(hào),x0初始點(diǎn)，n是維數(shù)ticif size(x,1)==1, x=x。 sigma=。of39。F=39。 %設(shè)初始點(diǎn)x0 =eye(n)。while norm(,2)epsilon =。 while (t20) % 用Armijo搜索求步長(zhǎng) =+rho^t*。%計(jì)算g if(+sigma*rho^t*39。 end %BFGS校正=+rho^tk*。0)=(*sk39。)。 uu(,3)=rho^tk。%=xn。disp(num2str())。disp(39。data=rmfield(data,{39。})。本人完全意識(shí)到本聲明的法律結(jié)果由本人承擔(dān)。對(duì)本文的研究做出重要貢獻(xiàn)的個(gè)人和集體均已在文中以明確方式標(biāo)明。畢業(yè)設(shè)計(jì)（論文）使用授權(quán)聲明本人完全了解濱州學(xué)院關(guān)于收集、保存、使用畢業(yè)設(shè)計(jì)（論文）的規(guī)定。首先非常感謝學(xué)校開(kāi)設(shè)這個(gè)課題，為本人日后從事計(jì)算機(jī)方面的工作提供了經(jīng)驗(yàn)，奠定了基礎(chǔ)。這期間凝聚了很多人的心血，在此我表示由衷的感謝。從他身上，我學(xué)到了許多能受益終生的東西。最后，我要感謝我的父母對(duì)我的關(guān)系和理解，如果沒(méi)有他們?cè)谖业膶W(xué)習(xí)生涯中的無(wú)私奉獻(xiàn)和默默支持，我將無(wú)法順利完成今天的學(xué)業(yè)。感謝老師四年來(lái)對(duì)我孜孜不倦的教誨，對(duì)我成長(zhǎng)的關(guān)心和愛(ài)護(hù)。最后，我要特別感謝我的導(dǎo)師趙達(dá)睿老師、和研究生助教熊偉麗老師。在論文的撰寫(xiě)過(guò)程中老師們給予我很大的幫助，幫助解決了不少的難點(diǎn)，使得論文能夠及時(shí)完成，這里一并表示真誠(chéng)的感謝。老師們認(rèn)真負(fù)責(zé)的工作態(tài)度，嚴(yán)謹(jǐn)?shù)闹螌W(xué)精神和深厚的理論水平都使我收益匪淺。四年的風(fēng)風(fēng)雨雨，我們一同走過(guò)，充滿(mǎn)著關(guān)愛(ài)，給我留下了值得珍藏的最美好的記憶。從這里走出，對(duì)我的人生來(lái)說(shuō)，將是踏上一個(gè)新的征程，要把所學(xué)的知識(shí)應(yīng)用到實(shí)際工作中去。其次，我要感謝大學(xué)四年中所有的任課老師和輔導(dǎo)員在學(xué)習(xí)期間對(duì)我的嚴(yán)格要求，感謝他們對(duì)我學(xué)習(xí)上和生活上的幫助，使我了解了許多專(zhuān)業(yè)知識(shí)和為人的道理，能夠在今后的生活道路上有繼續(xù)奮斗的力量。首先，我要特別感謝我的知道郭謙功老師對(duì)我的悉心指導(dǎo)，在我的論文書(shū)寫(xiě)及設(shè)計(jì)過(guò)程中給了我大量的幫助和指導(dǎo)，為我理清了設(shè)計(jì)思路和操作方法，并對(duì)我所做的課題提出了有效的改進(jìn)方案。本次畢業(yè)設(shè)計(jì)是對(duì)我大學(xué)四年學(xué)習(xí)下來(lái)最好的檢驗(yàn)。（保密論文在解密后遵守此規(guī)定） 論文密級(jí)：□公開(kāi) □保密（___年__月至__年__月）(保密的學(xué)位論文在解密后應(yīng)遵守此協(xié)議)作者簽名：_______ 導(dǎo)師簽名：______________年_____月_____日 _______年_____月_____日獨(dú) 創(chuàng) 聲 明本人鄭重聲明：所呈交的畢業(yè)設(shè)計(jì)(論文)，是本人在指導(dǎo)老師的指導(dǎo)下，獨(dú)立進(jìn)行研究工作所取得的成果，成果不存在知識(shí)產(chǎn)權(quán)爭(zhēng)議。盡我所知，除文中已經(jīng)特別注明引用的內(nèi)容和致謝的地方外，本論文不包含任何其他個(gè)人或集體已經(jīng)發(fā)表或撰寫(xiě)過(guò)的研究成果。39。)。x* : 39。f* : 39。end =uu。 uu(,1)=norm(,2)。)+(yk39。sk=yk= %yk=feval(gfun,x,varargin{:})gk。 break。 =of(xk,m)。 t=0。 =0。=of(x,m)。%F=39。global F。epsilon=1e5。Newton Equations and QuasiNewton Methods for Optimization[J]．Annals of Operations Research，2001，103：213—234．[9] Z．X．Wei，Q．X．Li．A new Huang class and its properties for unconstrained optimization problems． Journal of Mathematical Research and Exposition．2005，1：64—71[10] HestenesMR，stiefel EL．Methodsofconjugate gradientsforsolvinglinearsystems，J Res，Nat Bur Standards Sect．1952，5(49)：409436[11] letcherR，Reeves C．Function minimizationby conjugategradients，putJ，1964，7：149。在這四年時(shí)間里，很多同學(xué)和老師都給了我很多的幫助。讓我明白了很多道理。擴(kuò)充了自己對(duì)題目的認(rèn)。 在畢業(yè)論文的寫(xiě)作過(guò)程中，我遇到了很多麻煩。收斂性證明更為完善。同時(shí)對(duì)算法的收斂性進(jìn)行了證明。如下表41。在迭代過(guò)程中Armijo準(zhǔn)則中的參數(shù)。 證明 本定理要證明對(duì)于一切充分大的