【正文】 用 DFP 法求 ????210min4,1,Tx??X解：取 時，DFP 法與最速下降法有相同的的第一代迭代點0?HI安徽工業(yè)大學 本科畢業(yè)設計(論文)┊┊┊┊┊┊┊┊┊┊┊┊┊裝┊┊┊┊┊訂┊┊┊┊┊線┊┊┊┊┊┊┊┊┊┊┊┊┊ 31 由例 可知 ， ??1220,8xg??????????????QX ,=8003?? ??? ????? ?Xg， ????????Syg 010TT??SHy 因為 ,?Sy 0 00.,?????????????y 所以 ???????H搜索方向為 ?Pg直線搜索 ,034tt????????????????X由 知??10dftt?所以 2????????20g? 是極小點2X DFP 法的 matlab 實現(xiàn) 首先建立 M 文件為：function [x,f,tdc]=dfp(x0,A,fun,gfun)%功能：用 DFP 算法求解無約束問題：minf(x),x0是初始點.%輸出：x,f 分別是近似最優(yōu)點和最優(yōu)值，計算運行循環(huán)次數(shù).%A 為所求問題 Hesse 矩陣，fun 為問題函數(shù)，gfun 為梯度函數(shù).安徽工業(yè)大學 本科畢業(yè)設計(論文)┊┊┊┊┊┊┊┊┊┊┊┊┊裝┊┊┊┊┊訂┊┊┊┊┊線┊┊┊┊┊┊┊┊┊┊┊┊┊ 32 ep=1e6。%ep 為終止限精度k=1。n=length(x0)。Hk=eye(n)。X(:,1)=x0。G(:,1)=gfun(X(:,1))。X(:,k+1)=X(:,k)G(:,1)39。*G(:,1)/(G(:,1)39。*A*G(:,1))*G(:,1)。%一步最速下降法G(:,k+1)=gfun(X(:,k+1))。tdc=0。%計算迭代此數(shù)while(norm(G(:,k+1))ep) if k==n+1 x0=X(:,k+1)。 g0=gfun(x0)。 Hk=eye(n)。k=1。 pk=g0。 X(:,k)=x0。 G(:,k)=g0。 else sk=X(:,k+1)X(:,k)。 yk=G(:,k+1)G(:,k)。 Hk=Hk+sk*sk39。/(sk39。*yk)Hk*yk*yk39。*Hk/(yk39。*Hk*yk)。 pk=Hk*G(:,k+1)。 k=k+1。 end X(:,k+1)=X(:,k)+(pk39。*pk/(pk39。*A*pk))*pk。 G(:,k+1)=gfun(X(:,k+1))。 tdc=tdc+1。endx=X(:,k+1)。f=fun(x)。： x0=[1,1]。 A=[2 0。0 8]。 fun=inline(39。x(1)^2+4*x(2)^239。)。 gfun=inline(39。[2*x(1)。8*x(2)]39。)。 [x,f,tdc]=dfp(x0,A,fun,gfun)即可得到結(jié)果 BFGS 法的基本思想和原理另一個有效和著名的變尺度算法是 Broyden, Fletcher(1970), Goldfarb(1969)和 Shanno(1970)共同研究的結(jié)果,因而叫做 BFGS 法. 其基本原理為：安徽工業(yè)大學 本科畢業(yè)設計(論文)┊┊┊┊┊┊┊┊┊┊┊┊┊裝┊┊┊┊┊訂┊┊┊┊┊線┊┊┊┊┊┊┊┊┊┊┊┊┊ 33 考慮校正公式 ，??1TTTTkkkk kkk?????SHyySHW式中， kkT??SyW 校正矩陣為 ??TTTTkkkkkk???EySyH為實數(shù)參數(shù)，每取一個實數(shù)就對應一種擬牛頓算法，當取 就是 DFP 校正? 0??公式，當取 就是 BFGS 校正公式1Tk?Sy 1TTTkkk kkkTk?? ?????? ?????? ?HyHSySH BFGS 法的迭代步驟已知目標函數(shù) 及其梯度 ,問題的維數(shù) ,終止限??fX??gn?（1）選取初始點 ，初始矩陣 ,給定終止限00?HI0?（2）求初始梯度 .若 ，停止輸出 ；否則轉(zhuǎn)（3）??f???f??X（3）構造初始 BFGS 方向，取 ??000,ffk????P（4）進行一維搜索，求 ，使得kt?11,kkkklst???XPP（5）求梯度 ，若 ，停止，輸出 ；否則繼續(xù)??1kf????f??X（6）檢驗迭代次數(shù)，若 ，令 轉(zhuǎn)（ 3）n0n（7）構造 BFGS 方向，用 BFGS 公式 11TTTkkk kkkTk?? ??????? ?????? ?yHHSySHS計算 ， 轉(zhuǎn)（4）1k???11,kf????PX安徽工業(yè)大學 本科畢業(yè)設計(論文)┊┊┊┊┊┊┊┊┊┊┊┊┊裝┊┊┊┊┊訂┊┊┊┊┊線┊┊┊┊┊┊┊┊┊┊┊┊┊ 34 例 用 BFGS 公式求 ，取初始點??21123minfxx???X精確度要求 .??10,T?X310???解 計算 的梯度?f ??1213,Tgxx采用精確的一維搜索，從 出發(fā)，沿方向?kk?X 進行精確的一維搜索，得?12,Tkkd?P 1kkt?d其中 為最優(yōu)步長，滿足kt ????0minkktftft??XX可以這樣計算：kt?? ??221 12123kkkkkkftxtdxtdxttdxtd????????容易知道 有唯一極小點 滿足 經(jīng)過計算可得,k??0,k??? 取初始矩陣 10???????HE第一次迭代，算得 ??12.,.T?g ，不滿足終止準則 .???g ??,.T?dH從 出發(fā)，沿方向 進行一維搜素，由 的計算公式可得最有步長1Xkt 置 ??,.0T??d .,T?g 2.??計算 ??,.0T??X安徽工業(yè)大學 本科畢業(yè)設計(論文)┊┊┊┊┊┊┊┊┊┊┊┊┊裝┊┊┊┊┊訂┊┊┊┊┊線┊┊┊┊┊┊┊┊┊┊┊┊┊ 35 ??,????g由 BFGS 公式計算可得 ??????H第一次迭代結(jié)束，進行第二次迭代，可得 ??,.2T??dg ,10,.tt??Xd 終止得近似解 .??30.,1.,T???g ??*,T??X BFGS 法的 matlab 實現(xiàn)首先建立 bfgs m 文件function [x,val,k]=bfgs(fun,gfun,x0,varargin)%功能：用BFGS算法求解無約束問題： minf(x)%輸入：x0是初始點，fun,gfun分別是目標函數(shù)及其梯度；%varargin是輸入的可變參數(shù)變量，簡單調(diào)用bfgs時可以忽略它，%但若是其他程序循環(huán)調(diào)用該程序時將發(fā)揮重要的作用%輸出：x,val分別是近似最優(yōu)點和最優(yōu)值，k是迭代次數(shù).maxk=500。 %給出最大迭代次數(shù)rho=。sigma=。eps=1e3。k=0。 n=length(x0)。Bk=eye(n)。 %Bk=feval(39。Hess39。,x0)。while(kmaxk) gk=feval(gfun,x0,varargin{:})。 %計算梯度 if(norm(gk)eps),break。end %檢驗終止準則 dk=Bk\gk。 %解方程組，計算搜索方向 m=0。mk=0。 while(m20) %用Armijo搜索步長 newf=feval(fun,x0+rho^m*dk,varargin{:})。 oldf=feval(fun,x0,varargin{:})。 if(newfoldf+sigma*rho^m*gk39。*dk) mk=m。break。 end m=m+1。 end %BFGS校正 x=x0+rho^mk*dk。 sk=xx0。 yk=feval(gfun,x,varargin{:})gk。 if(yk39。*sk0)安徽工業(yè)大學 本科畢業(yè)設計(論文)┊┊┊┊┊┊┊┊┊┊┊┊┊裝┊┊┊┊┊訂┊┊┊┊┊線┊┊┊┊┊┊┊┊┊┊┊┊┊ 36 Bk=Bk(Bk*sk*sk39。*Bk)/(sk39。*Bk*sk)+(yk*yk39。)/(yk39。*sk)。 end k=k+1。 x0=x。endval=feval(fun,x0,varargin{:})。然后建立fun和gfun m文件：function f=fun(x)f=3/2*x(1)^2+1/2*x(2)^2x(1)*x(2)2*x(1)。function g=gfun(x)g=[3*x(1)x(2)2,x(2)x(1)]39。最后在工作窗口輸入： x0=[0,0]39。 [x,val,k]=bfgs(39。fun39。,39。gfun39。,x0) 變尺度法的說明 變尺度法中的二個重要算法 DFP 算法和 BFGS 算法迭代過程相同,區(qū)別僅在于校正矩陣 選取不同,對于 DFP 法,由于一維搜索的不精確和計算誤差的積kE累可能導致某一輪的 奇異,而 BFGS 法對一維搜索的精度要求不高,并且由它kH產(chǎn)生的 法比 DFP 法更具有好的數(shù)值穩(wěn)定性,它比kDFP 法更具有實用性..安徽工業(yè)大學 本科畢業(yè)設計(論文)┊┊┊┊┊┊┊┊┊┊┊┊┊裝┊┊┊┊┊訂┊┊┊┊┊線┊┊┊┊┊┊┊┊┊┊┊┊┊ 37 結(jié)束語 經(jīng)過三個多月的學習和工作，我終于完成《關于無約束最優(yōu)化問題的基本研究》，沒走一步對我都是一個嘗試與挑戰(zhàn)，有很多感受，我開始了獨立的學習和實驗，查看相關的書籍和資料，讓頭腦中模糊的概念逐漸清晰，是自己的稚嫩的作品一步步完善，每一次改進都是我學習的收獲. 雖然我的論文作品不是很成熟，還有很多不足之處，但我可以自豪的說，里面的每一段內(nèi)容，我感受到做論文是要真真正正用心去做的一件事，是真正的自己的學習和研究的過程，希望這次的經(jīng)歷能在我以后的學習和生活中激勵我使我繼續(xù)進步.安徽工業(yè)大學 本科畢業(yè)設計(論文)┊┊┊┊┊┊┊┊┊┊┊┊┊裝┊┊┊┊┊訂┊┊┊┊┊線┊┊┊┊┊┊┊┊┊┊┊┊┊ 38 參考文獻[1] 傅英定，成孝予，, 國防工業(yè)出版社，2022[2] 陳寶林. 最優(yōu)化理論與算法, 清華大學出版社，2022[3] 何堅勇. 最優(yōu)化方法, 清華大學出版社，2022[4] 曹衛(wèi)華， MATLAB 實現(xiàn), 化學工業(yè)出版社 2022[5} 袁亞湘. 非線性優(yōu)化計算方法, 科學出版社，2022[6] 唐煥文，, 大連理工大學出版社，1994[7] 黃紅選，, 清華大學出版社，2022[8] John H. Mathew