【文章內容簡介】 ????? 成立。 4 有以下關系式成立 ? ?22112)()()(.2)(.1kxx xxxfxfxfkxf?? ???????? ? 則牛頓法產生的序列收斂于 x . 我們現(xiàn)在來考慮牛頓法的步驟問題，首先 考慮 1m in ( )2 TTf x x Q x b x c? ? ?. 由于已知 ()f x Qx b? ? ? . 那么由最優(yōu)性條件 ( ) 0fx??，當 Q 正定時， 1Q? 存在，立即可得 1x Q b???? ， 而且由 Q 的正定性，知 x? 即為最優(yōu)解 . 于是對于 2fC? 的一般函數(shù)，在 ()kx 的局部 ( ) ( ) ( ) ( ) 2 ( ) ( )1( ) ( ) ( ) ( ) ( ) ( ) ( )2k k T k k T k kf x f x f x x x x x f x x x? ? ? ? ? ? ? ?， 當 2 ( )()kfx? 正定時，形成套用公式 1x Q b???? ，設想能取得好的效果，這就是牛頓法，其步驟為 任取 (1) ,1nx R k??； 計算 ，若 0kg? ，則停，否則計算 ( ) 2 ( )( ) ( )kkG x f x?? ，令 ( 1 ) ( ) ( ) 1()k k k kx x G x g???? ； 1, 2kk??回 . 正文中的相關要求如下： 1)、名詞術語 科技名詞術語及設備、元件的名稱，應采用國家標準或部頒標 5 準中規(guī)定的術語或名稱。標準中未 規(guī)定的術語要采用學科通用術語或名稱。一些特殊名詞或新名詞應在適當位置加以說明或注解。 采用英語縮寫詞時，文中第一次出現(xiàn)的縮寫詞應該用括號注明英文全文。 2)、數(shù)字 按國家語言文字工作委員會等七單位 1987 年發(fā)布的《關于出版物上數(shù)字用法的試行規(guī)定》，除習慣用中文數(shù)字表示的以外，一般均采用阿拉伯數(shù)字。年份一概寫全數(shù)，如 2021 年不能寫成 05 年。 3)、表格 表序一般按章編排，如第一章第一個插表的序號為 “表 ”等。表序與表名之間空一格，表名中不允許使用標點符號，表名后不加標點。表序與表名置于表上居中。 數(shù)字空 缺的格內加 “一 ”字線 (占 2 個數(shù)字 )，不允許用 “〞 ”或 “同上 ”之類的寫法；表內文字一律用 5 號仿宋體。 表中若有附注時，用 5 號仿宋體寫在表的下方，句末加標點。僅有一條附注時寫成：注： … ；有多條附注時，附注各項的序號一律用阿拉伯數(shù)字，例如：注 1： … 。 表 示例表一 項目 1 項目 2 項目 3 項目 4 項目 5 內容 1 內容 2 內容 3 內容 4 內容 5 內容 1 內容 2 內容 3 內容 4 內容 5 注 1：注釋 1； 4)、圖 畢業(yè)論文（設計）的插圖應與文字緊密配合，文圖相符，內容 6 正確。選圖要力求精練。 （ 1）制圖標準 插圖應符合國家標準及專業(yè)標準。 機械工程圖：采用第一角投射法，嚴格按照 GB4457～ 446084，GB13183《機械制圖》標準規(guī)定。 電氣圖：圖形符號、文字符號等應符合有關標準的規(guī)定。 流程圖：原則上應采用結構化程序并正確運用流程框圖。 對無規(guī)定符號的圖形應采用該行業(yè)的常用畫法。 （ 2）圖題及圖中說明 圖號按章編排，如第一章第一圖的圖號為 “圖 ”等。圖題置于圖下居中，用 5 號宋體。有圖注或其他說明時應置于圖題之上，用 5號仿宋體。圖名在圖號之后空一格排寫。引用圖應說明出處，在圖題右上角加引用文獻號。圖 中若有分圖時，分圖號用 (a)、 (b)等置于分圖之下。 圖中各部分說明應采用中文 (引用的外文圖除外 )或數(shù)字項號，各項文字說明置于圖題之上 (有分圖題者，置于分圖題之上 )。 示例如圖 所示。 7 注：此圖用于說明問題，這一行的縮進可自己調節(jié) 圖 示例圖 （ 3）插圖編排 插圖與其圖題為一個整體，不得拆開排寫于兩頁。插圖處的該頁空白不夠排寫該圖整體時，可將其后文字部分提前排寫，將圖移至次頁最前面。 （ 4）論文原件中照片圖及插圖 畢業(yè)論文（設計）原件中的照片圖應是數(shù)碼相機拍照的照片，或是原版照片粘貼，不得采用 復印方式。照片可為黑白或彩色，采用光面相紙，不宜用布紋相紙。顯微組織照片必須注明放大倍數(shù)。 （ 5）坐標與坐標單位 對坐標軸必須進行說明，有數(shù)字標注的坐標圖，必須注明坐標單位。 5)、物理量名稱、符號與計量單位 （ 1）物理量的名稱和符號 物理量的名稱和符號應符合 GB3100～ 310286 的規(guī)定。論文中某一量的名稱和符號應統(tǒng)一。 8 （ 2）物理量計量單位 物理量計量單位及符號應按國務院 1984 年發(fā)布的《中華人民共和國法定計量單位》及 GB3100～ 3102 執(zhí)行，不得使用非法計量單位及符號。計量單位符號，除用人名命名 的單位第一個字母用大寫之處，一律用小寫字母。 表達時刻時應采用中文計量單位，如 “上午 8 點 3 刻 ”，不能寫成 “8h45min”。 6)、外文字母的正、斜體用法 物理量符號、物理常量、變量符號、生物拉丁文用斜體，計量單位等符號均用正體。 7)、公式 公式應另起一行寫在稿紙中央，公式和編號之間不加虛線。公式較長時最好在等號 “=”處轉行，如難以實現(xiàn)，則可在＋、－、 、 247。運算符號處轉行，運算符號應寫在轉行后的行首，公式的編號用圓括號括起來放在公式右邊行末。 公式序號按章編排，如第一章第一個公式序號為 “（ ） ”，附錄 A 中的第一個公式為 “（ A1） ”等。文中引用公式時，一般用 “見式（ ） ”或 “由公式（ ） ”。 8)、 注釋 畢業(yè)設計 (論文 )中有個別名詞或情況需要解釋時，可加注說明。注釋一律用頁末注，即將注文放在加注頁稿紙的下端，而不用行中注 (夾在正文中的注 )和 篇末注 (將全部注文集中在文章末尾 )。若在 9 同一頁中有兩個以上的注時，按各注出現(xiàn)的先后，須按序編列注號。注釋的注號左頂格，并用數(shù)字加圓表示，如 ① ， ② ， … ，應與正文中的指示序號和格式一致。注釋只限于寫在注釋符號出現(xiàn)的同頁，不得隔頁。 3 第三章擬牛頓法原理 第三章 擬牛頓法步驟 前面介紹了牛頓法 ,它的突出優(yōu)點是收斂很快 .但是 ,運用牛頓法需要計算二階便導數(shù) ,而且目標函數(shù)的 Hessian 矩陣可能非正定 .為了克服牛頓法的缺點 ,人們提出了擬牛頓法 .它的 基本思想 是用不包含二階導數(shù)的矩陣近似牛頓法中的 Hessian 矩陣的逆矩陣 .由于構造近似矩陣的方法不同 ,因而出現(xiàn)不同的擬牛頓法 .經理論證明和實踐檢驗 ,擬牛頓法已經成為一類公認的比較有效的算法 . 下面分析怎樣構造近似矩陣并用它取代牛頓法中的 Hessian 矩陣的逆 . 前面已經給出牛頓發(fā)的迭代公式 ,即 )()()1( kkkk dxx ???? 其中 )(kd 是在點 )(kx 處的牛頓方向 : )()( )(1)(2)( kkk xfxfd ???? ? k? 是從 )(kx 出發(fā)沿牛頓方向搜索的最優(yōu)步長 . 為構造 1)(2 )( ?? kxf 的近似矩陣 kH ,先分析 1)(2 )( ?? kxf 與 一階導數(shù)的關系 . 設在第 k 次迭代后 ,得到點 )1(?kx ,我們將目標函數(shù) )(xf 在點 )1(?kx 10 展成 Taylor 級數(shù) ,并取二階近似 ,得到 ))(()(21)()()()()1()1(2)1()1()1()1(??????????????kkTkkTkkxxxfxxxxxfxfxf 由此可知 ,在 )1(?kx 附近有 ))(()()( )1()1(2)1( ??? ????? kkk xxxfxfxf 令 )(kxx? ,則 ))(()()( )1()()1(2)1()( ??? ????? kkkkk xxxfxfxf 記作 )()1()( kkk xxp ?? ? ， )()( )()1()( kkk xfxfq ???? ? 則有 )(1)1(2)( )( kkk pxfq ???? 又設 Hessian 矩陣 )( )1(2 ?? kxf 可逆 ,則 )(1)1(2)( )( kkk qxfp ???? 這樣 ,計算出 )()( kk qp 和 后 ,可以根據(jù) )(1)1(2)( )( kkk qxfp ???? ，估計在 )1(?kx 處的 Hessian 矩陣的逆 .因此 ,為了用不包含 二階導數(shù)的矩陣 1?kH 取代牛頓法中的 Hessian )( )1(2 ?? kxf 矩陣 的逆矩陣 ,有理由令 1?kH 滿足 )(1)( kkk qHp ?? 這個式子有時稱為 擬牛頓條件 . 擬牛頓法 (QuasiNewton Methods)是求解非線性優(yōu)化問題最有效的方法之一，于 20 世紀 50 年代由美國 Argonne 國家實驗室的物理學家 W. C. Davidon 所 提出來。 Davidon 設計的這種算法在當時看來是非線性優(yōu)化領域最具創(chuàng)造性的發(fā)明之一。不久 R. Fletcher 和 M. J. D. Powell 證實了這種新的算法遠比其他方法快速和可靠，使得非線性優(yōu)化這門學科在一夜之間突飛猛進。在之后的 20 年里，擬牛頓方法得到了蓬勃發(fā)展，出現(xiàn)了大量的變形公式以及數(shù)以百計的相關論文。 擬牛頓法和最速下降法 (Steepest Descent Methods)一樣只要求每一步迭代時知道目標函數(shù)的梯度。通過測量梯度的變化，構造一個目標函數(shù)的模型使之足以產生超線性收斂性。這類方法 大大優(yōu)于最速下降法，尤其 11 對于困難的問題。另外，因為擬牛頓法不需要二階導數(shù)的信息，所以有時比牛頓法 (Newton39。s Method)更為有效。如今，優(yōu)化軟件中包含了大量的擬牛頓算法用來解決無約束，約束，和大規(guī)模的優(yōu)化問題。 現(xiàn)在確定的一種自然想法，是將 kH 作為 的近似來構造 .于是注意到 2 ( )()kfx? 的對稱矩陣 ,且有近似關系式 2 ( 1 ) 2 ( ) 2 ( ) ( 1 ) ( )( ) ( ) ( ) ( )k k k k kf x f x F x x x??? ? ? ? ? ? 即 ( ) ( 1 ) 2 ( ) 1 ( ) ( 1 )( ) ( ( ) ( )k k k k kx x f x f x f x? ? ?? ? ? ? ? ? 若記 ( ) ( ) ( 1 )1( ) , ,k k kk k k k kf x g g g x x?? ??? ? ? ? ? ?,因此要求 kH 滿足條件 對稱； 滿足擬牛頓方程 .