【正文】 周老師不是完美的，然而，今天的中國(guó)，這樣的老師不是太多，而是太少。這樣的例子數(shù)不勝數(shù)，體現(xiàn)了數(shù)學(xué)中問(wèn)題轉(zhuǎn)化的基本思想。比如一階最性條件就是個(gè)方程，而一些解方程的方法，就是將方程反構(gòu)成最優(yōu)化問(wèn)題來(lái)解（比如共軛梯度法的起源）。另外是否可以把信息、通信領(lǐng)域的理論方法結(jié)合到最優(yōu)化理論中，也是值得思考的問(wèn)題。其實(shí)比較各種局部?jī)?yōu)化算法就可有這樣的體會(huì)，理論上好的算法，往往就是能在各次獲取單點(diǎn)信息的過(guò)程中實(shí)現(xiàn)一種信息累積（比如下降算法本身就是一種信息累計(jì)——搜索過(guò)的地方永遠(yuǎn)不會(huì)再搜），使得算法掌握的信息越來(lái)越能鉤織出局部信息。放到這里來(lái)講，就是對(duì)于極小值點(diǎn)有限的函數(shù)，全局可以劃分為有限個(gè)局部，而局部有效信息，可以通過(guò)有限的信息采集獲得，最后把所有局部有效信息拼接起來(lái)就得到需要的全局信息。然而，對(duì)于全局優(yōu)化問(wèn)題，我們卻沒(méi)有這樣的手段（有限的各階導(dǎo)數(shù)對(duì)一般函數(shù)總是領(lǐng)域信息）。局部?jī)?yōu)化問(wèn)什么可獲得必然的解決？因?yàn)閷?duì)于可微函數(shù)，從解析式中的有限次（一次）信息采集——如求單點(diǎn)梯度——就可獲得一個(gè)有限領(lǐng)域內(nèi)可利用的局部（而非僅僅單點(diǎn)）信息。又比如水平集方法之所以不好用，就是因?yàn)樗恳徊蕉家笏惴ǐ@得水平集測(cè)度這種全局信息。而最優(yōu)化問(wèn)題的主要矛盾就是，問(wèn)題的解所包含的信息是全局性的（并可能是無(wú)限的，因?yàn)榘藷o(wú)限個(gè)大小關(guān)系判斷），但為求取這個(gè)解所能（從包含函數(shù)一切信息的解析式和約束關(guān)系中）采集到的可利用信息(如函數(shù)值大小或大小關(guān)系)是局部的甚至單點(diǎn)的（并多半是有限的），且采集次數(shù)是有限的。相等判斷更是 如此，一切“x==a”對(duì)double變量都因舍入誤差的存在是不可靠的，只能是||xa||最優(yōu)化問(wèn)題到底是個(gè)什么問(wèn)題？我認(rèn)為，抽象地講，解最優(yōu)化問(wèn)題的過(guò)程，就是獲取目標(biāo)函數(shù)一條全局信息的過(guò)程，這個(gè)需要獲取的全局信息，就是某點(diǎn)的函數(shù)值最小。又比如特征值計(jì)算問(wèn)題，當(dāng)使用eigs()函數(shù)而hessian陣數(shù)值的數(shù)量級(jí)太大時(shí)，就會(huì)發(fā)生異常返回。目標(biāo)函數(shù)的數(shù)量級(jí)太大，梯度函數(shù)的數(shù)量級(jí)太小，舍入誤差等等，都可能使一維搜索失敗、結(jié)果不可靠甚至異常退出，為防止這些不符合理論要求的情況出現(xiàn)（且不說(shuō)有時(shí)是防不勝防），又需增加運(yùn)算負(fù)責(zé)檢查矯正，最終也很難完全避免。最典型的問(wèn)題是局部?jī)?yōu)化算法的可靠性。這是應(yīng)當(dāng)引起思考和重視的。理論問(wèn)題和數(shù)值問(wèn)題的差異是在本學(xué)期兩門相關(guān)數(shù)學(xué)課上才被真正當(dāng)作一個(gè)問(wèn)題擺在我們面前的。比如對(duì)于社會(huì)改良問(wèn)題，政策設(shè)計(jì)問(wèn)題。如果我們面對(duì)生活中的任何問(wèn)題，都追求用絕對(duì)嚴(yán)格的優(yōu)化方法，追求獲得絕對(duì)的最優(yōu)解，那么，很可能什么事都做不了了。而現(xiàn)實(shí)對(duì)象往往是具體的復(fù)雜的，要用數(shù)學(xué)準(zhǔn)確描述一個(gè)具體對(duì)象的全部（或決定性方面）是不可能的（或很復(fù)雜的）。數(shù)學(xué)近乎天下之至簡(jiǎn)，好比全局優(yōu)化算法“窮其一生”也無(wú)法完全掌握的目標(biāo)函數(shù)的全局信息，通過(guò)目標(biāo)函數(shù)一個(gè)短短的解析式就能完整包括；一個(gè)二維的優(yōu)化問(wèn)題也許我們可以憑直觀觀察迅速獲得全局最小值點(diǎn)，但對(duì)于大于更高維，多約束的問(wèn)題，直觀就無(wú)能為力，經(jīng)過(guò)嚴(yán)格證明可行的數(shù)學(xué)方法確定解決這些問(wèn)題；千差萬(wàn)別的現(xiàn)實(shí)世界信息似乎無(wú)窮無(wú)盡，然而全部的重要的核心數(shù)學(xué)理論（或物理理論的數(shù)學(xué)描述）——集中起來(lái)或許一張cd都裝不滿——就能描述其中大部分的運(yùn)動(dòng)變化規(guī)律，難怪有畢達(dá)哥拉斯者認(rèn)為世界就是數(shù)學(xué)的實(shí)例。由于最優(yōu)化問(wèn)題本身的多樣性與復(fù)雜性，雖然在最優(yōu)化理論課程上，我們學(xué)習(xí)了眾多的算法，可是放到現(xiàn)實(shí)科學(xué)工程領(lǐng)域，真正全面有效的算法其實(shí)卻不多，甚至限于我的認(rèn)識(shí)，還沒(méi)有任何一種對(duì)于高維的、有復(fù)雜約束的全局優(yōu)化問(wèn)題湊效的算法，而現(xiàn)實(shí)科學(xué)工程領(lǐng)域中，這樣的問(wèn)題并非少見(jiàn)，在我個(gè)人的領(lǐng)域中，更是隨處都是。然而，就是這一點(diǎn)點(diǎn)和實(shí)際物理過(guò)程的看起來(lái)不影響結(jié)果的改動(dòng)，放到數(shù)學(xué)領(lǐng)域嚴(yán)格考察，就會(huì)發(fā)現(xiàn)收斂性恐怕是有條件的，因?yàn)樗俣鹊乃p太快，在某種具體的目標(biāo)函數(shù)形態(tài)下，完全有可能使算法收斂到不是極小值點(diǎn)的地方。將一個(gè)皮球擲向一個(gè)可微的谷域曲面，最終能停止到極小值點(diǎn)周圍，這是直覺(jué)必然，也是物理事實(shí)。然而，放到數(shù)學(xué)領(lǐng)域嚴(yán)謹(jǐn)考察，問(wèn)題就不那么簡(jiǎn)單了，僅僅對(duì)一個(gè)正定二次函數(shù)就花費(fèi)了近半節(jié)課的時(shí)間去證明。比如現(xiàn)在大家都知道的背包問(wèn)題，我看到這個(gè)問(wèn)題的第一反應(yīng)是：這應(yīng)該是個(gè)很簡(jiǎn)單的問(wèn)題！不錯(cuò)，模型是簡(jiǎn)單的，求解確實(shí)極富挑戰(zhàn)的。思考、研究這樣的問(wèn)題，即有用，又有趣，令人快樂(lè)無(wú)窮。在最優(yōu)化理論系統(tǒng)中，除了可以感受到一般數(shù)學(xué)理論的那種純粹、抽象、透徹、簡(jiǎn)潔，也能感受一種無(wú)處不在的實(shí)用主義價(jià)值觀，“實(shí)用”、“好用”、“湊效”這些看起來(lái)不那么“數(shù)學(xué)”的評(píng)價(jià)標(biāo)準(zhǔn)在這個(gè)領(lǐng)域中也有著相當(dāng)?shù)牡匚弧？梢院堋案呱睢保热缜懊嫣岬降碾娏ο到y(tǒng)無(wú)功優(yōu)化問(wèn)題，比如導(dǎo)彈的軌跡優(yōu)化問(wèn)題；也可以很“生活”，比如有同學(xué)研究了在交大教室、圖書(shū)館、實(shí)驗(yàn)室和幾個(gè)食堂之間的最優(yōu)路徑問(wèn)題，比如我曾經(jīng)寫(xiě)過(guò)一篇《戀愛(ài)中的博弈問(wèn)題》，又比如有同學(xué)問(wèn)周老師：“如何花費(fèi)最少的時(shí)間獲得相對(duì)較好的最優(yōu)化課程分?jǐn)?shù)？”但它們有著共同的特點(diǎn)，就是很實(shí)際，并且很有趣。最優(yōu)化問(wèn)題無(wú)處不在。第五篇：最優(yōu)化理論學(xué)習(xí)心得 (8000字)最優(yōu)化理論學(xué)習(xí)心得本擬撰寫(xiě)以《考慮電力系統(tǒng)靜態(tài)電壓穩(wěn)定的無(wú)功優(yōu)化問(wèn)題的建模與求解實(shí)驗(yàn)》為題的課程小論文，無(wú)奈問(wèn)題復(fù)雜，數(shù)據(jù)有限（掌握的數(shù)據(jù)都是上千維變量空間，上千個(gè)約束方程的大問(wèn)題，不便于初步研究），再加上撰寫(xiě)三個(gè)數(shù)值報(bào)告消耗了大量時(shí)間精力，實(shí)在無(wú)力在考試之前完成這篇論文，只能退而草草炮制這篇學(xué)習(xí)心得，論文留待假期或以后，涉及到專業(yè)研究方向，總是要寫(xiě)的。巴班斯基從辯證的系統(tǒng)結(jié)構(gòu)論出發(fā)，使發(fā)展性教學(xué)的所有研究成果都在教學(xué)過(guò)程最優(yōu)化理論體系中占據(jù)恰當(dāng)?shù)奈恢?，通過(guò)教學(xué)過(guò)程最優(yōu)化體現(xiàn)出發(fā)展性教學(xué)的最優(yōu)效果。只有綜合運(yùn)用整個(gè)方法體系，才可認(rèn)為是真正實(shí)施了教學(xué)過(guò)程最優(yōu)化。教師善于對(duì)變化了的情況靈活地作出反應(yīng)，是教師掌握教學(xué)過(guò)程最優(yōu)化的重要標(biāo)志。6．創(chuàng)造必要條件巴班斯基指出要為教學(xué)過(guò)程最優(yōu)化的實(shí)現(xiàn)創(chuàng)造必要的條件，這些條件包括教學(xué)物質(zhì)條件、學(xué)校衛(wèi)生條件、道德心理?xiàng)l件和審美條件。5．采取合理形式，實(shí)行區(qū)別教學(xué)（因材施教）對(duì)學(xué)生進(jìn)行區(qū)別教學(xué)是教學(xué)過(guò)程最優(yōu)化的一個(gè)重要辦法，為此，必須把全班的、小組的和個(gè)別的教學(xué)形式最優(yōu)地結(jié)合起來(lái)。巴班斯基認(rèn)為，每種教學(xué)形式和方法都有自己的優(yōu)點(diǎn)和不足，有自己的適用范圍，實(shí)施教學(xué)過(guò)程最優(yōu)化必須根據(jù)具體情況選擇合理方法。第二大類分成激發(fā)和形成學(xué)習(xí)興趣的方法、激發(fā)和形成學(xué)習(xí)義務(wù)感和責(zé)任感的方法。第一大類是組織和自我組織教學(xué)活動(dòng)的方法；第二大類是激發(fā)和形成學(xué)習(xí)動(dòng)機(jī)的方法；第三大類是檢查和自我檢查的方法。巴班斯基又規(guī)定了教師在優(yōu)選教學(xué)內(nèi)容時(shí)的工作程序：（1）深入分析教科書(shū)內(nèi)容，判斷它能否完成特定課題的教學(xué)、教育和發(fā)展任務(wù)，（2）從教學(xué)內(nèi)容中劃分出最主要的、最本質(zhì)的東西；（3）考慮學(xué)科之間的協(xié)調(diào)；（4）按照分配給本課題的教學(xué)時(shí)數(shù)安排教學(xué)內(nèi)容；（5）保證區(qū)別對(duì)待差生和優(yōu)生。3．依據(jù)教學(xué)大綱，優(yōu)選教學(xué)內(nèi)容，分出內(nèi)容重點(diǎn)這一方法以抓住活動(dòng)的主要環(huán)節(jié)這個(gè)方法論原理為根據(jù)，并且考慮了心理學(xué)關(guān)于形成動(dòng)力定型以及在一定時(shí)間內(nèi)所能感受的客體和概念有一個(gè)最合適的可能數(shù)量的理論。這種方法類似于醫(yī)生給病人看病，即在班主任的主持下，由任課教師、校醫(yī)、家長(zhǎng)代表等參加討論全班學(xué)生鑒定的會(huì)議。研究學(xué)生的方法包括觀察、談話、診斷性作業(yè)、研究有關(guān)文件、教育會(huì)診等。巴班斯基經(jīng)過(guò)深入的實(shí)驗(yàn)研究后提出了一份大綱。外部條件包括家庭、文化環(huán)境和生產(chǎn)環(huán)境的影響以及教師、學(xué)生集體和教學(xué)物質(zhì)基礎(chǔ)等的影響。實(shí)際的學(xué)習(xí)可能性是指以個(gè)性為中介的、決定具體的個(gè)人在學(xué)習(xí)活動(dòng)范圍內(nèi)潛在的內(nèi)部和外部條件的統(tǒng)一。按這樣的程序綜合設(shè)計(jì)和具體確定教學(xué)任務(wù)，就能同時(shí)完成多項(xiàng)任務(wù)，大大提高教學(xué)效果。第三步是教師比較各種任務(wù)的意義和完成任務(wù)所需的時(shí)間，從中確定主要的任務(wù)。教師首先要認(rèn)真鉆研教學(xué)大綱、教科書(shū)和教學(xué)參考書(shū)，周密考慮學(xué)生在學(xué)習(xí)某個(gè)課題時(shí)可能完成的教學(xué)、教育和發(fā)展任務(wù)。該方法體系包括以下八個(gè)基本方法。（四）教學(xué)過(guò)程最優(yōu)化的方法體系教學(xué)過(guò)程最優(yōu)化的方法體系是指相互聯(lián)系的、導(dǎo)致教學(xué)最優(yōu)化的方法的總和?？傮w最優(yōu)化要求以綜合地解決教學(xué)、教育和發(fā)展任務(wù)為目標(biāo)，以效果和時(shí)間、精力、經(jīng)費(fèi)等的最低消耗作為衡量最優(yōu)化的標(biāo)準(zhǔn)，要求學(xué)校領(lǐng)導(dǎo)、全體師生、家長(zhǎng)共同解決最優(yōu)化任務(wù)。把這兩條標(biāo)準(zhǔn)具體化，可以把教學(xué)過(guò)程最優(yōu)化的評(píng)價(jià)標(biāo)準(zhǔn)規(guī)定為：（1）在形成知識(shí)、技能和技巧的過(guò)程中，形成某種個(gè)性特征、提高每個(gè)學(xué)生的教育和發(fā)展水平方面可能取得的最大成果；（2）師生用最少的必要時(shí)間取得一定的成果；（3）師生在一定的時(shí)間內(nèi)花費(fèi)最少的精力取得一定的成果；（4）為在一定時(shí)間內(nèi)取得一定的成績(jī)而消耗最少的物資和經(jīng)費(fèi)。第一，要從學(xué)習(xí)成績(jī)、品德修養(yǎng)、智能發(fā)展三個(gè)方面全面衡量效果；第二，評(píng)價(jià)效果要有客觀標(biāo)準(zhǔn)，這就是國(guó)家規(guī)定的教學(xué)大綱等；第三，評(píng)價(jià)要依據(jù)具體條件和實(shí)際可能。一條是效果標(biāo)準(zhǔn)，即每個(gè)學(xué)生在教學(xué)、教育和發(fā)展三個(gè)方面都達(dá)到他在該時(shí)期內(nèi)實(shí)際可能達(dá)到的水平（但不得低于規(guī)定的及格水平）。巴班斯基的最優(yōu)化理論充分體現(xiàn)了辯證法的靈魂──對(duì)具體事物進(jìn)行具體分析。“最優(yōu)的”是指一所學(xué)校、一個(gè)班級(jí)在具體條件制約下所能取得的最大成果，也是指學(xué)生和教師在一定場(chǎng)合下所具有的全部可能性。這就是說(shuō)，巴班斯基的理論把構(gòu)成教學(xué)過(guò)程的所有成分、師生活動(dòng)的一切內(nèi)外部條件，看成是相互聯(lián)系的，在相互聯(lián)系中考察所有教學(xué)任務(wù)和完成這些任務(wù)所可能采用的形式和方法（即教學(xué)效果取決于教學(xué)諸要素的合力）。他又會(huì)同有關(guān)部門對(duì)自己的理論進(jìn)行了四年實(shí)驗(yàn)研究，使這一理論更成熟、更完整、更科學(xué)。60~70年代，羅斯托夫地區(qū)的教師創(chuàng)造了在普通學(xué)校中大面積消滅留級(jí)現(xiàn)象、預(yù)防學(xué)生成績(jī)不良的成功經(jīng)驗(yàn)。1964年教改的重點(diǎn)是實(shí)現(xiàn)教學(xué)內(nèi)容的現(xiàn)代化，過(guò)分強(qiáng)調(diào)“高難度”和“高速度”原則，使社會(huì)對(duì)學(xué)校的要求與師生實(shí)現(xiàn)這些要求的實(shí)際可能之間存在差距，學(xué)生的學(xué)習(xí)負(fù)擔(dān)很重。以贊科夫?yàn)榇淼母鞣N教學(xué)實(shí)驗(yàn)取得很大成就，但由于大部分研究者只從某一方面研究教學(xué)現(xiàn)象，導(dǎo)致了片面性，只能使一部分學(xué)生獲得較好發(fā)展，而且忽略了德育和勞動(dòng)教育問(wèn)題。第一，這一理論的提出，是要克服教學(xué)理論研究和教學(xué)實(shí)踐中存在的片面性。巴班斯基去世后，蘇聯(lián)教育科學(xué)院編纂出版了《巴班斯基教育文選》，以紀(jì)念這位為教育理論作出杰出貢獻(xiàn)的教育家。他一生發(fā)表的著作約有三百多部（篇），代表作是《教學(xué)過(guò)程最優(yōu)化──一般教學(xué)論方面》《教學(xué)、教育過(guò)程最優(yōu)化──方法論基礎(chǔ)》以及他主編的《教育學(xué)》以上著作都有中譯本，由人民教育出版社出版。巴班斯基畢生致力于教育科學(xué)研究。當(dāng)然，掌握學(xué)習(xí)教學(xué)理論也存在不足：它偏重于認(rèn)知領(lǐng)域教育日標(biāo)的測(cè)定；對(duì)學(xué)生獨(dú)立學(xué)習(xí)的幫助較??；為了使所有學(xué)生達(dá)到掌握學(xué)習(xí)水平，往往需要較多的教學(xué)時(shí)間。布盧姆的掌握學(xué)習(xí)教學(xué)理論把使大多數(shù)學(xué)生獲得發(fā)展作為核心思想，注重從某一具體學(xué)習(xí)任務(wù)來(lái)分析教學(xué)的變量，強(qiáng)調(diào)形成性評(píng)價(jià)，從而使大多數(shù)學(xué)生達(dá)到對(duì)課程材料的真正掌握，并增強(qiáng)了學(xué)習(xí)的興趣，促進(jìn)了心理健康。經(jīng)過(guò)布盧姆及其同事的多年實(shí)驗(yàn)研究，掌握學(xué)習(xí)教學(xué)顯示了良好的效果。評(píng)定學(xué)習(xí)等第以成功地完成各單元學(xué)習(xí)而不是以在團(tuán)體測(cè)驗(yàn)中的等第為依據(jù)，且給達(dá)到既定目標(biāo)的所有學(xué)生評(píng)定相應(yīng)的等級(jí)。３、為掌握而分等。若學(xué)生的成績(jī)低于所規(guī)定的掌握水平，就應(yīng)當(dāng)重新學(xué)習(xí)這個(gè)單元的部分或全部，然后再測(cè)驗(yàn)，直到掌握。個(gè)別指導(dǎo)除教師自己進(jìn)行外，還可以組織小助手，也可以發(fā)動(dòng)家長(zhǎng)協(xié)助。若學(xué)生能掌握80～90％的測(cè)驗(yàn)內(nèi)容，便算達(dá)到本單元的掌握學(xué)習(xí)水平。診斷學(xué)生學(xué)習(xí)上存在的缺陷或發(fā)現(xiàn)學(xué)生學(xué)習(xí)進(jìn)步狀況，為師生及時(shí)提供教與學(xué)的反饋信息。教師依據(jù)上述教育目標(biāo)和學(xué)生的基礎(chǔ)狀況進(jìn)行互為銜接的各個(gè)單元（一般是教材的一章、一專題）教學(xué)。２、為掌握而反饋矯正。其次是不斷地鼓勵(lì)學(xué)生，幫助他們樹(shù)立學(xué)習(xí)的自信心并激發(fā)學(xué)習(xí)動(dòng)機(jī)。只有定標(biāo)，即只有使教師和學(xué)生事先明確教學(xué)目標(biāo)，方能使其日后判斷預(yù)期目標(biāo)的實(shí)現(xiàn)程度，評(píng)定掌握學(xué)習(xí)達(dá)到的水平。其中，知識(shí)包括具體知識(shí)、方法的知識(shí)和學(xué)科領(lǐng)域的普遍原理及抽象知識(shí)。各領(lǐng)域又分為若干層次，使目標(biāo)要求逐漸加深。布盧姆的一項(xiàng)重要貢獻(xiàn)，就是對(duì)教育目標(biāo)作出由淺入深的等級(jí)分類。布盧姆認(rèn)為，教學(xué)是按預(yù)期的教學(xué)目標(biāo)改變學(xué)習(xí)者行為的過(guò)程。教師的任務(wù)是控制好這些變量及其關(guān)系，使它們共同對(duì)教學(xué)發(fā)揮積極的影響。因?yàn)橛凶C據(jù)表明，通過(guò)提供適當(dāng)?shù)沫h(huán)境條件和在學(xué)校、家庭中的學(xué)習(xí)經(jīng)驗(yàn)，改變能力傾向是可能的。這就是說(shuō)，能力傾向只是學(xué)習(xí)速度的預(yù)示，而不是學(xué)生可能達(dá)到的學(xué)習(xí)水平的預(yù)示。布盧姆和卡羅爾相同，對(duì)能力傾向的定義獨(dú)樹(shù)一幟：能力傾向是學(xué)生掌握一定的學(xué)習(xí)材料所需要的時(shí)間量。所以，只有改進(jìn)教學(xué)，如通過(guò)小組交流、個(gè)別對(duì)待、有效地解釋教科書(shū)、視聽(tīng)方法的運(yùn)用與學(xué)習(xí)性游戲等系列教學(xué)才能使每一個(gè)學(xué)生提高言語(yǔ)水平，并發(fā)展其理解教學(xué)的能力。目前絕大多數(shù)學(xué)校采取班級(jí)授課制，一個(gè)教師面對(duì)幾十個(gè)學(xué)生。布盧姆和卡羅爾對(duì)理解教學(xué)的能力的看法相同，認(rèn)為它是學(xué)生理解某一學(xué)習(xí)任務(wù)的性質(zhì)和他在學(xué)習(xí)該任務(wù)中所應(yīng)遵循的程序的能力。布盧姆指出教學(xué)質(zhì)量評(píng)價(jià)的主要依據(jù)是每個(gè)學(xué)生的學(xué)習(xí)效果，而不是某些學(xué)生的學(xué)習(xí)效果。由