【正文】 許多統(tǒng)計(jì)軟件都有逐步回歸的子菜單可供選擇。 Furnial和 Wilson的方法盡管設(shè)計(jì)很巧妙，但對自變量多于 30的大型回歸問題，計(jì)算量仍然是很大的。 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 185 167。從20世紀(jì) 60至 70年代統(tǒng)計(jì)學(xué)家們十分關(guān)注這些問題。 還需說明的是，由所選擇的自變量子集并不能完全決定要使用的模型，還必須作其他的判定，如自變量是否是線性的，是否要用變換的形式或者是否要用二次項(xiàng)，以及模型是否應(yīng)該包含交互作用項(xiàng)。 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 184 167。 實(shí)例與評注 在所研究的問題涉及的自變量較多時(shí)，即使針對某一給定的用途，根據(jù)某種準(zhǔn)則也往往會(huì)發(fā)現(xiàn)自變量子集有幾組幾乎同樣“好”，這時(shí)就要附加其他信息。如果我們希望回歸方程簡單明了，易于理解，則應(yīng)采用較嚴(yán)的選元標(biāo)準(zhǔn)。 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 182 167。 選擇哪一個(gè)回歸子集，用哪一個(gè)衡量準(zhǔn)則要根據(jù)我們研究問題的目的。我們所選的最優(yōu)回歸方程也是根據(jù)研究問題的性質(zhì)和目的，用不同的準(zhǔn)則來衡量的結(jié)果。 挑選“最優(yōu)”的回歸方程就是選擇“最優(yōu)”自變量子集。 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 181 167。 通過自變量選擇對參數(shù)估計(jì)和預(yù)測的影響分析，我們得到的重要結(jié)論是，回歸方程并非自變量越多越好，當(dāng)一些對因變量影響不大的自變量進(jìn)入回歸方程后，反而會(huì)使參數(shù)估計(jì)的穩(wěn)定性變差，預(yù)測誤差的方差增大。 由于我們認(rèn)識水平的局限，從事物的表面很難分清哪些自變量對因變量有重要影響，哪些自變量間存在著嚴(yán)重的相關(guān)性。 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 180 167。 二、評注 從本章 167。因此，房地產(chǎn)事業(yè)相應(yīng)地對股票市場產(chǎn)生了重大影響，它的影響程度甚至強(qiáng)于其他所有因素。 實(shí)例與評注 另外，房地產(chǎn)買賣金額每增加 100萬港元，恒生指數(shù)上漲，這是香港股市區(qū)別于其他股票市場的一大特色。人均生產(chǎn)總值是反映經(jīng)濟(jì)狀況的主要指標(biāo)，它代表了經(jīng)濟(jì)環(huán)境對股票價(jià)格的影響，香港人均生產(chǎn)總值每上升 100港元，恒生指數(shù)上漲 。成交額作為反映市場因素的主要指標(biāo)對股票價(jià)格有著重要的影響。因此，運(yùn)用該回歸方程可以對恒生指數(shù)的變動(dòng)成因作一些分析。 實(shí)例與評注 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 178 167。 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 176 167。 (至于 1981年、 1982年我們應(yīng)把它視為特殊年份， 1981年提出香港回歸問題，1982年英首相訪華，正是這一連串的政治事件造成了港幣匯率的大幅變動(dòng)。原因何在 ? 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 175 167。 實(shí)例與評注 香港作為國際金融中心之一，它的證券市場是高度向國際開放的。 實(shí)例與評注 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 173 167。 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 171 167。 實(shí)例與評注 一、逐步回歸實(shí)例分析 例 為了研究香港股市的變化規(guī)律，此例以恒生指數(shù)為例，建立回歸方程，分析影響股票價(jià)格趨勢變動(dòng)的因素。這種有進(jìn)有出的結(jié)果說明自變量之間具有相關(guān)性，如果自變量之間是完全不相關(guān)的，那么引入的自變量就不會(huì)再被剔除，而剔除的自變量也就不會(huì)再被引入，這時(shí)逐步回歸方法與前進(jìn)法的結(jié)果是相同的。 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 169 167。 逐步回歸 x10衛(wèi)生經(jīng)費(fèi)支出對地區(qū)生產(chǎn)總值的提高起了負(fù)的作用，衛(wèi)生經(jīng)費(fèi)支出的績效難以衡量，其所提供的商品或勞務(wù)，不可能以任何形式進(jìn)入市場交換，也就不能創(chuàng)造直接的經(jīng)濟(jì)收益，而且衛(wèi)生經(jīng)費(fèi)支出是為國家創(chuàng)造或改善生產(chǎn)條件、增進(jìn)社會(huì)福利，滿足人民衛(wèi)生需要，更多的是體現(xiàn)了一種社會(huì)公平，最主要的是我國人均衛(wèi)生經(jīng)費(fèi)遠(yuǎn)遠(yuǎn)低于世界平均水平，在近幾年趕超世界平均水平過程中出現(xiàn)大量缺口，當(dāng)前形勢就是衛(wèi)生經(jīng)費(fèi)支出大于衛(wèi)生條件的提高所帶來的經(jīng)濟(jì)收益； x2企業(yè)挖潛改造資金對地區(qū)生產(chǎn)總值的提高也起了負(fù)的作用，企業(yè)的改造所帶來的經(jīng)濟(jì)效益不會(huì)短期內(nèi)有較明顯的效果，具有一定的延遲性，當(dāng)年的表現(xiàn)就是支出大于收入。 逐步回歸 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 167 167。 逐步回歸 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 165 167。 逐步回歸 逐步回歸的計(jì)算實(shí)施過程可以利用 SPSS軟件在計(jì)算機(jī)上自動(dòng)完成，我們要求關(guān)心應(yīng)用的讀者一定要通過前邊的敘述掌握逐步回歸方法的思想，這樣才能用對用好逐步回歸。這個(gè)過程反復(fù)進(jìn)行，直到既無顯著的自變量選入回歸方程，也無不顯著自變量從回歸方程中剔除為止。具體做法是將變量一個(gè)一個(gè)引入，當(dāng)每引入一個(gè)自變量后，對已選入的變量要進(jìn)行逐個(gè)檢驗(yàn)，當(dāng)原引入的變量由于后面變量的引入而變得不再顯著時(shí)，要將其剔除。 逐步回歸 從前進(jìn)法和后退法的思想及方法，以及我們看到它們的不足，人們比較自然地想構(gòu)造一種方法，吸收前進(jìn)法和后退法的優(yōu)點(diǎn)，克服它們的不足，把兩者結(jié)合起來，這就有了逐步回歸的思想。這是因?yàn)樽宰兞块g的不同組合，由于它們相關(guān)的原因，對因變量 y 的影響可能大不一樣。 逐步回歸 然而在實(shí)際中很難碰到自變量間真正無關(guān)的情況，尤其是經(jīng)濟(jì)問題中，所研究的絕大部分問題，自變量間都有一定的相關(guān)性。再就是一旦某個(gè)自變量被剔除，“一棍子就把它打死了”，它再也沒有機(jī)會(huì)重新進(jìn)入回歸方程。 逐步回歸 后退法的明顯不足是，一開始把全部自變量引入回歸方程，這樣計(jì)算量很大。 逐步回歸 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 159 167。而且，我們在許多例子中會(huì)發(fā)現(xiàn)可能最先引入的某個(gè)自變量，當(dāng)其他自變量相繼引入后，它會(huì)變得對因變量 y很不顯著。因?yàn)槟硞€(gè)自變量開始可能是顯著的，但當(dāng)引入其他自變量后它變得并不顯著了，但是也沒有機(jī)會(huì)將其剔除，即一旦引入，就是“終身”的。 逐步回歸 前進(jìn)法和后退法顯然都有明顯的不足。 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 156 167。 逐步回歸 后退法 后退法與前進(jìn)法相反，首先用全部 m個(gè)變量建立一個(gè)回歸方程，然后在這 m個(gè)變量中選擇一個(gè)最不重要的變量，將它從方程中剔除。 逐步回歸 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 154 167。 逐步回歸 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 152 167。 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 150 167。 為此，人們提出了一些較為簡便、實(shí)用、快速的選擇“最優(yōu)”方程的方法。 所有子集回歸 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 149 167。 所有子集回歸 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 147 167。 三、用 SAS軟件尋找最優(yōu)子集 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 145 167。 所有子集回歸 如有時(shí)希望模型各項(xiàng)衡量準(zhǔn)則較優(yōu)，得到的模型又能給出合理的經(jīng)濟(jì)解釋；有時(shí)只從擬合角度考慮；有時(shí)只從預(yù)測角度考慮，并不計(jì)較回歸方程能否有個(gè)合理解釋；有時(shí)要求模型的各個(gè)衡量準(zhǔn)則較優(yōu)，而模型最好簡單些，涉及變量少些；有時(shí)還看回歸模型參數(shù)估計(jì)的標(biāo)準(zhǔn)誤差大小等。 我們講的最優(yōu)是相對而言，在實(shí)際問題的選模中，應(yīng)綜合考慮，或根據(jù)實(shí)際問題的研究目的從不同最優(yōu)角度來考慮。 所有子集回歸 因?yàn)檫@個(gè)實(shí)際問題所涉及的自變量本來就較少，只有 3個(gè)，所以從幾個(gè)準(zhǔn)則看到全模型是“最優(yōu)”的。 所有子集回歸 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 142 167。下面用一個(gè)例子，對所有回歸子集計(jì)算上述 3個(gè)準(zhǔn)則，綜合比較一下“最優(yōu)”回歸子集的選擇。 準(zhǔn)則 2 赤池信息量 AIC達(dá)到最小。 下面從不同的角度給出幾個(gè)常用的準(zhǔn)則。 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 140 167。這樣由于變量的多重共線性，給變量的回歸系數(shù)估計(jì)值帶來不穩(wěn)定性，加上變量的測量誤差積累，參數(shù)數(shù)目的增加，將使估計(jì)值的誤差增大。 但是當(dāng)自變量子集在擴(kuò)大時(shí)，殘差平方和隨之減少，而復(fù)判定系數(shù)隨之增大 。 所有子集回歸 在第五章，曾從數(shù)據(jù)與模型擬合優(yōu)劣的直觀考慮出發(fā)，認(rèn)為殘差平方和 SSE最小的回歸方程就是最好的。 所有子集回歸 一、所有子集的數(shù)目 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 138 167。在建立實(shí)際問題的回歸模型時(shí)，我們應(yīng)盡可能剔除那些可有可無的自變量。另外，如果保留下來的自變量有些對因變量無關(guān)緊要，那么，方程中包括這些變量會(huì)導(dǎo)致參數(shù)估計(jì)和預(yù)測的有偏性和精度降低。丟掉了一些對因變量 y有影響的自變量后，所付出的代價(jià)是估計(jì)量產(chǎn)生了有偏性。 自變量選擇對估計(jì)和預(yù)測的影響 哪怕我們丟掉了一些對因變量 y還有些影響的自變量，由選模型估計(jì)的保留變量的回歸系數(shù)的方差，要比由全模型所估計(jì)的相應(yīng)變量的回歸系數(shù)的方差小。在建立回歸模型時(shí)，選擇自變量的基本指導(dǎo)思想是“少而精”。 自變量選擇對估計(jì)和預(yù)測的影響 （二） 選模型正確而誤用全模型的情況 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 135 167。由此可見，如果模型中包含了一些不必要的自變量，模型的預(yù)測精度就會(huì)下降。這說明盡管全模型正確，誤用選模型是有弊也有利的。 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 133 167。 自變量選擇對估計(jì)和預(yù)測的影響 性質(zhì) 1和性質(zhì) 2表明，當(dāng)全模型（ ）式正確時(shí)，而我們舍去了 m p個(gè)自變量，用剩下的 p個(gè)自變量去建立選模型（ ）式，參數(shù)估計(jì)值是全模型相應(yīng)參數(shù)的有偏估計(jì)，用其作預(yù)測，預(yù)測值也是有偏的。 自變量選擇對估計(jì)和預(yù)測的影響 （一）全模型正確而誤用選模型的情況 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 131 167。以下分別考慮這兩種情況對回歸的影響。 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 129 167。如果應(yīng)該用（ ）式全模型去描述實(shí)際問題，而我們誤選了（ ）式選模型，這就說明我們在建模時(shí)丟掉了一些有用的變量；如果應(yīng)該選用（ ）式選模型，而我們誤選了模型（ ）式，這就說明我們把一些不必要的自變量引進(jìn)了模型。 自變量選擇對估計(jì)和預(yù)測的影響 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 128 167。本章從回歸選元對回歸參數(shù)估計(jì)和預(yù)測的影響開始，介紹自變量選擇常用的幾個(gè)準(zhǔn)則；扼要介紹所有子集回歸選元的幾個(gè)方法；詳細(xì)討論逐步回歸方 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 126 167。 目錄 上頁 下頁 返回 結(jié)束 2020/9/16 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 12