第7章嶺回歸(編輯修改稿)
2025-08-16 12:18 本頁面
【文章內(nèi)容簡介】 for sulphur dioxide 二氧化硫的相對污染勢 x15— Annual average % relative humidity at 1pm 年平均相對濕度 y— Total ageadjusted mortality rate per 100,000 每十萬人中的死亡人數(shù) 167。 用嶺回歸選擇變量 計算 X′ X的 15個特征為： ， ， ， ， ， , ， ， ， ， ， ， 條件數(shù) ???? ??k注：以上特征根是按照原文獻的計算方式，自變量觀測陣未包含代表常數(shù)項的第一列 1，與用 SPSS計算結(jié)果有所不同 167。 用嶺回歸選擇變量 167。 用嶺回歸選擇變量 進行嶺跡分析 把 15個回歸系數(shù)的嶺跡畫到圖 ，我們可看到，當k=。按照嶺跡法，應取 k=。 若用方差擴大因子法，因 k=，方差擴大因子接近于 1，當 k在 ～ ，方差擴大因子小于 10，故應建議在此范圍選取 k。 由此也看到不同的方法選取 k值是不同的。 167。 用嶺回歸選擇變量 在用嶺回歸進行變量選擇時，因為從嶺跡看到自變量x4,x7,x10,x11和 x15有較穩(wěn)定且絕對值比較小的嶺回歸系數(shù)，根據(jù)變量選擇的第一條原則，這些自變量可以去掉。 又因為自變量 x12和 x13的嶺回歸系數(shù)很不穩(wěn)定，且隨著k的增加很快趨于零，根據(jù)上面的第二條原則這些自變量也應該去掉。 再根據(jù)第三條原則去掉變量 x3和 x5。 這個問題最后剩的變量是 x1， x2， x6， x8， x9， x14。 167。 用嶺回歸選擇變量 例 GormanTorman例子 (見參考文獻［ 2］ )。 本例共有 10個自變量， X已經(jīng)中心化和標準化了， X′X的特征根為： ， ， ， ， ， ， ， ， ， 最后一個特征根 λ10=，較接近于零。 167。 用嶺回歸選擇變量 ???? ??k 條件數(shù) k=＜ 10。從條件數(shù)的角度看，似乎設計矩陣 X沒有復共線性。但下面的研究表明，作嶺回歸還是必要的。 關于條件數(shù)，這里附帶說明它的一個缺陷，就是當X′X所有特征根都比較小時，雖然條件數(shù)不大，但多重共線性卻存在。 167。 用嶺回歸選擇變量 167。 用嶺回歸選擇變量 當 k 從 0 上升到 0 . 1 時，‖ (k)β ? ‖2下降到‖ (0)β ? ‖2的 5 9 % ， 而在正交設計的情形只下降 17% 。這些現(xiàn)象在直觀上就使人懷疑 最小二乘估計 β ? 是否反映了 β 167。 用嶺回歸選擇變量 另外，因素 x 5 的回歸系數(shù)的最小二乘估計5??為負回歸系數(shù)中 絕對值最大的，但當 k 增加時，5??(k ）迅速上升且變?yōu)檎?，與此 相反，對因素 x 6 ，6??為正的，且絕對值最大，但當 k 增加時，6??(k ） 迅速下降。再考慮到 x 5 ， x 6 樣本相關系數(shù)達到 0 . 8 4 ，因此這兩個因素 可近似地合并為一個因素。 167。 用嶺回歸選擇變量 再看 x7，它的回歸系數(shù)估計7??絕對值偏高，當 k 增加時，7??(k ） 很快接近于 0 ，這意味著 x7實際上對 y 無多大影響。至于 x1，其回歸 系數(shù)的最小二乘估計絕對值看來有點偏低，當 k 增加時，｜1??(k ）｜ 首先迅速上升，成為對因變量有負影響的最重要的自變量。當 k 較大時， ｜1??(k ）｜穩(wěn)定地緩慢趨于零。這意味著，通常的最小二乘估計對 x1的 重要性估計過低了。 167。 用嶺回歸選擇變量 從整體上看，當 k 達到 0 . 2 ～ 0 . 3 的范圍時，各個j??(k ）已大體上 趨于穩(wěn)定，因此，在這區(qū)間上取一個 k 值作嶺回歸可能得到較好的效果 。 本例中5??(k ）和7??(k ）當 k 從 0 略增加時，很快趨于 0 ，于是它們很 自然是應該剔除的。去掉它們之后，重作嶺回歸分析，嶺跡基本穩(wěn)定。 因此去掉 x 5 和 x 7 是合理的。 167。 用嶺回歸選擇變量 167。 用嶺回歸選擇變量 例 用嶺回歸方法處理民航客運數(shù)據(jù)的多重共線性問題。 SPSS軟件的嶺回歸功能要用語法命令實現(xiàn)，菜單對話框中沒有此功能。運行嶺回歸程序的步驟如下： 167。 用嶺回歸選擇變量 1．進入 SPSS軟件，錄入變量數(shù)據(jù)或調(diào)入已有的數(shù)據(jù)文件。 2．進入 Syntax語法窗口。方法是依次點選FileNewSyntax。 3．錄入如下的語法命令： INCLUDE 39。c:\Program Files\SPSS\Ridge 39。. RIDGEREG DEP=y /ENTER x1 x2 x3 x4 x5 . 4．運行。依次點選主菜單的 RunAll. 167。 用嶺回歸 選擇變量 K RSQ X1 X2 X3 X4 X5 .00000 .99823 .5305
環(huán)評公示相關推薦
鄂ICP備17016276號-1