第7章最小二乘估計的改進(參考版)
2024-10-15 22:25本頁面
【正文】 嶺跡 取 k=,可得 page 174的標準化數據的嶺回歸方程 . 若在嶺回歸程序中把 data=data=,則可直接得到 page 174里原始數據的嶺回歸方程 . 主成分回歸在 SAS中的實現 proc reg 選項； model y=自變量 /pit=給定數字 選項； run。 run。 run。 （ 3 ）由于?ki j?1與估計的均方誤差有關，有人提出其值不能太大，建議取 k 滿足： kki j51??? SAS中計算相關系數矩陣 proc corr 選項； 選語句： var 變量名表； with 變量名表 。 一般稱mj?為 第j個 主 成 分 的 貢 獻 率 ，mkij??為 前k個 主 成 分 的累 計 貢 獻 率 。 K的幾種取法： （ 1 ）由于mij???，而j?又 反映了第j個主成分各樣本值間的差異，從而人們可給出一個定值c，10 ?? c，使 cmkij??? 1?，cmkij?? ? 同時滿足。 當0??XX時，由于每個0?j?，.,2,1 mj ??且mij???，故必存在一個k，使mkk ??? ?, 21 ??均近似為0 ，從而mkk zzz ?, 21 ??對y無顯著影響，這時我們可將原回歸模型簡化： ?? ?? XY ?? ??? PXP ?? ?? Z c c cZ ???? 其中：?????????????????mP??????21，???????????????kc?????21，? ?kc ZZZZ ?21? c?的最小二乘估計為 ? ????????????????????????????????????????????????????????kiikiiiiiikiiiikccccyzyzyzyzyzyzYZZZ?????????????2211211211000000000? 即：jiijj yz ?? ???，kj ?,2,1?, 稱??????????????????????????mcckkcclllP????????????0??12211?? 為主成分估計。 稱：mjzxlxlxl jmmjjj ?? ,2,1,2211 ?????為第j個主成分。記R的特征根為021 ??? m??? ?，相應的規(guī)范化特征向量記作mlll ?, 21，并記 ? ?mmlllP ?????,000000002121???????????????????? 則有 IPP ?? ，且 ???RPP ， 即? ? ? ? ?????? XPXPXPXP 令： XPZ ? ，則有 ???ZZ ，其中 Z 是mn ?陣，記? ?mZZZZ ?21?，其中jZ為1?n向量。這種jz是mxxx ?, 21的線性組合，故它反映了一種多重共線性的關系，而當一個變量各個樣本值近似為零時，該變量對y來講影響很小，可將它從方程中刪除。 主成分估計 當 X 的列向量間存在某種多 重 共線性關系，這種關系往往是比較復雜的。 ? 若 嶺跡中)0(??很大，但隨著k的增加)(? k?很快地趨于 0 ，則這個變量可以刪去； ? 若 嶺跡中)0(??很小，但隨著k的增加)(? k?絕對值很快增加，則這個變量 應 可以保留； ? 若 嶺跡圖中的兩條嶺跡并不穩(wěn)定，但從其形狀來看，其和是穩(wěn)定的，則可以將這兩個變量組合成一個新的變量。 ? 若圖中各條嶺跡變化很大， 我們 可以 懷疑 最小二乘 估計 是否 很好 地 反映 了 真實 情況 ， 此時 最小二乘估計 可能 不適用。這種方法可以求出較精確的 k 值，但計算的工作量太大。 方法五 、迭代法。 方法三 、在同一個直角坐標系中畫出 m 條嶺跡，找出一個 k值，使各條嶺跡均處于穩(wěn)定的狀態(tài)。 方法一 、選擇一個較小的 k 值， 且 使對應的回歸方程中的回歸系數不再具有不合理的符號及不理想的絕對值。 K的選擇 在實際中， k 的值的選取是一個十分重要的問題，因而引起了不少人的研究，近年來提出了許多確定 k 的原則和
教學課件相關推薦
鄂ICP備17016276號-1