醫(yī)學(xué)]北京大學(xué)醫(yī)學(xué)部醫(yī)學(xué)統(tǒng)計學(xué)進階1第1講多重線性回歸與相關(guān)(參考版)
2025-01-07 07:56本頁面
【正文】 C oe f f i c i e nt sa. 2 9 1 1 . 3 0 4 . 2 2 3 . 8 2 5 . 0 3 6 . 0 1 8 . 1 5 9 1 . 9 7 9 . 0 5 8 . 9 2 7 1 . 0 7 8. 0 3 3 . 0 0 3 . 9 4 9 1 1 . 8 4 6 . 0 0 0 . 9 2 7 1 . 0 7 8( C o n s t a n t )鈣鐵M o d e l1B S t d . E r r o rU n s t a n d a r d i z e dC o e f f ic i e n t sB e t aS t a n d a r d iz e dC o e f f ic i e n t st S i g . T o l e r a n c e V I FC o l l i n e a r i t y S t a t i s t i c sD e p e n d e n t V a r i a b l e : 血紅蛋白a . C ol l i ne a r i t y D i a gn os t i c sa2 . 9 7 1 1 . 0 0 0 . 0 0 . 0 0 . 0 0. 0 1 8 1 2 . 7 0 2 . 0 0 . 5 5 . 7 2. 0 1 1 1 6 . 6 7 1 . 9 9 . 4 5 . 2 8D im e n s i o n123M o d e l1E i g e n v a l u eC o n d it i o nI n d e x ( C o n s t a n t ) 鈣 鐵V a r i a n c e P r o p o r t i o n sD e p e n d e n t V a r i a b l e : 血紅蛋白a . 共線性問題的解決 ； ，去除專業(yè)上認為不重要，但帶來較強共線性的變量； /因子分析，將多個共線性強的自變量綜合成少量新的因子（新變量）； ，或通徑分析。 ： 條件指數(shù)＝（最大特征根 /最小特征根） 1/2 條件指數(shù)的值越大說明自變量間共線性的可能性越大。 ? VIF： VIF是容忍度的倒數(shù) VIF＝ 1/TOL VIF5 或 10 說明存在嚴重的共線性。 共線性診斷的方法： 第一類方法：基于復(fù)相關(guān)系數(shù)： ： 以其中一個 xi為因變量，其它 x為自變量做回歸，獲得復(fù)相關(guān)系數(shù) Ri， 容忍度 TOL＝ 1R2i 容忍度小則說明共線性強。 ，甚至符號相反。 發(fā)現(xiàn)方法： x的散點圖 （略） 八、共線性診斷 共線性（ collinearity）是指回歸模型中的自變量之間存在著比較明顯的線性相關(guān)關(guān)系。 1 2 3 4 y 殘差 2 1 0 1 02 殘差 2 1 0 1 02 1 2 3 4 y 殘差 2 1 0 1 02 1 2 3 4 y 方差齊 方差不齊 自變量與因變量可能不是直線關(guān)系 遠離多數(shù)數(shù)據(jù)的點可能成為強影響點。 3. 殘差的等方差性 回歸模型中的等方差性，比正態(tài)性要重要。 0≤D≤4 D≈2時，殘差與自變量相互獨立 符合獨立性的推薦取值范圍： 1≤D≤3 M o d e l S u m m a r ye. 9 2 3a. 8 5 1 . 8 1 9 . 9 2 7 9 6. 9 2 3b. 8 5 1 . 8 2 6 . 9 0 8 4 3. 9 2 1c. 8 4 9 . 8 3 1 . 8 9 7 0 8. 9 1 9d. 8 4 5 . 8 3 3 . 8 9 0 2 1 1 . 5 1 2M o d e l1234R R S q u a r eA d j u s t e dR S q u a r eS t d . E r r o r o ft h e E s t i m a t eD u r b i n W a t s o nP r e d i c t o r s : ( C o n s t a n t ) , 銅 , 錳 , 鐵 , 鈣 , 鎂a . P r e d i c t o r s : ( C o n s t a n t ) , 銅 , 錳 , 鐵 , 鈣b . P r e d i c t o r s : ( C o n s t a n t ) , 銅 , 鐵 , 鈣c . P r e d i c t o r s : ( C o n s t a n t ) , 鐵 , 鈣d . D e p e n d e n t V a r i a b l e : 血紅蛋白e . 2. 正態(tài)性檢查 殘差的正態(tài)性是回歸模型的假設(shè)條件，在樣本量比較大時可以適當(dāng)放寬。在模型中，則是要求殘差間相互獨立，不存在自相關(guān)。這兩個殘差都經(jīng)過了標準化變換，去除了單位。 七、殘差分析 殘差分析常用于檢驗回歸模型是否符合適用條件（如獨立性、正態(tài)性、方差齊性），發(fā)現(xiàn)異常點（強影響點）。 R2adj： 總殘總回SS12 SSSSSSR ??? MS代表均方，用離均差平方和 SS除以自由度得到（詳見方差分析）： MS殘 ＝ SS殘 /（ nm1） MS總 ＝ SS總 /（ n1） 校正決定系數(shù) 消除了自變量的個數(shù)以及樣本量的大小對決定系數(shù)的影響 。 R2adj： R和 R2有一個缺陷 ， 隨著自變量個數(shù)的增加 ， R2總是增加 ， 造成變量數(shù)目越多 ， 則擬和效果越優(yōu)良的錯覺 。 R： 2RR ?0≤R≤1 復(fù)相關(guān)系數(shù)描述了因變量 y與方程中 m個自變量的總體相關(guān)系數(shù)。 六、回歸模型的優(yōu)良性評價（擬和效果） R2： 殘回總 SSSSSS ??總回SSSSR ?20≤R2≤1 決定系數(shù)反映 Y的全部變異中能夠被回歸方程中的全部自變量所解釋的比例。 標準化偏回歸系數(shù)的計算方法： 其中， sy代表因變量的標準差， si代表不同自變量的標準差。 標準化偏回歸系數(shù)消除了量綱的影響，可以用來直接比較各自變量對因變量作用的大小。 “最佳”模型，而應(yīng)視為“局部最優(yōu)”模型，因為所納入分析的自變量中常常不能包括全部的影響因素，甚至是很重要的因素。 ，應(yīng)當(dāng)選入。 最后結(jié)果只有鈣和鐵保留在方程中 。 5. 消去法（ Remove）：建立回歸方程時，根據(jù)設(shè)定的條件剔除部分自變量。 3. 前進法（ Forward）：回歸方程由一個自變量開始，每次引入一個偏回歸平方和最大，且具有統(tǒng)計學(xué)意義的自變量，由少到多，直到無統(tǒng)計學(xué)意義的自變量被引入為止。 例如：將本例中鈣剔除后，回歸平方和從 變?yōu)?，則鈣的偏回歸平方和為 ＝ 自變量的選擇方法 1. 強行進入法（ Enter）：為默認選擇項，定義的全部自變量均引入方程。 四、篩選有影響的自變量 選擇標準：對各自變量的偏回歸平方和進行檢驗， F值大于預(yù)先設(shè)定的 Fα，則將此變量選入或保留在方程內(nèi)。 二、回歸系數(shù)的估計 ? ?212211012 )()?( ????????????niimmiiiniii xbxbxbbyyyQ ?或?qū)懗桑? Y=XB+E 如矩陣 X’X的逆存在，則回歸系數(shù)矩陣B=(X’X)1X’Y ??????????????????????????????????????????????????????????nmmnmmnneeebbbxxxxxxyyy??????????211021112112
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1