【文章內(nèi)容簡介】 .0001 ? Error 19 ? Corrected Total 23 GLM過程實(shí)例 1解釋 ? RSquare Coeff Var Root MSE weight Mean ? ? Source DF Type I SS Mean Square F Value Pr F ? group 2 .0001 ? age 1 .0001 ? food 1 ? Type I SS表示每一個自變量分別選入到回歸模型時 model（ ssR）的增加值 ? Source DF Type III SS Mean Square F Value Pr F ? group 2 .0001 ? age 1 .0001 ? food 1 ? Type III SS表示每一個自變量分別 最后 選入到回歸模型時 model（ ssR）的增加值 ? GLM過程實(shí)例 1解釋 ? Standard ? Parameter Estimate Error t Value Pr |t| ? Intercept B ? group Casein B .0001 group HydrolysateI B group HydrolysateII B . . . ? age .0001 ? food GLM過程實(shí)例 1解釋 ? The GLM Procedure ? Least Squares Means ? weight Standard LSMEAN ? group LSMEAN Error Pr |t| Number ? Casein .0001 1 ? HydrolysateI .0001 2 ? HydrolysateII .0001 3 ? 顯示每個效應(yīng)下的均值及標(biāo)準(zhǔn)誤差 GLM過程實(shí)例 1解釋 ? Least Squares Means for effect group ? Pr |t| for H0: LSMean(i)=LSMean(j) ? Dependent Variable: weight ? i/j 1 2 3 ? 1 .0001 .0001 ? 2 .0001 ? 3 .0001 ? 顯示所有可能的概率值。 統(tǒng)計(jì)計(jì)算 Statistical Computation 統(tǒng)計(jì)計(jì)算 Statistical Computation GLM過程 調(diào)用 GLM程序作一元線性回歸 ? 例如 : ? Proc glm。 ? Format edc edcf。 ? Format sex sexf。 ? model sal2 =edc。 ? Output out= new1 P=predict R=residual。 ? Proc plot 。 ? Plot sal2*edc predict*edc=39。p39。/overlay。 ? Plot residual*edc/vref=0。 ? Run。統(tǒng)計(jì)計(jì)算 Statistical Computation 統(tǒng)計(jì)計(jì)算 Statistical Computation GLM過程 結(jié)果說明 ? P 表示圖點(diǎn) ? Vref 表示正負(fù)分界線 ?殘差不獨(dú)立說明 統(tǒng)計(jì)計(jì)算 Statistical Computation 統(tǒng)計(jì)計(jì)算 Statistical Computation GLM過程 第二節(jié) 一元回歸估計(jì)與檢驗(yàn)理論 ?估計(jì)（ LSE） ?檢驗(yàn)（ F） ?第一節(jié)估計(jì)理論 參數(shù)的最小二乘估計(jì) ? (一 ) 方法介紹 ? 本章所介紹的是 普通最小二乘法 （ ordinary least squares,簡記 OLS） 。 ? 最小二乘法的基本原則是：最優(yōu)擬合直線應(yīng)該使各點(diǎn)到直線的距離的和最小，也可表述為距離的平方和最小。 ? 假定根據(jù)這一原理得到的 α、 β估計(jì)值為 、 ，則直線可表示為 。 ?? ?? ??ttyx????? 直線上的 yt值，記為 ，稱為擬合值（ fitted value） ,實(shí)際值與擬合值的差，記為 ，稱為 殘差 （ residual） ，可以看作是隨機(jī)誤差項(xiàng) 的估計(jì)值。 ? 根據(jù) OLS的基本原則，使直線與各散點(diǎn)的距離的平方和最小，實(shí)際上是使殘差平方和（ residual sum of squares, 簡記 RSS） 最小，即最小化： ?ty?tutuT21?ttu??T21?()tttyy???T21??()tttyx?????? RSS= = （ ） ? 根據(jù)最小化的一階條件，將式 、求偏導(dǎo)，并令其為零，即可求得結(jié)果如下 : ????? 22?xTxxyTyxttt??? yx????（ ） （ ） ? （二）一些基本概念 ? （ the population）和樣本（ the sample） ? 總體是指待研究變量的所有數(shù)據(jù)集合，可以是有限的，也可以是無限的；而樣本是總體的一個子集。 ? 總體回歸方程（ the population regression function，簡記 PRF），樣本回歸方程（ the sample regression function，簡記 SRF）。 ? 總體回歸方程（ PRF）表示變量之間的真實(shí)關(guān)系，有時也被稱為數(shù)據(jù)生成過程（ DGP），PRF中的 α、 β值是真實(shí)值，方程為： tt xy ?? ??+ tu （ 2. 7） ? 樣本回歸方程（ SRF）是根據(jù)所選樣本估算的變量之間的關(guān)系函數(shù)，方程為： 注意： SRF中沒有誤差項(xiàng)，根據(jù)這一方程得到的是總體因變量的期望值 txy ?? ??? ??（ ） 于是方程（ ）可以寫為： （ ） ? 總體 y值被分解為兩部分：模型擬合值（ ）和殘差項(xiàng)（ ）。 y??tu?? ?t t ty x u??? ? ?? ? 對線性的第一種解釋是指： y是 x的線性函數(shù)，比如， y= 。 ? 對線性的第二種解釋是指： y是 參數(shù) 的一個線性函數(shù)，它可以不是變量 x的線性函數(shù)。比如 y= 就是一個線性回歸模型， 但 則不是。 ? 在本課程中，線性回歸一詞總是對指參數(shù) β為線性的一種回歸（即參數(shù)只以一次方出現(xiàn)），對解釋變量 x則可以是或不是線性的。 x?? ?2x?? ?xy ?? ??? 有些模型看起來不是線性回歸，但經(jīng)過一些基本代數(shù)變換可以轉(zhuǎn)換成線性回歸模型。例如， tutt eAxy ?? （ ） 可以進(jìn)行如下變換： ? ? ? ? ttt uxAy ??? lnlnln ? （ ） ? 令 、 、 ，則方程 （ 2. 11）變?yōu)椋? tt yY ln? ? ?Aln?? ? ?tt xX ln?ttt uXY ??? ??（ ） 可以看到，模型 。 ? （ estimator）和估計(jì)值（ estimate） ? 估計(jì)量是指計(jì)算系數(shù)的方程；而估計(jì)值是指估計(jì)出來的系數(shù)的數(shù)值。 ?最小二乘估計(jì)量的性質(zhì)和分布 ? （一） 經(jīng)典線性回歸模型的基本假設(shè) ? （ 1） ，即殘差具有零均值； ? （ 2） var ∞,即殘差具有常數(shù)方差，且對于所有 x值是有限的； ? （ 3） cov ，即殘差項(xiàng)之間在統(tǒng)計(jì)意義上是相互獨(dú)立的； ? （ 4） cov ，即殘差項(xiàng)與變量 x無關(guān)； ? （ 5）ｕ t~N ,即殘差項(xiàng)服從正態(tài)分布 ? ? 0tEu ?? ? 2??tu? ? 0, ?ji uu? ? 0, ?tt xu? ?2,0 ?? （二）最小二乘估計(jì)量的性質(zhì) ? 如果滿足假設(shè) (1)－ (4)，由最小二乘法得到的估計(jì)量 、 具有一些特性，它們是最優(yōu)線性無偏估計(jì)量（ Best Linear Unbiased Estimators，簡記 BLUE）。 ?? ??? 估計(jì)量（ estimator）：意味著 、 是包含著真實(shí) α、 β值的估計(jì)量； ? 線性（ linear）：意味著 、 與隨機(jī)變量 y之間是線性函數(shù)關(guān)系； ? 無偏（ unbiased）：意味著平均而言，實(shí)際得到的 、 值與其真實(shí)值是一致的； ? 最優(yōu)（ best）：意味著在所有線性無偏估計(jì)量里， OLS估計(jì)量 具有最小方差。 ?? ???? ?????? ??? (三 ) OLS估計(jì)量的方差、標(biāo)準(zhǔn)差和其概率分布 ? 、標(biāo)準(zhǔn)差。 給定假設(shè) (1)－ (4)，估計(jì)量的標(biāo)準(zhǔn)差計(jì)算方程如下 : ? ? ? ? ? ?? ?22222? xTxT xsxxTxsSEtttt???? ?????? ? ? ? ?? ???? 222 11? xTxsxxsSEtt?2? 2???Tus t其中， 是殘差的估計(jì)標(biāo)準(zhǔn)