【文章內容簡介】 與殘差分析 (new) 返回 167。 標準的一元線性回歸模型 ? 總體回歸函數(shù) ? 設因變量為 Y， 自變量為 X；若 Y的數(shù)學期望存在 ， 且服從如下的分布 ? Y~N (?1+ ?2X , ?2) () ? 式中 ?1， ?2和 ?2是不依賴于 X的未知參數(shù) 。 則方程 ? Y= ?1+ ?2X+ u 。u ~N (0， ?2) () ? 就稱為 一元線性回歸模型 （ 或稱為相關方程 ） 。 其中 ， ｕ 是隨機誤差項 ， E (ｕ ) = 0。 ? 又由于 Y的數(shù)學期望是 X的函數(shù) ， ? E ( Y166。X ) = ?1+ ?2X () ? Y的取值主要由 X的取值決定 ， 因此 ， E (Y166。X )是一個關于 X的回歸期望 ， 它從平均意義上表達了 Y與 X的統(tǒng)計規(guī)律性 ， 于是 ， E (Y166。X )也可以作為 Y的估計 ， 故 ? ?X = ?1+ ?2X () ? 稱為總體一元回歸估計方程或者回歸估計函數(shù)， ?1， ?2是這個回歸方程中的回歸系數(shù)，其圖形表現(xiàn)為一條直線。 ? Ch7 相關與回歸分析 ? 167。 一元線性回歸分析 167。 標準的一元線性回歸模型 ? 誤差項 ｕ 的標準假定 ? ⑴ 誤差項的期望值恒為零 ， 即 ? E (ｕ t166。Xt)=0 () ? ⑵ 誤差項的方差是同觀察時點 t無關的常數(shù) ， 即 ? Var(ｕ t166。Xt)=E (ｕ t2166。Xt)= ?2 () ? ⑶ 時點不同的誤差項之間不相關 ， 即 ? Cov(ｕ t,ｕ s)=E (ｕ tｕ s )=0。t≠s () ? ⑷ ｕ t的概率分布與 ?1， ?2和 X無關 。 ? ⑸ X是給定的變量 （ 確定變量 ） ， 即 X,ｕ 不是有統(tǒng)計從屬關系的隨機變量 。 ? Cov(Xt,ｕ t)=E (Xtｕ t )=0 () ? ⑹ ｕ t服從正態(tài)分布 ， 即 ? ｕ t ~N (0， ?2) () ? 以上假定最早是由德國數(shù)學家高斯提出來的，也稱為高斯假定或者標準假定。 ? Ch7 相關與回歸分析 ? 167。 一元線性回歸分析 圖 7－ 3 總體回歸與隨機誤差 Y X ?= ?1+ ?2X. 0 Y= ?1+ ?2X+u u t→ 167。 標準的一元線性回歸模型 ? 滿足以上⑴ ~⑸ 假定的一元線性回歸模型，稱為標準的一元線性回歸模型。滿足⑴ ~⑹ 假定的一元線性回歸模型，稱為標準線性正態(tài)回歸模型。 ? 應當指出的是 ， 在現(xiàn)實的情況是由于種種原因 ， 以上假定常常不能得到滿足 。 其最一般的模型及回歸函數(shù)為 ? Y= ?1 + ?2X +u , ?X = E ( Y166。X ) = ?1+?2X () ? u為隨機誤差項， E (u)=0, E(ｕ 2)= ? 2，Y與 u同分布，且均為非正態(tài)分布，我們以下的討論均以 ()式為基礎，其余變量的解釋如前。 ? Ch7 相關與回歸分析 ? 167。 一元線性回歸分析 圖 7－ 3 總體回歸與隨機誤差 Y X ?= ?1+ ?2X. 0 Y= ?1+ ?2X+u u t→ 167。 標準的一元線性回歸模型 ? 樣本回歸函數(shù)，就是根據(jù)樣本資料 (Yt, X t)，對總體回歸函數(shù)進行擬合的估計函數(shù)。由于樣本 (Yt, X t)來源于總體 (Y, X )，因此，樣本回歸線與總體回歸線，有相同的函數(shù)形式。由樣本關系方程 ? () ? 有樣本回歸函數(shù) ? () ? 式中 ， Yt和 X t分別是 Y和 X的第 t次觀察值； ?t為樣本回歸線上與 X t相對應的值 ， 它是對 E(Yt166。X t)的估計； 為樣本回歸系數(shù) ， 是對總體回歸系數(shù)的 ?1， ?2的估計； ｅ t=Yt–?t是實際觀察值與樣本估計值之差 ， 亦稱殘差 ， 是一個可計算的量； n為樣本容量； 是對 ?2的估計 。 ? 樣本回歸函數(shù)是總體回歸函數(shù)的近似反映 。 ? 回歸分析的主要任務 ， 就是充分利用樣本的信息 ， 采用適當?shù)姆椒?， 使得樣本回歸函數(shù) ， 盡可能接近真實的總體回歸函數(shù) 。 ? Ch7 相關與回歸分析 ? 167。 一元線性回歸分析 nteEeEeXY ttttt ,. .. ,3,2,1。?)(,0)(。?? 2221 ?????? ???2??21 ?,? ??,. ..,3,2,1。??? 21 ntXY tt ??? ??返回 167。 一元線性回歸模型的估計 ? 回歸系數(shù)的估計 ? 最小二乘法 ， 簡記為 OLS法 。 它的準則是使 ｅ t的平方和最小 ， 即 ? () ? 由極值條件 ， 有聯(lián)立方程 ? () ? 整理得正規(guī)方程組 ? () ? Ch7 相關與回歸分析 ? 167。 一元線性回歸分析 ?????????????????ntttntttntttnttXYXYYYeQ1221?,?1221121221)??(m i n)??()?()?,?(21?????????????????????????????????ntttttntttXXXYQXYQ1221212110)??(2?0)??(2????????????????????????????nttnttntttnttnttXXXYXnY1221111211??)(?????? 167。 一元線性回歸模型的估計 ? 回歸系數(shù)的估計 （續(xù)） ? 求解正規(guī)方程組 ， 得 ? () ? 利用 ()式 ， 則最小二乘估計量 ， 又可簡寫為 ? () ? Ch7 相關與回歸分析 ? 167。 一元線性回歸分析 ??????????????????????????????????????nttntttntnttnttnttntttnttnttXXYYXXXXnYXXYnXYXnYn1212112111221211)())(()())(()(???1????????????????22221)()())(()(???XXYXXYLLXYXXXY??? 167。 一元線性回歸模型的估計 ? 【 例 75】 利用某國 19511970年的消費 Y和可支配收入 X數(shù)據(jù)，建立消費對可支配收入的回歸估計方程。 ? 解：因為消費 Y和可支配收入 X之間是顯著線性相關 ， 所以 ， 可以建立Y,X之間的一元回歸估計模型 ? Y= ?1+ ?2X +u , ?X = E ( Y166。X ) = ?1+ ?2X ? 根據(jù)最小二乘估計方法 ， 得回歸估計方程 ? ?X = +， S =, γ2= ? () () d= ? ? Ch7 相關與回歸分析 ? 167。 一元線性回歸分析 年份 序號 t 可支配收入 Xt 消費 Yt XtX t YtY t XtY t ?X,t ｅ t=Yt–?t 1951 1 1952 2 1953 3 230 52900 58098 1954 4 1955 5 1956 6 1957 7 1958 8 1959 9 1960 10 350 122500 105755 113820 1961 11 112359 1962 12 126096 136820 1963 13 375 140625 151725 1964 14 1965 15 204801 1966 16 238699 1967 17 1968 18 316765 1969 19 364749 1970 20 422323 合計 210 3471559 2888129 3166305 平均 173578 167。 一元線性回歸模型的估計 ? 最小二乘估計量的性質 ? 可以證明 ， 在高斯假定能夠得到滿足的條件下 ， ? () ? 其方差 ? () ? 回歸系數(shù)的最小二乘估計量 ， 是最優(yōu)的線性無偏估計量和一致估計量 。 ? 以上性質 ， 在文獻中被稱為高斯 —馬爾可夫定理 。 該定理表明 ， 在高斯假定條件下 ， 最小二乘估計量 ， 是一種最佳的估計方式 。 ? Ch7 相關與回歸分析 ? 167。 一元線性回歸分析 .)?(.)?( 2211 ???? ?? EEXXnttXXntLXXV a rLXnXXXnV a r2122222122221)()?()1())(1()?(???????????????????? 167。 一元線性回歸模型的估計 ? 隨機誤差項的方差估計 ? 數(shù)學上可以證明 ， ?2的無偏估計 S2可由下式給出： ? () ? 在一元線性回歸模型中 ， 殘差 ｅ t必須滿足 ?1， ?2最小二乘估計要求所導出的兩個約束條件： ? () ? 因而失去了 2個自由度 ， 所以 ， 殘差 ｅ t的自由度為 n 2。 ? S越小 ， 表明實際觀測點與所擬的樣本回歸線的離差程度越小 ， 即回歸線具有較強的代表性；反之 ， S越大 ，