【文章內(nèi)容簡(jiǎn)介】 與殘差分析 (new) 返回 167。 標(biāo)準(zhǔn)的一元線性回歸模型 ? 總體回歸函數(shù) ? 設(shè)因變量為 Y， 自變量為 X；若 Y的數(shù)學(xué)期望存在 ， 且服從如下的分布 ? Y~N (?1+ ?2X , ?2) () ? 式中 ?1， ?2和 ?2是不依賴于 X的未知參數(shù) 。 則方程 ? Y= ?1+ ?2X+ u 。u ~N (0， ?2) () ? 就稱為 一元線性回歸模型 （ 或稱為相關(guān)方程 ） 。 其中 ， ｕ 是隨機(jī)誤差項(xiàng) ， E (ｕ ) = 0。 ? 又由于 Y的數(shù)學(xué)期望是 X的函數(shù) ， ? E ( Y166。X ) = ?1+ ?2X () ? Y的取值主要由 X的取值決定 ， 因此 ， E (Y166。X )是一個(gè)關(guān)于 X的回歸期望 ， 它從平均意義上表達(dá)了 Y與 X的統(tǒng)計(jì)規(guī)律性 ， 于是 ， E (Y166。X )也可以作為 Y的估計(jì) ， 故 ? ?X = ?1+ ?2X () ? 稱為總體一元回歸估計(jì)方程或者回歸估計(jì)函數(shù)， ?1， ?2是這個(gè)回歸方程中的回歸系數(shù)，其圖形表現(xiàn)為一條直線。 ? Ch7 相關(guān)與回歸分析 ? 167。 一元線性回歸分析 167。 標(biāo)準(zhǔn)的一元線性回歸模型 ? 誤差項(xiàng) ｕ 的標(biāo)準(zhǔn)假定 ? ⑴ 誤差項(xiàng)的期望值恒為零 ， 即 ? E (ｕ t166。Xt)=0 () ? ⑵ 誤差項(xiàng)的方差是同觀察時(shí)點(diǎn) t無(wú)關(guān)的常數(shù) ， 即 ? Var(ｕ t166。Xt)=E (ｕ t2166。Xt)= ?2 () ? ⑶ 時(shí)點(diǎn)不同的誤差項(xiàng)之間不相關(guān) ， 即 ? Cov(ｕ t,ｕ s)=E (ｕ tｕ s )=0。t≠s () ? ⑷ ｕ t的概率分布與 ?1， ?2和 X無(wú)關(guān) 。 ? ⑸ X是給定的變量 （ 確定變量 ） ， 即 X,ｕ 不是有統(tǒng)計(jì)從屬關(guān)系的隨機(jī)變量 。 ? Cov(Xt,ｕ t)=E (Xtｕ t )=0 () ? ⑹ ｕ t服從正態(tài)分布 ， 即 ? ｕ t ~N (0， ?2) () ? 以上假定最早是由德國(guó)數(shù)學(xué)家高斯提出來(lái)的，也稱為高斯假定或者標(biāo)準(zhǔn)假定。 ? Ch7 相關(guān)與回歸分析 ? 167。 一元線性回歸分析 圖 7－ 3 總體回歸與隨機(jī)誤差 Y X ?= ?1+ ?2X. 0 Y= ?1+ ?2X+u u t→ 167。 標(biāo)準(zhǔn)的一元線性回歸模型 ? 滿足以上⑴ ~⑸ 假定的一元線性回歸模型，稱為標(biāo)準(zhǔn)的一元線性回歸模型。滿足⑴ ~⑹ 假定的一元線性回歸模型，稱為標(biāo)準(zhǔn)線性正態(tài)回歸模型。 ? 應(yīng)當(dāng)指出的是 ， 在現(xiàn)實(shí)的情況是由于種種原因 ， 以上假定常常不能得到滿足 。 其最一般的模型及回歸函數(shù)為 ? Y= ?1 + ?2X +u , ?X = E ( Y166。X ) = ?1+?2X () ? u為隨機(jī)誤差項(xiàng)， E (u)=0, E(ｕ 2)= ? 2，Y與 u同分布，且均為非正態(tài)分布，我們以下的討論均以 ()式為基礎(chǔ)，其余變量的解釋如前。 ? Ch7 相關(guān)與回歸分析 ? 167。 一元線性回歸分析 圖 7－ 3 總體回歸與隨機(jī)誤差 Y X ?= ?1+ ?2X. 0 Y= ?1+ ?2X+u u t→ 167。 標(biāo)準(zhǔn)的一元線性回歸模型 ? 樣本回歸函數(shù)，就是根據(jù)樣本資料 (Yt, X t)，對(duì)總體回歸函數(shù)進(jìn)行擬合的估計(jì)函數(shù)。由于樣本 (Yt, X t)來(lái)源于總體 (Y, X )，因此，樣本回歸線與總體回歸線，有相同的函數(shù)形式。由樣本關(guān)系方程 ? () ? 有樣本回歸函數(shù) ? () ? 式中 ， Yt和 X t分別是 Y和 X的第 t次觀察值； ?t為樣本回歸線上與 X t相對(duì)應(yīng)的值 ， 它是對(duì) E(Yt166。X t)的估計(jì)； 為樣本回歸系數(shù) ， 是對(duì)總體回歸系數(shù)的 ?1， ?2的估計(jì)； ｅ t=Yt–?t是實(shí)際觀察值與樣本估計(jì)值之差 ， 亦稱殘差 ， 是一個(gè)可計(jì)算的量； n為樣本容量； 是對(duì) ?2的估計(jì) 。 ? 樣本回歸函數(shù)是總體回歸函數(shù)的近似反映 。 ? 回歸分析的主要任務(wù) ， 就是充分利用樣本的信息 ， 采用適當(dāng)?shù)姆椒?， 使得樣本回歸函數(shù) ， 盡可能接近真實(shí)的總體回歸函數(shù) 。 ? Ch7 相關(guān)與回歸分析 ? 167。 一元線性回歸分析 nteEeEeXY ttttt ,. .. ,3,2,1。?)(,0)(。?? 2221 ?????? ???2??21 ?,? ??,. ..,3,2,1。??? 21 ntXY tt ??? ??返回 167。 一元線性回歸模型的估計(jì) ? 回歸系數(shù)的估計(jì) ? 最小二乘法 ， 簡(jiǎn)記為 OLS法 。 它的準(zhǔn)則是使 ｅ t的平方和最小 ， 即 ? () ? 由極值條件 ， 有聯(lián)立方程 ? () ? 整理得正規(guī)方程組 ? () ? Ch7 相關(guān)與回歸分析 ? 167。 一元線性回歸分析 ?????????????????ntttntttntttnttXYXYYYeQ1221?,?1221121221)??(m i n)??()?()?,?(21?????????????????????????????????ntttttntttXXXYQXYQ1221212110)??(2?0)??(2????????????????????????????nttnttntttnttnttXXXYXnY1221111211??)(?????? 167。 一元線性回歸模型的估計(jì) ? 回歸系數(shù)的估計(jì) （續(xù)） ? 求解正規(guī)方程組 ， 得 ? () ? 利用 ()式 ， 則最小二乘估計(jì)量 ， 又可簡(jiǎn)寫為 ? () ? Ch7 相關(guān)與回歸分析 ? 167。 一元線性回歸分析 ??????????????????????????????????????nttntttntnttnttnttntttnttnttXXYYXXXXnYXXYnXYXnYn1212112111221211)())(()())(()(???1????????????????22221)()())(()(???XXYXXYLLXYXXXY??? 167。 一元線性回歸模型的估計(jì) ? 【 例 75】 利用某國(guó) 19511970年的消費(fèi) Y和可支配收入 X數(shù)據(jù)，建立消費(fèi)對(duì)可支配收入的回歸估計(jì)方程。 ? 解：因?yàn)橄M(fèi) Y和可支配收入 X之間是顯著線性相關(guān) ， 所以 ， 可以建立Y,X之間的一元回歸估計(jì)模型 ? Y= ?1+ ?2X +u , ?X = E ( Y166。X ) = ?1+ ?2X ? 根據(jù)最小二乘估計(jì)方法 ， 得回歸估計(jì)方程 ? ?X = +， S =, γ2= ? () () d= ? ? Ch7 相關(guān)與回歸分析 ? 167。 一元線性回歸分析 年份 序號(hào) t 可支配收入 Xt 消費(fèi) Yt XtX t YtY t XtY t ?X,t ｅ t=Yt–?t 1951 1 1952 2 1953 3 230 52900 58098 1954 4 1955 5 1956 6 1957 7 1958 8 1959 9 1960 10 350 122500 105755 113820 1961 11 112359 1962 12 126096 136820 1963 13 375 140625 151725 1964 14 1965 15 204801 1966 16 238699 1967 17 1968 18 316765 1969 19 364749 1970 20 422323 合計(jì) 210 3471559 2888129 3166305 平均 173578 167。 一元線性回歸模型的估計(jì) ? 最小二乘估計(jì)量的性質(zhì) ? 可以證明 ， 在高斯假定能夠得到滿足的條件下 ， ? () ? 其方差 ? () ? 回歸系數(shù)的最小二乘估計(jì)量 ， 是最優(yōu)的線性無(wú)偏估計(jì)量和一致估計(jì)量 。 ? 以上性質(zhì) ， 在文獻(xiàn)中被稱為高斯 —馬爾可夫定理 。 該定理表明 ， 在高斯假定條件下 ， 最小二乘估計(jì)量 ， 是一種最佳的估計(jì)方式 。 ? Ch7 相關(guān)與回歸分析 ? 167。 一元線性回歸分析 .)?(.)?( 2211 ???? ?? EEXXnttXXntLXXV a rLXnXXXnV a r2122222122221)()?()1())(1()?(???????????????????? 167。 一元線性回歸模型的估計(jì) ? 隨機(jī)誤差項(xiàng)的方差估計(jì) ? 數(shù)學(xué)上可以證明 ， ?2的無(wú)偏估計(jì) S2可由下式給出： ? () ? 在一元線性回歸模型中 ， 殘差 ｅ t必須滿足 ?1， ?2最小二乘估計(jì)要求所導(dǎo)出的兩個(gè)約束條件： ? () ? 因而失去了 2個(gè)自由度 ， 所以 ， 殘差 ｅ t的自由度為 n 2。 ? S越小 ， 表明實(shí)際觀測(cè)點(diǎn)與所擬的樣本回歸線的離差程度越小 ， 即回歸線具有較強(qiáng)的代表性；反之 ， S越大 ，