【正文】 5 ?回歸分析是在相關(guān)分析和因果關(guān)系分析的基礎(chǔ)上，去研究解釋變量對(duì)被解釋變量的影響。 ? 從對(duì)變量的處理看： ? 相關(guān)分析對(duì)稱地處理變量， X和 Y都為隨機(jī)變量 ， 不考慮因果關(guān)系 ； ? 回歸分析對(duì)變量的處理是不對(duì)稱的：假定 Y是非隨機(jī)的 ，X是隨機(jī)變量 ，需要 考慮因果關(guān)系 。 3. 回歸分析與相關(guān)分析的區(qū)別 36 ? 計(jì)量經(jīng)濟(jì)學(xué)成績(jī)與統(tǒng)計(jì)學(xué)成績(jī) ? 家庭收入與恩格爾系數(shù) ? 計(jì)算機(jī)銷量與電視機(jī)銷量 ? 被訪者初婚年齡與當(dāng)前的收入水平 ? 葡萄酒的質(zhì)量和品酒師的評(píng)分值 ? 中國(guó)羊肉消費(fèi)量和牙買加短跑成績(jī) ?思考如下變量之間的關(guān)系 南開大學(xué) 37 167。 一元線性回歸模型的建立 1. 一元線性回歸模型的定義 2. 隨機(jī)誤差項(xiàng)的來(lái)源 3. 回歸分析的主要目的 38 如下數(shù)據(jù)發(fā)表在 1984年 3月 1日的 《 華爾街日?qǐng)?bào) 》 上。它將 1983年 21家企業(yè)的廣告預(yù)算（以百萬(wàn)美元計(jì)）與閱讀者每周對(duì)其保留的印象次數(shù)（以百萬(wàn)次計(jì)）相聯(lián)系。這些數(shù)據(jù)基于對(duì) 4000個(gè)讀者的調(diào)查。 ?你認(rèn)為這兩個(gè)變量之間的關(guān)系具有什么樣的性質(zhì)？ ?你認(rèn)為值得做廣告嗎？ 案例 1：廣告支出的影響 39 印象次數(shù)與廣告支出的調(diào)查數(shù)據(jù) ? 如何設(shè)定模型？ 0204060801 0 00 40 80 1 2 0 1 6 0 2 0 0A D E X PIMPRESSION40 案例 2：凱恩斯消費(fèi)函數(shù)模型 ? 凱恩斯絕對(duì)收入假設(shè)消費(fèi)理論： 消費(fèi)（ C）是由收入（ Y）唯一決定的，是收入的線性函數(shù)：C = ? + ?Y 。 ? 但實(shí)際中上述等式不能準(zhǔn)確實(shí)現(xiàn)： （ 1）消費(fèi)除受收入影響外，還受其他因素的影響； （ 2）線性關(guān)系只是一個(gè)近似描述； （ 3）收入的觀測(cè)值是近似的，其本身并不絕對(duì)準(zhǔn)確地反映收入水平。 41 ? 因此，一個(gè)更符合實(shí)際的數(shù)學(xué)描述為： C = ? + ?Y+? 其中 ： ? 是一個(gè)隨機(jī)誤差項(xiàng)，代表其他隨機(jī)因素的影響。 ? 線性回歸模型的特征： ⑴ 通過引入 隨機(jī)誤差項(xiàng) ，將 變量之間的關(guān)系用一個(gè)線性隨機(jī)方程來(lái)描述 ，并用隨機(jī)數(shù)學(xué)的方法來(lái)估計(jì)方程中的參數(shù)； ⑵ 在線性回歸模型中， 被解釋變量的特征由解釋變量與隨機(jī)誤差項(xiàng)共同決定 。 42 1. 一元線性回歸模型的定義 Yt = ?0 + ?1 Xt + ut 其中： Yt —— 被解釋變量 Xt—— 解釋變量 ut—— 隨機(jī)誤差項(xiàng) ?0—— 常數(shù)項(xiàng)（截距項(xiàng)） ?1—— 回歸系數(shù)。 ?0和 ?1又統(tǒng)稱為模型參數(shù)（回歸參數(shù)）。 ?Xt是影響 Yt變化的重要解釋變量，回歸參數(shù) ?0和 ?1具體描述這種關(guān)系， ?0和 ?1通常是未知的，需要估計(jì)。 ?ut包括除 Xt以外的影響 Yt變化的眾多微小因素，其變化是不可控的。 ?模型可分為兩部分 : (1)?0 +?1Xt 是 非隨機(jī)部分 ； (2) ut是 隨機(jī)部分 。 E(yt) = ?0 + ?1 xt ut （第 3版教材第 7頁(yè)） 43 2. 設(shè)定隨機(jī)誤差項(xiàng) ut的原因 （ 1）在解釋變量中被忽略的因素的影響。 （ 2）存在觀測(cè)誤差。 （ 3）人的隨機(jī)行為。 （第 3版教材第 7頁(yè)） 44 根據(jù)樣本回歸函數(shù) SRF，去估計(jì)總體回歸函數(shù) PRF。 如果 是 的良好的估計(jì)，就可用樣本函數(shù)代替總體函數(shù)， 研究 Y與 X之間的關(guān)系及變化規(guī)律。 即，根據(jù) i i i i i e X e Y Y ? ? ? ? ? 1 0 ? ? ? ? ? 估計(jì) i i i i i X X Y E Y u ? ? u ? ? ? ? ? 1 0 ) | ( i?? i?回歸分析的主要任務(wù)是采用適當(dāng)?shù)姆椒ǎ浞掷脴颖拘畔?，使估?jì)的樣本函數(shù)盡可能地接近于真實(shí)總體回歸函數(shù)。 需要對(duì)解釋變量和隨機(jī)項(xiàng)作出假設(shè) 。 45 40608010 012 014 016 018 020 040 80 12 0 16 0 20 0 24 0 28 0XY總體回歸函數(shù) ?假設(shè)一個(gè)總體有 60個(gè)家庭構(gòu)成，其周收入 (X)和周消費(fèi) (Y)支出數(shù)據(jù)如下表。 表 周家庭收入與消費(fèi)支出（美元） 46 樣本回歸函數(shù) 4060801 0 01 2 01 4 01 6 01 8 040 80 1 2 0 1 6 0 2 0 0 2 4 0 2 8 0XY1Y247 ? 注意：準(zhǔn)確區(qū)分 4個(gè)式子的關(guān)系 南開大學(xué) 48 167。 古典假定條件 49 古典線性回歸模型（ CLRM）的基本假定： Yi=?0+?1Xi+ui (i=1,2, …, n) （ 1） 隨機(jī)誤差項(xiàng)具有 ０均值 : E(ui)=0 （ 2） 隨機(jī)誤差項(xiàng)具有 同方差： Var (ui)=?2 （ 3） 隨機(jī)誤差項(xiàng)在不同樣本點(diǎn)之間是獨(dú)立的 ， 不存在序列相關(guān) ： Cov(ui, uj)=0 i≠j i , j = 1,2, …, n （ 4） 隨機(jī)誤差項(xiàng)與解釋變量之間不相關(guān) ： Cov(Xi, ui)=0 （ 5）隨機(jī)誤差項(xiàng)服從０均值、同方差的 正態(tài)分布 ： ui~N(0, ?2 ) 167。 古典假定條件 （第 3版教材第 9頁(yè)） 50 （ 1） 隨機(jī)誤差項(xiàng)具有 零均值 ： E(?i)=0 表明：平均地看，隨機(jī)誤差項(xiàng)有互相抵消的趨勢(shì)。 （ 2） 隨機(jī)誤差項(xiàng)具有 同方差 ： Var(?i)=?2 表明：對(duì)每個(gè) Xi，隨機(jī)誤差項(xiàng) ?i的方差等于一個(gè)常數(shù) ?2。即 Y取不同值時(shí)， ?i相對(duì)各自均值（零均值）的分散程度是相同的。 Yi具有與 ?i相同的方差。Yi可能取值的分散程度也是相同的。 ? ? 22i2iii )(E)(EE)(V a r ?????????X1 Xn X2 Y +?i ?i PRF： E(Y|Xi)= ?0+?1Xi 異方差 X1 X3 X2 Y +?i ?i PRF： E(Y|Xi)= ?0+?1Xi 同方差 51 Cov(?i, ?j)=0 (3) 隨機(jī)誤差項(xiàng)在不同樣本點(diǎn)之間是獨(dú)立的，不存在序列相關(guān)。 無(wú)自相關(guān)假定表明：產(chǎn)生誤差（干擾）的因素是完全隨機(jī)的，此次干擾與彼次干擾互不相關(guān)，互相獨(dú)立。由此 應(yīng)變量 Yi的序列值之間也互不相關(guān)。 0)(E)(E)(E jiji ??????因?yàn)??i與 ?j相互獨(dú)立，有： 0)(E)]Y(EY)][Y(EY[E)Y,Y(C o v jijjiiji ???????0)(E)](E)][(E[E),(C o vjijjiiji????????????? Xi X Y ?i ?j E(Y|Xi)= ?0+?1Xi Xj Yi Yj ?i ?i ?i ?j ?j ?j 無(wú)自相關(guān) 正的自相關(guān) 負(fù)的自相關(guān) 52 Cov(Xi, ?i)=0 （ 4）隨機(jī)誤差項(xiàng)與解釋變量之間不相關(guān) Xi與 ?i相互獨(dú)立，互不相關(guān)，即隨機(jī)誤差項(xiàng) ?i和解釋變量 Xi是各自獨(dú)立對(duì) 應(yīng)變量 Yi產(chǎn)生影響。事實(shí)上，在回歸分析中， Xi在重復(fù)抽樣（觀測(cè)）中固定取值， 是確定性變量 ，該假定自動(dòng)滿足。 （ 5）隨機(jī)誤差項(xiàng)服從正態(tài)分布 (在對(duì)回歸參數(shù)進(jìn)行統(tǒng)計(jì)檢驗(yàn)時(shí)，須作此假定；并結(jié)合假定 2) ?i～ N(0, ?2) 隨機(jī)誤差項(xiàng) ?i正態(tài)分布的假定對(duì)模型的統(tǒng)計(jì)檢驗(yàn)是很重要的 。如果認(rèn)為每一個(gè)誤差很小且相互獨(dú)立，則正態(tài)分布的假定就是合理的。研究表明：如果一個(gè)隨機(jī)變量受到大量微小的、相互獨(dú)立的隨機(jī)因素的影響，則這個(gè)隨機(jī)變量就服從正態(tài)分布。如果誤差項(xiàng) ?i服從正態(tài)分布，則 Yi也服從正態(tài)分布 (因 Xi在重復(fù)抽樣中是常數(shù) )。 yt ? N (?0+?1xt , ?? ) 53 重要提示 ? 幾乎沒有哪個(gè)實(shí)際問題能夠同時(shí)滿足所有基本假設(shè)； ? 通過模型理論方法的發(fā)展，可以克服違背基本假設(shè)帶來(lái)的問題； ? 違背基本假設(shè)問題的處理構(gòu)成了單方程線性計(jì)量經(jīng)濟(jì)學(xué)理論方法的主要內(nèi)容： 異方差問題（違背同方差假設(shè)） 序列相關(guān)問題（違背序列不相關(guān)假設(shè)） 共線性問題（違背解釋變量不相關(guān)假設(shè)） 隨機(jī)解釋變量（違背解釋變量確定性假設(shè)） 54 167。 一元線性回歸模型的參數(shù)估計(jì) 167。 普通最小二乘法 167。 隨機(jī)誤差項(xiàng)及相關(guān)的一些分布 Yt = ?0 + ?1 Xt + ut ? 我們?nèi)绾螞Q定 ? 0 和 ? 1 ? ? 選擇能夠最接近這些點(diǎn)的擬合直線 。 y x南開大學(xué) 56 1. 確定回歸直線的方法 2. 普通最小二乘法 3. OLS回歸直線的性質(zhì) 167。 (Ordinary Least Square, OLS） 57 x y (Xn , Yn) (X1 , Y1) ? ? ? ? ? ? ? ? ? (X2 , Y2) (Xi , Yi) ei = Yi Yi ＾ 01? ??YX???? 通過這些樣本點(diǎn)，可以得到很多條擬合直線，但是最佳的只有一條。從上圖可以看出擬合殘差（ Residual）： iiiiiii XYXYYYe 1010 ??)??(? ???? ????????58 ? 用 “ 殘差和最小 ” 確定直線位置 即， 達(dá)到最小。由于出現(xiàn)正負(fù)抵消，所以不能保證所求擬合直線為最佳。 ? 用 “ 殘差絕對(duì)值和最小 ” 確定直線位置 即， 達(dá)到最小。消除了正負(fù)抵消的缺陷，但絕對(duì)值在數(shù)學(xué)處理上帶來(lái)了不方便。 ? 以“ 殘差平方和最小 ”確定直線位置 即， 達(dá)到最小。既消除了正負(fù)抵消的影響，同時(shí)數(shù)學(xué)處理上是方便的，得到的估計(jì)量還具有優(yōu)良特性。 1. 確定回歸直線的方法 ?ie?ie? 2ie59 誰(shuí)提出的 OLS估計(jì)方法？ （ C F Gauss, 17771855） C F Gauss 1809年提出 OLS估計(jì)方法 。 60 解此方程組便得到參數(shù)估計(jì)值： ? ? ? ?? ? ???? 210210 ???,? iii XYeQ ????? ? ? ?? ? ? ?0??2??,?0??2??,?1011010010????????????????iiiiiXXYQXYQ??????????ii XY 10 ??? ?? ??1 2( ) ( )?()iiiX X Y YXX?????? ?XY 10 ?? ?? ??從而得到樣本回歸方程： ? ? 0ie0?? iieX（ OLS回歸線的性質(zhì)） 2. 普通最小二乘法 (OLS) （第 3版教材第 11頁(yè)） 61 例題 人均鮮蛋需求量 Y與人均可支配收入 X關(guān)系 OLS估計(jì)結(jié)果： ii XY ??（第 3版教材第 15頁(yè)） (file: li21) Yt：千克 Xt：元 62 3. OLS回歸直線的性質(zhì) (1) 殘差之和為 0： ∑ei=0 (2) 殘差與解釋變量不相關(guān) : Cov(Xi , ei