【正文】 二 、 普通最小二乘法 （ OLS） ),(,),(),( 2211 nn YXYXYX ???最小二乘法的數(shù)學原理 ： 將觀察值 在直角坐標系中繪制出來 iii uXY ??? 21 ??iXY 21??? ?? ??ii e???24 22 )?( iii YYeQ ????? 最小二乘法的基本思想（ 原則） ： 尋找 實際值與擬合值的離差平方和 為 最小 的回歸直線 。 )( iii XYEYu ??ii XXYE 21)( ?? ??即 * 總體回歸函數(shù)可以表示為 ： iii XYEY ??? )(iii XY ??? ??? 21 條件期望形式 : 說明 X對 Y的條件期望 影響 隨機設定形式 ui說明除了 X對 Y的影響以 外，其余未被納入模型的 諸多因素對 Y的綜合影響 15 變量的內在隨機性 總體回歸函數(shù)中引進隨機擾動項的主要原因： 作為未知影響因素的代表 作為無法取得數(shù)據(jù)的已知因素的代表 作為眾多細小影響因素的綜合代表 模型的設定誤差 變量的觀測誤差 16 四、樣本回歸函數(shù)（ SRF） （一） 樣本回歸直線（回歸曲線） ： 以樣本數(shù)據(jù)擬合的直線（曲線），它是總體回歸線的近似反映。 * Y對 X的回歸直線： 回歸函數(shù)形式為 直線 * Y對 X的回歸曲線： 回歸函數(shù)形式為 曲線 * 總體回歸函數(shù)（ PRF）： 總體因變量 Y的條件期望表示為解釋變量 X的某種函數(shù) * 特別：總體回歸函數(shù)為線性函數(shù) ，即 注意：總體回歸函數(shù)的設定（通過定性分析、散點（布）圖） 回歸系數(shù)）—是未知參數(shù)（、其中： 221 ???13 （三）“線性”一詞的含義（有兩種解釋） 模型就 變量 而言是線性的 ,例如 ii XXYE 21)( ?? ??ii XXYE 21)( ?? ?? 模型就 參數(shù) 而言是線性的 ,例如 221)( ii XXYE ?? ??XXYE i1)(21 ?? ?? 注 ：在計量經濟學中，從回歸理論的發(fā)展、參數(shù)的估計方法來說，主要考慮的是模型就 參數(shù) 而言是線性的情形。 回歸分析： * 需要區(qū)分變量之間的因果關系； * 則要通過建立回歸方程，去估計（預測）因變量的平均值； * 因變量是隨機變量（有一定的概率分布），自變量是非隨機變量。 例：個人可支配收入和個人消費支出 即 X Y平均變動軌跡（該函數(shù)稱為回歸函數(shù)） 10 回歸分析與相關分析的聯(lián)系和區(qū)別 聯(lián)系 ： 都是研究相關關系的方法。 目的：根據(jù)已知的或固定的解釋變量的值，去估計或預測被解釋變量的總體均值。 r ? 樣本相關系數(shù) 是總體相關系數(shù) 的估計量，隨著取樣的不同，兩者之間有誤差，其統(tǒng)計顯著性有待檢驗。1 2 作進行回歸分析的具體操運用 E v i e w s目的要求 ： 通過一元線性回歸模型的建立過程，了解（重溫）回歸分析方法的基本統(tǒng)計思想。掌握 : 總體回歸函數(shù)與樣本回歸函數(shù)的實質和聯(lián)系； 線性回歸的基本假定及其意義； 普通最小二乘估計及其性質； 參數(shù)的點估計與區(qū)間估計； 參數(shù)的假設檢驗； 擬合優(yōu)度的意義和作用； 對因變量個別值和平均值的點預測和區(qū)間預測； 3 01020300 5 10 15YX散點圖 第一節(jié) 回歸分析與回歸方程 一、回歸與相關 （一）經濟變量之間的相互關系 相互關系 函數(shù)關系 ： 統(tǒng)計 （相關） 關系 : 相關關系的類型 1） 從相關關系涉及的變量數(shù)量： 簡單（一元）相關； 多重（復）相關 2）從變量相關的表現(xiàn)形式： 線性相關 ； 非線性相關 3）從變量相關關系變化的方向：正相關； 負相關 (變量間變化彼此沒有聯(lián)系時，稱為不（零）相關 ) 4 （二）相關系數(shù) （復習） 變量 X、 Y的 總體相關系數(shù) 變量 X、 Y的 樣本相關系數(shù) 注意 ： 變量 X、 Y都是隨機變量，且相互對稱，所以 相關系數(shù)只反映兩變量間線性相關的程度，不能說明其非線性相關關系 相關系數(shù)雖能度量變量的線性相關程度，但不能確定變量之間的因果關系，也不能說明它具體接近哪一條直線。 5 例 以下資料是 Whitney公司連續(xù) 26周銷售額和廣告成本以及該城市各主要百貨公司的銷售總額 （ 含 Whitney公司的 ） 和估計的競爭對手的廣告費 （ 美元 ） 周次 Whitney公司 百貨公司銷售總額 其它百貨公司的廣告費 X2 銷售額 Y 廣告費X1 1 2170787 11900 3710113 2020 2 1994291 14900 3369873 — … … … … … 25 1680685 10900 2819941 — 26 2266506 9800 3897689 2500 這些數(shù)據(jù)是否能揭示出 Whitney公司所做的報紙廣告帶來的真實收益 ？ 6 廣告費與銷售額的散點圖 1600000 1800000 2020000 2202000 2400000 2600000 0 10000 20200 30000 40000 50000 Y X1 7 廣告費與市場占有率的散點圖 0 1 0 0 0 0 2 0 0 0 0 3 0 0 0 0 4 0 0 0 0 5 0 0 0 0WX18 8 2 1 ??8 （三）回歸分析 “ 回歸 ” 一詞的 古典意義 英國生物學家 （ Francis Galton）在 遺傳學研究中首先提出的 … 9 “ 回歸 ” 一詞的 現(xiàn)代意義 ： “回歸 ” 是關于一個被解釋變量（或因變量）對一個或多個解釋變量（或自變量）依存關系的研究。 回歸分析就是要根據(jù) X和 Y的觀測數(shù)據(jù)，確定其變動的具體統(tǒng)計規(guī)律性。 區(qū)別 ： 相關分析： * 所涉及的變量都為隨機變量。 * 主要是為刻畫變量間的相關程度； * 不考慮變量之間的因果關系，不區(qū)分解釋變量和因變量，兩變量對稱 . 11 二、總體回歸函數(shù)（ PRF） （一）一個人為的 例子 （ P17）： N=100戶家庭分為 10組 分析 ：每一收入組的家庭消費支出 ?對給定的 ， 所有可能出現(xiàn)的 Y值服從一定的分布， 稱為 X給定時 Y的 條件分布 iX?X取某定值時， Y取各種值的概率，稱為 Y的 條件概率 ，記為 )( iXYP 例如 ： X=60， Y取 4個 值中任一個值的條件概率各為 41)60( ??iXYP X=90， Y取 6個 值中任一個值的條件概率各為 61)90( ??iXYP? 稱為 Y的 條件均值（條件期望） 554158415741544151)60( ??????????iXYE例如 結果列于表 （ P18） ）（ iii XYPYXYE ???)(12 )()( ii XfXYE ?ii XXYE 21)( ?? ??（二）總體回歸函數(shù)的概念 “條件期望（均值） ” 的 運動軌跡 稱為 回歸函數(shù) 。 14 三、隨機擾動項 * 隨機擾動項（ ui ）： 因變量 Yi與總體條件均值（期望）E(Y/Xi ） 的偏差（離差）。 仍以家庭可支配收入與消費支出的關系為例，從總體中各抽取10戶觀測，兩隨機樣本的結果為 （ P21 表 、表 ） 。 22122 )??()?(iiiii XYYYe ????? ????? 根據(jù)微積分中求極值的原理 2121() ? ?2 ( ) 0?iiie YX????? ? ? ? ? ? ??0)??(2? )( 2122?????????iiii XXYe ???ii XY 21 ??? ?? ??ii YY ??設樣本回歸方程為 : 實際值與擬合值的離差： 離差平方和： 25 ?????????????? 22121????iiiiiiXXYXXnY????222 )(?iiiiiiXXnYXYXn?????????))))((?(222XXYiiiSSXXYYXX ????????解方程組 得 XXx ii ?? YYy ii ?? 22?iiixyx??? ?XY 21 ?? ?? ??1??2??2??注：令 截距項 ： 當解釋變量為零時，被解釋變量的取值； 斜率項 ：當解釋變量每變動一個單位時，被解釋變量平均變動 個單位。 如果通過調查得到一組數(shù)據(jù)：（百元） 1 8 64 2 12 11 144 132 3 20 13 400 260 4 30 22 900 660 5 40 21 1600 840 6 50 27 2500 1350 7 70 38 4900 2660 8 90 39 8100 3510 9 100 55 10000 6050 10 120 66 14400 7920 合計 540 43008 2X XYX Y28 2 ??? ????8 0 21 ??? XY ??XY 4 8 4 0 ??222 )(?iiiiiiXXnYXYXn?????????例： P25 29 三、 OLS回歸直線的性質 (數(shù)值性質 ) ),( YXiYY ??0ie ?? 或 e=0（一） 回歸直線通過樣本均值點 XY 21 ?? ?? ?? 12? ?YX????（二）估計值的均值等于實際觀測值的均值 nXnY ii )??(? 21 ?? ????nXXY i ]?)?[( 22 ?? ????nXXY i )]??([( 22 ?? ???? YnXXY i ????? )(?2?（三）剩余項（殘差）的和為零或均值為零 iii YYe ???0)??(2? )( 2112?????????iii XYe ???（ P24） 0)??()?( 21 ????????? iiiii XYYYe ??0???nee i30 （四）預測（估計）值與剩余項不相關，即 （五）解釋變量與剩余項不相關，即 0),( ?ii eXC O V0),?( ?ii eYC O V由協(xié)方差的定義有 ），（ ii eYC O V ? ? ?? ?)()?(? iiii eEeYEYE ???])?[( ii eYYE ?? ]?[ ii eyE? 0? ???ney ii0? ?? ii ey（ 證明見教材 P27） ）， ii eXC O V ( ? ?? ?)()( iiii eEeXEXE ???))((1 XXeen ii ???? ii Xen ?? 1 0)??(1 21 ????? iii XXYn ??由正規(guī)方程組第二個方程得： 0)??(2? )( 2122?????????iiii XXYe ???31 ③ 殘差和為零 ⑤ 自變量與殘差不相關 ② 平均數(shù)相等 ④ 擬合值與殘差不相關 iiiii eXeYY ????? 21??? ??