【正文】 雙變量線性回歸模型的參數(shù)估計 一、雙變量線性回歸模型的基本假設 二、參數(shù)的普通最小二乘估計（ OLS） 三、最小二乘估計量的性質 四、參數(shù)估計量的概率分布及隨機干 擾項方差的估計 ? 回歸分析的主要目的 是要通過樣本回歸函數(shù)（模型） SRF盡可能準確地估計總體回歸函數(shù)（模型） PRF。 ? 為保證參數(shù)估計量具有良好的性質，通常對模型提出若干基本假設。 一、線性回歸模型的基本假設 P99100105 假設 1. 解釋變量 X是確定性變量 ， 不是隨機變量； 假設 2. 隨機誤差項 ?具有零均值 、 同方差和無自相關： E(?i)=0 i=1,2, … ,n Var (?i)=?2 i=1,2, … ,n Cov(?i, ?j)=0 i≠j i,j= 1,2, …,n 異方差 X Y X10 ?? ?X Y X10 ?? ?序列自相關 X X Y X10 ?? ?Y X10 ?? ?負相關 正相關 假設 3. 隨機誤差項 ?與解釋變量 X之間不相關： Cov(Xi, ?i)=0 i=1,2, …,n 假設 4. ?服從零均值、同方差、零協(xié)方差的正態(tài)分布 ?i~N(0, ?2 ) i=1,2, …,n 1. 如果假設 2滿足，則假設 3也滿足 。 注意： 以上假設也稱為線性回歸模型的 經典假設 或 高斯（ Gauss）假設 ，滿足該假設的線性回歸模型，也稱為 經典線性回歸模型（ Classical Linear Regression Model, CLRM）。 最小二乘法的思路 ? 為了精確地描述 Y與 X之間的關系，必須使用這兩個變量的每一對觀察值（ n組觀察值），才不至于以點概面（做到全面）。 ? 在 Y與 X的散點圖上畫出直線的方法很多。問題是：怎樣算“最好”？ ? 最好指的是找一條直線使得所有這些點到該直線的縱向距離的和（平方和）最小。 ? 將所有縱向距離平方后相加，即得誤差平方和，“最好”直線就是使誤差平方和最小的直線。 ? 于是可以運用求極值的原理，將求最好擬合直線問題轉換為求誤差平方和最小的問題。 ? 將所有縱向距離平方后相加，即得誤差平方和，“最好”直線就是使誤差平方和最小的直線。 得到的參數(shù)估計量可以寫成： ??????????XYxyxiii1021?????? 稱為 OLS估計量的 離差形式 （ deviation form）。 例 ： 在上述家庭 可支配收入 消費支出 例中，對于所抽出的一組樣本數(shù)，參數(shù)估計的計算可通過下面的表 。 ? 目前，已有很多計量經濟學軟件包，可以完成計量經濟學模型的參數(shù)估計、模型檢驗、預測等基本運算。 ? 本課程采用國家教委推薦的 EViews進行案例教學。 學習計量軟件的要求 鼯鼠五能，不如烏賊一技！ 74250005769300?21 ??? ??iiixyx?1 7 0 32 1 5 07 7 5 6 7?? 00 ??????? XY ??因此，由該樣本估計的回歸方程為： ii XY ??? 四、最小二乘估計量的性質 當模型參數(shù)估計出后，需考慮參數(shù)估計值的精度，即是否能代表總體參數(shù)的真值，或者說需考察參數(shù)估計量的統(tǒng)計性質。 ? 這三個準則也稱作估計量的 小樣本性質。 （ 4） 漸近無偏性 ， 即樣本容量趨于無窮大時 ，是否它的均值序列趨于總體真值； （ 5） 一致性 ， 即樣本容量趨于無窮大時 ， 它是否依概率收斂于總體的真值； （ 6） 漸近有效性 ， 即樣本容量趨于無窮大時 ，是否它在所有的一致估計量中具有最小的漸近方差 。 所有參數(shù)估計量 線性參數(shù)估計量 無偏參數(shù)估計量 最小二乘 參數(shù)估計量 高斯 — 馬爾可夫定理 (GaussMarkov theorem) 在給定經典線性回歸的假定下 ， 最小二乘估計量是具有最小方差的線性無偏估計量 。 由于隨機項 ?i不可觀測，只能從 ?i的估計 ——殘差 ei出發(fā)，對總體方差進行估計。 在隨機誤差項 ? 的方差 ? 2 估計出后，參數(shù) 0??和 1?? 的 方差 和 標準差 的估計量分別是： 1?? 的樣本方差： ??222??1ixS ?? 1?? 的樣本標準差： ??2??1ixS ?? 0?? 的樣本方差： ???2222??0iixnXS ?? 0?? 的樣本標準差： ???22??0iixnXS ?? 167。 對于所有樣本點，則需考慮這些點與樣本均值離差的平方和 ,可以證明 ： TSS=ESS+RSS ? ? ??? 22 )( YYyT S S ii記 ? ? ??? 22 )?(? YYyE S S ii? ? ??? 22 )?( iii YYeR S S總體平方和 （ Total Sum of Squares） 回歸平方和 （ Explained Sum of Squares） 殘差平方和 （ Residual Sum of Squares ） Y的觀測值圍繞其均值的總離差 (total variation)可分解為兩部分：一部分來自回歸線 (ESS)，另一部分則來自隨機勢力(RSS)。 判定系數(shù) 的 取值范圍 ： [0， 1] R2越接近 1，說明實際觀測點離樣本線越近，擬合優(yōu)度越高 。它也是隨著抽樣的不同而不同。 R2的其他表示方法 22 1121()niiniixRy???????22 12211()( ) ( )niiinniiiixyRxy???????22 12211()( ) ( )niiinni iiiyyRyy?????????22 121niiniiyRy??????擬合優(yōu)度（或稱判定系數(shù)、決定系數(shù)） ? 判定系數(shù)只是說明列入模型的所有解釋變量對應變量的聯(lián)合的影響程度，不說明模型中單個解釋變量的影響程度。 判定系數(shù)達到多少為宜？ ? 沒有一個統(tǒng)一的明確界限值； ? 若建模的目的是預測應變量值，一般需考慮有較高的判定系數(shù)。判定系數(shù)高并不一定每個回歸系數(shù)都可信任； 二、變量的顯著性檢驗 回歸分析 是要判斷 解釋變量 X是否是 被解釋變量 Y的一個顯著性的影響因素。這就需要進行 變量的顯著性檢驗。 計量經濟學中 ，主要是針對變量的參數(shù)真值是否為零來進行顯著性檢驗的。 ? 假設檢驗采用的邏輯推理方法是反證法 先假定原假設正確，然后根據(jù)樣本信息，觀察由此假設而導致的結果是否合理，從而判斷是否接受原假設。 假設檢驗 可以通過一次抽樣的結果檢驗總體參數(shù)可能的假設值的范圍（如是否為零），但它并沒有指出在一次抽樣中樣本參數(shù)值到底離總體參數(shù)的真值有多“近”。這種方法就是參數(shù)的 區(qū)間估計 。 對區(qū)間估計的形象比喻 ? 我們經常說某甲的成績“大概 80分左右”，可以看成一個區(qū)間估計。表示為： P t t t( )? ? ? ? ?? ? ?2 21即 P t s ti ii(?)?? ? ? ? ? ?? ?? ? ??2 21P t s t si i ii i( ? ? )? ?? ? ? ?? ?? ?? ? ? ? ? ? ? ?2 21于是得