【正文】 可以分解為： ? 可以理解為：采用均值 “ 估計(jì) ” 實(shí)際值時(shí)的 “ 總誤差 ” 離差分解示意圖 ? 對(duì)于 所有 樣本點(diǎn)，定義如下 離差平方和 (Sum Square)： ? ? ??? 22 )( YYyT S S ii總離差平方和 （樣本觀測(cè)值總體離差大?。? ? ? ??? 22 )?(? YYyE S S ii回歸離差平方和 （ SRF所能解釋的離差大小） ? ? ??? 22 )?( iii YYeR S S殘差平方和 （ SRF無法解釋的離差大?。? 可以證明： TSS=ESS+RSS ? Y的觀測(cè)值圍繞其均值的總離差 (total variation)可分解為兩部分：一部分來自回歸線 (ESS)，另一部分則來自隨機(jī)勢(shì)力 (RSS)。 ? 主要包括 擬合優(yōu)度檢驗(yàn) 、 變量的顯著性檢驗(yàn) 、 方程的顯著性檢驗(yàn) 、參數(shù)的區(qū)間估計(jì)。但是在一次抽樣中，估計(jì)值不一定就等于該真值 。 ? 因此，盡管從 統(tǒng)計(jì)性質(zhì) 上看，參數(shù)估計(jì)量具有 良好 的性質(zhì)。 一元線性回歸模型的統(tǒng)計(jì)檢驗(yàn) 一、擬合優(yōu)度檢驗(yàn) 二、方程的顯著性檢驗(yàn) 三、變量的顯著性檢驗(yàn) 四、參數(shù)的臵信區(qū)間 模型檢驗(yàn)的必要性 ? 回歸分析是通過樣本所估計(jì)的參數(shù)來代替總體的真實(shí)參數(shù)，或者說是用樣本回歸線代替總體回歸線。 ＃ 回歸估計(jì)的標(biāo)準(zhǔn)誤（ Standard Error of Regression） ? 隨機(jī)誤差項(xiàng)方差的估計(jì)量的平方根，稱為 估計(jì)標(biāo)準(zhǔn)誤差 或者 回歸標(biāo)準(zhǔn)誤差 ，記為 2?.2????neES i?? 反映了 被解釋變量的實(shí)際值與估計(jì)值的 平均誤差程度 ， 越大，則回歸直線的精度越低。 ?2又稱為總體方差 。 11 ( )i i iiik k Xk X X??????2 、無偏性 ， 即估計(jì)量 0?? 、 1?? 的均值（期望）等于總體回歸參數(shù)真值 ? 0 與 ? 1 ? ? ? ? ???????? iiiiiiiiii kXkkXkYk ??????? 10101 )(?易知 : 02 ??? ??iii xxk ? ? 1ii Xk故 : ??? iik ??? 11??? ????? 1111 )()()?( ?????? iiii EkkEE? ? ????? 0000 )()()()?( ?????? iiii EwEwEE由前 : 3 、有效性（最小方差性） ， 即在所有線性無偏估計(jì)量中，最小二乘估計(jì)量 0?? 、 1?? 具有最小方差。 ? 后三個(gè)準(zhǔn)則稱為估計(jì)量的 大樣本性質(zhì)或漸進(jìn)性質(zhì) ? 如果小樣本下不能滿足估計(jì)的準(zhǔn)則，則應(yīng)考察參數(shù)估計(jì)量的大樣本性質(zhì) OLSE的性質(zhì) 高斯 — 馬爾可夫定理 (GaussMarkov theorem) 在給定經(jīng)典線性回歸的假定下 ， 最小二乘估計(jì)量是具有最小方差的線性無偏估計(jì)量 。 （ 4） 漸進(jìn)無偏性 ：樣本容量趨于無窮時(shí)，均值序列趨于總體真值 （ 5） 一致性 ：樣本容量區(qū)域無窮時(shí)，依概率收斂于總體真值 （ 6） 漸進(jìn)有效性 ：樣本容量趨于無窮時(shí)，在所有的一致估計(jì)量中具有最小的漸進(jìn)方差 ? 當(dāng)模型參數(shù)估計(jì)出后，需考慮參數(shù)估計(jì)值的精度，即是否能代表總體參數(shù)的真值，或者說需考察參數(shù)估計(jì)量的統(tǒng)計(jì)性質(zhì)。 參數(shù)估計(jì)實(shí)例（計(jì)算過程） 例 ：在上述家庭可支配收入 消費(fèi)支出例中，對(duì)于所抽出的一組樣本數(shù)，參數(shù)估計(jì)的計(jì)算可通過下面的表進(jìn)行。 ? 那么 Yi服從如下的正態(tài)分布： ),??(~210 ??? ii XNY ?于是， Y的 概率函數(shù) 為 : 2102 )??(2121)( ii XYi eYP?????????? 假如模型的參數(shù)估計(jì)量已經(jīng)求得，為 因?yàn)?Yi是相互獨(dú)立的，所以，所有樣本觀測(cè)值的聯(lián)合概率，也即似然函數(shù) 為： ),(),?,?( 21210 nYYYPL ???????21022)??(21)2(1 iinXYne??????????對(duì)數(shù)似然函數(shù) ? 將該似然函數(shù)極大化 ， 即可求得到模型參數(shù)的極大似然估計(jì)量 。 樣本 X1,X2,….,Xn 總體 1＃ 總體 k＃ …… 總體 2＃ 聯(lián)合概率 P1 聯(lián)合概率 P2 聯(lián)合概率 …… 聯(lián)合概率 Pk ? n個(gè)樣本觀測(cè)值同時(shí)出現(xiàn)的概率，體現(xiàn)為 n個(gè)樣本觀測(cè)值的 聯(lián)合概率 。 ? 從估計(jì)量的角度看， β^是隨機(jī)變量 ，其取值依賴于具體的樣本資料 ＃估計(jì)量（ estimator）和估計(jì)值（ estimated value） 三、最大似然估計(jì)（ MLE） 最大似然法的基本原理 ? 最大似然法 （ Maximum Likelihood， ML），也稱最大或然法，是不同于最小二乘法的另一種參數(shù)估計(jì)方法，是從最大或然原理出發(fā)發(fā)展起來的其它估計(jì)方法的基礎(chǔ)。 ??????????XYxyxiii1021?????? 1 201( ) ( )?()? ?iiiX X Y YXXYX???? ?????? ???????? 將（ ）式看成 β^的一個(gè)表達(dá)式，則稱 β^為“ 估計(jì)量 ”（ estimator）。 ?? ????? n iiin i XYYYQ121021))??(()?( ???iY iY? 樣本回歸線上的點(diǎn) 與真實(shí)觀測(cè)值 的“總體誤差”盡可能小，即被解釋變量的估計(jì)值與真實(shí)觀測(cè)值 總體上最為接近 。 即 ????? nQnXX i ,/)( 2 ■ 假設(shè) 6：回歸模型是正確設(shè)定的 ? 假設(shè) 5旨在排除時(shí)間序列數(shù)據(jù)出現(xiàn)持續(xù)上升或下降的變量作為解釋變量，因?yàn)檫@類數(shù)據(jù)不僅使大樣本統(tǒng)計(jì)推斷變得無效，而且往往產(chǎn)生所謂的 偽回歸問題（ spurious regression problem） 。對(duì) Y的影響是完全獨(dú)立的 ? 假設(shè) 4： 1）參數(shù)估計(jì)并不需要，但假設(shè)檢驗(yàn)和預(yù)測(cè)需要 ? 2） Yi與 181。I,181。i具有相同的方差： var(Yi)=243。i)=243。具有類似性質(zhì)的隨機(jī)變量 ? 假設(shè) 2： ? E(181。 ? 嚴(yán)格而言 ， 這些基本假設(shè)并非針對(duì)模型的，而是針對(duì)普通最小二乘法的 ? 尋求恰當(dāng)?shù)墓烙?jì)方法，使 ?i?是 βi的 優(yōu)良 估計(jì)量 —— 參數(shù)估計(jì) 基本假設(shè)的內(nèi)容 ? 假設(shè) 1：解釋變量 X是確定性變量 ， 不是隨機(jī)變量； ? 假設(shè) 2：隨機(jī)誤差項(xiàng) ?具有零均值 、 同方差和不序列相關(guān)性： E(?i)=0 i=1,2, … ,N Var (?i)=??2 i=1,2, … ,N Cov(?i, ?j)=0 i≠j i,j= 1,2, …,N ? 假設(shè) 3：隨機(jī)誤差項(xiàng) ?與解釋變量 X之間不相關(guān)： Cov(Xi, ?i)=0 i=1,2, …,N ? 假設(shè) 4： ?服從零均值、同方差、零協(xié)方差的正態(tài)分布 ?i~N(0, ??2 ) i=1,2, …,N 基本假設(shè)的意義 ? 假設(shè) 1：模型中只有 181。 ? 估計(jì)方法有多種，其種最廣泛使用的是 普通最小二乘法 （ ordinary least squares, OLS）。 ? 這就要求 ：尋求好的方法 ，構(gòu)造盡可能好的 SRF ? 換言之 ， 構(gòu)造 PRF中未知參數(shù)的 優(yōu)良估計(jì)量 167。 ?i i ie Y Y??x (xi , yi) 181。 ? 由于總體均值的未知性， 181。 ()i i iY E Y? ??? 誤差 181。 相對(duì)應(yīng)，可以看作是 181。直觀上， e是實(shí)際觀測(cè)值與 樣本回歸直線 上的對(duì)應(yīng)值的距離。 ? 基于樣本回歸函數(shù)所得到的 ?i與實(shí)際觀測(cè)的 Yi之間同樣存在著誤差，記為ei，有： ?i i ie Y Y??? ei 稱為（樣本） 殘差項(xiàng) 或 剩余項(xiàng)（ residual） ，代表了其它影響 Yi的隨機(jī)因素的集合 樣本回歸模型（ SRM） 殘差 e與誤差 181。 樣本回歸函數(shù) 總體回歸函數(shù) 關(guān)系 ? 樣本回歸函數(shù)（ SRF）描述了樣本所展示的 X和 Y之間的 平均變化聯(lián)系 ，這一聯(lián)系與總體中的聯(lián)系具有內(nèi)在一致性。 記樣本回歸線的函數(shù)形式為： iii XXfY 10 ??)(? ?? ???稱為 樣本回歸函數(shù) （ sample regression function， SRF）。 ? 畫一條直線以盡可能地?cái)M合該散點(diǎn)圖，由于樣本取自總體，可用該線近似地代表總體回歸線。 隨機(jī)干擾項(xiàng)的內(nèi)容和原因 ?產(chǎn)生隨機(jī)誤差項(xiàng)的原因： 四、樣本回歸函數(shù) （ sample regression function， SRF） ?描述樣本中解釋變量 X和被解釋變量 Y的之間的平均變化規(guī)律： Y^i＝ f（ Xi） 問題：能否從樣本估計(jì)總體回歸函數(shù)？ 例 ： 從例 ： 表 2 . 1 . 3 家庭消費(fèi)支出與可支 配收入的一個(gè)隨機(jī) 樣本 Y 8 00 1 1 0 0 1400 1700 2022 2300 2600 2900 3200 3500 X 594 638 1 1 2 2 1 1 5 5 1408 1595 1969 2078 2585 2530