【正文】 Y Y YiiES S????????????????????????? ? ? ? ?? ? ? ? ? ?? ? ? ?? ? ? ?? ? ? ? ?? ? ?? ? ? ???? ? ???又又 （ ）觀 測(cè) 值 、 擬 合 值 和 平 均 值 的 關(guān) 系? ?2 2 2( ) ( ) ( )Y Y Y Y Y Yi i i iRS S T SS ES S RS S? ? ? ? ?? ? ? ?即 ：（一）擬合優(yōu)度檢驗(yàn) ?總離差分解 ?（ 1）總離差平方和 （ Total Sum of Square， TSS） ?（ 2） 回歸平方和 （ Explained Sum of Square， ESS） ?（ 3） 殘差平方和 （ Residual Sum of Square， RSS） 22 ()T SS y Y Y Yi i iY? ? ??? ， 反 映 了 樣 本 觀 測(cè) 值 與其 平 均 值 的 總 體 離 差 大 小 ；?22? ()ESS y Y Yii? ? ??? ， 反 映 由 解 釋 變 量 所 能 解釋 的 那 部 分 離 差 大 小 （ 來(lái) 自 回 歸 線(xiàn) ） ；?22 ()RSS e Y Yi i i? ? ??? ， 反 映 由 解 釋 變 量 未 能 解釋 的 那 部 分 離 差 大 小 （ 來(lái) 自 隨 機(jī) 勢(shì) 力 ） 。 Note: 樣本回歸線(xiàn)是對(duì)樣本觀測(cè) 值 的一種擬合，不同 的估計(jì)方法可擬合出不同的回歸線(xiàn)，擬合的回歸線(xiàn)與樣本觀測(cè)值總有偏離，因此，擬合優(yōu)度 的度量是 建立在總離差分解的基礎(chǔ)上。 ~ ( 2 )??? ???2( 2 ) ( 2 )?j j jjjj j jjjje e ei i iEn n nXiSSn x xiinSNnVarVarVarTn S Var n? ? ???????????? ? ????????????????????????????????????????????? ? ???? ? ??? ? ???????? ? ???是 的 無(wú) 偏 估 計(jì) ， 即 =；又~ ( 2 ) , 0 , 1?jjt n jS?????※ 小結(jié) ? ?010 0 1 12~ ( 0 , )2( , )22? ?2( , ) 。 = ,0 0 0 1 1 12222? ?2( , ) 。 則 ：同 理 可 證 ， 估 計(jì) 量 具 有 最 小 方 差 性 。 （二）普通最小二乘法 ?最小二乘估計(jì) ?（ 3） 形式變換 ?1 2( O L S )?。 （一）基本假定 i?01??和? 的分布性質(zhì)（ ） （一）基本假定 Yi 01YXi i i? ? ?? ? ? ? ?( ) 0 ( )0122( ) ( )( , ) 0 ( , ) 0 ,22~ ( 0 , ) ( , )01E E Y Xi i iVar Var YiiC ov C ov Y Y i ji j i jN Y N Xi i i? ? ?? ? ???? ? ? ? ?? ? ? ?? ? ?? ? ? ???（ 1 ） 零 均 值 假 定 ：（ 2 ） 同 方 差 假 定 ：（ 3 ） 無(wú) 序 列 相 關(guān) 假 定 ：（ 4 ） 正 態(tài) 分 布 假 定 ：（二）普通最小二乘法 ※ 知識(shí)體系 ? OLS的基本思想 ?最小二乘估計(jì) ?樣本回歸函數(shù)的離差形式 （二）普通最小二乘法 圖 35 OLS估計(jì)示意圖 ※ 點(diǎn)到直線(xiàn)的距離 （ 1） 點(diǎn)到直線(xiàn)的垂直距離； （ 2） 點(diǎn)到直線(xiàn)的垂直坐標(biāo)距離； （ 3） 點(diǎn)到直線(xiàn)的水平坐標(biāo)距離 。( , ) [ ( ) ] [ ( ) ]( ) 0 , 。（三）樣本回歸函數(shù) ?樣本回歸函數(shù)與總體回歸函數(shù)的關(guān)系 表 33 總體回歸函數(shù)與樣本回歸函數(shù) （三）樣本回歸函數(shù) ?樣本回歸函數(shù)與總體回歸函數(shù)的關(guān)系 SRF： PRF： A () 01E Y X Xii?????i?ei?iY()iiE Y XiYYiX XiY? ?? 01YXii????圖 34 樣本回歸函數(shù)與總體回歸函數(shù) 二、參數(shù)估計(jì) ※ 知識(shí)體系 ?（一）基本假定 ?（二）普通最小二乘法（★ ★ ★ ★ ★） ?（三） OLS估計(jì)量的統(tǒng)計(jì)性質(zhì)（★ ★ ★ ★） ?（四） OLS回歸線(xiàn)的性質(zhì) ?（五） OLS估計(jì)量的區(qū)間估計(jì)（★ ★ ★ ★） （一）基本假定 ※ 知識(shí)體系 ?經(jīng)典假定（高斯假定） ?暗含假定 ? 的分布性質(zhì) Yi（一）基本假定 ?基本假定 ?（ 1） 解釋變量 是確定性變量，不是隨機(jī)變量， 而且在重復(fù)抽樣中取固定值； ?（ 2） 隨機(jī)干擾項(xiàng) 具有零均值、同方差和不序 列相關(guān)性， 即： Xii?( ) 0 , 1 , 2 , , 。 Xi?Yi?Yi（三）樣本回歸函數(shù) ?樣本回歸線(xiàn)與樣本回歸函數(shù) ?Note： 每次抽樣都能獲得一個(gè)樣本，就可以擬合一條樣本回歸線(xiàn)，所以樣本回歸線(xiàn)隨抽樣波動(dòng)而變化，可以有許多條； 樣本回歸線(xiàn)不是總體回歸線(xiàn)，只是未知總體回歸線(xiàn)的近似表現(xiàn)； 樣本回歸函數(shù)的形式應(yīng)與設(shè)定的總體回歸函數(shù)的形式一致。 （三）樣本回歸函數(shù) ※ 知識(shí)體系 ?樣本回歸線(xiàn)與樣本回歸函數(shù) ?樣本回歸函數(shù)的形式 ?樣本回歸函數(shù)與總體回歸函數(shù)的關(guān)系（ ★ ★ ） （三）樣本回歸函數(shù) ?樣本回歸線(xiàn)與樣本回歸函數(shù) ?（ 1） 樣本回歸線(xiàn) —— 對(duì)于 X的每一個(gè)值 ，都有樣本觀測(cè)值 Y的條件均值 與之對(duì)應(yīng)，樣本觀測(cè)值條件均值的軌跡稱(chēng)為樣本回歸線(xiàn)。()()()0 1 0 1X Y Y E Y Xi i iY E Y XiiiiY E Y X Y X Y Xi i i i i i i i??? ? ? ? ? ?? ? ? ? ? ? ? ? ?對(duì) 于 一 定 的 ， 的 各 個(gè) 個(gè) 別 值 分 布 在的 周 圍 ， 若 令 各 個(gè) 與 條 件 均 值 的 偏 差 為， 顯 然 是 隨 機(jī) 變 量 ， 則 ：?總體回歸函數(shù)的形式 （二）總體回歸函數(shù) ?（ 2）隨機(jī)設(shè)定形式 () 0 1 0 1Y E Y X Y X Y Xi i i i i i i i? ? ? ? ? ?? ? ? ? ? ? ? ? ?系統(tǒng)性部分 —— 非系統(tǒng)性部分 —— 隨機(jī)干擾項(xiàng) () 01E Y X Xii????i?? Note: 這表明被解釋變量 Y不僅受解釋變量 X的系統(tǒng)性影響，還受其它因素的隨機(jī)性影響， 代表所有未包含在模型中的其它因素。 ()E Y Xi?（ 2） 總體回歸函數(shù) （ Population Regression Function， PRF） —— 將 Y的條件期望 與解釋變量 X 的對(duì)應(yīng)關(guān)系，寫(xiě)成函數(shù)表達(dá)式 ， 反映了被解釋變量的平均狀態(tài)隨解釋變量 X變化的規(guī)律。 ?（ 2） Y的條件期望 —— 對(duì)于 X的每一個(gè)取值，由 Y的條件分布確定其期望，稱(chēng)為 Y的條件期望，即： E Y Xi??????。 （一）回歸分析與相關(guān)分析 ?（ 2）區(qū)別 ?回歸分析與相關(guān)分析的關(guān)系 ?（ 3）聯(lián)系 兩者都研究非確定變量間的統(tǒng)計(jì)依賴(lài)關(guān)系，并能測(cè)度線(xiàn)性依賴(lài)程度的大小。 變量特性 —— 變量在相關(guān)分析中的地位是對(duì)稱(chēng)的，并且都是隨機(jī)變量；變量在回歸分析中的地位不對(duì)稱(chēng)，區(qū)分為解釋變量和被解釋變量，經(jīng)常假定解釋變量為非隨機(jī)變量。其目的是由解釋變量固定值，去估計(jì)和預(yù)測(cè)被解釋變量的平均值。英國(guó)的遺傳學(xué)家弗朗西斯 〃 高爾頓 (Francis Galton)發(fā)現(xiàn) : 矮個(gè)的父親 ,如身高 的人群 ,他們的子女的平均身高會(huì)大于其父親的身高 ,且趨向于 (或回歸于 )所有人 (高和矮 )子女的平均身高；而對(duì)于高個(gè)的父親 ,其子女的平均身高會(huì)低于其父親的身高 , 而且也回歸到所有人子女的平均身高 ,即所謂回歸到中等。第三講 一元線(xiàn)性回歸模型 知識(shí)體系 ? 一、 回歸分析 ? 二、 參數(shù)估計(jì)（★ ★ ★ ★ ★） ? 三、統(tǒng)計(jì)檢驗(yàn)（★ ★ ★ ★） ? 四、模型應(yīng)用（★ ★ ★） 一、回歸分析 ※ 知識(shí)體系 ?（一）回歸分析與相關(guān)分析 ?（二）總體回歸函數(shù) ?（三）樣本回歸函數(shù)（★ ★） （一）回歸分析與相關(guān)分析 ※ 知識(shí)體系 ?變量之間的關(guān)系 ?相關(guān)系數(shù) ?回歸分析與相關(guān)分析的關(guān)系（ ★ ★ ★ ） （一）回歸分析與相關(guān)分析 ?變量之間的關(guān)系 變量關(guān)系 相關(guān) 關(guān)系 函數(shù) 關(guān)系 自變量與應(yīng)變量是一一對(duì)應(yīng)的函數(shù)關(guān)系 線(xiàn)性 相關(guān) 非線(xiàn)性 相關(guān) 正相關(guān)、不相 關(guān)、負(fù)相關(guān) 函數(shù)分析 相關(guān)分析回歸分析 沒(méi)有 關(guān)系 兩個(gè)隨機(jī)變量的取值互不影響，相互獨(dú)立 數(shù)理統(tǒng) 計(jì)分析 正相關(guān)、不相 關(guān)、負(fù)相關(guān) 圖 31 變量 之 間的關(guān)系 （一）回歸分析與相關(guān)分析 ?相關(guān)系數(shù) —— 線(xiàn)性相關(guān)程度的度量 ( ) ( )122( ) ( )11nX X Y YiiirnnXYX X Y Yiiii???????????( , )C o v X YXYD X D Y? ??（ 1） 總體 線(xiàn)性相關(guān)系數(shù) ?（ 2）樣本線(xiàn)性相關(guān)系數(shù) 相關(guān)系數(shù)只反映隨機(jī)變量間的線(xiàn)性相關(guān)程度，不能說(shuō)明非線(xiàn)性相關(guān)關(guān)系 ； 相關(guān)系數(shù)只能反映線(xiàn)性相關(guān)程度，不能確定因果關(guān)系，不能說(shuō)明相關(guān)關(guān)系具體接近哪條直線(xiàn) ； 樣本相關(guān)系數(shù)是總體相關(guān)系數(shù)的估計(jì)值，由于抽樣波動(dòng)，樣本相關(guān)系數(shù)是個(gè)隨機(jī)變量，其統(tǒng)計(jì)顯著性有待檢驗(yàn) 。 （一）回歸分析與相關(guān)分析 ?相關(guān)系數(shù) —— 線(xiàn)性相關(guān)程度的度量 ?Note: （一）回歸分析與相關(guān)分析 ?回歸分析與相關(guān)分析的關(guān)系 ※ 回歸的起源 一般而言 ,父親身高 (矮 ),