【文章內(nèi)容簡(jiǎn)介】 被一 起記錄下來(lái)。作者得出死亡時(shí)的年齡與 生命線的長(zhǎng)度 不存在顯著相關(guān) 的結(jié)論。 手相術(shù)失傳了，手也就放得下了。 2022/2/16 35 回歸分析 一、回歸分析概述 （一）概念 [回顧 ]線性相關(guān)分析 ：計(jì)算線性相關(guān)系數(shù) r ? 確定兩變量之間的相關(guān)方向與密切程度。 [不足 ]無(wú)法表明兩變量之間的因果關(guān)系 ? 無(wú)法從一個(gè)或幾個(gè)變量（ xi）的變化來(lái)推測(cè)另一個(gè)變量（ y）的變化情況 。 10名用餐顧客消費(fèi)金額與所付小費(fèi)數(shù)據(jù)如下： r= （單位：美元） 消 費(fèi) 小 費(fèi) 17 12 16 2022/2/16 36 一、回歸分析概述 回歸分析 ：通過(guò)一個(gè)（些）變量的變化解釋另一變量的變化 ? y = a+bx 、 y=a+b1x1+bx2 、 y=?0+ ?1x1+ ?2x2+…+ ?nxn [回歸 ]英國(guó)生物學(xué)家 F Galton 首次提出。 父輩身高 ? 子輩身高 x y ? y = f（ x） +? ? 人類(lèi)的平均身高。 [目的 ]在于通過(guò) X的已知或設(shè)定值 ， 去估計(jì)或預(yù)測(cè) Y的 （ 總體 ）均值 。 –變量 Y是被預(yù)測(cè)或被解釋的變量 ， 稱(chēng)為 因變量(Dependent Variable) 或 被 解 釋 變 量 （ Explained Variable） –變量 X是用來(lái)預(yù)測(cè)或解釋因變量的變量 ， 稱(chēng)為 自變量 （ Independent Variable） 或 解釋變量 （ Explanatory Variable） 2022/2/16 37 一、回歸分析概述 （二）回歸分析的種類(lèi) 按自變量的多少分 （ 1）簡(jiǎn)單（一元）回歸：自變量只有一個(gè) 。 [例 ] y = a+bx ?一元回歸方程 （ 2）復(fù)（多元）回歸：自變量為兩個(gè)或兩個(gè)以上。 [例 ] y=?0+ ?1x1+ ?2x2+…+ ?nxn 按回歸方程式的特征分 （ 1） 線性回歸 ：因變量為自變量的線性函數(shù)。 [例 ] y = a+bx ? 一元線性回歸方程 ※ （ 2） 非線性回歸 ：因變量為自變量的非線性函數(shù)。 [例 ] lny a b x? ? ? 對(duì) 數(shù) 函 數(shù) 回 歸 方 程 冪函數(shù)回歸方程?? baxy指數(shù)函數(shù)回歸方程?? bxaey2022/2/16 38 ： 描述因變量 y 如何依賴(lài)于自變量 x 和誤差項(xiàng) ? 的方程稱(chēng)為 回歸模型 。 y = ?0 ? ?1 x ? ? – y 是 x 的線性函數(shù) (?0 ? ?1 x部分 )加上誤差項(xiàng) – 線性部分反映了由于 x 的變化而引起的 y 的變化 – 誤差項(xiàng) ? 是隨機(jī)變量 ? 反映除了 x 和 y 之間的線性關(guān)系以外的隨機(jī)因素對(duì) y 的影響 ? 是不能由 x 和 y 之間的線性關(guān)系所解釋的變異性 – ?0 和 ?1 稱(chēng)為模型的參數(shù) 一、回歸分析概述 （三） 一元線性回歸模型 Ⅰ . 回歸模型 (regression model) 2022/2/16 39 （ 1）誤差項(xiàng) ε是一個(gè)期望值為 0的隨機(jī)變量，即 E(ε)=0。對(duì)于一個(gè)給定的 x 值， y 的期望值為 E( y ) =? 0+ ? 1 x （ 2）對(duì)于所有的 x 值， ε的方差 σ2 都相同，即Var(εi)=E(εi2)=?2 （ 3）誤差項(xiàng)之間不存在自相關(guān)關(guān)系，其協(xié)方差為 0，即 Cov(εi,εj)=E(εiεj)=0(i ? j) （ 4） 誤差項(xiàng) ε是一個(gè)服從正態(tài)分布的隨機(jī)變量 ， 即ε~N(0 ,σ2 ) （ 5） 自變量是給定的變量 ， 與隨機(jī)誤差項(xiàng)線性無(wú)關(guān) 。 以上這些基本假設(shè)是德國(guó)數(shù)學(xué)家高斯最早提出的，故也稱(chēng)為 高斯假定 或 經(jīng)典假定 。 一、回歸分析概述 2022/2/16 40 Ⅱ .回歸方程 (regression equation) 1. 定義： 描述 因變量 y 的期望值如何依賴(lài)于自變量 x 的方程 ， 稱(chēng)為 回歸方程 2. 一元線性回歸方程的形式如下 E( y ) = ?0+ ?1 x ? 方程的圖示是一條直線 ， 也稱(chēng)為直線回歸方程 ? ?0是回歸直線在 y 軸上的截距 ， 是當(dāng) x=0 時(shí) ， y 的期望值 ? ?1是直線的斜率 ， 表示 x 每變動(dòng)一個(gè)單位時(shí) ， y 的平均變動(dòng)值 一、回歸分析概述 2022/2/16 41 Ⅲ .估計(jì)的回歸方程 (estimated regression equation) 3. 一元線性回歸中估計(jì)的回歸方程為 2. 用 樣本統(tǒng)計(jì)量 和 代替回歸方程中的未知參數(shù) 和 ， 就得到了 估計(jì)的回歸方程 0?? 1??0? 1?1. 總體 回歸參數(shù) 和 是未知的 ， 必須利用樣本數(shù)據(jù)去估計(jì) 0? 1?01? ??yx????其中： 是估計(jì)的回歸直線在 y 軸上的截距； 是直線的斜率 ， 表示 x 每變動(dòng)一個(gè)單位時(shí) ， y 的平均變動(dòng)值 0?? 1??一、回歸分析概述 2022/2/16 42 一、回歸分析概述 （四）回歸分析的步驟 確定自變量和因變量 ； [例 ]糧食產(chǎn)量（ y） ? 施肥量（ x）； 消費(fèi)支出（ y ） ? 國(guó)民收入（ x ）； 火災(zāi)損失額（ y ） ? 火災(zāi)發(fā)生地與最近一個(gè)消防站之間的距離（ x ）。 確定樣本回歸方程 ； 參數(shù)估計(jì)與模型檢驗(yàn) ； 預(yù)測(cè)或控制 。 [例 ] 消費(fèi)與收入的回歸方程： y= a+bx= 200+ ? 已知 x， 確定 y：估計(jì)或預(yù)測(cè) 已知 y，確定 x： 控制 2022/2/16 43 ?相關(guān)分析中 x與 y對(duì)等，回歸分析中 x與 y要確定自變量和因變量； ?相關(guān)分析中 x、 y均為隨機(jī)變量，回歸分析中只有 y為隨機(jī)變量； ?相關(guān)分析測(cè)定相關(guān)程度和方向，回歸分析用回歸模型進(jìn)行預(yù)測(cè)和控制。 區(qū)別： 一、回歸分析概述 （五）回歸分析與相關(guān)分析比較 2022/2/16 44 ?理論和方法具有一致性； ?相關(guān)分析是回歸分析的基礎(chǔ)和前提，無(wú)相關(guān)就無(wú)回歸，相關(guān)程度越高，回歸越好； ?回歸分析是相關(guān)分析的繼續(xù)和深化； ?相關(guān)系數(shù)和回歸系數(shù)方向一致，可以互相推算。 聯(lián)系： 一、回歸分析概述 （五）回歸分析與相關(guān)分析比較 2022/2/16 45 二、一元線性回歸方程的擬合 （一） 總體回歸方程 [ 例 ] 總體 40 戶(hù)家庭的可支配收入與消費(fèi)支出的有關(guān)數(shù)據(jù)如下 收入消支X180X2100X3120X4140X5160X6180X7200X8220第 1 組： Y1第 2 組： Y2第 3 組： Y3第 4 組： Y4第 5 組： Y5556065707565707480857984909498809395103108102107110116118110115120130135120136140144145135137140152157條件概率條件均值1/5651/574. 81/5891/595. 81/5110 .61/51221/51371/5144 .2條件概率： P { y = 55/ x = 80} = 1/ 5 條件均值： E( y / x = 80) = 652022/2/16 46 二、一元線性回歸方程的擬合 Yi/Xi=條件均值 +εi =β0+β1Xi+ εi 5010015020080 100 120 140 160 180 200iXiY??????????? ????????? ???????????????總體回歸直線01( / )i i iE Y X X??? ? ? 總 體 回 歸 直 線ii XY /i?01160 i? ? ?? ? ?分布80y分布1 0 0y分布200y2022/2/16 47 二、一元線性回歸方程的擬合 （二） 樣本回歸方程 從總體中隨機(jī)取樣，獲取一組 樣本觀察值 。 [ 例 ] 總體 40 戶(hù)家庭的可支配收入與消費(fèi)支出的有關(guān)數(shù)據(jù)如下 收入消支X180X2100X3120X4140X5160X6180X7200X8220Y1Y2Y3Y4Y5556065707565707480857984909498809395103108102107110116118110115120130135120136140144145135137140152157條件概率條件均值1/5651/574 . 81/5891/595 . 81/511 0 .61/51221/51371/514 4 .2N =40 ? n =82022/2/16 48 二、一元線性回歸方程的擬合 [圖示 ] 5010015020080 100 120 140 160 180 20001( / ) i i iE Y X X??? ? ? 總 體 回 歸 方 程 未 知iXiY???????樣本回歸直線01? ?? ()yx??? ? ? 樣 本 回 歸 方 程 直 線1e2e回歸值觀察值殘差 ???? iii yye ?:01? ??i i i i iy y e x e??? ? ? ? ?0011??????? ??