【正文】 第九章 直線回歸和相關(guān) ? 第一節(jié) 回歸和相關(guān)的概念 ? 第二節(jié) 直線回歸 ? 第三節(jié) 直線相關(guān) ? 第四節(jié) 直線回歸與相關(guān)的內(nèi)在關(guān)系 和應(yīng)用要點(diǎn) ? 第五節(jié) 協(xié)方差分析 ? 引言 這一章研究的對(duì)象： ? 由 一個(gè)變數(shù) 兩個(gè)或多個(gè)變數(shù) ，因?yàn)樵趯?shí)際生產(chǎn)實(shí)踐和科學(xué)實(shí)驗(yàn)中所要研究的變數(shù)往往不止一個(gè)，例如： ? 研究溫度高低和作物發(fā)育進(jìn)度快慢的關(guān)系，就有溫度和發(fā)育進(jìn)度兩個(gè)變數(shù)； ? 研究每畝穗數(shù)、每穗粒數(shù)和每畝產(chǎn)量的關(guān)系，就有穗數(shù)、粒數(shù)和產(chǎn)量三個(gè)變數(shù)。 第一節(jié) 回歸和相關(guān)的概念 ? 1. 函數(shù)關(guān)系與統(tǒng)計(jì)關(guān)系 ? 2. 自變數(shù)與依變數(shù) ? 3. 回歸分析和相關(guān)分析 ? 4. 兩個(gè)變數(shù)資料的散點(diǎn)圖 函數(shù)關(guān)系 有精確的數(shù)學(xué)表達(dá)式 （確定性的關(guān)系） 直線回歸分析 一元回歸分析 變量間的關(guān)系 因果關(guān)系 曲線回歸分析 (回歸分析） 多元回歸分析 多元線性回歸分析 統(tǒng)計(jì)關(guān)系 多元非線性回歸分析 （非確定性的關(guān)系） 簡(jiǎn)單相關(guān)分析 —— 直線相關(guān)分析 相關(guān)關(guān)系 復(fù)相關(guān)分析 （相關(guān)分析） 多元相關(guān)分析 偏相關(guān)分析 ? 函數(shù)關(guān)系 是一種確定性的關(guān)系，例如圓面積與半徑的關(guān)系為 。其不包含誤差的干擾。 ? 統(tǒng)計(jì)關(guān)系 是一種非確定性的關(guān)系。例如，作物的產(chǎn)量與施肥量的關(guān)系，兩類(lèi)變數(shù)受誤差的干擾表現(xiàn)為統(tǒng)計(jì)關(guān)系。 2RS ??? 因果關(guān)系 ：兩個(gè)變數(shù)間的關(guān)系若具有原因和反應(yīng) (結(jié)果 )的性質(zhì)。 ? 相關(guān)關(guān)系 ：呈現(xiàn)一種共同變化的特點(diǎn)，則稱(chēng)這兩個(gè)變數(shù)間存在。 ? 回歸分析 ：計(jì)算回歸方程為基礎(chǔ)的統(tǒng)計(jì)分析方法。 為 Y 依 X 的回歸方程 (regression equation of Y on X )。 ? 相關(guān)分析 ：計(jì)算相關(guān)系數(shù)為基礎(chǔ)的統(tǒng)計(jì)分析方法。計(jì)算表示 Y 和 X 相關(guān)密切程度的統(tǒng)計(jì)數(shù)，并測(cè)驗(yàn)其顯著性。 ? 這個(gè)統(tǒng)計(jì)數(shù)在兩個(gè)變數(shù)為直線相關(guān)時(shí)稱(chēng)為相關(guān)系數(shù)(correlation coefficient)，記為 r；在多元相關(guān)時(shí)稱(chēng)為復(fù)相關(guān)系數(shù) (multiple correlation)，記作Ry12… m ；在兩個(gè)變數(shù)曲線相關(guān)時(shí)稱(chēng)為相關(guān)指數(shù)(correlation index)，記作 R。 )( xfy ??? 一般規(guī)則 ： ? 當(dāng)兩個(gè)變數(shù)中 Y 含有試驗(yàn)誤差而 X 不含試驗(yàn)誤差時(shí)著重進(jìn)行回歸分析；而當(dāng) Y 和 X 均含有試驗(yàn)誤差時(shí)則著重去進(jìn)行相關(guān)分析。 ? 4. 兩個(gè)變數(shù)資料的散點(diǎn)圖 ? 對(duì)具有統(tǒng)計(jì)關(guān)系的兩個(gè)變數(shù)的資料進(jìn)行初步考察的簡(jiǎn)便而有效的方法，是將這兩個(gè)變數(shù)的 n對(duì)觀察值 (x1， y1)、 (x2， y2)、 … 、 (xn， yn)分別以坐標(biāo)點(diǎn)的形式標(biāo)記于同一直角坐標(biāo)平面上，獲得散點(diǎn)圖 (scatter diagram)。 ? 根據(jù)散點(diǎn)圖可初步判定雙變數(shù) X 和 Y 間的關(guān)系，包括：① X 和 Y 相關(guān)的性質(zhì) (正或負(fù) )和密切程度； ② X 和 Y 的關(guān)系是直線型的還是非直線型的； ③是否有一些特殊的點(diǎn)表示著其他因素的干擾等。 ? 例如圖 3幅散點(diǎn)圖，圖 的生物產(chǎn)量 (X )和稻谷產(chǎn)量 (Y )，圖 米土地上的總穎花數(shù) (X )和結(jié)實(shí)率 (Y )，圖 最高葉面積指數(shù) (X )和每畝稻谷產(chǎn)量 (Y )。從中可以看出：① 圖 ，但方向 相反；前者 Y 隨 X 的增大而增大，表示兩個(gè)變數(shù)的關(guān)系是正的，后者 Y 隨 X 的增大而減小，表示關(guān)系是負(fù)的。② 圖 ，圖 ；因此，圖 X 和 Y 相關(guān)的密切程度必高于圖 。③ 圖 X 和 Y 的關(guān)系是非直線型的；大約在 x≤(6 — 7)時(shí)， Y 隨 X 的增大而增大，而當(dāng) x＞ (6— 7)時(shí)， Y 隨 X 的增大而減小。 x，生物產(chǎn)量 (g) 水稻單株生物產(chǎn)量與稻谷產(chǎn)量的散點(diǎn)圖 x，每 m2穎花數(shù) (萬(wàn) ) 水稻每 m2穎花數(shù)和結(jié)實(shí)率的散點(diǎn)圖 x，最高葉面積指數(shù) 水稻最高葉面積指數(shù)和畝產(chǎn)量的散點(diǎn)圖 第二節(jié) 直線回歸 ? 一、直線回歸方程 ? 二、直線回歸的假設(shè)測(cè)驗(yàn)和區(qū)間估計(jì) ? 三、直線回歸的矩陣求解 一、直線回歸方程 (一 )直線回歸方程式 (91) ? 回歸截距 (regression intercept） ： a是 x=0時(shí)的值，即回歸直線在 y 軸上的截距。 ? 回歸系數(shù) (regression coefficient） ： b是 x 每增加一個(gè)單位數(shù)時(shí)，平均地將要增加 (b＞ 0時(shí) )或減少 (b＜ 0時(shí) )的單位數(shù)。 bxay ??? 時(shí)，分別對(duì) a和 b 求偏導(dǎo)數(shù)并令其為 0，可得正規(guī)方程組 （ normal equations） ： 得 ? 最小為)()( 2121bxayyyQnn???????????????????xyxbxayxban2xbya ??(92) xSSSPxxyyxxxnxyxnxyb ???????????????22 )())(()(112)(? xxbybxxbyy ?????? )((93) (94) 將 (92)代入 (91)可得： y ① ② ③ ① a0,b0 ② a0,b0 ③ a0,b0 x 直線回歸方程的圖象 ? 由 (94)可看到：①當(dāng) x以離均差 (x )為單位時(shí) ， 回歸直線的位置僅決定于 和 b ；② 當(dāng)將坐標(biāo)軸平移到以 ( ， )為原點(diǎn)時(shí)，回歸直線的走向僅決定于 b，所以一般又稱(chēng) b為 回歸斜率 (regression slope） 。 xyx y? (二 )直線回歸方程的計(jì)算 ? [例 ] 一些夏季害蟲(chóng)盛發(fā)期的早遲和春季溫度高低有關(guān) 。 江蘇武進(jìn)連續(xù) 9年測(cè)定 3月下旬至 4月中旬旬平均溫度累積值 (x， 旬 度 )和水稻一代三化螟盛發(fā)期(y， 以 5月 10日為 0)的關(guān)系 ， 得結(jié)果于表 。 試計(jì)算其直線回歸方程 。 ? 首先由表 6個(gè)一級(jí)數(shù)據(jù) (即由觀察值直接算得的數(shù)據(jù) )： x累積溫 y盛發(fā)期 12 16 9 2 7 3 13 9 1 表 累積溫和一代三化螟盛發(fā)期的關(guān)系 ?x? 2x?y2? yyx?n = 9 =++…+= =++…+ 2= =12+16+…+( 1)=70 =122+162+…+( 1)2=794 =( 12)+( 16)+…+[ (1)]= 然后，由一級(jí)數(shù)據(jù)算得 5個(gè)二級(jí)數(shù)據(jù)： ? ?? nxx 22 )(? ?? nyy 22 )(????? nyxyx?x ?? nx?y ?? ny SSx = =()2/9 = =794(70)2/9 = ( 70)/9= 70/9= *SSy = SP= ?xSSSP /xby ?因而有： b= [天 /(旬 度 )] a= =( )=(天 ) ? 故得表 ： ? 上述方程中回歸系數(shù)和回歸截距的意義為：當(dāng) 3月下旬至 4月中旬的積溫 (x)每提高 1旬 度時(shí)，一代三化螟的盛發(fā)期平均將提早 ；若積溫為 0，則一代三化螟的盛發(fā)期將在 6月 27— 28日 (x=0時(shí)， =；因 y是以 5月 10日為 0，故 6月 27— 28日）。 ? 由于 x變數(shù)的實(shí)測(cè)區(qū)間為 [， ]，當(dāng) x＜ 或＞ ， y的變化是否還符合 =，觀察數(shù)據(jù)中未曾得到任何信息。 = y?? 所以，在應(yīng)用 =，需限定 x的區(qū)間為 [， ]；如要在 x＜ ＞ 延，則必須有新的依據(jù)。 ? (三 )直線回歸方程的圖示 ? 直線回歸圖包括回歸直線的圖象和散點(diǎn)圖，它可以醒目地表示 x 和 y 的數(shù)量關(guān)系。 ? 方法：制作直線回歸圖時(shí)，首先以 x為橫坐標(biāo)，以 y為縱坐標(biāo)構(gòu)建直角坐標(biāo)系 (縱、橫坐標(biāo)皆需標(biāo)明名稱(chēng)和單位 )；然后取 x坐標(biāo)上的一個(gè)小值 x1代入回歸方程得 ，取一個(gè)大值 x2代入回歸方程得 ，連接坐標(biāo)點(diǎn) (x1， )和 (x2， )即成一條回歸直線。如例 資料，以 x1= =； y?1y?2y?1y?2y?1? 以 x2= =。在圖 定 (， )和 (， )這兩個(gè)點(diǎn)，再連接之，即為 =。注意：此直線必通過(guò)點(diǎn) ( ， )，它可作為制圖是否正確的核對(duì)。最后，將實(shí)測(cè)的各對(duì) (xi， yi)數(shù)值也用坐標(biāo)點(diǎn)標(biāo)于圖 。 y?2y?x y x， 3月下旬至 4月中旬旬平均溫度累積值圖 旬平均溫度累積值和一代三化螟盛發(fā)期的關(guān)系 ? 圖 9個(gè)觀察坐標(biāo)點(diǎn)的代表，它不僅表示了例 ，也便于預(yù)測(cè)。如某年3月下旬至 4月中旬的積溫為 40旬 度，則在圖 查到一代三化螟盛發(fā)期的點(diǎn)估計(jì)值在 5月 14— 15日，這和將 x=40代入原方程得到 =( 40)=。因?yàn)榛貧w直線是綜合 9年結(jié)果而得出的一般趨勢(shì)，所以其代表性比任何一個(gè)實(shí)際的坐標(biāo)點(diǎn)都好。當(dāng)然，這種估計(jì)仍然有隨機(jī)誤差，下文再作討論。 y?? (四 )直線回歸的估計(jì)標(biāo)準(zhǔn)誤 ? Q 就是誤差的一種度量，稱(chēng)為 離回歸平方和 (sum of squares due to deviation from regression)或剩余平方和 。 ? 建立回歸方程時(shí)用了 a 和 b 兩個(gè)統(tǒng)計(jì)數(shù)，故 Q 的自由度 2?? n?