【正文】 例題 614： …… 。因此，若能找到新老回歸系數(shù)之間的關(guān)系，將大大簡化計算。 ③ 在新的 M1元回歸方程基礎(chǔ)上，又重新進行上述①②步，看是否存在對因變量 y的影響最小的自變量 xi，若存在則將其剔除；若不存在則所得到的 Mn元回歸方程為簡化后的線性回歸方程。 但是由于回歸方程中各自變量之間可能有著密切關(guān)系 ， 即使 Pi較小 ， 也不能直接判定自變量對因變量的作用較小 ， 還得用下面的 F檢驗法作進一步的檢驗 ， 具體方法如下： ① 凡是偏回歸平方和 Pi大的自變量 xi， 一定對因變量的影響起重要作用顯著；對于偏回歸平方和 Pi大到什么程度 ， 才影響顯著 ， 可對殘余平方和 Q進行 F檢驗法檢驗： 當(dāng) Fi≥Fa時 ， 則認為自變量 xi對因變量 y的影響在 a水平上顯著 ， 即回歸系數(shù)檢驗 方法 。 在通常情況下，要直接按定義式（ Pi = UU′）來計算偏回歸平方和 Pi是困難的，可以證明 Pi可按下式計算： Pi= bi2/Cii Ci —— 取消自變量前原回歸方程系數(shù)矩陣 A或 L的逆矩陣 C或 L1中的相應(yīng)元素。 在研究實際問題時 ， 我們期望觀察和認識到哪些對因變量影響起主要作用的因素 ， 盡可能的去除哪些起次要作用或可有可無的因素 ， 從而進一步簡化線性回歸方程 ， 利于我們對檢測結(jié)果的預(yù)報和控制 。 F檢驗法的數(shù)學(xué)統(tǒng)計量計算： 同理，多元線性回歸方程的預(yù)報精度由殘余標準差來估計。 主要依據(jù)是 y的總離差平方和 S， 回歸平方和 U和殘余誤差平方和 Q的計算結(jié)果 、 以及相應(yīng)的自由度 M， 所具有的 F檢驗法計算結(jié)果來判定多元線性回歸方程的顯著特性 。 ? ?? ??????????????????????????????????MjxxbxbbybQxbxbbybQtjNttMMttjNttMMtt,2,10202111011100??? 多元線性回歸方程的顯著性和精度 一個多元線性回歸方程是否更真實反映因變量與自變量之間的客觀規(guī)律 ， 效果如何 ， 主要靠實踐檢驗 。 ?????????????????????????NNMMNNMMMMxxxyxxxyxxxy???????????????????22110122222211011112211101 用矩陣表示 ， 令： Y = ； X = ； β = ； ε = ； 則有多元回歸的矩陣表達形式： Y = Xβ+ε 仍用最小二乘法的估計參數(shù) b0, b1, … , bM作為參數(shù) β1, β2, β3, … , βM的估計值 ， 則有回歸方程為： 依據(jù)最小二乘法的原理 ， 全部觀察值 yt 與回歸值 ?t 的殘余誤差平方和最小 。 由 N組觀察數(shù)據(jù)確定的線性方程組的 結(jié)構(gòu)形式 或 數(shù)學(xué)模型 為 : 式中： β1, β2, β3, … , βM 是 M+1個待估計參數(shù) 。 多元線性回歸方程 一個因變量 y 與 M個自變量 （ x1,x2,… ,xM,） 之間存在內(nèi)在的線性關(guān)系 ， 通過試驗得到 N組觀察數(shù)據(jù)： （ xt1,xt2,… ,xtM,） 。 （ 1）回歸曲線方程的效果。 回歸曲線方程的效果與精度 求解回歸方程的目的在于使所配的曲線與觀察數(shù)據(jù)擬合得更好 。 2 223 22 12 23 1 3 yyyyyy ??????????? 化曲線回歸問題為直線回歸問題 前面所講到的可用直線檢驗法或一階表差法檢驗的曲線回歸方程， 都可以通過變量代換轉(zhuǎn)化為直線回歸方程 ， 并利用直線回歸方程式的確定方法確定研究對象測量數(shù)據(jù)的回歸方程 。 232121 yyyy yy ????????。 ④ 根據(jù) x,y的讀出值 ， 計算差值： 為第一階差； 為第二階差； 為第三階差； ⑤ 當(dāng)方程式的標差 （ 書上表 610） 為常數(shù)時 ， 便可決定所選函數(shù)類型方程 。 ② 觀察試驗數(shù)據(jù) ， 初步確定試驗數(shù)據(jù)可選函數(shù)類型方程 (見表 610)。 （ 4） 表差方法 如果一組試驗數(shù)據(jù)可用 1多項式表示 ， 式中含有常數(shù)的項多于兩個時 ， 可以用表差方法決定回歸曲線方程的次數(shù)或檢驗回歸方程的次數(shù)較為合理 。 ② 求出幾對與 x、 y相對應(yīng)的 Z1和 Z2值 ， 這幾對值與選擇 x、 y值相距較遠為好 。 （ 3） 直線檢驗方法 當(dāng)待檢驗的函數(shù)類型中 ， 所含參數(shù)不多時 ， 應(yīng)用此方法檢驗效果較好。 如化學(xué)反映 ……。 將非線性回歸曲線方程 ， 應(yīng)用泰勒級數(shù)展開成回歸多項式來描述兩個變量之間的關(guān)系 ， 把求解曲線回歸問題轉(zhuǎn)化成求解多項式回歸問題 。 通過變量替換將非線性函數(shù)轉(zhuǎn)換成線性函數(shù) ， 用線性回歸方程的求解方法求出轉(zhuǎn)換后線性函數(shù)的回歸方程 ， 在通過變量反變換求出非線性函數(shù)的回歸方程 。 通常直接應(yīng)用最小二乘法原理求出非線性回歸方程中的未知參數(shù)是非常困難的 ， 一般情況下可采用如下兩種方法進行 。 ① 確定函數(shù)類型 。 xbby ?? 0 ??x? y???? ?22 / yx yy ??? ? xbby ?? 0 ??xbby ?? 0 ????yy ?? ??? ? bb ??? ?xbby ?? 0 ???? ???Nt td12 由點（ xt， yt′）到回歸直線的距離公式，經(jīng)整理得距離 dt′為： dt = yt – bo – bxt 依據(jù)最小二乘法原理，為使 最小，求解： ； 計算得到： 從而可得到 x方向和 y方向均存在誤差的線性回歸方程： 由此可得到 x、 y的方差估計值： , ? ? tttttt dbbxbybb xbbyd 20220 111 ???? ???????? ????????? ?Nt td1 20012???????? ?? ??bdNtt012???????? ?? ??bdNtt? ?xyxyxxyyxxyyllllllb????24 22 ?????xbyb ??0xbby ?? 0 ???????? Nt tx dbN 1 222 121 ??? ???? 21222 1 121 xNt tydbN ????? ??第四節(jié) 一元非線性回歸 在實際測量問題中 ， 兩個變量之間的關(guān)系并不是都滿足線性關(guān)系 ， 可能是某種曲線關(guān)系 ， 即：一元非線性關(guān)系 。 若測量數(shù)據(jù)組 xt， yt分別存在誤差 δt ~ N (0,ζx)， εt ~ N (0,ζy)， t = 1,2,3,… ， 假設(shè) x， y之間存在線性關(guān)系 ， 并具有下面的數(shù)學(xué)模型： yt = β0 +β ( xt－ δt ) + εt 所求的回歸方程為： 其中 的 、 、 b0、 b 分別為 x、 y、 β0 、 β的估計值 ， 為使 x、 y的 誤差在求回歸方程式具有等價性 ， 令 ， ， 可寫成： 其中 ： 、 。 注意： 隨著兩個變量線性相關(guān)性的加強，相關(guān)系數(shù)越接近于 1，兩條直線 、 越接近；當(dāng)相關(guān)系數(shù)為 1時，兩條直線重合 。 ? ?21????Nt txx ayax ?? 0?xbby //0? ??xbby //0? ??cxcy ?? 0?bxby ?? 0?bxby ?? 0?xbby //0? ?? ③ 求解兩直線方程 、 銳角的某一直線方程 即為測量數(shù)據(jù) x、 y兩個方向均存在測量誤差的線性直線回歸方程 ， 并存在下面四種形式： 然而 x的測量值存在誤差 、 y的測量值也存在誤差， 哪如何才能獲得 x、 y之間的線性回歸方程呢 ？ （ 2）求解思維方法： ① 一組測量數(shù)據(jù) x、 y，假設(shè) x方向沒有誤差或存在誤差可以忽略不計的條件下，所有誤差都歸結(jié)在 y方向，按最小二乘法原理，使 的平方和最小，求得特定參數(shù) b0、 b，得到線性回歸方程。 （ 2） 圖表法 把測量組的 N 對觀察數(shù)據(jù)在坐標紙上繪出離散點圖，在點群之間繪一條直線，使點群的絕大多數(shù)點在直線上或接近此直線并均勻分布在直線的兩邊，便近似地得到測量組的回歸直線的簡便方法。 有時在精度要求不高或試驗所得的數(shù)據(jù)線性性較好 ， 這時為了簡化計算 ， 可采用下述的簡便方法計算回歸直線 。 重復(fù)試驗的 F 檢驗法 的具體計算方法和過程，再此不作詳細的講解（略）。 （一元回歸方程： ） QUvQ vUF //?? ?1/ 1/ ?? NQ UF22 ?? NQ? 重復(fù)試驗情況 用殘余誤差平方和檢驗回歸方程所做出的 “ 回歸方程顯著性判斷” ， 只表明相對于其他因素而言 ， 因素 x 的一次項對 y 的影響是主要的 ， 而未告訴是否存在一個或多個其他因素對一次項對 y 的影響程度 ， 從而 無法肯定的表明 y 和 x 之間確實為線性關(guān)系 。 計算結(jié)果 F 越大， x 與 y 的線性關(guān)系是越密切，回歸方程顯著性越大 。 （ 2）回歸方程顯著性檢驗 —— F 檢驗法 檢測 x 與 y 的線性關(guān)系是否密切，它取決與回歸平方和 U、殘余誤差平方和 Q的大小， U越大 Q越小，則 x 與 y 的線性關(guān)系是越密切。 xt —— 是一組可以精確測量或嚴格 控制的變量。 一元線性回歸方程 （ 1） 回歸方程的求法 （ 假設(shè) x無測量誤差 ， 誤差全在 y方向存在 ） 假設(shè)兩變量之間一組測量數(shù)據(jù) y、 x 滿足如下 線性形式 或 線性數(shù)學(xué)模型 ： yt=β 0 +β xt +ε t (t=1, 2, ? , N) 式中： β 0， β —— 為常數(shù)或線性系數(shù)。 第二節(jié)一元 線 性 回 歸 一元回歸方法： 是通過實驗 ， 分析所得到的實驗數(shù)據(jù) ， 找出兩個變量之間的內(nèi)在相關(guān)關(guān)系 —— 經(jīng)驗公式 。 （ 2） 對回歸方程的可信度進行統(tǒng)計檢驗 。 回歸分析的主要內(nèi)容 回歸分析：是處理變量之間相關(guān)關(guān)系的一種數(shù)理統(tǒng)計方法 ， 是將相關(guān)變量之間由生產(chǎn)實踐和科學(xué)實驗得到的變量數(shù)據(jù) ， 應(yīng)用數(shù)學(xué)方法對大量的實驗和觀察數(shù)據(jù)進行處理 ，從而得到比較符合事物內(nèi)部變量之間的內(nèi)部規(guī)律的數(shù)學(xué)表達式的方法 。 應(yīng)該指出 ， 變量之間的函數(shù)關(guān)系和相關(guān)關(guān)系并沒有嚴格的界限 。 （ 2） 相關(guān)關(guān)系：在實際問題中 ， 影響變量之間的因素實際上是千差萬別的 ， 不能簡單地決定只由一個或幾個影響因數(shù)所產(chǎn)生 ， 只能預(yù)測估計變量之間的關(guān)系 ， 并存在于某一范圍之內(nèi) ， 這樣的變量關(guān)系稱為相關(guān)關(guān)系 ， 有時稱為