【正文】 2 30. 5 ( )0. 3 ( )xxxxxx??????? ? ?? ? ?? ? ? ?矩陣形式 565 正規(guī)方程組 TTA A x = A y1 0 01 0 1 0 2 0 10 1 00 1 0 1 0 2 11 0 10 0 1 1 1 1 20 1 1T??? ? ? ???? ? ? ???? ? ?? ? ? ???? ? ? ???? ? ? ???C A A1 0 1 0 0 1 0 1 0 0 1 1 T??? ? ? ????? ? ? ???? ? ?? ? ? ???? ? ? ???? ? ? ????Ay1232 0 1 0. 80 2 1 0. 71 1 2 0. 2xxx? ? ? ? ? ?? ? ? ? ? ???? ? ? ? ? ?? ? ? ? ? ?? ? ? ? ? ?566 正規(guī)方程組解 1? T??x C A y1 0. 50 0 0. 50 0 ????????C0 .7 5 0 0 .2 5 0 0 .5 0 0 0 .8 0 .3 2 5 0 .2 5 0 0 .7 5 0 0 .5 0 0 0 .7 0 .4 2 5 0 .5 0 0 0 .5 0 0 1 .0 0 0 0 .2 0 .1 5 0? ? ? ? ? ?? ? ? ? ? ?? ? ?? ? ? ? ? ?? ? ? ? ? ?? ? ? ? ? ?1 2 , , x x? ? ? ?即 567 標準差的計算 代入殘差方程組，計算 1 2 3 4 v v v? ? ? ? ? ?22221 2 3 4 ? ? ? ?0 .0 0 2 543s ??1 11 sd? ? ? ? 2 22 sd? ? ? ?3 33 sd? ? ? ?568 第三節(jié) 非線性參數的最小二乘法 測量殘差方程組 ()i i iyv???x 12( , , , )tx x x?x非線性函數 取 的初始似值 x (0)x 泰勒展開 ( 0 )( 0 )() ii i j ijyvx????????j = tj = 1 xx ?1 1 2 2i i i it t iy a a a v? ? ?? ? ? ? ? ?()i i iyy ?? ?? (0)x按線性參數最小二乘法解得 12( , , , )t? ? ??? (1 ) ( 0 )??xx ?迭代直至 滿足精度為止 ?569 第四節(jié) 組合測量問題應用舉例 570 【例 53】 要求檢定絲紋尺 0， 1， 2， 3刻線間的距離 。 （ 2） 相關關系：在實際問題中 ， 影響變量之間的因素實際上是千差萬別的 ， 不能簡單地決定只由一個或幾個影響因數所產生 ， 只能預測估計變量之間的關系 ， 并存在于某一范圍之內 ， 這樣的變量關系稱為相關關系 ， 有時稱為 “黑箱問題 ” 。 回歸分析的主要內容 回歸分析：是處理變量之間相關關系的一種數理統(tǒng)計方法 ， 是將相關變量之間由生產實踐和科學實驗得到的變量數據 ， 應用數學方法對大量的實驗和觀察數據進行處理 ，從而得到比較符合事物內部變量之間的內部規(guī)律的數學表達式的方法 。 第二節(jié)一元 線 性 回 歸 一元回歸方法： 是通過實驗 ， 分析所得到的實驗數據 ， 找出兩個變量之間的內在相關關系 —— 經驗公式 。 xt —— 是一組可以精確測量或嚴格 控制的變量。 計算結果 F 越大， x 與 y 的線性關系是越密切，回歸方程顯著性越大 。 重復試驗的 F 檢驗法 的具體計算方法和過程，再此不作詳細的講解（略）。 （ 2） 圖表法 把測量組的 N 對觀察數據在坐標紙上繪出離散點圖，在點群之間繪一條直線，使點群的絕大多數點在直線上或接近此直線并均勻分布在直線的兩邊，便近似地得到測量組的回歸直線的簡便方法。 ③ 求解兩直線方程 、 銳角的某一直線方程 即為測量數據 x、 y兩個方向均存在測量誤差的線性直線回歸方程 ， 并存在下面四種形式： ? ?21????Nt txx ayax ?? 0?xbby //0? ??xbby //0? ??cxcy ?? 0?bxby ?? 0?bxby ?? 0?xbby //0? ?? 注意： 隨著兩個變量線性相關性的加強，相關系數越接近于 1，兩條直線 、 越接近；當相關系數為 1時，兩條直線重合 。 xbby ?? 0 ??x? y???? ?22 / yx yy ??? ? xbby ?? 0 ??xbby ?? 0 ????yy ?? ??? ? bb ??? ?xbby ?? 0 ???? ???Nt td12 由點（ xt， yt′）到回歸直線的距離公式，經整理得距離 dt′為： dt = yt – bo – bxt 依據最小二乘法原理，為使 最小，求解： ； 計算得到： 從而可得到 x方向和 y方向均存在誤差的線性回歸方程： 由此可得到 x、 y的方差估計值： , ? ? tttttt dbbxbybb xbbyd 20220 111 ???? ???????? ????????? ?Nt td1 20012???????? ?? ??bdNtt012???????? ?? ??bdNtt? ?xyxyxxyyxxyyllllllb????24 22 ?????xbyb ??0xbby ?? 0 ???????? Nt tx dbN 1 222 121 ??? ???? 21222 1 121 xNt tydbN ????? ??第四節(jié) 一元非線性回歸 在實際測量問題中 ， 兩個變量之間的關系并不是都滿足線性關系 ， 可能是某種曲線關系 ， 即：一元非線性關系 。 通常直接應用最小二乘法原理求出非線性回歸方程中的未知參數是非常困難的 ， 一般情況下可采用如下兩種方法進行 。 將非線性回歸曲線方程 ， 應用泰勒級數展開成回歸多項式來描述兩個變量之間的關系 ， 把求解曲線回歸問題轉化成求解多項式回歸問題 。 （ 3） 直線檢驗方法 當待檢驗的函數類型中 ， 所含參數不多時 ， 應用此方法檢驗效果較好。 （ 4） 表差方法 如果一組試驗數據可用 1多項式表示 ， 式中含有常數的項多于兩個時 ， 可以用表差方法決定回歸曲線方程的次數或檢驗回歸方程的次數較為合理 。 ④ 根據 x,y的讀出值 ， 計算差值： 為第一階差； 為第二階差； 為第三階差； ⑤ 當方程式的標差 （ 書上表 610） 為常數時 ， 便可決定所選函數類型方程 。 2 223 22 12 23 1 3 yyyyyy ??????????? 化曲線回歸問題為直線回歸問題 前面所講到的可用直線檢驗法或一階表差法檢驗的曲線回歸方程， 都可以通過變量代換轉化為直線回歸方程 ， 并利用直線回歸方程式的確定方法確定研究對象測量數據的回歸方程 。 （ 1）回歸曲線方程的效果。 由 N組觀察數據確定的線性方程組的 結構形式 或 數學模型 為 : 式中： β1, β2, β3, … , βM 是 M+1個待估計參數 。 ? ?? ??????????????????????????????????MjxxbxbbybQxbxbbybQtjNttMMttjNttMMtt,2,10202111011100??? 多元線性回歸方程的顯著性和精度 一個多元線性回歸方程是否更真實反映因變量與自變量之間的客觀規(guī)律 ， 效果如何 ， 主要靠實踐檢驗 。 F檢驗法的數學統(tǒng)計量計算： 同理，多元線性回歸方程的預報精度由殘余標準差來估計。 在通常情況下，要直接按定義式（ Pi = UU′）來計算偏回歸平方和 Pi是困難的，可以證明 Pi可按下式計算： Pi= bi2/Cii Ci —— 取消自變量前原回歸方程系數矩陣 A或 L的逆矩陣 C或 L1中的相應元素。 ③ 在新的 M1元回歸方程基礎上，又重新進行上述①②步，看是否存在對因變量 y的影響最小的自變量 xi，若存在則將其剔除；若不存在則所得到的 Mn元回歸方程為簡化后的線性回歸方程。 例題 614： …… 。因此，若能找到新老回歸系數之間的關系，將大大簡化計算。 但是由于回歸方程中各自變量之間可能有著密切關系 ， 即使 Pi較小 ， 也不能直接判定自變量對因變量的作用較小 ， 還得用下面的 F檢驗法作進一步的檢驗 ， 具體方法如下： ① 凡是偏回歸平方和 Pi大的自變量 xi， 一定對因變量的影響起重要作用顯著；對于偏回歸平方和 Pi大到什么程度 ， 才影響顯著 ， 可對殘余平方和 Q進行 F檢驗法檢驗： 當 Fi≥Fa時 ， 則認為自變量 xi對因變量 y的影響在 a水平上顯著 ， 即回歸系數檢驗 方法 。 在研究實際問題時 ， 我們期望觀察和認識到哪些對因變量影響起主要作用的因素 ， 盡可能的去除哪些起次要作用或可有可無的因素 ， 從而進一步簡化線性回歸方程 ， 利于我們對檢測結果的預報和控制 。 主要依據是 y的總離差平方和 S， 回歸平方和 U和殘余誤差平方和 Q的計算結果 、 以及相應的自由度 M， 所具有的 F檢驗法計算結果來判定多元線性回歸方程的顯著特性 。 ?????????????????????????NNMMNNMMMMxxxyxxxyxxxy???????????????????22110122222211011112211101 用矩陣表示 ， 令： Y = ； X = ； β = ； ε = ； 則有多元回歸的矩陣表達形式： Y = Xβ+ε 仍用最小二乘法的估計參數 b0, b1, … , bM作為參數 β1, β2, β3, … , βM的估計值 ， 則有回歸方程為： 依據最小二乘法的原理 ， 全部觀察值 yt 與回歸值 ?t 的殘余誤差平方和最小 。 多元線性回歸方程 一個因變量 y 與 M個自變量 （ x1,x2,… ,xM,） 之間存在內在的線性關系 ， 通過試驗得到 N組觀察數據： （ xt1,xt2,… ,xtM,） 。 回歸曲線方程的效