【正文】 可見 ， 多項式回歸在回歸問題中占有特殊的地位 。 多元回歸中最簡單且最基本的是多元線性回歸 。 計算步驟如下： （ 1） 根據(jù)表 54中的數(shù)據(jù) ， 計算出 v 、 v u、 u2 、uv和回歸系數(shù) b及常數(shù)項 a列于 表 55中 。 曲線回歸 xbay ??1（ 1）雙曲線， 型，見 圖 。 此時 ， 稱 x 與 y 完全性相關(guān) 。 自由度： f總 = f回 + f殘 f總 = m 1 f回 =1 f殘 = f總 － f回 = m 2 方差：殘差平方和除以它的自由度： 殘殘差平方和fS ?2標準偏差估算值： 殘殘差平方和fS ?（ 5—29） 用 S衡量隨機因素對 y 的影響 。 解： 將 表 51中的 (x, y) 數(shù)據(jù)，在直角坐標系中對應(yīng)地做出一系列的點，可得 圖 ，這種圖稱之為散點圖。 如材料的抗拉強度與其硬度之間的關(guān)系；材料的性能與其化學成份之間等等 。 ),( 21 Ncccxfy ?? （ 51） 待定常數(shù) 5 .2 最小二乘法原理 假設(shè) x 和 y 是具有某種相關(guān)關(guān)系的物理量 ， 它們之間的關(guān)系可用下式給出： 5 .2 最小二乘法原理 同時測量 x ， y 的數(shù)值 ， 設(shè)有 m 對觀測結(jié)果： ),(,),(),( 2211 mm yxyxyx ? 利用觀測值 ， 確定 。 方差分析 由 x 預報 ， 精確度如何 ？ 用 方差分析 解決這一問題 。 r 取值不同時的散點分布情況示于圖 ，具體分析如下： （ 1） r = 0 時 。 但必須指出 ， 相關(guān)系數(shù) r 只表示線性相關(guān)的密切程度 ， 當 r 很小 ， 甚至等于零時 ， 并不一定說明 x 與 y 之間就不存在其它關(guān)系 。 型xbay lg??bvauxvyu ???? 則令 ,lg, （ 6） S曲線 ， ， 見 圖 。 此外 ， 在曲線擬合時也可采用分段擬合的方法 ，即在不同的自變量區(qū)間內(nèi)配以不同的曲線來進行擬合 。 Si2O3 的含量， % x2 2CaO 按對話框中的提示進行操作 ， 即可得出多項式回歸曲線中各項中的系數(shù) 。 完 多元曲線回歸 多元線性回歸還可以擴展到更為普遍的情況。 第一步 : 在 Excel電子表格中 ， 按列 （ 行 ） 輸入 x 與 y 的試驗數(shù)據(jù) 。 鋼包的容積 （ 用盛滿鋼水的重量 kg 表示 ） 與相應(yīng)的使用次數(shù)列于 表 54中 。 利用 Excel在計算機中進行線性回歸的方法 2 曲線回歸 在實際問題中 ， 變量之間常常不是直線關(guān)系 。當 r ＞ 0 時 b＞ 0 ， 散點分布有隨 x 增加 y 增加的趨勢 ， 此時稱 x 與 y 是正相關(guān) ， 如 圖 （ b） 所示 。這一部分不能通過回歸方程計算出來 ，它是 yi 波動中與 x 無關(guān)的部分 。 圖 iy?38141514108y = 3 2 + 0246810121416180 5 10 15 20xyx 1 3 6 8 10 13 163 8 14 15 14 10 8y i e i iy?5 .2 最小二乘法原理 這里假定 xi 無誤差?；貧w分析 概述 回歸分析 ——研究變量與變量之間關(guān)系的數(shù)學方法。 從圖 51a中可以看出 ， 顯然 ， 此時下式應(yīng)最?。? ?????? ??? ??miiimyyeeeP1 2221 2)?(e x p21),(????（ 5—6） 即殘差平方和最小 ， 這就是最小二乘法原理的由來 。 是 殘差平方和 ， 表示了回歸方程的擬合誤差 ， 即觀測值 yi 偏離回歸值 的大小 。 這時 ， x 與 y 之間存在著一定的線性關(guān)系 。 （ 3）利用計算出的參數(shù)，即可寫出回歸方程。 例 煉鋼廠出鋼用鋼包在使用過程中 ， 由于鋼液及爐渣對耐火材料的浸蝕 ， 其容積不斷增大 。 用 Excel電子表格軟件進行曲線回歸的方法 方法 1 方法 2 利用 Excel 對 x 、 y 的數(shù)據(jù)求出所有的回歸系數(shù)及方差分析數(shù)據(jù) 。 根據(jù)計算出的回歸系數(shù)寫出回歸方程 。 然后按 x, xlnx、 1/x、 (lnx)2的對應(yīng)關(guān)系代入方程中即得出回歸曲線的多項式方程 。 SiO2 的含量， % x3 3CaO 下面我們采用計算機處理方法 ， 用其它類型的函數(shù)進行回歸擬合試一試 ， 看會得出什么樣的結(jié)果 ？ 利用 Excel 對 x 、 y 的數(shù)據(jù)作散點圖，直接作出回歸曲線。 型xbeay ??? 1bvauevyu x ???? ? 則令 ,1 （ 7 ） 對 數(shù) 拋 物 曲線 ， ， 見 圖 。 如 圖 515(e)所示 ， 雖然 r = 0， 但從散點分布看 ， x 與 y 之間存在著明顯的曲線關(guān)系 ， 只不過這種關(guān)系不是線性關(guān)系罷了 。 此時 b = 0 ， 即按最小二乘法確定的回歸直線平行于 x 軸 ， 這說明 y 的變化與 x 無關(guān) 。 殘差可表示如下： y?iii yye ???試驗得到的數(shù)據(jù) 回歸直線對應(yīng)的數(shù)據(jù) 上式可改寫成： )?()(? yyyyyye iiiii ??????（ 5—24） 移項得： )?()?( yyyyyy iiii ?????? ???????????????????????miimiiiimiiimiiiimiiyyyyyyyyyyyyyy121122112)?()?)(?(2)?()?()?()(兩端平方求和得： （ 5—25） 可以證明此項為零 ， 故得： ???????????miimiiimii yyyyyy121212 )?()?()(???miii yy12)?(???mii yy12)( 上式中三項平方和的意義如下： 代表在試驗范圍內(nèi) ， 觀測值 yi 總的波動情況 ， 稱此為 總平方和 。 設(shè) x， y 關(guān)系的最佳形式為： Nccc , 21 ?)?,?,?,(? 21 Ncccxfy ??（ 52） （ 53） 最佳估計值 如不存在測量誤差，則： micccxfy Nii ?? ,2,1),( 21 ?? （ 54） 由于存在測量誤差 ， 因而式 （ 53） 與 （ 54） 不相重合 ， 即有： miyye iii ,2,1? ???? （ 55） 殘差 ——誤差的實測值 5 .2 最小二乘法原理 式 （ 5—3） 中的 x 變化時 ， y 也隨之變化 。 到方差分析 實際問題中 ， 絕大多數(shù)情況下 ， 變量之間的關(guān)系不那么簡單 。求出 x， y之間的線性關(guān)系。 產(chǎn)生原因：包括隨機誤差 、 那些影響很小但尚未考慮的因素 。 所有的點都在一條直線上 ， 即散點都落在回歸直線上 。 常見的一些非線性函數(shù)及其線性化方法如下 。 圖5 . 3 0 鋼包容積與使用次數(shù)之間的關(guān)系散點圖1061071081091101111120 5 10 15 20使用次數(shù) x鋼包容積 y:,1,1 則上式可改寫成若令 xvyu ??bvau ?? （ 540） 對新變量 u、 v 而言 ， 式 （ 540） 是一個直線方程 ， 因而可用最小二乘法進行擬合計算 ， 求出回歸系數(shù) b 和常數(shù)項 a 。 但在大多數(shù)情況下 ， 自變量不是一個而是多個 ， 稱這類問題為多元回歸問題 。 因此 ，