【正文】 數(shù)理統(tǒng)計(jì)與隨機(jī)過(guò)程 第九章 主講教師：程維虎教授 北京工業(yè)大學(xué)應(yīng)用數(shù)理學(xué)院 第九章 方差分析及回歸分析 167。 單因素試驗(yàn)的方差分析 在科學(xué)試驗(yàn)和生產(chǎn)實(shí)踐中，影響事物的因素往往很多。 例如： 在化工生產(chǎn)中，原料成分、原料劑量、催化劑、反應(yīng)溫度、壓力、溶液濃度、反應(yīng)時(shí)間、機(jī)器設(shè)備及操作員水平等因素，每個(gè)因素的改變都有可能影響產(chǎn)品的數(shù)量和質(zhì)量。有些因素影響大些，有些較小。為使生產(chǎn)過(guò)程得以穩(wěn)定，確保優(yōu)質(zhì)、高產(chǎn)，就必要找出對(duì)產(chǎn)品質(zhì)量有顯著影響的那些因素。為此，需要進(jìn)行試驗(yàn)及設(shè)計(jì)。 方差分析就是根據(jù)試驗(yàn)的結(jié)果進(jìn)行分析，鑒別各試驗(yàn)因素對(duì)試驗(yàn)結(jié)果影響大小的統(tǒng)計(jì)方法。 單因素試驗(yàn)的方差分析 I. 基本概念 1. 試驗(yàn)指標(biāo) 在試驗(yàn)中，需要考察的指標(biāo)。 2. 因素 影響試驗(yàn)指標(biāo)的條件。因素又分成 可控因素 和 不 可控因素 兩類(lèi)。例如，反應(yīng)溫度、原料劑量、溶液濃 度、反應(yīng)時(shí)間等都是可控因素；而測(cè)量誤差、氣候條 件等都是不可控因素。 3. 水平 因素所處的狀態(tài)。 如試驗(yàn)中僅有一個(gè)因素發(fā)生改變，而其他因素(有的話 )不發(fā)生改變 ,稱(chēng)這樣的試驗(yàn)為 單因素試驗(yàn) ；如試驗(yàn)中有多個(gè)因素發(fā)生改變，就稱(chēng)試驗(yàn)為 多因素試驗(yàn) 。 特別地，稱(chēng)只有兩個(gè)因素發(fā)生改變，而其他因素 (有的話 )不發(fā)生改變的試驗(yàn)為 兩因素試驗(yàn) 或 雙因素試驗(yàn) 。 II. 舉例 例 1： 用三臺(tái)機(jī)器生產(chǎn)規(guī)格相同的鋁合金薄板。測(cè)量薄板的厚度 (精確到千分之一厘米 ) 如下表所示。在這里 , 試驗(yàn)指標(biāo)是薄板厚度 ； 機(jī)器為因素 ； 三臺(tái)機(jī)器就是因素的三個(gè)水平 。如果假定除機(jī)器因素外，其他因素都相同，則試驗(yàn)為單因素試驗(yàn)。 試驗(yàn)?zāi)康氖菫榱丝疾旄髋_(tái)機(jī)器生產(chǎn)的 鋁合金薄板的厚度是否有顯著差異，即因素的不同水平是否對(duì)試驗(yàn)?zāi)繕?biāo)有顯著不同的影響。 例 2： 隨機(jī)選取的、用于計(jì)算器的四種類(lèi)型的電路的響應(yīng)時(shí)間如下表所示 (單位是毫秒 )。 試驗(yàn)指標(biāo)是電路的響應(yīng)時(shí)間 ； 考慮的因素是電路類(lèi)型 ； 四種電路就是四個(gè)水平 。試驗(yàn)?zāi)康模嚎疾祀娐奉?lèi)型對(duì)響應(yīng)時(shí)間有無(wú)顯著影響。 例 3： 一火箭使用四種燃料，三種推進(jìn)器做射程試驗(yàn)。每種燃料與每種推進(jìn)器的組合下發(fā)射火箭兩次，射程 試驗(yàn)數(shù)據(jù)由下表給出。 試驗(yàn)指標(biāo)：射程 ； 因素：推進(jìn)器 (三個(gè)水平 )、 燃料 (四個(gè)水平 )； 目的：考察推進(jìn)器和燃料這兩個(gè)因素對(duì)射程是否有顯著影響 。 III. 問(wèn)題討論 本節(jié)僅討論單因素試驗(yàn)問(wèn)題。例 1中，在因素的每個(gè)水平下進(jìn)行獨(dú)立試驗(yàn)，其結(jié)果是一個(gè)隨機(jī)變量。 表中的數(shù)據(jù)看成是來(lái)自三個(gè)不同總體 (每個(gè)水平對(duì)應(yīng)于一個(gè)總體 ) 的樣本值。 將各個(gè)總體的均值依次記為μ1,μ2與 μ3。按題意需檢驗(yàn)假設(shè) H0: μ1=μ2=μ3 ， H1: μ1,μ2與 μ3不全相等。 若假設(shè)每個(gè)總體均為正態(tài)變量，且方差相等，但參數(shù)未知。那么，這是一個(gè)檢驗(yàn)具有相同方差的多個(gè)正態(tài)總體均值是否相等的問(wèn)題。 方差分析法就是解決這類(lèi)問(wèn)題的一種統(tǒng)計(jì)方法。 單因素試驗(yàn)的方差分析 設(shè)因素 A 有 s 個(gè)水平： A1, A2, ? , As，在水平 Aj ( j =1, 2, ? , s)下， 進(jìn)行 nj ( nj ≥2) 次獨(dú)立試驗(yàn)，得 到如下標(biāo)的結(jié)果。 假定水平 Aj ( j=1, 2, ? , s )下的樣本 來(lái)自具有方差 ζ2，均值為 μj 的正態(tài)總體 , μj和 σ2未 知，且不同水平 Aj下的樣本相互獨(dú)立。 jnjj jX,X,X ?21方差分析的任務(wù) ● 檢驗(yàn) s 個(gè)總體 的均值 是否相等，即檢驗(yàn)假設(shè) ● 作出未知參數(shù) 的估計(jì)。 若記 的加權(quán)平均為 ( 1 . 2 ) 不全相等。 : :ssμ,μ,μHμμμH??211210 ，???) ( , ), () ( 22221 ??? ,μN(yùn),μN(yùn),μN(yùn) s?，221 ?,μ,μ,μ s? ( 1 . 3 ) ,μnnμsjjj???11sμ,μ,μ ?21 為總 平均。 其中， μ,nnsjj???1引入 表示總體平均值與 總平均的差異，稱(chēng)為水平 Aj 的效應(yīng)。此時(shí)， ,s,j,μμδ jj ?21???模型 ()可改寫(xiě)成 .δnsjij 01???)( 1 . 1 )(獨(dú)立同分布， 且各 ij???????????????????sjjjjijijjij.δn,n,i,s,j,N~εε,εδμX12021210??)( 1 . 2 : : ????????零。不全 為0211210ssδ,δ,δH,δδδH??假設(shè) ()等價(jià)于假設(shè) 平方和的分解 ( ) )( ，? ?? ???sjniijTjXXS1 12( 1 .7 ) .s,j,XnXjniijjj. ?2111?? ??( ) ? ?? ??sjniijjXnX1 11引入總偏差平方和 是數(shù)據(jù)的總平均。 ST 反應(yīng)了全部數(shù)據(jù)之間的差異。因此，又稱(chēng)其為總變差。 其中 記水平 Aj下的樣本均值為 上式的第三項(xiàng)為 . ))(( )()( )]()[(? ?? ?? ?? ?? ?? ?? ?? ????????????sjnisjnij.sjnisjnijjjjXXXXXXXXXXXXS1 11 121 121 122. )()()( 0221 11 1????????????????? ??????????? ?? ? ?? ?? ?? ?sjni.sjni.jjXnXXXXXXX則有 SE 稱(chēng)為誤差平方和， SA稱(chēng)為效應(yīng)平方和。 ()式稱(chēng) 作總變差平方和分解式，簡(jiǎn)稱(chēng)平方和分解式。 ( 1 . 1 0 ) . )( )( ( 1 . 9 ) )( ??? ?? ???? ?? ?????????sjjjsjjjsjnijAsjnijijEXnXnXXnXXSXXSjj122121 121 12....，于是，有 ST=SE+SA ， () 其中 SE與 SA的統(tǒng)計(jì)特性 ( 1 . 1 1 ) )()( ?????????jj nini.iE XXXXS121211 ?.χXXjjnni ~)(1 知 1,根據(jù)基本定理6 . 4 .22112??? ?? 為導(dǎo)出檢驗(yàn)問(wèn)題 () ‘的檢驗(yàn)統(tǒng)計(jì)量，首先來(lái)討論 SE與 SA 的特性。先將 SE寫(xiě)成 由于不同總體的樣本相互獨(dú)立，又知 ()式中各加項(xiàng)也相互獨(dú)立，根據(jù) χ2分布的可加性，得 ( 1 .1 2 ) . 即 , )(222121snEnE χ~/Sχ~/S sj j?? ? ???. 其中( 1 . 1 3 ) )()( ??????sjjEnnsnSE12， 進(jìn)一步，可以證明： ( 1 . 1 4 ) )()( .δnζsSEsjjjA ?????1221特別地， H0為真時(shí)，有 ( 1 . 1 5 ) , 2 12 ?? sA χ~/S( 1 . 16 ) . )/()/( 于是， 相互獨(dú)立。 與 且n sSsS FSSEAEA1? 假設(shè)檢驗(yàn)問(wèn)題的拒絕域 由 ()式，知：當(dāng) H0為真時(shí)， SA /(s1)是 σ2的無(wú)偏估計(jì)，而當(dāng) H1為真時(shí)， 此時(shí) ，012 ???sjjjδn( 1 . 1 7 ) . 2122111 ζδnsζsSE sjjjA ??????????? ??所以，當(dāng) H0不真時(shí)， ()式的分子 SA /(s1)的取值較 σ2有偏大的趨勢(shì)。故，檢驗(yàn)問(wèn)題的拒絕域應(yīng)有 ( 1 . 1 8 ) )/( )/( kn sS sS FEA ?? 1的形式。 ( 1 . 1 9 ) , )()( )( ????? ?? sn,sEA Fsn/Ss/SF11根據(jù) ()式，可得到檢驗(yàn)問(wèn)題 (1, 2)’的拒絕域?yàn)? 其中 α為 給定的顯著性水平， Fs1,ns(α)是參數(shù)為 (s1, ns)的 F分布的上 α分位點(diǎn)。 單因素方差分析表如下 : , ,1 , 2 , ???????? ???sjjniijj TTsjXTj11?，記 在實(shí)際中，可按以下簡(jiǎn)便公式計(jì)算 ST, SA和 SE。 則有 ( 1. 20 ) . ?????????????????????? ?? ? ? ?? ?????? ? ? ???ATEsjsj jjjjAsjnisjniijijTSSSnTnTXnXnSnTXXnXSj j1 122221 1 1 12222，不全相等。 : :32113210μ,μ,μHμμμH ，??例 4: 在例 1中就是檢驗(yàn)假設(shè) (α=) 解： 在這里， s=3, n1=n2=n3=5, n=15, 按 ()式計(jì)算，得到 ST =, SA=, SE = 及如下方差分析表： 判斷：因 F2, 12 (α)=, 故在水平 H0，即認(rèn)為各臺(tái)機(jī)器生產(chǎn)的薄板厚度有顯著差異。 未知參數(shù)的估計(jì) 由 ()式，知： 是 ζ2的無(wú)偏估計(jì)； 再由 (), ()及 ()式，知： 故 分別為 μ和 μj 的無(wú)偏估計(jì)。 若拒絕 H0 ，就意味著，效