【文章內(nèi)容簡(jiǎn)介】 ，當(dāng) p ?? 時(shí)，應(yīng)拒絕原假設(shè) 0H ，即認(rèn)為因素 A 對(duì)試驗(yàn)指標(biāo)有顯著影響，并且 p 值越小，顯著性越強(qiáng)；當(dāng) p ?? 時(shí)，應(yīng)接受原假設(shè) 0H ，即認(rèn)為因素 A 對(duì)試驗(yàn)指標(biāo)無(wú)顯著影響。 非參數(shù)方差分析不要求樣本來(lái)自于正態(tài)總體，也不要求正態(tài)總體具有相同的天津科技大學(xué) 2021屆本科生畢業(yè)論文 8 方差，即不要求正態(tài)性和方差性假定。當(dāng)樣本不滿(mǎn)足這正態(tài)性和方差性的假定時(shí)，就要采取基于秩的非參數(shù)檢驗(yàn)，本文中主要用 KruskalWalls 檢驗(yàn)。 MATLAB 工具箱中提供了 kruskalwalls 函數(shù)，用來(lái)做單因素非參數(shù)方差分析。檢驗(yàn)的原假設(shè)是： k 個(gè)獨(dú)立樣本來(lái)自于相同的總體。當(dāng)原假設(shè)成立時(shí)，并且樣本容量足夠 大時(shí)，檢驗(yàn)統(tǒng)計(jì)量 H 近似服從自由度為 k1 的 2? 分布，即 21 21 2 *3 * ( 1 ) * ( 1 )* ( 1 )k jj jRnH N KNN ??? ? ? ??? （ 27） 其中， k 為樣本數(shù)， jn j=（ 1,2 ， ...,k ）為第 j 個(gè)樣本的樣本容量，1kjjNn???， jR為第 j 個(gè)樣本的秩和。對(duì)于給定的顯著性水平 ? ，當(dāng) H 的觀測(cè)值大于或等于2 *( 1)K?? ? ，拒絕原假設(shè)，表示 k 個(gè)獨(dú)立樣本來(lái)自于不同的總體，或者說(shuō) k 個(gè)樣本有顯著性差異。 【 16】 回歸分析 在客觀世界中變量之間的關(guān)系普遍存在。變量之間的關(guān)系一般說(shuō)可以分為非確定性和確定性這兩種。非確定性關(guān)系即所謂相關(guān)關(guān)系。例如人的身高和體重之間存在著關(guān)系，一般來(lái)說(shuō)越高體重越重，有時(shí)同樣身高的人，體重也是不一樣的，之所以有這種關(guān)系，是因?yàn)槲覀兩婕暗淖兞渴请S機(jī)變量。確定性關(guān)系是指變量之間的關(guān)系可以用函數(shù)表達(dá)?；貧w分析研究的是相關(guān)關(guān)系的一種數(shù)學(xué)工具，這種工具能從一個(gè)變量取得值去 估計(jì)另一個(gè)變量所取的值。用來(lái)認(rèn)識(shí)事物的內(nèi)在規(guī)律和本質(zhì)屬性。 【 16】 （ 1）一元回歸模型 設(shè)有兩個(gè)變量 x 和 y ，其中 x 是可以精確測(cè)量或控制的非隨機(jī)變量， y 是隨機(jī)變量，假定隨機(jī)變量 y 與可控變量 x 之間存在線(xiàn)性 相關(guān)關(guān)系，建立 y 與 x 的數(shù)學(xué)模型如下： 2 ,~ ( 0 , ) .y a b xN ???? ? ???? （ 28） 其中未知參數(shù) ,ab和 2? 都不依賴(lài)于 x 。稱(chēng) ()式為 y 關(guān)于 x 的 一元線(xiàn)性回歸模型 ，其中 b 稱(chēng)為 回歸系數(shù) 。由一元線(xiàn)性回歸模型可知，當(dāng) x 固定時(shí)， 2~ ( , )y N a bx ?? ，令 ( ) ( | )x E y x a bx? ? ? ?，它是 x 固定時(shí)隨機(jī)變量 y 的數(shù)學(xué)期望。直線(xiàn)()x a bx?? ? ?Y 近似表示了 y 與 x 的線(xiàn)性相關(guān)關(guān)系，稱(chēng) ()x? 為 y 關(guān)于 x 的 回歸函數(shù) ，稱(chēng) ()x a bx?? ? ?Y 為 y 關(guān)于 x 的 理論回歸方程 。 （ 2） 參數(shù)的最小二乘估計(jì) 天津科技大學(xué) 2021屆本科生畢業(yè)論文 9 對(duì) ,xy作 n 次獨(dú)立的觀測(cè)，得到觀測(cè)數(shù)據(jù) ( , ), 1, 2, ,iix y i n? .根據(jù) (28)式可得 2 ,~ ( 0 , ) , 1 , 2 , , .i i iiidiy a b xN i n???? ? ??????? 其中 iid 表示獨(dú)立同分布。令 ? ? 2211( , ) ( ) ,nni i iiiQ a b y a b x???? ? ? ??? 二元函數(shù) ? ?,Qab 的最小值點(diǎn) ? ???,ab 稱(chēng)為 ,ab的最小二乘估計(jì)，通過(guò)解下面方程組求得 ? ?? ?? ?? ?12111 ,20 .niii nnni i iiii i iiQ na nx b nyy a bxanx a x b x yQ y a bx xb?????? ??? ? ? ? ? ?? ???? ???? ?????? ? ? ? ? ???? ?????? (29) 其中 1111 , .nniiiix x y ynn?????? 當(dāng)方程組 (29)的系數(shù)矩陣的行列式 2 2 22 111( ) ( ) 0 ,nnn iiiiiin n xD n x n x n x xn x x???? ? ? ? ? ???? 可以解得 ? ?? , .xy xxa y bx b l l? ? ? (210) 其中 2 2 21 1 1 1( ) , ( ) ( ) .n n n nx x i i x y i i i ii i i il x x x n x l x x y y x y n x y? ? ? ?? ? ? ? ? ? ? ? ?? ? ? ? 將 ??,ab代入理論回歸方程可得 ?? ?y a bx?? ，稱(chēng)之為 y 關(guān)于 x 的 經(jīng)驗(yàn)回歸方程 。由于 ? ? ? ?? ? ( ) ,y a bx y bx bx y b x x? ? ? ? ? ? ? ? 可知 y 關(guān)于 x 的經(jīng)驗(yàn)回歸直線(xiàn)一定過(guò)點(diǎn) ( , )xy . 可以證明估計(jì)量 ??,ab服從以下分布： 2221 ?? ~ , , ~ , .x x x xxa N a b N bn l l????? ? ? ????? ? ? ?? ? ? ??? （ 211） 從而可知 ??,ab分別是 ,ab的無(wú)偏估計(jì)。 （ 3） 回歸方程的顯著性檢驗(yàn) 對(duì)于變量 y 和 x 的任意 n 對(duì)觀測(cè)值 ( , )iixy ，只要 nxxx , 21 ? 不全相等，則無(wú)論變量 y 和 x 之 間是否存在線(xiàn)性相關(guān)關(guān)系，都可根據(jù)上面介紹的方法求得一個(gè)線(xiàn)性回歸方程 ?? ?y a bx?? . 顯然 ，只有當(dāng)變量 y 和 x 之 間存在線(xiàn)性相關(guān)關(guān)系時(shí)，這樣的線(xiàn)性回歸方程才是有意義的。為了使求得的線(xiàn)性回歸方程真正有意義，就需要天津科技大學(xué) 2021屆本科生畢業(yè)論文 10 檢驗(yàn)變量 y 和 x 之 間是否存在顯著的線(xiàn)性相關(guān)關(guān)系。若 y 和 x 之 間存在顯著的線(xiàn)性相關(guān)關(guān)系，則 回歸模型 (28)式中的 b 不應(yīng)為 0，因?yàn)槿?0b? ，則 ( ) ( | )x E y x? ?就不依賴(lài)于 x 了。因此需要檢驗(yàn)假設(shè) 01: 0 , : b H b?? (212) F 檢驗(yàn) xy?? ?y a b x??yy ?{}}?iiyy??iyy??),( ii yxyxo 圖 21離差分解示意圖 如圖 21 所示，每個(gè)觀測(cè)點(diǎn) ( , )iixy 處的 iy 與均值 y 的離差 iyy? 被分解為兩部分，即 ? ? ,i i i iy y y y y y? ? ? ? ? 于是總離差平方和可作如下分解 2211 ? ?( ) ( )nnT i i i iiiS S y y y y y y??? ? ? ? ? ??? 221 1 1? ? ? ?( ) ( ) 2 ( ) ( ) .n n ni i i i i ii i iy y y y y y y y? ? ?? ? ? ? ? ? ?? ? ? 可以證明1 ? ?2 ( )( ) 0ni i ii y y y y? ? ? ??. 令 2211? ?( ) , ( ) ,nnE i i R iiiS S y y S S y y??? ? ? ??? 則有 .T E RSS SS SS?? （ 213） 這里的 TSS 為總離差平方和，它被分解為兩部分。其中 RSS 是估計(jì)值 ?iy 的離差平方和，反映了 y 的總變差中由于 y 與 x 之間的線(xiàn)性關(guān)系所引起的 y 的變差，稱(chēng)為回歸平方和 。 ESS 就是前文中的 EQ ，稱(chēng)為 殘差平方和 （或 剩余平方和 ），它反映了 y 的總變差中不能由回歸直線(xiàn)來(lái)解釋的變差。由圖 26可以看出，若總離差平方和 TSS 中主要是回歸平方和 RSS ，殘差平方和 ESS 所占比重非常小，則說(shuō)明觀測(cè)數(shù)據(jù)的散點(diǎn)基本集中在回歸直線(xiàn)附近，進(jìn)一步說(shuō)明 y 和 x 之 間存在顯著的線(xiàn)性相關(guān)關(guān)系，因此可以根據(jù) RSS 和 ESS 構(gòu)造檢驗(yàn)統(tǒng)計(jì)量，檢驗(yàn) y 和 x 之 間的線(xiàn)性相關(guān)關(guān)系是否顯著。 （ 4）多重線(xiàn)性回歸分析原理 天津科技大學(xué) 2021屆本科生畢業(yè)論文 11 設(shè)隨機(jī)變量 y 與 p 個(gè)可控變量12, , , px x x之間存在線(xiàn)性相關(guān)關(guān)系，建立 y 與12, , , px x x的數(shù)學(xué)模型如下： 0 1 1 2 22 ,~ ( 0 , ) . ppy b b x b x b xN ???? ? ? ? ? ???? (214) 其中未知參數(shù) 01, , , pb b b 和 2? 都不依賴(lài)于 12, , , px x x . 稱(chēng) (214)式為 y 關(guān)于12, , , px x x 的 p 重線(xiàn)性回歸模型 ，其中 12, , , pb b b 稱(chēng)為 回歸系數(shù) 。類(lèi)似于一元線(xiàn)性回歸，稱(chēng) 1 0 1 1 2 2( | , , )p p pE y x x b b x b x b x? ? ? ? ? ?Y 為 y 關(guān)于 1,pxx的理論回歸方程。 判別分析 判別分析是對(duì)樣本進(jìn)行分類(lèi)，但是和聚類(lèi)分析不一樣，判別分析的研究對(duì)象是已經(jīng)有了分類(lèi)，根據(jù)抽取的樣本建立判別公式和判別標(biāo)準(zhǔn)，然后用這些公式和標(biāo)準(zhǔn)判別未知的類(lèi)別的樣本的類(lèi)別。 本文主要用距離判別，其中距離判別的基本思想是首先根據(jù)已知分類(lèi)的數(shù)據(jù)，分別計(jì)算各 類(lèi)的重心，即分組均值，判別標(biāo)準(zhǔn)：對(duì)于任給一次觀測(cè)值，若她與 i 類(lèi)的重心距離最近，就認(rèn)為她來(lái)自第 i 類(lèi)。馬氏距離原理設(shè) G 是 p 維總體，它的分布的均值向量和協(xié)方差矩陣分別為 11 12 112 21 22 212......,...ppp p p pp? ? ??? ? ? ??? ? ? ???????????? ? ????????? ?? （ 215） 設(shè) ? ? ? ?1 2 1 2, , ..., 39。, , , ..., 39。ppx x x x y y y y??為取自總體 G 的兩個(gè)樣品，假定 0? （ ? 為正定矩陣），定義 x,y 間的平方馬氏距離為 ? ? ? ?21, 39。 ( )d x y x y x y?? ? ? ? 定義 x 到總體 G 的平方馬氏距離為 ? ? ? ?21, 39。 ( )d x G x x???? ? ? ? （ 216） 兩個(gè)總體的判別，設(shè)有兩個(gè) p 維總體 12GG和 ,分布的均值分別為 12??和 ，協(xié)方差矩陣分別為 1200??， 。從兩總體中分別抽取容量為 12nn， 的樣本，記為11 12 1 21 22 2, , ..., , , , ...,nnx x x x x x。現(xiàn)有一未知類(lèi)別的樣品，記為 x，試試判別 x 的歸屬，現(xiàn)有以下判別規(guī)則 當(dāng) 2212( , ) ( , )d x G d x G? 時(shí)，判定 1xG? ；否則判定 2xG? 。若相等則待判。這是通常為馬氏距離。在采用馬氏距離的情況下，下面分情況進(jìn)行討論。 （ 1） 12==? ? ? 已知時(shí) 天津科技大學(xué) 2021屆本科生畢業(yè)論文 12 將兩個(gè)距離相減可得 ? ?2 2 1121 2 1 2()( , ) ( , ) 2 [ ] 39。2d x G d x G x ?? ????? ? ? ? ? （ 217） 令 ? ?112 1 2 1 2= ( , , .. ., ) 39。2( ) ( ) 39。 39。( )pa a a aW x x a a x??? ? ????? ? ? ? ?? ? ? ?， （ 218） 則判別規(guī)則還可表示為 12, ( ) 0, ( ) 0( )= 0x G W xx G W xWx?????????若若待 判 ， 若 （ 219） 稱(chēng) W(x)為兩組距離判別的線(xiàn)性判別函數(shù)， a 為判別系數(shù)。 （ 2） 12??? 已知時(shí) 令 2212( ) ( , ) ( , )J x d x G d x G?? （ 220） 則 ??Jx為二次判別函數(shù)，判別規(guī)則為 12, ( ) 0, ( ) 0( )= 0x G J xx G J xJx?????????若若待 判 ， 若 (221