(真正的好東西)偏最小二乘回歸=多元線性回歸分析典型相關(guān)分析主成分分析-全文預(yù)覽
【正文】 X=c(:,1:px)。 ff=ccy.*f0(:,:,j)./ccx。 %normxy標(biāo)準(zhǔn)化后的數(shù)據(jù)矩陣 %meanxy每一列的均值 %covxy每一列的方差 ccxx=ones(py,1)*meanxy(1,1:px)。 %求回歸系數(shù)endfor j=1:px fori=1:py %生成標(biāo)準(zhǔn)化變量的方程的系數(shù)矩陣 w1=wh(:,1:j)。 for j=1:h1 iw=iw*(eye(d)w(:,j)*q(:,j)39。*t(:,i+2)))39。*t(:,i+2)/(t(:,i+2)39。*E(:,px*i+1:px*i+px)。*t(:,1)/(t(:,1)39。 %提取主成分 E(:,1:px)=E0t(:,1)*(E039。*F0*F039。 %norm1為標(biāo)準(zhǔn)化函數(shù)y=c(:,px+1:px+py)。end%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%function [t,q,w,wh,f0,FF]=fun717(px,py,C) % px自變量的輸入個(gè)數(shù) % py輸入因變量的個(gè)數(shù)。%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%function [c,m,v]=norm1(C)%對(duì)數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化處理[n,s]=size(C)。d1=d*ones(p,1)。(2) 對(duì)于k=1,2,…,q,至少有一個(gè)k,使得這時(shí)增加成分,至少使一個(gè)因變量的預(yù)測(cè)模型得到顯著的改善,因此,也可以考慮增加成分是明顯有益的?；蛘叻催^來說,當(dāng)時(shí),就認(rèn)為增加新的成分,對(duì)減少方程的預(yù)測(cè)誤差無明顯的改善作用.另有一種等價(jià)的定義稱為交叉有效性。 增加了一個(gè)成分,但卻含有樣本點(diǎn)的擾動(dòng)誤差。另外,再采用所有的樣本點(diǎn),擬合含h 個(gè)成分的回歸方程。在偏最小二乘回歸建模中,究竟應(yīng)該選取多少個(gè)成分為宜,這可通過考察增加一個(gè)新的成分后,能否對(duì)模型的預(yù)測(cè)功能有明顯的改進(jìn)來考慮。我們把手中的數(shù)據(jù)分成兩部分:第一部分用于建立回歸方程,求出回歸系數(shù)估計(jì)量,擬合值以及殘差均方和。事實(shí)上,如果后續(xù)的成分已經(jīng)不能為解釋提供更有意義的信息時(shí),采用過多的成分只會(huì)破壞對(duì)統(tǒng)計(jì)趨勢(shì)的認(rèn)識(shí),引導(dǎo)錯(cuò)誤的預(yù)測(cè)結(jié)論。如果要，能分別很好的代表X與Y中的數(shù)據(jù)變異信息，根據(jù)主成分分析原理，應(yīng)該有Var()maxVar()max另一方面，由于回歸建模的需要，又要求對(duì)有很大的解釋能力，有典型相關(guān)分析的思路，與的相關(guān)度應(yīng)達(dá)到最大值，既r（，）max因此，綜合起來，在偏最小二乘回歸中，我們要求與的協(xié)方差達(dá)到最大，既Cov(，)=r(，) max正規(guī)的數(shù)學(xué)表述應(yīng)該是求解下列優(yōu)化問題，既 因此，將在||||=1和||||=1的約束條件下，去求()的最大值。X 經(jīng)標(biāo)準(zhǔn)化處理后的數(shù)據(jù)矩陣記為=(，…，)，經(jīng)標(biāo)準(zhǔn)化處理后的數(shù)據(jù)矩陣記為=(，…，)。如果回歸方程已經(jīng)達(dá)到滿意的精度，則算法終止；否則,將利用 X被解釋后的殘余信息以及Y 被 解釋后的殘余信息進(jìn)行第二輪的成分提取。偏最小二乘回歸分別在X與Y中提取出成分 和 (也就是說, 是 的線形組合, 是 的線形組合).在提取這兩個(gè)成分時(shí),為了回歸分析的需要,有下列兩個(gè)要求:(1) 和應(yīng)盡可能大地?cái)y帶他們各自數(shù)據(jù)表中的變異信息。在一次偏最小二乘回歸分析計(jì)算后，不但可以得到多因變量對(duì)多自變量的回歸模型，而且可以在平面圖上直接觀察兩組變量之間的相關(guān)關(guān)系，以及觀察樣本點(diǎn)間的相似性結(jié)構(gòu)。變量多重相關(guān)問題十分復(fù)雜，長期以來在理論和方法上都未給出滿意的答案，這一直困擾著從事實(shí)際系統(tǒng)分析的工作人員。（2）偏最小二乘回歸可以較好地解決許多以往用普通多元回歸無法解決的問題。 偏最小二乘回歸是一種新型的多元統(tǒng)計(jì)數(shù)據(jù)分析方法，它與1983年由伍德和阿巴諾等人首次提出。偏最小二乘回歸方法在統(tǒng)計(jì)應(yīng)用中的重要性主要的有以下幾個(gè)方面：（1）偏最小二乘回歸是一種多因變量對(duì)多自變量的回歸建模方法。如果采用普通的最小二乘方法，這種變量多重相關(guān)性就會(huì)嚴(yán)重危害參數(shù)估計(jì)，擴(kuò)大模型誤差，并破壞模型的穩(wěn)定性。偏最小二乘回歸=多元線性回歸分析+典型相關(guān)分析+主成分分析由于偏最小二乘回歸在建模的同時(shí)實(shí)現(xiàn)了數(shù)據(jù)結(jié)構(gòu)的簡化，因此，可以在二維平面圖上對(duì)多維數(shù)據(jù)的特性進(jìn)行觀察，這使得偏最小二乘回歸分析的圖形功能十分強(qiáng)大。為了研究因變量和自變量的統(tǒng)計(jì)關(guān)系,我們觀測(cè)了n個(gè)樣本點(diǎn),由此構(gòu)成了自變量
環(huán)評(píng)公示相關(guān)推薦
鄂ICP備17016276號(hào)-1