【正文】 rdle和Vieu（1992）給出了多重交叉核實方法的漸近最優(yōu)性. Hall，Lahiri和Truong（1995）研究了獨立數(shù)據(jù)的交叉核實和嵌入方法帶寬選擇的性質(zhì). 交叉核實帶寬選擇的漸近正態(tài)性由Chu（1995）給出. Kim和Cox（1997）研究了在密度估計框架下交叉核實帶寬估計的漸近收斂速度. Yao和Tong（1998）則考慮了在混合過程的廣義交叉核實方法. Robinson（1994）考慮了關(guān)于譜密度在零點奇異情況下的數(shù)據(jù)驅(qū)動非參數(shù)估計。rg246。rg246。ller（1987）證明了局部多項式擬合和核回歸的等價性. Fan（1992，1993a）則清晰地證明了對于非參數(shù)回歸局部多項式擬合的優(yōu)良性，使得局部多項式技巧再度受到了很多的關(guān)注. 緊接著，F(xiàn)an和Gijbels（1992）及Hastie和Loader（1993）證明了局部線性擬合可以自動糾正邊界偏倚. Ruppert和Wand（1994）將結(jié)果推廣到了一般的局部多項式擬合中. Fan，F(xiàn)armen和Gijbels（1997）給出了局部極大似然估計的想法，Carroll，Ruppert和Welsh（1998）則更進(jìn)一步推了這種方法，包括推廣到局部估計方程上. 關(guān)于數(shù)據(jù)驅(qū)動式帶寬選擇可以在Fan和Gijbels（1995），Ruppert，Sheather和Wand（1995），及Ruppert（1997）中找到. 相依樣本的非參數(shù)回歸 對于時間序列，有各種各樣的非參數(shù)回歸問題：時域平滑，狀態(tài)域平滑，條件密度估計，條件方差估計，等等. Yakowitz（1985）考慮了條件均值估計和馬爾可夫鏈的轉(zhuǎn)移密度估計. Roussas（1990）得到了核回歸估計的強相合的速度. Fan和Masry（1992）研究了帶度量誤差的非參數(shù)回歸問題. Truong和Stone（1993）給出了在和范數(shù)下局部均值和局部中位數(shù)估計的收斂速度. 在比以前的工作更弱的條件下，Tran（1993）給出了最優(yōu)的收斂速度. Yao和Tong（1996）給出了相依過程下的條件期望分位數(shù)估計. Truong和Stone（1994）研究了一個半?yún)?shù)問題，并得到了它的速度估計. Vieu（1991）指出MISE，ISE和ASE的度量之間是等價的. 這個結(jié)果是對Marron和H228。ller（1988），M228。. 在這一節(jié)中，我們主要著眼于在相依數(shù)據(jù)上一些重要的發(fā)展上. 獨立樣本的非參數(shù)回歸 非參數(shù)密度估計和非參數(shù)回歸的發(fā)展有許多交叉之處. 核回歸是由Nadaraya（1964）和Watson（1964）獨立提出的. 其他的變形包括Priestley和Chao（1972）及Gasser和M252。 首先，我們建立偏倚表達(dá)式. 因為核有有界支撐，不妨設(shè)為，權(quán)重僅當(dāng)時不會退化到零. 因為，由（）以及泰勒展開可知，我們有，其中在和之間. 因此，我們有 . （）記.于是，由權(quán)函數(shù)的定義，我們有 （）現(xiàn)在我們證明對所有， （）和. （）假定（）和（）成立. 將這兩個結(jié)果代入（），我們由就得到了偏倚結(jié)果. 接下來，就只剩下證明（）和（）了. 這兩個結(jié)論的證明很相似，因此我們僅證明（）. 通過用積分來逼近離散和，并利用（），我們可得 .這就完成了（a）部分的證明. 對于（b）部分，記.則我們有， （）如果我們可以得到 （）的話，其中，那么（）中分子的兩部分具有相同的階. 由可知，第二部分實際上階很小. 類似地，由（）可知，（）的分母的第一部分是主要的. 因此，結(jié)果可由（）得出. 為證明（），記. 因為有有界支撐，則當(dāng)時會退化為零. 由此可知，當(dāng)，我們有.由（）可知，對于任意，存在一個大數(shù)使得對所有，有.我們記.因為時，退化為零，所以 .通過用連續(xù)積分來逼近離散和，對于，我們可得， .進(jìn)行變量代換后可得因此，讓，我們有.同樣的討論，我們可得.這樣我們就對的情況證明了（）. 當(dāng)，利用與上一部分類似的討論，對每個，我們有 .這樣就證明了（）. 對于的情形，我們寫.通過用積分來逼近離散和，對每個給定的，我們可得.因為，于是我們有.這樣我們就完成了證明. ，施加在混合系數(shù)和帶寬上的條件應(yīng)該是相關(guān)的. 這在下面的條件1（iv）中有更準(zhǔn)確的描述. 條件1 （i）核有界且具有有界支撐. （ii）條件密度. （iii）關(guān)于混合過程，我們假設(shè)有；關(guān)于混合過程，我們假設(shè)對某個和，有. （iv）對于混合和強混合過程，我們分別假設(shè)存在一個正整數(shù)序列滿足，使得下式成立，和. （v）和在點處是連續(xù)的，且. 證明 記和，并寫 主要的想法是試圖證明偏倚向量是以概率收斂到某一向量，中心化向量是漸近正態(tài)的. 我們先建立偏倚向量的漸近形式. 將在點鄰域內(nèi)泰勒展開，我們有 ， （）其中和如（）定義. 由（），我們便可得 ， （）其中. 我們再來考慮的聯(lián)合漸近正態(tài)性. 由（）可知， ， （）其中. 因此，我們需要建立關(guān)于的漸近正態(tài)性. 考慮任意一線性組合. 簡單的代數(shù)運算可得 ， （）其中，.于是這個問題轉(zhuǎn)化為證明的漸近正態(tài)性. 如果我們證明了 ， （）其中由此，我們可得.因此，.利用這個結(jié)論及（），. （）的證明需要其他的工作. 我們將其證明分成兩步：方差的計算和的漸近正態(tài)性證明. 方差的計算 注意 . （）由平穩(wěn)性，我們有.令為一整數(shù)序列，滿足. 定義.記. 對，利用條件1（ii），我們得對某個 ，于是我們可推出. 我們現(xiàn)在考慮的貢獻(xiàn). 對于混合過程，由（），我們有.對于強混合過程，利用Davydov’s引理（（參閱Hall和Heyde（1980），Corollary A2）），我們可得.對應(yīng)用條件1（iii），存在某個，使得，結(jié)合最后兩個不等式及，我們可得 .選擇滿足要求. 利用和的屬性，我們即可得出結(jié)論 （）于是，可得 的漸近正態(tài)性 這一步的證明對混合過程和強混合過程來說是一樣的. 在此，我們僅對混合過程來證明. 我們使用所謂的小塊和大塊分割方法. 分割為一些子集，使得大塊個數(shù)為，小塊個數(shù)為. 并且大塊后面緊接著一小塊. 記為分割塊的個數(shù). 記. 于是. 由（）和（）可得， . （） 記隨機(jī)變量和分別為第大塊和第小塊中變量的和. 也就是說，另外，記為在殘差塊上的和. 這時， .我們將證明，對任意，當(dāng)，有， （） ， （） ， （） . （）結(jié)論（）蘊涵著在小塊和殘差塊上的和和是漸近可忽略的. （）表明在中的大塊的加載項是漸近獨立的，且（）和（）是在獨立假設(shè)下的漸近正態(tài)性成立的標(biāo)準(zhǔn)LindbergFeller條件. 從表達(dá)式（）—（）便可證明（）的漸近正態(tài)性. 我們現(xiàn)在證明（）—（）. 我們先選擇塊的大小. 條件1（iv）蘊涵了存在常數(shù)使得.定義大塊的大小. 于是，容易證明 . （） 我們現(xiàn)在來建立（）和（）. 首先，由平穩(wěn)性和（），我們發(fā)現(xiàn).由（）和（），我們有同樣的討論也可應(yīng)用到（）和（）的第二部分. 注意，和的間隔至少有個. 因此，令，我們可得，由（），上式趨近于零. 這樣就證明了（）. 接下來我們來證明（）. 我們使用如下截斷技巧. 記，其中為一固定截斷點. 相應(yīng)地，我們也增加上角標(biāo)來表示而不是. 這樣，其中，.由是有界的（因為是有界的且具有有界支撐），則對某個常數(shù)有，. 這時，應(yīng)用（）便可得到.因此，當(dāng)很大時，就變成了空集，故有（）成立. 因此，我們就可得如下的漸近正態(tài)性 . （）為完成證明，即建立（），只要證明先，然后時，我們有 . （）就可以了. 實際上，由上式我們有： .第一部分是有界的，因為.令，由（）可得第一項將收斂于零，先令，然后再令時，由（）知，對每個，第二項都趨向于零，由控制收斂定理可得，當(dāng)時，第三項趨向于零. 因此，我們只需證明（）. 注意，和有同樣的結(jié)構(gòu)，因此，由（），我們可得由控制收斂，右邊當(dāng)時收斂到零. 這就建立了（）. . 證明這個引理的基本思想是聯(lián)合Mack和Silverman（1982）中的技巧和定理（）. 注意，為一般的常數(shù)，它在不同的場合數(shù)值會改變. 證明包括以下三步. （a）（離散化）記. 劃分區(qū)間為個等長的子區(qū)間. 令為的中心. 這時 . （） （b）（截斷）令，其中為一單增序列且滿足. 這時依概率1有 . （） （c）（離散化且截斷后序列的最大偏差）對于具有充分大的，倘若，則有 ， （）假定（a）—（c）中的結(jié)果都是正確的. 則對某個，取，由（）我們有，它是可忽略的. 這個和（）一起就得到 . （）由引理的條件可知，而且（）中給出的概率也趨向于零. 因此，.引理的結(jié)果由（）得出. 剩下的就是證明（a）—（c）部分的結(jié)果成立. （a）. 通過用的李普希茲條件，我們有 . （）類似地，用（）的第一個等式，我們有.這個和（）聯(lián)合就證明了（a）. （b）部分的證明與Mack和Silverman（1982）給出的證明很相似. 注意，由BorelCantelli引理，當(dāng)充分大時，依概率1成立. 因此，對于充分大的，有，對所有的.這就蘊涵了最終依概率1趨向于零. 這樣，只要證明期望部分有界就可以了. 利用如下事實，我們可得 .結(jié)合上述兩個結(jié)果，我們就證明了（b）部分. 我們現(xiàn)在來證明（c）部分. 記，則. 利用指數(shù)不等式（），對于任何，及，我們有 ， （）其中，.，當(dāng)充分大時，. 因此，取，由（）以及一些簡單的代數(shù)運算，我們得到 . （）重寫，這里充分大. 表達(dá)式（）有界且為.因此，這就證明了（c）部分，繼而完成了引理證明. . ，則得中的每一個元素都一致收斂，且隨機(jī)誤差階為，偏倚為. 由（），我們有，在上一致地成立. 注意，在（）. ，它的階是，且在上一致地成立. 便可由（）. 條件2 （i）核函數(shù)和對稱，有界，且具有有界支撐. （ii）是混合過程且. 此外，假設(shè)一正整數(shù)序列滿足和. （iii）函數(shù)有界且三階導(dǎo)數(shù)在點上連續(xù)，在點上是連續(xù)的. （iv）的不同元素間的聯(lián)合密度有界且由與獨立的一常數(shù)控制. 注意，上述混合條件很容易改為混合過程的條件. 證明 . . 因此，. 令，且對所有，.利用矩陣記號和簡單的代數(shù)運算，由（）和（），我們有 ， （）其中是一矩陣，且元素為，,.令和是矩陣，其元素分別是和，且. 我們將建立 （a）依概率趨向于； （b）依概率趨向于； （c）是漸近正態(tài)的，且均值為零，方差為. 將這些與（）聯(lián)合起來，我們有 . （）由泰勒展開，我們可得利用這個展開，并考慮到（）中的邊際分布，我們就得到了結(jié)果. 結(jié)論（a）已經(jīng)在（）中得到. 對于（b），由泰勒展開，我們有.再次利用（），我們有.這便證明了（b）. 為證明（c），我們考慮任意的線性組合，記常系數(shù)為. 令 ，其中. 記. 注意，是平穩(wěn)混合序列的和，它的漸近正態(tài)性可由小塊和大塊方法得出. . 文獻(xiàn)注釋 時間序列的平滑與密度估計和其他相關(guān)的問題諸如譜密度估計是密切相關(guān)的. 它是對獨立數(shù)據(jù)和相應(yīng)的非參數(shù)問題的平滑技巧的推廣. 參閱167。且?guī)捄蜐M足，則我們有，其中，這里是的邊際密度. .取