【文章內(nèi)容簡(jiǎn)介】 NN?????? ??????? ???? ?? ?2222221?1 ?bnnn M LENEN?? ? ???? ? ????????? ???? ? ?????信號(hào)檢測(cè)與估值 2017年春季 37 ML估計(jì)的不變性 若 是一對(duì)一變換，有 ……………. 是一對(duì) J(J1)變換， ? ?g???? ?() ?? gM L M L x? ? ??? ??? ? ??? ?g??? ? ??? M L M Lg???? ?( | ) | 。 1 , . . . ,jp x p x j J????? ? ? ?? ?? ?| m a x | , 1 , . . . ,? a r g m a x |jMLp x p x j Jpx????????信號(hào)檢測(cè)與估值 2017年春季 38 例 2 同例 1，求 的 ML估計(jì) ? ?e xp???信號(hào)檢測(cè)與估值 2017年春季 39 ? ? ? ? ???????? ???222 2e x p21nknkxxp?????? ? ? ? ? ????? ???????? ???? Nk nknNkkxxpp12221 2e x p21??????x由題設(shè)，可知，給定 條件下，觀測(cè)信號(hào) xk是均值為 ，方差為 的高斯 隨機(jī)變量 ? ? 2n?由于 是 的一對(duì)一變換，即是單調(diào)函數(shù)，因此可得 解： ? ??? exp? ?? ? ? ??? ???????? ??? Nk nknxp1222 2lne x p21?????x信號(hào)檢測(cè)與估值 2017年春季 40 ? ?mlNkkml xN ?? ?e x p1e x p?1???????? ??所以最大似然估計(jì)量為 ? ?? ??????????????? ?????? ??Nk nkxp 1 222lnln x ? ???? 12ln221 ?????nNkkx由最大似然估計(jì)原理，得最大似然估計(jì)量為滿足以下方程的解。 ? ? 0ln????? mlp????x信號(hào)檢測(cè)與估值 2017年春季 41 估計(jì)量的性質(zhì)：無(wú)偏性 非隨機(jī)變量 ?無(wú)偏估計(jì) ?有偏估計(jì) ?已知偏差的有偏估計(jì) 為無(wú)偏估計(jì) ? ? ? ?? ?E p d b? ? ? ? ?????? ? ? ??? ? xx? ? ?i f 0 , . . ,b i e E? ? ????? ??? ?if 0b ? ?? ?i f 0bb? ??? b??信號(hào)檢測(cè)與估值 2017年春季 42 估計(jì)量的性質(zhì)：無(wú)偏性 隨機(jī)變量 ?無(wú)偏估計(jì) ?有偏估計(jì) 漸近無(wú)偏估計(jì) ? ??i f EE???? ???? ?? ? ,E p d d? ? ? ???? ? ? ??? ??? ?? xx? ??i f EE???? ???? ? ? ?1 , RV?l im , R VNN Ex E?? ??? ???? ? ?????非信號(hào)檢測(cè)與估值 2017年春季 43 有效性 對(duì)于被估計(jì)量 的任意無(wú)偏估計(jì) 和 ，若估計(jì)的均方誤差 ?1?? 2??則稱估計(jì)量 比 更有效。 1?? 2??如果 的無(wú)偏估計(jì)量 小于其他任意無(wú)偏估計(jì)量的均方誤差，則稱該估計(jì)量為最小均方誤差估計(jì)量。 ? ??問(wèn)題：能否確定一個(gè)均方誤差的下界？ ? ? ? ?2212EE? ? ? ?? ? ? ?? ? ?? ? ? ?信號(hào)檢測(cè)與估值 2017年春季 44 一致性 則稱估計(jì)量 是一致收斂的估計(jì)量。 假設(shè)根據(jù) N次觀測(cè)量構(gòu)造的估計(jì)量為 ? ?Nx??若 ? ?Nx??? ?? ? 0?lim 2 ??????? ??? NNE x??則稱估計(jì)量 是均方一致收斂的估計(jì)量。 若 ? ?Nx??? ??l i m 0NN P ? ? ??? ??? ? ???x信號(hào)檢測(cè)與估值 2017年春季 45 充分性 若被估計(jì)量 的估計(jì)量為 ， x是觀測(cè)量。如果以 為參量的似然函數(shù) 能夠表示為： 則稱 為充分估計(jì)量。 其中， 是通過(guò) 才與 x有關(guān)的函數(shù)，并且以 為參量。 有效估計(jì)量必然是充分估計(jì)量 ? ?()x??( | ) ( ( ) | ) ( ) , ( ) 0p x g x h x h x? ? ????( | )px??()x??( ( ) | )gx?? ?()x? ?信號(hào)檢測(cè)與估值 2017年春季 46 CramerRao界 ：非 RV 非 RV情況：設(shè) 是非隨機(jī)參量 的無(wú)偏估計(jì)，則有 當(dāng)且僅當(dāng)對(duì)任意的 和 x，均滿足 時(shí)，不等式取等號(hào)。 ???? ?? ? ? ?22 2211? ?lnlnV a r EppEE? ? ????????? ? ? ? ??? ???? ? ? ? ??????? ? ? ????????? ??????xx? ? ? ? ? ?????? kp ?ln ???? x?信號(hào)檢測(cè)與估值 2017年春季 47 證明 設(shè) 是非隨機(jī)參量 的無(wú)偏估計(jì)，則有 ???對(duì)上式求偏導(dǎo)， 得 ? ?? ? ? ? ? ? 0?? ???? ? ??? xx dpE ?????? ? ? ???????? ????xx dp? ? ? ? ? ? ?xxxx dpdp ?? ?????? ?????????? ?0??E ???? ???信號(hào)檢測(cè)與估值 2017年春季 48 證明 ? ? ? ???????? ????xx dp? ? ? ? ? ? ?xxxx dpdp ?? ?????? ?????????? ?0?? ? 1????? xx dp ? ? ? ? ? ? ??? ?? ? xxx ppp ????? ln上式改寫(xiě)為 ? ? ? ? ? ? 1ln? ?????? ???xxx dpp ?? ???? ? ? ? ? ? 1ln?2??????????????xxxdpp?????信號(hào)檢測(cè)與估值 2017年春季 49 證明 根據(jù)柯西 施瓦滋不等式 ? ? ? ? ? ? ? ? ? ? ? ? ? ?2 22 w x g x h x d x w x g x d x w x h x d x? ? ?? ? ??? ??????? ? ?當(dāng)且僅當(dāng) 時(shí)，上式等號(hào)成立。 ? ? ? ?xkhxg ?? ? ? ??xx pw ? ? ? ? ?????? xx pg ln ? ? ?? ???xh信號(hào)檢測(cè)與估值 2017年春季 50 證明 ? ? ? ? ? ? 2ln?1 ?????????? ? ???xxx dpp ?? ???? ? ? ? ? ? ? ? xxxxx dppdp ?? ?????? ?????????? ??????22 ln?? ? ? ????????????????????????? ??22 ln?????xpEE? ?? ?????????????????????????? ?22ln1?????xpEE等號(hào)成立條件 ? ? ? ? ? ?xx hkg ??? ? ? ?? ?????? ?ln ???? kp x信號(hào)檢測(cè)與估值 2017年春季 51 證明 克拉美 羅不等式的另一種形式 ? ? 1????? xx dp ?? ? 0???????xx dp ? ? ? ? ? ? xxx dpp ???? ??? ??? ln求偏導(dǎo) 再求一次偏導(dǎo) ? ? ? ? ? ? ? ?xxxxxxdppdpp?????????????? ??????????????222 lnln? ? ? ?????????????????????????????222 lnln???? xx pEpE? ? ? ? ? ? ? ? xxxxxx dppdpp?????????????? ?? ??????lnln22?0信號(hào)檢測(cè)與估值 2017年春季 52 證明 克拉美 羅不等式的另一種形式 ? ? ? ?????????????????????????????222 lnln???? xx pEpE所以 ? ? ? ? ? ????????????????? ??222ln1???????xpEEV a r信號(hào)檢測(cè)與估值 2017年春季 53 Remarks 非隨機(jī)參量情況下的克拉美 羅不等式的含義和用途 ? ? ? ?????????????????????????????222 ln1ln1???? xx pEpE(1) 非隨機(jī)參量 的任意無(wú)偏估計(jì)量 的方差 ，即均方誤差恒不小于 ? ??(2) 若非隨機(jī)參量 的無(wú)偏估計(jì)量 滿足 ??? ? ? ? ? ? ?????? kp ?ln ???? x則估計(jì)量的方差 取到最小值，即取到克拉美 羅界。 ? ? ? ??????? ??2?? ??? EVa r?Var ?????信號(hào)檢測(cè)與估值 2017年春季 54 Remarks (3) 若非隨機(jī)參量 的無(wú)偏估計(jì)量 滿足 ? ?? ? ? ? ? ? ????? ? kp ?ln ???? x? ? ? ? ?????? ?? 2?? ??? EVa r則無(wú)偏估計(jì)量 是有效的，否則是無(wú)效的。 ??(4) 若非隨機(jī)參量 的無(wú)偏估計(jì)量 是有效的，則估計(jì)量的方差，即均方誤差可由克拉美 羅界取得。 ? ??? ? ? ??????????????????????????????2