【正文】 機參量 的任意無偏估計量 的方差 ，即均方誤差恒不小于 ? ?? ? ???Var(3) 若隨機參量 的無偏估計量 滿足 ???? ? ? ?kp ???? ?,ln ???? x 則估計量的方差 取到最小值，即取到克拉美 羅界。是 ?? ml?? ?? ??????????????? ?????? ??Nk nkxp 1 222ln x ? ?2122nNkkx?????? 2 1nNkkxN?? ?????211nNkkxNN?? ?????? ????? ? ?2?nmlN??? ???信號檢測與估值 2017年春季 59 ? ? ? ? NkE nml 22 1? ???? ????????? ?? ?? ? ? ? ???????? ?????? ????????????NkkNNmlN nNPP11lim?lim xml??最大似然估計量 是 的有效估計量，且估計量的均方誤差為 ????????? ?? ?????NkkN nNP11lim 0?ml??最大似然估計量 是一致收斂估計量。 ? ml??? ? 0ln????? mlp????x最大似然估計量為 ? ? ? ? ? ?????? kp ?ln ???? x由 ? ? ? ? 0? ? ?? ?mlk ????? ml?? ???信號檢測與估值 2017年春季 56 均方誤差 若非隨機參量 的無偏估計量 也是有效的，則其均方誤差為 ? ??? ? ? ? ? ????? kEV a r ???????? ?? 1?? 2? ? ? ? ? ?????? kp ?ln ???? x由 ? ? ? ? ? ? ? ??????????????? kkp ?ln22 x? ? ? ? ? ? ? ? ? ????????? kkkEpE ???????????????????? ?ln22 x? ? ? ? ? ? ? ??? ???? kpEEV ar ?????????????????? ??1ln1??222 x信號檢測與估值 2017年春季 57 例 1 如果參量 的觀測方程為 ?Nknx kk ,2,1, ???? ?其中 nk是均值為零，方差為 的獨立同分布高斯隨機噪聲， 2n?試討論估計量 的最大似然估計量 的無偏性、有效 性和一致性。 ? ??? ? ? ??????????????????????????????222 ln1ln1???? xx pEpE信號檢測與估值 2017年春季 55 Remarks (5) 若非隨機參量 的 無偏 有效估計量 存在，它必定是 的最大似然估計量 ，且可由最大似然方程解得。 ? ? ? ??????? ??2?? ??? EVa r?Var ?????信號檢測與估值 2017年春季 54 Remarks (3) 若非隨機參量 的無偏估計量 滿足 ? ?? ? ? ? ? ? ????? ? kp ?ln ???? x? ? ? ? ?????? ?? 2?? ??? EVa r則無偏估計量 是有效的，否則是無效的。 ???? ?? ? ? ?22 2211? ?lnlnV a r EppEE? ? ????????? ? ? ? ??? ???? ? ? ? ??????? ? ? ????????? ??????xx? ? ? ? ? ?????? kp ?ln ???? x?信號檢測與估值 2017年春季 47 證明 設(shè) 是非隨機參量 的無偏估計，則有 ???對上式求偏導(dǎo)， 得 ? ?? ? ? ? ? ? 0?? ???? ? ??? xx dpE ?????? ? ? ???????? ????xx dp? ? ? ? ? ? ?xxxx dpdp ?? ?????? ?????????? ?0??E ???? ???信號檢測與估值 2017年春季 48 證明 ? ? ? ???????? ????xx dp? ? ? ? ? ? ?xxxx dpdp ?? ?????? ?????????? ?0?? ? 1????? xx dp ? ? ? ? ? ? ??? ?? ? xxx ppp ????? ln上式改寫為 ? ? ? ? ? ? 1ln? ?????? ???xxx dpp ?? ???? ? ? ? ? ? 1ln?2??????????????xxxdpp?????信號檢測與估值 2017年春季 49 證明 根據(jù)柯西 施瓦滋不等式 ? ? ? ? ? ? ? ? ? ? ? ? ? ?2 22 w x g x h x d x w x g x d x w x h x d x? ? ?? ? ??? ??????? ? ?當(dāng)且僅當(dāng) 時，上式等號成立。 其中， 是通過 才與 x有關(guān)的函數(shù)，并且以 為參量。 若 ? ?Nx??? ??l i m 0NN P ? ? ??? ??? ? ???x信號檢測與估值 2017年春季 45 充分性 若被估計量 的估計量為 ， x是觀測量。 ? ??問題：能否確定一個均方誤差的下界？ ? ? ? ?2212EE? ? ? ?? ? ? ?? ? ?? ? ? ?信號檢測與估值 2017年春季 44 一致性 則稱估計量 是一致收斂的估計量。 ? ? 0ln????? mlp????x信號檢測與估值 2017年春季 41 估計量的性質(zhì)：無偏性 非隨機變量 ?無偏估計 ?有偏估計 ?已知偏差的有偏估計 為無偏估計 ? ? ? ?? ?E p d b? ? ? ? ?????? ? ? ??? ? xx? ? ?i f 0 , . . ,b i e E? ? ????? ??? ?if 0b ? ?? ?i f 0bb? ??? b??信號檢測與估值 2017年春季 42 估計量的性質(zhì)：無偏性 隨機變量 ?無偏估計 ?有偏估計 漸近無偏估計 ? ??i f EE???? ???? ?? ? ,E p d d? ? ? ???? ? ? ??? ??? ?? xx? ??i f EE???? ???? ? ? ?1 , RV?l im , R VNN Ex E?? ??? ???? ? ?????非信號檢測與估值 2017年春季 43 有效性 對于被估計量 的任意無偏估計 和 ，若估計的均方誤差 ?1?? 2??則稱估計量 比 更有效。求 并與 比較 Nknx kk ,2,1, ???? ?2n?2?? ?ML??b?信號檢測與估值 2017年春季 34 ? ?? ?? ?2211222ln2NNkkk nknxxp????? ? ????? ????? ?? ??????? ?x? ? ? ? ???????? ???222 2e x p21nknkxxp?????? ? ? ? ? ????? ???????? ???? Nk nknNkkxxpp12221 2e x p21??????x? ? 0ln????? mlp????x???Nkkml xN11??信號檢測與估值 2017年春季 35 均方誤差 ? ?? ?221221122211?111Nm l kkNNkkkkNnkkE E xNE n E nNNEnNN? ? ??????????????? ? ????????? ??????? ? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ?? ? ? ???????????信號檢測與估值 2017年春季 36 22211? NbkknxNN?????? ??????? ???? ?? ?2222221?1 ?bnnn M LENEN?? ? ???? ? ????????? ???? ? ?????信號檢測與估值 2017年春季 37 ML估計的不變性 若 是一對一變換，有 ……………. 是一對 J(J1)變換， ? ?g???? ?() ?? gM L M L x? ? ??? ??? ? ??? ?g??? ? ??? M L M Lg???? ?( | ) | 。 s信號檢測與估值 2017年春季 29 解： ? ? ? ??ln ln 0m a pssp x s psss???? ?????????根據(jù)最大后驗估計準(zhǔn)則，估計量為滿足以下方程的解，即 最大后驗估計 ? ?????? ????其他,0,21MMMSsSSsp? ? ? ?2221 e x p22 nnxsp x s???????? ????由題設(shè)，可知，給定 條件下，觀測信號 xk是均值為 ，方差為 的高斯 隨機變量 s s 2n?信號檢測與估值 2017年春季 30 ? ? ? ?? ? 2212ln ln 2nMxsp x s ps Ss s s s??? ? ?????? ? ??? ? ? ? ? ?? ? ?? ? ? ?? ?2222 nnxs xs??? ???所以最大后驗估計量為滿足以下方程的解 2?0m a pn ssxs? ?? ? ?mapsx?? ?????? ????其他,0,21MMMSsSSsp ? ?? ? 2221 e x p22 nnxsp x s???????? ????信號檢測與估值 2017年春季 31 由于 s在 (SM, SM)之間取值，所以 ,? ,MMm a p M MMMS x Ss x S x SS x S? ? ???? ? ? ??? ??信號