【正文】 (leastsquare estimation) ? 無偏估計 (unbiased estimation) 最大似然估計法估計分布參數(shù) 討論一個未知參數(shù) θ 的情形，設觀測數(shù)據(jù)為 ? 離散分布情形：可令 為該分布的概率質(zhì)量函數(shù)，定義似然函數(shù) L(θ )為： θ 的最大似然估計值 使 L(θ )取最大值 ? 連續(xù)分布情形：令 為概率密度函數(shù)，定義似然函數(shù)為 12, , , nx x x()Px?12( ) ( ) ( ) ( )nL P x P x P x? ? ?? ??()fx?12( ) ( ) ( ) ( )nL f x f x f x? ? ?? ?連續(xù)分布例：指數(shù)分布 /1() xf x e ?? ??? ( 0)? ? ???12 ///11 1 1 1( ) ( ) ( ) ( ) e x p ( )n nxxx niiL e e e x?????? ? ? ???? ??? ? ? ?()L ? ?ln ( )L ?11( ) l n ( ) l n niiR L n x? ? ? ??? ? ? ? ?2111 0 / ( )nniiiid R n x x n x nd ?? ? ? ??? ? ? ? ? ? ???22 2 312 niid R n xd ? ? ? ?? ? ? ?()xn? ?ix22 0dRd ? ?密度函數(shù)為 ，被估計的參數(shù) 由 為求使 取最大值的 ，取對數(shù) 因 嚴格遞增， 取最大值等價于 最大 求極值 考慮到 當 時 ，由于 為正 ，顯然 為最大值 ()L ? ln ( )L ?離散分布例：泊松分布 被估計參數(shù) 質(zhì)量函數(shù) 由 令 故為最大似然估計值 ( 0 )? ? ???( ) / ! ( 0 , 1 , 2 , )xxP x e x x? ????1121( ) ( ) ( ) ( ) / ( ! )niinxnniiL P x P x P x e x?? ? ??? ?????? ?1 1( ) l n ( ) ( ) l n l n ( ! )nniii iR L n x x? ? ? ?? ?? ? ? ? ?? ?111 0 / ( )nniiiidR n x x n x nd ??? ??? ? ? ? ? ? ???22211 0niidR xd ?? ?? ? ??? 對多個參數(shù)的估計問題，上述方法原則上適用，只是計算更繁瑣，有時不能解析計算，必須用數(shù)值計算方法 ? 常見分布的參數(shù)的最大似然估計 ? 均勻分布 密度函數(shù) 參數(shù) ( , )U a b1()0a x bfx baothe r? ????????1m in iinax??? 1m a x iinbx???? 正態(tài)分布 密度函數(shù) 位置參數(shù) 比例參數(shù) ? 二項分布 質(zhì)量函數(shù) t為正整數(shù)， ， t已知時 2( , )N ??22( ) / 221()2xf x e ???????()xn? ? 2 1 / 21( ( ) )n Snn???( , )bin t p( 1 ) , { 0 , 1 , , }()0,x t xt p p x tPx xothe r?? ?? ??? ??? ? ????(0,1)p ? ( ) /p x n t?二、分布類型的假設 ? 對觀測數(shù)據(jù)進行預處理后，才能對分布類型進行假設 ? 連續(xù)分布數(shù)據(jù)的預處理方法 ? 點統(tǒng)計法、直方圖法、概率圖法 ? 離散分布數(shù)據(jù)的預處理方法 ? 點統(tǒng)計法、線圖法 ? 定義實驗分布 連續(xù)分布類型的假設（ 1） ? 點統(tǒng)計法：基于連續(xù)分布的偏差系數(shù)特征進行分布類型假設 ? 偏差系數(shù) （方差、均值） ? 常見分布的偏差系數(shù)取值范圍 ? 指數(shù)分布 ? 均勻分布 ， ? 取值 ，除 0以外 ? 正態(tài)分布 ， ，取值同上 ( ) / ( )V ar x E x? ?()EXPO ? 1??( , )U a b ( ) / [ 3 ( ) ]b a a b? ? ? ?( , )?? ?2( , )N ?? /? ? ??? 預處理 ， ? 則 ? 顯然不能唯一確定分布類型，且計算不一定無偏，但對確定理論分布具有指導作用 1( ) ( )niiE x x n x?? ? 221( ) ( ) [ ( ) ] /( 1 )niiV a r x S n x x n n?? ? ??2 ( ) / ( )S n x n? ?連續(xù)分布類型的假設（ 2） ? 直方圖法 ? 將 的取值范圍等分為 k個區(qū)間 ， ? 令 表示第 j個區(qū)間上觀測數(shù)據(jù)個數(shù) 占總數(shù)的比例，即 ? 定義函數(shù) 1 ~ nxx0 1 1 2 1[ , ) , [ , ) , [ , )kkb b b b b b? 1 , ( 1 , 2 , )jjb b b j k?? ? ? ?jg jn/ , ( 1 , 2 , )jjg n n j k??010()0i j jkxbh x g b x bxb????? ? ??? ??? 作出 h(x)的直方圖，并與理論分布的密度函數(shù)圖形比較，選擇接近的分布 ? 困難：區(qū)間長度 Δ b的取值 ? 太大：丟失很多信息 ? 太小：不能抑制觀測噪聲 ? 一般應多選幾個 Δ b，取使直方圖包絡線較光滑的 區(qū)間長度 連續(xù)分布類型的假設（ 3） ? 概率圖法 ? 通過比較分布函數(shù)確定理論分布 ? 設 有 m個取值，記為 x(1)…x(m) ? 定義實驗分布 其中 表示小于或等于 x(i)的觀測數(shù)據(jù)的個數(shù)，顯然 ? 為避免由有限個觀測數(shù)據(jù)得到的實驗分布函數(shù)值＝ 1，修正為 1 ~ nxx[ ( ) ] / , ( 1 , 2 , )iF x i n n i m??inmnn?[ ( ) ] ( ) /iF x i n n??? 概率圖不能直接比較（基本都是 S型），而是采用 “ 分位點 ” 比較法 ? 定義：設 0g1，則 稱為 F(x)的分位點 ? 若 F(x)， G(y)同分布，取不同的 g，得 ，應形成斜率為 45度的直線 ? 當 軌跡呈非 45度直線時，仍為同分布類型，僅參數(shù)不同，可作變換： 使其成為同分布函數(shù) 1 ()gx F g??( , )ggxy( , )iixyiiyx??? ??例：某交通干道車輛流模型，觀測 90min，共 220輛汽車通過觀測點，時間間隔如下 單位：min ? 由表中數(shù)據(jù)直接計算可得 ? 偏差系數(shù)接近 1，因此可假設觀測數(shù)據(jù)服從指數(shù)分布，其參數(shù)為 ( 21 9) 0. 39 9 m inx ? 2 ( 219 ) 4 m inS ?2 ( 21 9 / ( 21 9) 51Sx? ??： ? 將觀測數(shù)據(jù)取值范圍分為若干等長區(qū)間，區(qū)間長度 Δb分別取為 ， ，得直方圖如下 ? 基本形狀接近指數(shù)分布 Δb= Δb= Δb= ： ? 定義觀測數(shù)據(jù)的實驗分布函數(shù)： ? 用概率圖法分別與指數(shù)分布（左圖）和正態(tài)分布（右圖）進行比較 219 ( ( ) ) ( 0. 5 ) / 21 9 , ( 1 , 92 )iF x i n i? ? ?顯然與指數(shù)分布更接近線性 離散分布類型的假設（ 1） ? 點統(tǒng)計法 ? 與連續(xù)分布的情形相同，偏差系數(shù) ? 常見分布： 2 ( ) / ( )S n x n? ?( 1 , ) , 1 , ( 0 , 1 )Bin p p??? ? ?( ) , 1Poisson ?? ?離散分布類型的假設（ 2） ? 線圖法 ? 觀測數(shù)據(jù) ， m個取值 ? 記 x(i)的數(shù)據(jù)個數(shù)占總數(shù)的比例為 由函數(shù)值 向相應的自變量 x(i)作垂線得線圖，與理論分布的質(zhì)量函數(shù)進行比較即可 ? 注意：與連續(xù)分布的情形相比，沒有信息的丟失 ( 1 ) ( 2) ( ) , ( )x x x m m n? ? ? ?( ( ) ) , 1 ,ih f x i i m??ih1 ~ nxx例：庫存系統(tǒng) ? 觀測統(tǒng)計每天發(fā)送的零件數(shù)量，結(jié)果如下表，現(xiàn)根據(jù)數(shù)據(jù)確定零件發(fā)送模型 ? 點統(tǒng)計法 ? 因此可假設觀測數(shù)據(jù)服從泊松分布 ( 87 ) ? 2 ( 8 5 ) 2 5 .7 7 7S ?2 ( 8 7 ) / ( 8 7 ) 0 .9 4 5Sx? ???