應(yīng)用概率統(tǒng)計(jì)之判別分析(參考版)
2025-03-09 19:17本頁(yè)面
【正文】 定義：設(shè) p 維向量 u0 滿足 EuuBuuEuuBuuu ????? max0000則對(duì)于任意觀測(cè)值 x ， 稱為 Fisher線性判別函數(shù) xu0?二、 Fisher線性判別函數(shù)的建立 —— u 的得出 目標(biāo)函數(shù)： ? ? Euu Buuu ????約束條件（保證 u的唯一性）： 1??Euu由 Lagrange乘數(shù)法得到： ??????1EuuEuBu ?進(jìn)一步推出： ?????????EuuBuuuBuE 1定理： Fisher線性判別函數(shù)中的 u0 是 E1B 的最大特征根所對(duì)應(yīng)的特征向量。 兩個(gè)總體的費(fèi)歇（ Fisher）判別法 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? u： 能使總體盡可能分開(kāi)的方向 x：不能使總體盡可能分開(kāi)的方向 旋轉(zhuǎn)坐標(biāo)軸至總體單位盡可能分開(kāi)的方向，此時(shí)分類變量被簡(jiǎn)化為一個(gè) 一、 Fisher 線性判別函數(shù) 假設(shè)有 m 個(gè)總體 G1, …, Gm ， xi 表示來(lái)自總體 Gi 的樣品。 其思想是：找一個(gè)方向 ， 在這個(gè)方向上要使各總體內(nèi)部盡可能 “ 密集 ” ；而各總體之間盡可能 “ 分開(kāi) ” 。 ? 誤判概率的計(jì)算 ? W(x) 的條件分布 ? ? ? ? ??????? ?? ,2~| 11 NGxxW ? ? ? ? ?????? ?? ?? ,2~| 12 NGxx其中 ? ? ? ?21121 ????? ???? ?V證明： ? ? ? ? ? ? ? ?DWEWNxVxW ,~ 1121 ??? ???? ?? 誤判概率 ? ? ? ?? ?? ? ? ?? ? ?????? ???????????? ?????????2/1|2|12/|1|22`1`dGdxWPPdGdxWPP? 實(shí)際應(yīng)用問(wèn)題 1. 判別函數(shù)： 2. 先驗(yàn)概率及損失：在無(wú)先驗(yàn)信息的情況下，常?。? ? ?? ? ? ?? ? ? ?? ?21121?2xxVxxxxW ?????????? ??? ?nnqnnqqq 221121 ,21 ???? 或? ? ? ?1|22|1 cc ?三、 m 個(gè)總體的判別 1. Bayes 判別的基本定理：假設(shè)有 m 個(gè)總體為G1, …, Gm ， 對(duì)應(yīng)的概率密度分別為 損失是 { c(j|i)}, 則劃分 R=(R1, …, Rm ) 的 Bayes 解為 ? ? ? ?xfxf m,1 ? ? ? ? ?? ?: m in , 1 , ,l l jjR x h x h x l m? ? ?其中 ? ? ? ? ? ????miiij xfijcqxh1|將 x判給 Rj的風(fēng)險(xiǎn)密度 證明： ? ? ? ? ? ?? ? ? ?? ? ? ?? ?1111111| | ,||lllmmiilmmiiRilmmiiRlimlRlg R q c l i P l i Rq c l i f x dxq c l i f x dxh x dx
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1