應用概率統(tǒng)計之判別分析-資料下載頁
2025-03-07 19:17本頁面
【正文】 ?mjxVxijcqxhmiiiij,121exp|11???????? ????? ??? ??167。 3 Fisher判別 ? 基本思想： Fisher借助方差分析的思想來導出線性判別函數(shù) 。 其思想是：找一個方向 ， 在這個方向上要使各總體內(nèi)部盡可能 “ 密集 ” ；而各總體之間盡可能 “ 分開 ” 。 然后將觀測值向這個方向投影 ， 根據(jù)投影值的大小來進行判別 。 兩個總體的費歇（ Fisher）判別法 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? u： 能使總體盡可能分開的方向 x：不能使總體盡可能分開的方向 旋轉坐標軸至總體單位盡可能分開的方向，此時分類變量被簡化為一個 一、 Fisher 線性判別函數(shù) 假設有 m 個總體 G1, …, Gm ， xi 表示來自總體 Gi 的樣品。對任一給定的方向 u， xi 在該方向上的投影為 mix i ,1, ??? ? ?12, 1 , , ,1, 1 , ,i i imiii i ix E u x u i mxxmD u x u V u i m?????? ? ????????? ? ??記 ? 在 u 方向各總體之間的分離程度 —— 組間離差 ? ? ? ? ? ?? ? ? ?? ? ? ?2211111mmiiiimiiimiiimiiiB u x x uu u u uuuu m uu B u??? ? ? ?? ? ? ?? ? ? ?????????? ? ? ????? ? ? ?? ? ??? ??? ? ???????? ? ??????????????? 在 u方向各總體內(nèi)部的聚集程度 —— 組內(nèi)離差 ? ? EuuuVuuE miimii ????????????? ???? 112?Fisher判別的思想：選擇 u， B(u)/E(u) 達到最大。 定義：設 p 維向量 u0 滿足 EuuBuuEuuBuuu ????? max0000則對于任意觀測值 x ， 稱為 Fisher線性判別函數(shù) xu0?二、 Fisher線性判別函數(shù)的建立 —— u 的得出 目標函數(shù)： ? ? Euu Buuu ????約束條件（保證 u的唯一性）： 1??Euu由 Lagrange乘數(shù)法得到： ??????1EuuEuBu ?進一步推出： ?????????EuuBuuuBuE 1定理： Fisher線性判別函數(shù)中的 u0 是 E1B 的最大特征根所對應的特征向量。 三、 Fisher判別的計算步驟： ? 列出樣本觀測陣（共 m 個） ? 計算樣本均值 ? 計算 ? 計算各總體的離差陣 Si 及 和 ? ? mix i ,1, ?? ? ? ???????miimi i SmnV 111? ? ?? ?? mi ixmx 11 ? ? ? ? xxmxxB miii ???? ?? 1?1??V
教學課件相關推薦
鄂ICP備17016276號-1