多元線性回歸模型的參數(shù)估-展示頁
2025-05-26 23:13本頁面
【正文】 ? 根據(jù) 最小二乘原理 ，參數(shù)估計值應使得剩余平方 和達到最小， min Q = min ? e2 = ? (Yi Yi )2 即 i + ? k X ki )]2 min ? e2 = ?[Yi ? (? 0 + ? 1 X1i + () ??2? ?Yi ? (?1 + ?2 X 2i + ?3 X 3i + ... + ?ki X ki )? = 0 ? X1i ? ?)ki ? = 0 ???2? X ki ? ?? = 0 ?Yi ? (? 0 1 X1i + + ? k X ki ) 利用微積分知識，只要求 Q關(guān)于待估參數(shù)的偏導 數(shù) ，并令其值為零，即 ? , k ) = 0 ( j = 0,1, ?(? ei2 ) ?? j 就得到待估參數(shù)估計值的正規(guī)方程組： ? ??2 ?Yi ? (? 0 + ? 1 X1i + + ? k X ? ? ? + ?(*) ?? (? 0 + ? 1 X1i + ?? (? 0 + ? 1 X1i + ??? (? 0 1 X1i + + ? 在 (*)式中，移項得： ? ? ? ? 解這個 k＋ 1個方程組成 的線性代數(shù)方程組，即可 得到 k＋ 1個待估參 數(shù)的估計值 + ? k X ki ) = ?Yi + ? k X ki )X1i = ?Yi X1i + ? k X ki )X ki = ?Yi X ki ? j ( j = 0,1, , k ) () ? ? ? X 1i ? X ?? ? 0 ? ? 1 ? ? X 1i X ki ?? ?1 ? ? X 11 ? X ki ?? k ? ?? X k 1 ?? ?? ? 1 ?? Y1 ? ?? Y ? ()的正規(guī)方程組 的 矩陣形式 ?? ? ? ?? ? = ? ? ? X ? X ? X ki ? n ? ? ? ? X ki ?? ? X 1n ?? Y2 ? ?? ? ?? ? X kn ?? n ? ki 2 1i 2 1i X 1i 1 X 12 X k 2 ? 即 (X?X)β= X?Y ? 由于 X’X滿秩 ，故有 β= (X?X) ?1 X?Y ? () () ) )? ? ? ? ? ? ? ? ? ) ? 將上述過程用 矩陣表示 如下： 即求解方程組： (Y ? Xβ ?(Y ? Xβ = 0 ? β ? ? ? ? ?β (Y?Y ? 2Y?Xβ+ βX?Xβ = 0 ?β ? X?Y + X?Xβ= 0 ? X?Y = X?Xβ ?β= (X?X) ?1 X?Y 得到 于是 ?Yi ? (? 0 + ? 1 X1i + + ? k X ki )? = ei ?j X ji ie = 0 對于 (*)式，注意到 ? ? 用矩陣形式表示：我們可以得到正規(guī)方程的另一種形式 , k ? j = 1, 2, ?? ei = 0 ? ?? () ()式是多元回歸模型 正規(guī)方程的離差形式。 二元線性回歸模型的一般形式為： ?0 = Y ? ?1 X 1 ? ? 2 X 2 β β 2稱為 偏回歸系數(shù) 。 ? 1 ? X 1 ? ? ? ? ? ?
法律信息相關(guān)推薦
鄂ICP備17016276號-1