【正文】 ??????ii ppyIppppyIl o g)(l o gl o g)( 2211② 、 信息增量的概念 設(shè) x為某個(gè)指標(biāo)，選取一個(gè) ，按照條件 是否滿足，可以將樣本分為兩組，分別計(jì)算各組中 y的熵 ，指標(biāo)x的信息增量定義為： 其中， 分別表示兩組樣本所占的比重。 ⑧ 、 逐步回歸的 SAS程序 proc logistic descending data=?，F(xiàn)在可以得到線行判別函數(shù)為： ④ 、 如何建立預(yù)測(cè)規(guī)則 * 指標(biāo)的判斷：正指標(biāo)還是負(fù)指標(biāo)（正指標(biāo)）。 ⑥ 、 隨機(jī)抽樣構(gòu)造訓(xùn)練樣本組、檢驗(yàn)樣本組的 SAS方法： * 將 EXCEL數(shù)據(jù)庫(kù)轉(zhuǎn)為 SAS數(shù)據(jù)庫(kù)； * SAS隨機(jī)數(shù)函數(shù) —— uniform（ seed）， 隨機(jī)種子數(shù)seed取奇數(shù)，產(chǎn)生 [0， 1]區(qū)間上的一個(gè)隨機(jī)數(shù) * 隨機(jī)建立訓(xùn)練樣本組、檢驗(yàn)樣本組的 SAS程序 data a； set 。 第二章：分類與預(yù)測(cè) 一、分類與預(yù)測(cè)的概念 分類 已知離散的、有限的幾個(gè)類，判斷或預(yù)測(cè)樣本屬于那個(gè)類。 class y。經(jīng)常的情況是，知道預(yù)測(cè)變量的大致范圍，但不知哪些變量具有較大的信息含量。 預(yù)測(cè)準(zhǔn)確率： 訓(xùn)練樣本組 檢驗(yàn)樣本組 St公司： 46/56= 46/55= 非 St公司 ： 428/504= 419/504= )()|1( 1 . 8 1 1 0654321zxyPPxxxxxxz???????????? 決策樹(shù)方法 與前面討論的幾種分類預(yù)測(cè)方法相比，決策樹(shù)方法是一種近年來(lái)才出現(xiàn)的分類預(yù)測(cè)方法，其基本原理如下。 0x 0xx?)(),( 21 yIyI)]()([)()( 2211 yIqyIqyIxga i n ???21,qq0x0x ③ 、 分類預(yù)測(cè)方法 —— 決策樹(shù)方法 利用信息增量的概念 ， 數(shù)據(jù)挖掘中創(chuàng)造了一種分類預(yù)測(cè)的決策樹(shù)方法 ， 其基本的思路是反復(fù)地利用信息增量方法進(jìn)行樣本分割 ， 直到不能再分割 、 或者達(dá)到事先的約定為止 。 ⑨ 、 SAS結(jié)果 構(gòu)建 Logistic回歸模型的變量為： y y y y y y1 y1 y1 y14； ⑩、 預(yù)測(cè)規(guī)則與預(yù)測(cè)準(zhǔn)確率 預(yù)測(cè)規(guī)則： P＞ ,一年后上市公司將陷入財(cái)務(wù)困境 。 * 也可以建立另外形式的預(yù)測(cè)規(guī)則。 對(duì)已進(jìn)行 k排序的數(shù)據(jù)庫(kù) a data b。 海量數(shù)據(jù) —— 沙漠，隱含的知識(shí) —— 金子， 數(shù)據(jù)挖掘 —— 從沙漠中挖掘金子的技術(shù)。較常用的距離度量是馬氏距離： ，判別分析實(shí)際上是利用距離差： 為判斷指標(biāo)來(lái)判斷樣本的