【文章內(nèi)容簡介】 歸結(jié)為：在固定和的情況下，解 (9)對的求解可歸結(jié)為：在固定和的情況下，解 (10)經(jīng)推導(dǎo)（見附錄的第3部分）知，對的求解可歸結(jié)為：在除外、和均固定的情況下，解 (11)其中。 對BFBNMSF優(yōu)化模型的統(tǒng)計(jì)學(xué)解釋式(5)表示的BFBNMSF模型可通過引入維的誤差項(xiàng)等價(jià)地變成如下的形式： (12)即認(rèn)為由加隨機(jī)擾動(dòng)精確生成。為解得、和，可做最大似然估計(jì)，那么 (13)假定，那么 (14)假定間是統(tǒng)計(jì)獨(dú)立的，則： (15)那么式(13)的最大似然估計(jì)等價(jià)于 (16)進(jìn)一步假設(shè)常數(shù)，則式（16）等價(jià)于 (17)因此，式（7）表示的BFBNMSF優(yōu)化模型實(shí)際是在假定獨(dú)立同正態(tài)分布的情況下對、和做最大似然估計(jì)。 BFBNMSF算法，可推得了如下4個(gè)定理（證明見附錄）：定理1：在和固定的情況下，令是非負(fù)的，按 (18)調(diào)整可使式（7）中的BFBNMSF目標(biāo)函數(shù)值下降且非負(fù)（和分別代表哈達(dá)馬乘和除，在中寫代表當(dāng)前的狀態(tài)，在中寫代表更新后的狀態(tài)）。 定理2：在和固定的情況下, 令是非負(fù)的，按 (19)調(diào)整可使式（7）中的BFBNMSF目標(biāo)函數(shù)值下降且非負(fù)。INPUT: 以及隨機(jī)初始化、和重復(fù)如下操作，直到收斂依定理1執(zhí)行Eq. (18)依定理2執(zhí)行Eq. (19)p從1到 N做： c從1到做： 如果 依定理3執(zhí)行Eq. (20) 否則q從1到做： 依定理4執(zhí)行Eq.(21)OUTPUT: 、和圖3. 偽碼表示的BFBNMSF算法定理3：，記，，如果，在除外的、和固定的情況下，令是非負(fù)的，按 (20)調(diào)整可使式（7）中的BFBNMSF目標(biāo)函數(shù)值下降且非負(fù)。定理4：在除外的、和固定的情況下，式（7）中的BFBBNSF目標(biāo)函數(shù)在 (21)處達(dá)到對有非負(fù)限制時(shí)的最小值（如果，不改變；如果，使取零）。根據(jù)定理1~4，可構(gòu)造如圖3所示的單調(diào)BFBNMSF算法（偽碼表示）。4. 實(shí)驗(yàn)這部分利用一些實(shí)驗(yàn)驗(yàn)證處理數(shù)據(jù)矩陣集時(shí)，BFBNMSF比NMF描述力強(qiáng)、推廣性好。由于主分量分析（principal ponent analysis, PCA）[17]是最常用的數(shù)據(jù)描述工具，所以在所有的比較實(shí)驗(yàn)中，PCA也被作為了被比較方法之一。為使通過實(shí)驗(yàn)得出的驗(yàn)證結(jié)論客觀，本節(jié)中，每一驗(yàn)證實(shí)驗(yàn)都將基于多組數(shù)據(jù)進(jìn)行，這些組數(shù)據(jù)在樣本量和數(shù)據(jù)類型等方面存在差異。 描述力比較這3種描述方法間在描述力上的差異，需設(shè)定統(tǒng)一的參照指標(biāo)，這個(gè)指標(biāo)定為壓縮率最合理。假設(shè)被處理數(shù)據(jù)矩陣集為，是維的，根據(jù)壓縮率的定義[18]，做BFBNMSF時(shí)的壓縮率為，做NMF時(shí)的壓縮率為，做PCA時(shí)的壓縮率也為（PCA基矩陣的列維也用表示）。圖4. BFBNMSF、NMF和PCA間的描述力比較（基于ORL人臉數(shù)據(jù)庫）圖5. BFBNMSF、NMF和PCA間的描述力比較示例（示例中原圖取自O(shè)RL人臉數(shù)據(jù)庫））圖7. BFBNMSF、NMF和PCA間的描述力比較示例（示例中原圖取自PIE人臉數(shù)據(jù)庫）圖6. BFBNMSF、NMF和PCA間的描述力比較（基于PIE人臉數(shù)據(jù)庫的子庫） 圖9. BFBNMSF、NMF和PCA間的描述力比較示例（示例中原圖取自MIT行人數(shù)據(jù)庫）圖8. BFBNMSF、NMF和PCA間的描述力比較（基于MIT行人數(shù)據(jù)庫）這里的實(shí)驗(yàn)共使用3組數(shù)據(jù)，它們分別是ORL人臉數(shù)據(jù)庫的400幅圖）、PIE人臉數(shù)據(jù)庫子庫（所有人的正面光照下的各種姿態(tài)圖）的共884幅圖和MIT行人數(shù)據(jù)庫的924幅圖[19]。利用這3組數(shù)據(jù)，3種被比較方法的描述力（用做處理后重建出的數(shù)據(jù)與原始數(shù)據(jù)間的相對誤差表示）分別在不同壓縮率（壓縮率約為2的1次到7次冪）下被計(jì)算，圖圖6和圖8依次勾畫了3種被比較方法基于這3組數(shù)據(jù)的log2(壓縮率)——（平均）相對誤差曲線。圖圖6和圖8的縱坐標(biāo)均為（平均）相對誤差，這是指：為了客觀，圖上有關(guān)BFBNMSF和NMF的每個(gè)數(shù)據(jù)點(diǎn)都是相同實(shí)驗(yàn)設(shè)置下10次隨機(jī)初始化得到的10個(gè)解算得的相對誤差的平均值；PCA是有解析解的方法，有關(guān)PCA的數(shù)據(jù)點(diǎn)僅由一次計(jì)算得到,它不需由多次計(jì)算取平均而得。BFBNMSF的曲線在圖圖6和圖8中均始終列于最下方且基本上遠(yuǎn)離NMF和PCA的曲線，這說明同壓縮率下，BFBNMSF比NMF和PCA對矩陣集描述得準(zhǔn)確得多。圖圖7和圖9依次對圖圖6和圖8所記錄的比較結(jié)果給出了圖示，這些圖示直觀地支持了上述結(jié)論。 推廣性本小節(jié)比較上述3種描述方法在推廣性上的差異，統(tǒng)一的參照指標(biāo)取為描述系數(shù)量。相同描述系數(shù)量下，BFBNMSF對訓(xùn)練數(shù)據(jù)的描述力通常要差于NMF和PCA（因?yàn)樵谙嗤枋鱿禂?shù)量下，做BFBNMSF時(shí)的壓縮率常常遠(yuǎn)高于做NMF時(shí)和做PCA時(shí)的壓縮率），如果此時(shí)BFBNMSF對測試數(shù)據(jù)的描述力好于NMF和PCA，那么說明BFBNMSF對訓(xùn)練數(shù)據(jù)的描述力與對測試數(shù)據(jù)的描述力間差異小于NMF和PCA對訓(xùn)練數(shù)據(jù)的描述力與對測試數(shù)據(jù)的描述力間差異，即BFBNMSF比NMF和PCA的推廣性好。、NMF以及PCA間的推廣性比較示例（訓(xùn)練數(shù)據(jù)為ORL人臉數(shù)據(jù)庫）方法訓(xùn)練結(jié)果示例推廣性測試結(jié)果示例取自O(shè)RL庫取自YALE庫取自PIE庫取自UMIST庫原圖BFBNMS F/壓縮率=重建誤差NMF/壓縮率=重建誤差PCA/壓縮率=重建誤差注：；2. 壓縮率指對訓(xùn)練數(shù)據(jù)的壓縮率；、NMF以及PCA間的推廣性比較示例（訓(xùn)練數(shù)據(jù)為PIE人臉數(shù)據(jù)庫的子庫）方法訓(xùn)練結(jié)果示例推廣性測試結(jié)果示例取自PIE庫的子庫取自YALE庫取自O(shè)RL庫取自UMIST庫取自PIE庫的其他子庫原圖BFBNMS F/壓縮率=重建誤差NMF/壓縮率=重建誤差PCA/壓縮率=重建誤差0158注：；2. 壓縮率指對訓(xùn)練數(shù)據(jù)的壓縮率；；、29和7號攝像機(jī)拍攝（與訓(xùn)練圖的拍攝角度不同）。、NMF以及PCA間的推廣性比較示例（訓(xùn)練數(shù)據(jù)為MIT行人數(shù)據(jù)庫）方法訓(xùn)練結(jié)果示例（取自MIT庫）推廣性測試結(jié)果示例(取自INRIA庫)原圖BFBNMS F/壓縮率=重建誤差NMF/壓縮率=重建誤差PCA/壓縮率=重建誤差注：；2. 壓縮率指對訓(xùn)練數(shù)據(jù)的壓縮率；表1以O(shè)RL庫的400幅圖為訓(xùn)練數(shù)據(jù)，以YALE庫、PIE庫和UMIST庫的圖像為測試數(shù)據(jù)，給出了對這3種方法的推廣性進(jìn)行比較實(shí)驗(yàn)的示例。這時(shí)，在同保留225個(gè)描述系數(shù)的情況下，做BFBNMSF的壓縮率（）遠(yuǎn)高于做NMF和做PCA的壓縮率()，BFBNMSF對訓(xùn)練數(shù)據(jù)的描述力差于NMF和PCA（見表1中“訓(xùn)練結(jié)果示例”下重建圖及其對應(yīng)的重建相對誤差）；但BFBNMSF對YALE庫、PIE庫和UMIST庫圖像的描述力遠(yuǎn)遠(yuǎn)好于NMF和PCA（見表1中“推廣性測試結(jié)果示例”下重建圖及其對應(yīng)的重建相對誤差）。表2和表3也給出了對這3種方法的推廣性進(jìn)行比較的實(shí)驗(yàn)示例。與表1不同的是：表2以PIE庫子庫（9號攝像機(jī)獲取的所有人的不同光照下圖像）的1428幅圖為訓(xùn)練數(shù)據(jù)，以YALE庫、ORL庫、UMIST庫以及PIE庫的其他子庫（所有人的正面光照下各種姿態(tài)圖，共884幅，）圖像為測試數(shù)據(jù)；表3以MIT庫