【文章內(nèi)容簡介】 生推薦，這不僅幫用戶節(jié)省了大量的時(shí)間，也為網(wǎng)站贏得了口碑。 研究 目標(biāo)與 內(nèi)容 在互聯(lián)網(wǎng)信息泛濫的今天，如何 幫助用戶在互聯(lián)網(wǎng)上快速準(zhǔn)確地找到自己感興趣的社區(qū)已經(jīng)成為新的研究熱點(diǎn)。社交網(wǎng)站也迫切需要一種好的社區(qū)推薦算法，來幫助他們提高用戶體驗(yàn)。 經(jīng)過廣泛的調(diào)研與分析，我們發(fā)現(xiàn)現(xiàn)有的文獻(xiàn) 中 關(guān)于社區(qū)推薦的算法，容易遇到由于數(shù)據(jù)觀察的限制所導(dǎo)致的過擬合現(xiàn)象以及計(jì)算量龐大的問題。并且這些方法忽略了用戶與社區(qū)之間的關(guān)系強(qiáng)弱，也沒能考慮用戶興趣隨著時(shí)間的發(fā)展變第 一 章 緒論 第 3 頁 化。如果有新用戶加入，無法及時(shí)快速 地 更新模型，沒有良好的可擴(kuò)展性。 本文 的研究目標(biāo)就是在互聯(lián)網(wǎng)信息過載的背景下， 尋找一種快速有效的手段使得用戶可以迅速找到自己感興趣的社區(qū) ，并且解決 現(xiàn)有的社區(qū)推薦方法所遇到的以上 問題。 具體的研究內(nèi)容分為以下幾點(diǎn)： 1. 利用 用戶在社區(qū)上的發(fā)帖次數(shù)作為衡量用戶與社區(qū)關(guān)系強(qiáng)弱的指標(biāo)，以此來計(jì)算用戶與社區(qū)之間的關(guān)系。 把 用戶與各個(gè)社區(qū)的關(guān)系強(qiáng)弱作為軟約束，應(yīng)用 LDA 算法去計(jì)算 每個(gè)用戶 的潛在主題分布，以及每個(gè)潛在主題下的社區(qū)分布，以此來給用戶進(jìn)行個(gè)性化社區(qū)推薦。 2. 提出一個(gè)在線計(jì)算框架， 用一個(gè)增量的方法處理新加入的用戶。每當(dāng)加入新的用戶時(shí)，維持原有的模型參數(shù)不變，單獨(dú)訓(xùn)練一個(gè) 新 的模型，由于數(shù)據(jù)量小，可以迅速收斂，然后將其與原有的模型進(jìn)行合并，從而達(dá)到實(shí)時(shí)更新 模型，在線運(yùn)算的效果。 3. 如何 將用戶興趣與時(shí)間的關(guān)系加入到推薦算法中去。 考慮到用戶的興趣隨時(shí)間有著發(fā)展變化的過程，單純 地 依靠發(fā)帖次數(shù)來衡量用戶與社區(qū)的關(guān)系強(qiáng)弱不是十分準(zhǔn)確。為了彌補(bǔ)這一不足，我們 計(jì)算 時(shí)間信息對(duì)用戶興趣建模的影響因子，再利用影響因子來給用戶 主題分布加權(quán)。 結(jié)構(gòu)安排 本文一共分為 6 章，各章節(jié)安排內(nèi)容如下： 第一章簡 要介紹本文的研究背景及研究意義，闡述 本文 的研究目標(biāo)與內(nèi)容，最后介紹 論文結(jié)構(gòu)安排。 第二章是相關(guān)背景。在這一章中，我們 從 現(xiàn)有的 個(gè)性化 推薦方法的 原理 出發(fā) ，對(duì)主流的推薦方法進(jìn)行詳細(xì) 講解與對(duì)比，探討了推薦方法的 發(fā)展趨勢， 從而為下文的研究工作打好基礎(chǔ)。 第三章提出 一種 基于在線軟約束 LDA 算法的社區(qū)推薦方法，其中重點(diǎn)講述如 何 將用戶與社區(qū)關(guān)系強(qiáng)弱作為軟約束 然后 通過 LDA 模型去 挖掘用戶的 潛在 行為 ，以及為了提高算法效率提出的在線運(yùn)算框架， 并分析實(shí)驗(yàn)結(jié)果。 第四章提出一種 基于 時(shí)間信息 的 社區(qū) 推薦算法， 重點(diǎn)講述 如何用核密度估計(jì)的辦法來衡量用戶的興趣隨時(shí)間的變化，以及如何用用戶興趣來影響潛在主題分布， 最后分析實(shí)驗(yàn)結(jié)果。 第五章將本文提出的基于在線軟約束 LDA 的社區(qū)推薦算法應(yīng)用到實(shí)際系統(tǒng)中，主要介紹該平臺(tái) 的設(shè)計(jì)和應(yīng)用，以及如何將算法應(yīng)用到該平臺(tái)中，最后展示第 一 章 緒論 第 4 頁 了算法的推薦結(jié)果。 第 六 章是本文的結(jié)論、工作總結(jié)和對(duì)未來工作的展望。 本文最后是本人攻讀學(xué)位期間發(fā)表的學(xué)術(shù)論文 以及申請(qǐng)的專利 、參與的科研項(xiàng)目和致謝。 第 二 章 相關(guān)背景 第 5 頁 第二章 相關(guān)背景 本章主要對(duì)個(gè)性化推薦的相關(guān)背景技術(shù)進(jìn)行分析探討， 介紹 個(gè)性化推薦 的應(yīng)用背景以及常見的幾種個(gè)性化推薦方法，分析并對(duì)比這幾種方法的不足，研究個(gè)性化推薦技術(shù)的發(fā)展 ，從而為第三章和第四章的研究打好基礎(chǔ)。 個(gè)性化推薦技術(shù) 如今，互聯(lián)網(wǎng) 儼然 已經(jīng)成為人們?nèi)粘Ｉ钪?最不可或缺的一部分。通過互聯(lián)網(wǎng)獲取自己所需要的信息資源 已經(jīng) 成為 人們獲取信息最快捷的方式。然而， 隨著互聯(lián)網(wǎng)上的信息越來越豐富，這些 海量信息已經(jīng)大大超過了用戶 所能接受 的閱讀量， 用戶要從中找到適合自己的信息是非常困難的，往往要耗費(fèi)大量的時(shí)間和精力。因此，如何能讓用戶準(zhǔn)確而又迅速的找到自己想要的資源，成為了各個(gè)網(wǎng)站迫切需要解決的問題。 用戶也非常希望網(wǎng)站能夠?yàn)樽约禾峁﹤€(gè)性化的服務(wù)，可以根據(jù)自己的興趣愛好以及瀏覽習(xí)慣，單獨(dú)為自己 提供信息，從而更方便更快捷。在這樣的 形勢 下，個(gè)性化推薦技術(shù)應(yīng)運(yùn)而生。 個(gè)性化推薦技術(shù) [9][10][11][12]為網(wǎng)站的訪問者們提供個(gè)性化服務(wù)，為他們提供了方便的同時(shí)，也 有效地 提高 了 網(wǎng)站的 服務(wù)質(zhì)量 和效率 ， 成功 地 減少 了 網(wǎng)絡(luò)信息泛濫 的問題，也避免了服務(wù)單一化 ， 從而 為網(wǎng)站吸引 了更多的用戶。 網(wǎng)站可以 提供 個(gè)性化的推薦服務(wù) 給用戶 ，根據(jù)不同用戶的 興趣以及 訪問頻度 ，單獨(dú)為每個(gè)用戶定制網(wǎng)頁， 使得網(wǎng)頁內(nèi)容能夠盡可能地根據(jù)用戶的瀏覽興趣自動(dòng)進(jìn)行調(diào)整，這樣既可以吸引新用戶，又可以防止舊用戶的流失。網(wǎng)站能夠根據(jù)各個(gè)用戶的特點(diǎn)來推薦他們可能感興趣的內(nèi)容，而不是單一地對(duì)所有用戶提供 同樣 的界面。 如今的 網(wǎng)站不僅僅要擁有面向所有用戶的 統(tǒng)一的 信息和服務(wù)，更要有專門針對(duì)各個(gè)不同用戶的 個(gè)性化服務(wù)，從以“網(wǎng)頁”為中心轉(zhuǎn)換為以“用戶”為中心。 近年來 ，已經(jīng)有大量的網(wǎng)站應(yīng)用了個(gè)性化推薦技術(shù)來提高用戶體驗(yàn) ，例如著名的 Amazon、 eBay、 Yahoo 等網(wǎng)站都 開始把握 個(gè)性化服務(wù)帶來的巨大商機(jī) 。 以卓越 網(wǎng)為例。如圖 所示。 卓越亞馬遜 是國內(nèi)著名的商業(yè)網(wǎng)站，大型的網(wǎng)上購物中心， 互聯(lián)網(wǎng)用戶可以在該網(wǎng)站上購買服裝百貨、電子產(chǎn)品、影像制品以及圖書等等各種各樣的產(chǎn)品。 當(dāng)用戶點(diǎn)擊其中任何一款產(chǎn)品時(shí)，網(wǎng)站會(huì)給用戶進(jìn)行如下形式的推薦： 經(jīng)常一起購買的產(chǎn)品（如圖 (a)），購買此商品的顧客也同時(shí)購買的產(chǎn)品（如圖 (b)），瀏覽此商品的顧客最終購買的產(chǎn)品以及購買的百分第 二 章 相關(guān)背景 第 6 頁 比（如圖 (c)）。這些推薦方式都會(huì)在一定程度上提高用戶體驗(yàn)，增加網(wǎng)站 的銷售額。 圖 卓越網(wǎng)首頁 (a) (b) 第 二 章 相關(guān)背景 第 7 頁 (c) 圖 卓越網(wǎng)推薦方式 目前，個(gè)性化推薦算法主要可以分為以下兩種 [11][14][15]：基于內(nèi)容（ contentbased）的推薦方法和協(xié)同過濾（ collaborative filtering）的推薦方法。 和 節(jié)將分別介紹上述 兩種推薦方法。 基于 內(nèi)容的推薦 方法 基于內(nèi)容的推薦算法 [16][17][18]，是 通過計(jì)算用戶已經(jīng)選擇過的資源與待推薦資源之間的相似性 ，然后依據(jù)相似性給 待 推薦資源進(jìn)行排序，相似性越高的資源，越優(yōu)先推薦給用戶。 這種方法不需要 收集 用戶對(duì) 資源的評(píng)價(jià) ， 而是需要通過機(jī)器學(xué)習(xí)的方法來學(xué)習(xí)用戶的興趣 ，通過關(guān)于內(nèi)容的特征描述，對(duì)用戶進(jìn)行興趣建模。 隨著機(jī)器學(xué)習(xí)技術(shù)的 不斷發(fā)展和 完善， 目前已有 的基于內(nèi)容的推薦系統(tǒng)可以 通過分析已經(jīng)瀏覽過的內(nèi)容， 對(duì)用戶和 資源 分別 建立 描述 文件， 然后不斷獲取新的內(nèi)容來 更新用戶的 描述 文件。系統(tǒng)可以 通過 比較用戶與 資源描述 文件的相似度， 直接向用戶推薦與其 描述 文件 相似 度較高 的 資源 。 可以看出，相似度的計(jì)算是基于內(nèi)容的推薦算法中很重要的部分。給用戶推薦某資源，就是看這個(gè)資源的描述文件與用戶的描述文件的相似性有多大。 當(dāng)相似度 高于 某個(gè)閾值 時(shí) 便推 薦給用 戶，相似度和推薦程度成正比 ， 相似度 越大，推薦程度越高。 常用的相似度度量方法主要有以下幾種： (1) 均方誤差評(píng)價(jià) 用向量來表示用戶興趣與資源的描述，假設(shè)用戶興趣為 x ，資源描述為 y ，則基于均方誤差的評(píng)價(jià)為 ：求出各個(gè)維度的值之差值，再求各次差值的平方和，再求平均。如公式 ： 第 二 章 相關(guān)背景 第 8 頁 211 ()n iiir e s u lt x yn ???? () 其中， n 為剔除粗大誤差之后的維度個(gè)數(shù)。 其結(jié)果越小說明 兩者 的 相似度越高 。 (2) Camberra 距離度量 Camberra 距離定義： 1( , )n iii iixyS x y xy??? ?? () 因?yàn)榭紤]到 兩個(gè)向量 （經(jīng)過剔除粗大誤差后）的數(shù)據(jù)個(gè)數(shù)不一致，因此，對(duì)Camberra 距離進(jìn)行一個(gè)平均，即 采用的距離為修正后的： 11( , ) n iii iixyS x y n x y??? ? ?? () 其值越小，說明 兩者 的 相似度越高 。 (3) 歸一化內(nèi)積 歸一化內(nèi)積定義： ( , ) TxyS x yxy? ? () 這里已經(jīng)對(duì)數(shù)據(jù)進(jìn)行了歸一化處理，因此，剔除粗大誤差后的 數(shù)據(jù)的個(gè)數(shù)對(duì)評(píng)價(jià)結(jié)果沒有影響。 這里度量實(shí)質(zhì)是向量 x 與 y 之間的 夾角的 余弦，因此具有旋轉(zhuǎn)、放大、縮小的不變性。其值越大，說明兩者相似度越高 。 (4) 頻譜分析法 首先將用戶興趣向量與資源描述向量都進(jìn)行傅立葉變換，然后計(jì)算各個(gè)維度的幅度值之差的平方的均值。 其值越小說明 兩者相似度越高 。 (5) 擬合優(yōu)度評(píng)價(jià)方法 根據(jù)最小二乘數(shù)據(jù)擬合的評(píng)價(jià)標(biāo)準(zhǔn)， 采用它的擬合優(yōu)度評(píng)價(jià)參數(shù) 2R 來進(jìn)行評(píng)價(jià)。 擬合優(yōu)度 2R 的計(jì)算公式為： 第 二 章 相關(guān)背景 第 9 頁 2 1 SSERSST?? () 其中， 21 [ ( )]niiiS S E y y x???? () 22111 ()nniiiiS S T y yn?????? () 2R 越大，說明擬合效果越好。 (6) 相關(guān)系數(shù)評(píng)價(jià) 相關(guān)系數(shù)計(jì)算公式： ( , )( ) ( )XY Co v X YD X D Y? ? () 其中， ( , )Cov X Y 表示 X 與 Y 的協(xié)方差， ()DX 、 ()DY 為 X 、 Y 的 方差。計(jì)算公式為： ( , ) { [ ( ) ] [ ( ) ] }C ov X Y E X E X Y E Y? ? ? () 2 2 2( ) {[ ( ) ] } ( ) [ ( ) ]D X E X E X E X E X? ? ? ? () 其值越接近于 1 說明這兩種正相關(guān)性越好。 分別計(jì)算各個(gè) 維度數(shù)據(jù) 的相關(guān)系數(shù)，根據(jù)求得的相關(guān)系數(shù)與 1 的接近程度進(jìn)行評(píng)判。 (7) 其他相似度度量方法 A． Chebychev 度量 ( , ) m a x j j jS x y x y?? () B． Minkovsky 度量 ( , ) m a xj j jS x y x y?? () C． Mahalanobis 距離 1 1 / 2( , ) [ ( ) ( ) ]TS x y x y W x y?? ? ? () 其中， W 為各特征矢量的協(xié)方差矩陣 。 如何對(duì)用戶進(jìn)行興趣建模，主要 取決于所用學(xué)習(xí)方法，常用的 機(jī)器學(xué)習(xí)方法第 二 章 相關(guān)背景 第 10 頁 有決策樹 [66][67][68]、 人工 神經(jīng)網(wǎng)絡(luò)和向量表示 法等。 (1) 決策樹 決策樹 ， 是 一種 自上而下的來生成的 樹形結(jié)構(gòu) 。每個(gè)決策或事件（即自然狀態(tài)）都 有 可能 有不同的結(jié)果，從而 引出兩個(gè)或多個(gè) 分支 ，把這種決策分支畫成圖形 就會(huì) 很像一棵樹的枝干，故稱決策樹。 決策樹的 每個(gè)分支 可以 是一個(gè)新的決策節(jié)點(diǎn)， 也有可能 是樹的結(jié)尾，稱為葉子。在從上到下遍歷 決策樹 的過程中， 每個(gè)節(jié)點(diǎn)都 是 一個(gè)問題，對(duì)每個(gè)節(jié)點(diǎn)上問題的回答 不同 導(dǎo)致不同的分支，最后會(huì)到達(dá)其中 一個(gè)葉子節(jié)點(diǎn)。這個(gè)過程就是利用決策樹進(jìn)行分類的過程 。具體實(shí)現(xiàn)方式就是： 利用幾個(gè)變量來判斷所屬的類別 ，其中 每個(gè)變量對(duì)應(yīng)一個(gè)問題 ， 最 終的 每個(gè)葉子會(huì)對(duì)應(yīng)一個(gè)類別 。 (2) 人工 神經(jīng)網(wǎng)絡(luò) 人 工神經(jīng)網(wǎng)絡(luò)（ Artificial Neural Networks， ANNs）也簡稱為神經(jīng)網(wǎng)絡(luò)（ NNs）或稱作連接模型 （ Connectionist Model），它是一種 通過模仿 動(dòng)物神經(jīng)網(wǎng)絡(luò)行為特征 來 進(jìn)行分布式并行信息處理的 數(shù)學(xué)模型。 人工神經(jīng) 網(wǎng)絡(luò)依靠系統(tǒng)的復(fù)雜程度 ，通過調(diào)整內(nèi)部大量節(jié)點(diǎn)之間 的 相互連接的關(guān)系，從而達(dá)到處理信息的目的 。 (3) 向量 表示法 用向量來表示用戶興趣，就是 以 用戶對(duì)資源 的 各個(gè) 不同 屬性特征的興趣度 來替代用戶 對(duì)資源的整體 興趣 。 每個(gè)屬性特征作為向量的一個(gè)維度，每個(gè)維度的值表示用戶對(duì)該屬性特征的感興趣程度。 基于內(nèi)容的推薦算法有著推薦結(jié)論直觀且容易解釋、不需