【正文】 nyi, “熵和信息化的措施 ,” Proc. Fourth Berkeley Symp. Math. Statistics and Probability, vol. 1, pp. 547561,1961. [37] N. Jardine and R. Sibson, 數(shù)學(xué)分類 . John Wiley amp。 —— ),( 211 ?? ?trelD 和 ),( 212 ?? ?trelD 具有正值，并不表示 21 tt和 （其中121, Vtt ? ）是相互緊密聯(lián)系的。從本文研究 中可以看出，這直觀的概念與本文中所介紹的其他概念是有區(qū)別的：詞和對象的關(guān)聯(lián)性。 基于幾個散度測定方法，我們深入討論并正式解釋了鑒別測量法。 更好的性能使我們想到，將查詢詞的權(quán)重合并到詞的關(guān)聯(lián)值中是不合適的，這很可能是因為查詢詞的鑒別信息已經(jīng)合并到鑒別 測量中，且反復(fù)使用信息可能會降低檢索的性能。 ● ),( 1* ?trelI 和 ),( 21* ?? ?trelJ 應(yīng)用在查詢的不同部分時，它們顯示的性能很相似，在所有的評估點上，它們都幾乎優(yōu)于 ),( 21* ?? ?trelK 。從 TREC 相關(guān)評估提供 的 有關(guān)文件 ，使用的標準評價措施是： PK（在排名 前 K文件的平均精度，其中 K=5,10） ,AP(50 個查詢中的評價精度 ) ， RP(RP 精度 —— 文件 R 號的精度 )。第一組是 ),( 1?trelI ， ),( 21 ?? ?trelJ 和),( 21 ?? ?trelK ，它們分別在式 (17),(19),(22)給出了。方法的詳細描述，如文件的權(quán)重函數(shù) )(td? ，查詢的權(quán)重函數(shù) )(tq? （為估計 )(ti? 的值， i=1,2），擴展查詢 （記為 39。 IR的實例 在 IR中，用戶提供的問題（作為主體）對于用戶的信息需求來說，通常是不夠的、不準確的或是不完全的描述，一個恢復(fù)的系統(tǒng)僅通過用戶的查詢是不能 25 被期望產(chǎn)生理想的結(jié)果。在我們的系統(tǒng)中，所有文件都是有來源的，所有的禁用詞都被刪除了。則對 )(tPA 的討論也類似，在文獻 [40]中詳細地討論了估計詞分配問題。 **21 Pp VV ?的文件，這些文件希望包含相互作用的蛋白質(zhì) 21 PP和 ，反之亦然。 TM的實例 TM 通常指的是提取新的、以前并不知道的知識的過程 ，它是通過從文本信息源中自動提取關(guān)鍵詞， TM 的一個典型例子發(fā)生在基因組學(xué)領(lǐng)域：蛋白質(zhì)與其他蛋白質(zhì)相互作用，為預(yù)測它們的相互作用，現(xiàn)有一些統(tǒng)計模型學(xué)習方法可以在討論蛋白質(zhì)文件中確定詞共 現(xiàn)模型。 2. ),( 21 ?? ?trelJ 是 ),( 1?trelJ 和 ),( 2?trelJ 的代數(shù)加權(quán)和 ,因此0),( 211 ?? ??trel J 和 0),( 212 ?? ??trel J 這 兩個值并不能保證 21 tt和 兩個密切相關(guān)，為鑒定 1V 中的詞互相密切相關(guān)， 則可通過式 (15)為每個選定詞的查證。 正如第三節(jié)所提到的， ),( 21 ?? ?trelD 是兩個相反的 ),( 1?trelD 和 ),( 2?trelD的代數(shù)加權(quán)和： 當 t在文件 A 中也出現(xiàn)的時候， 它提供的不僅是 1?與t 的關(guān)聯(lián)性，而且還是 2?與t 的關(guān)聯(lián)性 。 ??? ittVt ，則有 ),(),( 239。 ??? ittVt ，則有 ),(),( 139。 在定義 ，根據(jù)式 (9)(14)給出的鑒別測量方法，我們可以寫出關(guān)聯(lián)性測定的一系列定義，很顯然下面三個定義是定義 ： 定義 設(shè)每個 Vt? 都有 )()( tPtP AA ?? ，在每個 Vt? 中， t與對象 1? 之間的關(guān)聯(lián)性可以由下式規(guī)定： )( )(l og)()()()(),( 111 tP tPtPttif dttr e l AAAII ???? ??? (17) 定義 設(shè)每個 Vt? 都有 )()( tPtP AA ?? 且 )()( tPtP AA ?? ,在每個 Vt? 中， t與對象 1? 之間的關(guān)聯(lián)性可以由下式規(guī)定： ),()()(),( 11112 ??? tre ltif dttre l IIJ ??? 上式在式（ 17）已給出； t與對象 2? 之間的關(guān)聯(lián)性可以由下式規(guī)定： )( )(l og)()()()(),( 222 21 tP tPtPttif dttr e l AAAIJ ???? ??? (18) t與對象 21 ??? 之間的剩余關(guān)聯(lián)性可以由 下式規(guī)定： ),(),(),( 2121 ???? tr eltr eltr el JJJ ??? (19) 20 定義 對每個 Vt? 設(shè) )()()( 21 tPtPtP AA ?? ??? ，在每個 Vt? 中， t與對象 1? 之間的關(guān)聯(lián)性可以由下式規(guī)定： )()(),(111 tifdttrel IK ??? ?? (20) )()( )(l og)()( 211 tPtP tPtPt AA AA ??? ??? t與對象 2? 之間的剩余關(guān)聯(lián)性可以由下式規(guī)定： )()(),(222 tif dttr e l IK ??? ?? (21) )()( )(l og)()( 212 tPtP tPtPt AA AA ??? ??? t與對象 21 ??? 之間的剩余關(guān)聯(lián)性 可以由下式規(guī)定： ),(),(),( 221121 ?????? tr e ltr e ltr e l KKK ??? (22) 特別是，如果我們只考慮鑒別信息而沒將對象的權(quán)重合并到關(guān)聯(lián)值中， 上面所說的個別關(guān)聯(lián)性測量方法的相應(yīng)的關(guān)聯(lián)性測定法可以寫出，例如： )(),( 1* tifdtrel II ?? (23) )()()(),(211221* tif dtif dtif dtr e l IIJJ ???? ?? (24) )()()(),(21 2121* tif dtif dtif dtr e l IIKK ?? ???? ???? (25) 它能夠讓我們了解詞的鑒別信息是如何為系統(tǒng)性能發(fā)揮作用的。 b. )()1()()1( 22 tPtP AA ?? ??? ，也就是 )()()( 21 tPtPtP AAA ?? ?? ，因此0)|:( 2 ?? tHHi ， t也傳達支持 2H 反對 ?H 的信息，且 t有助于支持 2H 反對 ?H的 )(22 tifdifd II ?? ?。 2. 如果 )()( tPtP AA ? ，則 a. )()1()()1( 11 tPtP AA ?? ??? ，也就是 )()()( 21 tPtPtP AAA ?? ?? ，因此0)|:( 1 ?? tHHi ， t傳達支持 1H 反對 ?H 的信息，且 t有助于支持 1H 反對 ?H 的)(11 tifdifd II ?? ? 。 因此， 0)()}(),(m a x {212112* ??? tif dtif dtif d III?，且 ):(s up 12 HHtJ ? ，因此與第二點比較， 0)( ?tifdJ 表明 t支持 2H 比 ?H 更多一些。 b. 0)|:( 21 ?tHHi ， t也傳達支持 2H 反對 1H 的信息，且它有助于支持 2H 反對 1H 的 )(2121 tifdifd II ??。 評論 注意，從上面的三點我們不能找到 t的 ssc和 ??)(tsscD ，在這三點的情況下，我們也不能說 t有助于支持 2H 反對 1H 的 0??Iifd，因為)()|:()()|:()()( 2112 1212 tif dtHHitPtHHitPtif d IAAI ???? 。類似的討論將應(yīng)用到第二個子項中，則有 15 下列正式定義： 定義 對每個 Vt? 都設(shè) )()()( 21 tPtPtP AA ?? ??? ，則每個 Vt? 支持 1H 反對?H 的鑒別信息的定義為： )( )(log)()()( 1)1( tP tPtPtif dtif d AAIK ??? ? (12) )|:()|( 11 tHHiHtP ? 支持 2H 反對 ?H 的鑒別信息的定義為： )( )(log)()()( 1)2( tP tPtPtif dtif d AAIK ??? ? (13) )|:()|( 22 tHHiHtP ?? 且 t傳達的剩余信息的定義為： )()()( )2(2)1(1 tifdtifdtifd KKK ?? ?? (14) 在下一節(jié)中， 我們討論在定義 知的鑒別信息的性質(zhì)，并給出相應(yīng)的解釋。 現(xiàn)在回到式（ 6），定向散度 ):( AA PPI 可以看成是)|:()|()( 211 tHHiHtPtifd I ? ，其中 )|: 21 tHHi 可看作是 t支持 1H 反對 2H 的鑒別力 ，幅度概率 )|( 1HtP 測量 t在類 A中的決策力，因此，根據(jù)定義 ，01 21 ?? ?? 且 ，則 )(tifdI 表示支持 1H 反對 2H 的信息，因此我們可以得到下列的正式定義： 定義 設(shè)對 Vt? 時 )()( tPtP AA ?? ，對于每個 Vt? ，則支持 1H 反對 2H 的鑒 14 別信息為： )( )(log)()()()1( tP tPtPtif dtif d AAAII ?? (9) )|:()|( 211 tHHiHtP? 接著 回到式（ 7）， 同樣的散度 ):( AA PPJ 可表達成 )(tifdJ 的和 ，每個都有兩個子項： )|:()|( 21112 tHHiHtPifd I ?和 )|:()|()( 12221 tHHiHtPtif d I ?，在式（ 9）中我們討論了 )()(12 tifdtifd II ?，類似的討論可以應(yīng)用到第二個子項中，因此通過定義 ，消去 2121 ????，則我們可以得到下列的正式定義： 定義 設(shè) )()( tPtP AA ?? ，對每個 Vt? 有 )()( tPtP AA ?? ，支持 1H 反對 2H 的鑒別信息可以由下式定義： )()()(12)1( tifdtifdtifd IIJ ?? 此式在式（ 9）已給出，支持 2H 反對 1H 的鑒別信息可以由下式定義： )( )(l og)()()( 21)2( tP tPtPtif dtif d AAAIJ ?? (10) )|:()|( 122 tHHiHtP? 且 t傳達的剩余信息由下式定義： )()()( )2()1( tifdtifdtifd JJJ ?? (11) 現(xiàn)在進一步假設(shè) 21 HH和 是 t以先驗概率 21 ??和 從 A和A 中提取，設(shè) ?H 是 t從 CAA ??? ? 中提取的，且 )|()()( 21 ?? ??? HtPtPtPP AA ?? 。 鑒別測量 方法 設(shè) 21 HH和 是分別從 AA和 中取的詞 t，設(shè) )|()( 1HtPtP A ? 和 )|()( 2HtPtPA ?分別從 AA和 中取出，為深入了解鑒別信息和它的屬性，我們需要引入 一個符號—— 將這個符號定義為鑒別因子。 如果對所有 Vt? 都有 )()( tPtP AA ? ，則 0):( ?AA PPI 、 0):( ?AA PPJ 和0),。,( 21 AA PPK ?? 得到了很好的定義，也就是說，它不需要 )(tPA 和 )(tPA 的任何要求： 當0)()(,0 2121 ???? tPtP AA ???? 且若 0)()( ?? tPtP AA ，則對于每個 Vt? 都有)()()t()( tPtPPtP AA ?? ???? 和，因而設(shè) 2,10 ?? ii 對? 和 ),。 ):( AA PP