24多字母代換密碼(編輯修改稿)
2024-11-05 11:56 本頁面
【文章內(nèi)容簡介】 息 。 在密碼系統(tǒng)研究中 ， 假定信道是沒有自然干擾的 。 ? 定義 2 .1 ：對于集合 X = { x 1 ,x 1 , … ,x n } ，有1)(1???niixp。這里 p ( x i ) 為事件 x i 出現(xiàn)的概率。 x i 出現(xiàn)給出的信息量定義為：)(l o g)( iai xpxI ??。當 a = 2 時，相應(yīng)的信息單 位稱為比特 ( b i t ) 。 信息量反映了事件 xi出現(xiàn)的可能性大小，也是為確定事件 xi出現(xiàn)所必須付出的信息量。 ? 熵表示集合 X中出現(xiàn)一個事件平均給出的信息量 ， 或者是集合 X中事件的平均不確定性 ，或者是確定集合 X出現(xiàn)一個元素必須提供的信息量 。 ? 定理 ：對任意有 n個事件的集合 X有：0≤H(X)≤log2n。 定義 2 .2 ：將集合 X 中事件出現(xiàn)給出的信息量的統(tǒng)計平均值 0)(l og)()( 21??? ??inii xpxpXH稱為集合 X 的熵。當 p ( x i ) =0 時，定義 )(l o g)( iai xpxp=0 。 設(shè)有兩個事件集 X = { x1 ,x 2 ,… ,xn }和 Y = { y1 ,y 2 ,… ,yn ,}，其聯(lián)合事件集為 XY = {xi y j , i = 1 ,… n , j = 1 , … , m } ， xi y j的概率為p ( x i y j ) ，顯然 ?????????nijimjjmjijnii yxpypxypxp1111)|()()|()( =1 。定義 2 .3 ：對于集合 X 和 Y 的聯(lián)合事件集 XY 中事件出 現(xiàn) 給 出 的 信 息 量 的 統(tǒng) 計 平 均 值)(l og)()( 21 1jinijimjyxpyxpXYH ? ?? ???稱為 X 和 Y 的聯(lián)合熵。稱)|(l og)()|( 21 1jimjjiniyxpyxpYXH ? ?? ???和)|(l og)()|( 21 1ijnijimjxypyxpXYH ? ?? ???為條件熵，又稱為含糊度。 ? 定理 ：對任意有限事件集合 X、 Y有： ? ( 1 ) H(XY)=H(YX)=H(X)+H(Y|X)=H(Y)+H(X|Y) ? (2)H(X|Y)≤H(X)， 等式成立當且僅當 X和Y統(tǒng)計獨立 。 ? (3)H(Y|X)≤H(Y)， 等式成立當且僅當 X和Y統(tǒng)計獨立 。 定義 2 .4 ：將 X 、 Y 分別看作一個系統(tǒng)的輸入、 輸出空間，對于 x i ∈ X ， y i ∈ Y ，將由 y i 得到的關(guān)于 x i ∈ X ，出現(xiàn)的信息量定義為： )()|(l og)。( 2ijijixpyxpyxI ? 稱)。( ji yxI為事件 xi 和 yj 之間的互信息 ? 當 p(xi|yj)p(xi)時 ， I(xi。yj)0； ? 當 p(xi|
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1