【文章內(nèi)容簡介】 的未知性或不確定性減少的有用知識(shí)。信息可以產(chǎn)生，也可以消失，同時(shí)信息可以被攜帶、貯存及處理。信息是可以量度的，信息量有多少的差別。2. 簡單介紹哈夫曼編碼的步驟。①　將信源消息符號(hào)按其出現(xiàn)的概率大小依次排列 p(x1)≥p(x2)≥…≥ p(xn)② 取兩個(gè)概率最小的符號(hào)分別配以0和1，并將這兩個(gè)概率相加作為一個(gè)新符號(hào)的概率，與未分配碼元的符號(hào)重新排隊(duì)。③ 對重排后的兩個(gè)概率最小符號(hào)重復(fù)步驟2的過程。④ 繼續(xù)上述過程，直到最后兩個(gè)符號(hào)配以0和1為止。⑤ 從最后一級(jí)開始，向前返回得到各個(gè)信源符號(hào)所對應(yīng)的碼元序列，即相應(yīng)的碼字。得分評(píng)卷人 四、計(jì)算題（共35 分）1. 設(shè)有一個(gè)二進(jìn)制一階馬爾可夫信源，其信源符號(hào)為X∈(0,1)，條件概率為 p(0/0)= p(1/0)= p(1/1)= p(0/1)= 畫出狀態(tài)圖并求出各符號(hào)穩(wěn)態(tài)概率。（15分） 012. 設(shè)輸入符號(hào)與輸出符號(hào)為X＝Y(jié)∈{0,1,2,3}，且輸入符號(hào)等概率分布。設(shè)失真函數(shù)為漢明失真。求Dmax和Dmin及R(Dmax)和R(Dmin)（20分）解：失真矩陣的每一行都有0，因此Dmin=0 填空題1. 設(shè)信源X包含4個(gè)不同離散消息，當(dāng)且僅當(dāng)X中各個(gè)消息出現(xiàn)的概率為___1/4___時(shí)，信源熵達(dá)到最大值，為__2__，此時(shí)各個(gè)消息的自信息量為__2 __。=4，則該碼最多能檢測出___3____個(gè)隨機(jī)錯(cuò)，最多能糾正__1____個(gè)隨機(jī)錯(cuò)。(X。Y)與信源熵和條件熵之間的關(guān)系是___(X。Y)=H(X)H(X/Y)___。5. _信源___提高通信的有效性，_信道____目的是提高通信的可靠性，_加密__編碼的目的是保證通信的安全性。 有效性 ，信道編碼的目的是提高通信的 可靠性 ，加密編碼的目的是保證通信的 安全性 。，當(dāng)且僅當(dāng)X中各個(gè)消息出現(xiàn)的概率為__1/8__時(shí)，信源熵達(dá)到最大值，為___3____。，信源符號(hào)的概率越大，其自信息量越_小___。，一是信源符號(hào)之間的__相關(guān)性__，二是信源符號(hào)分布的__不均勻性__。 譯碼器要在已知r的條件下找出可能性最大的發(fā)碼 作為譯碼估值 ，即令 =maxP( |r)_ __。、反饋重發(fā)和混合糾錯(cuò)三種。 單項(xiàng)選擇題（A ）。A. B.C. D.105 個(gè)像元，設(shè)每個(gè)像元有64種彩色度，每種彩度又有16種不同的亮度層次，如果所有的彩色品種和亮度層次的組合均以等概率出現(xiàn)，并且各個(gè)組合之間相互獨(dú)立。每秒傳送25幀圖像所需要的信道容量（C ）。A. 50180。106 B. 75180。106 C. 125180。106 D. 250180。106,b,c等概分布，接收端為二符號(hào)集，其失真矩陣為d=,則信源的最大平均失真度為（ D ）。A. 1/3 B. 2/3 C. 3/3 D. 4/3 （ C ）。=0（ B）。A .H(U) (U。 V) ，下列哪種措施不能減小差錯(cuò)概率（ D ）。A. 增大信道容量 B. 增大碼長 C. 減小碼率 D. 減小帶寬，但不幸被人用外觀相同但重量僅有微小差異的假珠換掉1顆。一人隨手取出3顆，經(jīng)測量恰好找出了假珠，不巧假珠又滑落進(jìn)去，那人找了許久卻未找到，但另一人說他用天平最多6次能找出，結(jié)果確是如此，這一事件給出的信息量（ A ）。A. 0bit B. log6bit C. 6bit D. log240bit，不正確的是（ D ）。，H（Y）是輸入概率向量的凸函數(shù)，線性碼的最小距離越大，意味著任意碼字間的差別越大，則碼的檢錯(cuò)、糾錯(cuò)能力越強(qiáng)(x)= x /2，則信源的相對熵為（ C ）。A . B. C. 1bit D. ，熵最大的是（ D ）。A. H（1/3,1/3,1/3）； B. H（1/2,1/2）； C. H（,）； D. H（1/2,1/4,1/8,1/8)（ B ）。 ，信源編碼采用的方法是（ A ）。 （ D ）。 （ C ）。 ，由于存在失真，傳輸時(shí)會(huì)產(chǎn)生誤碼，用符號(hào)表示下列事件，u0:一個(gè)0發(fā)出 u1:一個(gè)1發(fā)出 v0 :一個(gè)0收到 v1:一個(gè)1收到 則已知收到的符號(hào)，被告知發(fā)出的符號(hào)能得到的信息量是（ A ）。A. H(U/V) B. H(V/U) C. H(U,V) D. H(UV)16. 同時(shí)扔兩個(gè)正常的骰子，即各面呈現(xiàn)的概率都是1/6，若點(diǎn)數(shù)之和為12，則得到的自信息為（ B ）。A. －log36bit B. log36bit C. －log (11/36)bit D. log (11/36)bit（ A ）。A. { 0，01，011} B. {0，10，110} C. {00，10，11} D. {1，01，00}（6，3）線性分組碼的生成矩陣，則不用計(jì)算就可判斷出下列碼中不是該碼集里的碼是（ D ）。A. 000000 B. 110001 C. 011101 D. 111111(x)= x /2，則信源的相對熵為（ C ）。A. ，已知，發(fā)出二重符號(hào)序列消息的信源，無記憶信源熵 為（ A ）。 判斷題(0,0,0,1)=1。 （ 錯(cuò) ） (X)={1/2, 1/3, 1/6}，對其進(jìn)行哈夫曼編碼得到的碼是唯一的。 （ 錯(cuò) ）3. 離散無記憶序列信源中平均每個(gè)符號(hào)的符號(hào)熵等于單個(gè)符號(hào)信源的符號(hào)熵。 （ 對 ）。 （ 錯(cuò) ）(D)是在平均失真不超過給定失真限度D的條件下，信息率容許壓縮的最小值。 （ 對 ）(X)={1/2, 1/3, 1/6}，信源Y的概率分布為P(Y)={1/3,1/2,1/6}，則信源X和Y的熵相等。 （ 對 ） (X。Y)表示收到Y(jié)后仍對信源X的不確定度。 （ 對 ）={a1,a2,a3,a4}進(jìn)行二元信源編碼，4個(gè)信源符號(hào)對應(yīng)碼字的碼長分別為K1=1，K2=2，K3=3，K3=3，滿足這種碼長組合的碼一定是唯一可譯碼。 （ 錯(cuò) ） ，則此信道在其輸入端的信源分布為P(X)={1/2,1/2}時(shí)傳輸?shù)男畔⒘窟_(dá)到最大值。 （ 錯(cuò) ） = {000000, 001011, 010110, 011101, 100111, 101100, 110001, 111010}是一個(gè)二元線性分組碼，則該碼最多能檢測出3個(gè)隨機(jī)錯(cuò)誤。 （錯(cuò) ）四、名詞解釋:::五、計(jì)算題 其發(fā)生的消息為（202120130213001203210110321010020320011223210），（1） 根據(jù)“離散無記憶信源發(fā)出的消息序列的自信息等于消息中各個(gè)符號(hào)的自信息之 和”，求此消息的自信息量；（2）在此消息中平均每個(gè)符號(hào)攜帶的信息量是多少？，如圖所示。其中。試求：I(X,Y)，H(X,Y)，H(X/Y)，和H(Y/X)。 3. 設(shè)輸入信號(hào)的概率分布為P=(1/2,1/2)，失真矩陣為。試求Dmin，Dmax，R(Dmin)，R(Dmax)。 ，其概