信息論與編碼期末考試題(編輯修改稿)
2025-04-22 15:05 本頁(yè)面
【文章內(nèi)容簡(jiǎn)介】 變換 （ 184） 2 BSC信道 （ 189） 2碼的最小距離 （ 193） 2線(xiàn)性分組碼 （ 195） 2循環(huán)碼 （ 213） 二、填空（ 100道） 在認(rèn)識(shí)論層次上研究信息的時(shí)候，必須同時(shí)考慮到 形式、含義和效用 三個(gè)方面的因素。 1948年，美國(guó)數(shù)學(xué)家 香農(nóng) 發(fā)表了題為“通信的數(shù)學(xué)理論”的長(zhǎng)篇論文，從而創(chuàng)立了信息論。 按照信息的性質(zhì)，可以把信息分成 語(yǔ)法信息、語(yǔ)義信息和語(yǔ)用信息。 按照信息的地位，可以把信息分成 客觀(guān)信息和主觀(guān)信息。 人們研究信息論的目的是為了 高效、可靠、安全 地交換和利用各種各樣的信息。 信 息的 可度量性 是建立信息論的基礎(chǔ)。 統(tǒng)計(jì)度量 是信息度量最常用的方法。 熵 是香農(nóng)信息論最基本最重要的概念。 事物的不確定度是用時(shí)間統(tǒng)計(jì)發(fā)生 概率的對(duì)數(shù) 來(lái)描述的。 單符號(hào)離散信源一般用隨機(jī)變量描述，而多符號(hào)離散信源一般用 隨機(jī)矢量 描述。 1一個(gè)隨機(jī)事件發(fā)生某一結(jié)果后所帶來(lái)的信息量稱(chēng)為自信息量，定義為 其發(fā)生概率對(duì)數(shù)的負(fù)值。 1自信息量的單位一般有 比特、奈特和哈特。 1必然事件的自信息是 0 1不可能事件的自信息量是 ∞。 1兩個(gè)相互獨(dú)立的隨機(jī)變量的聯(lián)合自信息量等于 兩個(gè)自信息量之和。 1數(shù)據(jù)處理定理：當(dāng)消息經(jīng)過(guò)多級(jí)處理后，隨著處理器數(shù)目的增多，輸入消息與輸出消息之間的平均互信息量 趨于變小 1離散平穩(wěn)無(wú)記憶信源 X 的 N 次擴(kuò)展信源的熵等于離散信源 X 的熵的 N 倍 1離散平穩(wěn)有記憶信源的極限熵。 1對(duì)于 n元 m階馬爾可夫信源，其狀態(tài)空間共有 nm 個(gè)不同的狀態(tài)。 一維連續(xù)隨即變量 X在 [a， b]區(qū)間內(nèi)均勻分布時(shí)，其信源熵為 log2（ ba） 2平均功率為 P的高斯分布的連續(xù)信源，其信源熵， Hc（ X） =。 2對(duì)于限峰值功率的 N維連續(xù)信源，當(dāng)概率密度 均勻分布 時(shí)連續(xù)信源熵具有最大值。 2對(duì)于限平均功率的一維連續(xù)信源，當(dāng)概率密度 高斯分布 時(shí)，信源熵有最大值。 2對(duì)于均值為 0，平均功率受限的連續(xù)信源，信源的冗余度決定于平均功率的限定值 P和信源的熵功率 之比。 2若一離散無(wú)記憶信源的信源熵 H（ X）等于 ，對(duì)信源進(jìn)行等長(zhǎng)的無(wú)失真二進(jìn)制編碼，則編碼長(zhǎng)度至少為 3 2 m 元長(zhǎng)度為 ki， i=1， 2， n的異前置碼存在的充要條件是：。 2若把擲骰子的結(jié)果作為一離散信源，則其信源熵為 log26。 2同時(shí)擲兩個(gè)正常的骰子，各面呈現(xiàn)的概率都為 1/6，則“ 3 和 5同時(shí)出現(xiàn)”這件事的自信息量是 log218（ 1+2 log23）。 2若一維隨即變量 X的取值區(qū)間是 [0，∞ ]，其概率密度函數(shù)為，其中：， m 是 X的數(shù)學(xué)期望，則 X的信源熵。 一副充分洗亂的撲克牌（ 52 張），從中任意抽取 1 張，然后放回，若把這一過(guò)程看作離散無(wú)記憶信源，則其信源熵為 3根據(jù)輸入輸出信號(hào)的特點(diǎn)，可將信道分成離散信道、連續(xù)信道、半離散或半連續(xù) 信道。 3信道的輸出僅與信道當(dāng)前輸入有關(guān)，而與過(guò)去輸入無(wú)關(guān)的信道稱(chēng)為 無(wú)記憶 信道。 3具有一一對(duì)應(yīng)關(guān)系的無(wú)噪信道的信道容量 C= log2n 3強(qiáng)對(duì)稱(chēng)信道的信道容量 C= log2nHni。 3對(duì)稱(chēng)信道的信道容量 C= log2mHmi。 3對(duì)于離散無(wú)記憶信道和信源的 N次擴(kuò)展，其信道容量 CN= NC 3對(duì)于 N個(gè)對(duì)立并聯(lián)信道，其信道容量 CN = 3多用戶(hù)信道的信道容量用 多維空間的一個(gè)區(qū)域的界限 來(lái)表示。 3多用戶(hù)信道可以分成幾種最基本的類(lèi)型： 多址接入信道、廣播信道 和相關(guān)信源信道。 廣播信道是只有 一個(gè)輸入端和多個(gè)輸出端 的信道。 4當(dāng)信道的噪聲對(duì)輸入的干擾作用表現(xiàn)為噪聲和輸入的線(xiàn)性疊加時(shí)，此信道稱(chēng)為 加性連續(xù)信道。 4高斯加性信道的信道容量 C=。 4信道編碼定理是一個(gè)理想編碼的存在性定理，即：信道無(wú)失真?zhèn)鬟f信息的條件是 信息率小于信道容量。 4信道矩陣代表的信道的信道容量 C= 1 4信道矩陣代表的信道的信道容量 C= 1 4高斯加性噪聲信道中，信道帶寬 3kHz，信噪比為 7，則該信道的最大信息傳輸速率 Ct= 9 kHz 4對(duì)于具有歸并性能的無(wú)燥信道，達(dá)到信道容量的條件是 p（ yj） =1/m） 4信道矩陣代表的信道，若每分鐘可以傳遞 6*105 個(gè)符號(hào)，則該信道的最大信息傳輸速率 Ct= 10kHz。 4信息率失真理論是量化、數(shù)模轉(zhuǎn)換、頻帶壓縮和 數(shù)據(jù)壓縮 的理論基礎(chǔ)。 50、求解率失真函數(shù)的問(wèn)題，即：在給定失真度的情況下，求信息率的 極小值。 5信源的消息通過(guò)信道傳輸后的誤差或失真越大，信宿收到消息后對(duì)信源存在的
高考資料相關(guān)推薦
鄂ICP備17016276號(hào)-1