信息論與編碼期末考試題-資料下載頁
2025-03-17 15:05本頁面
【導(dǎo)讀】當(dāng)隨機(jī)變量和相互獨(dú)立時(shí)，條件熵等于信源熵.可能生成同一碼集.，用變長編碼得到的平均碼長比定長編碼大得多.求的任意小的誤差概率實(shí)現(xiàn)可靠的通信.連續(xù)信源和離散信源的熵都具有非負(fù)性.率失真函數(shù)的最小值是.計(jì)算由于噪聲產(chǎn)生的不確定度；計(jì)算信道容量以及最佳入口分布.求信源平穩(wěn)后的概率分布；假設(shè)信道輸入用X表示，信道輸出用Y表示。在無噪有損信道中，輸，噪聲的單邊功率譜密度為。計(jì)算收到消息后獲得的平均互信息量。信源符號(hào)的統(tǒng)計(jì)不均勻性。黑色出現(xiàn)的概率為，白色出現(xiàn)的概率為。給出這個(gè)只有兩個(gè)符。準(zhǔn)則與最大似然譯碼準(zhǔn)則確定譯碼規(guī)則，并計(jì)算相應(yīng)的平均錯(cuò)誤概率。寫出對(duì)應(yīng)的輸入概率密度函
【正文】 自信息量、條件自信息量和聯(lián)合自信息量之間有如下關(guān)系： 對(duì) 自信息量、條件自信息量和互信息量之間有如下關(guān)系： 對(duì) 當(dāng)隨即變量 X和 Y相互獨(dú)立時(shí)，條件熵等于信源熵。對(duì) 當(dāng)隨即變量 X和 Y相互獨(dú)立時(shí)， I（ X； Y） =H（ X） 。錯(cuò) 信源熵具有嚴(yán)格的下凸性。錯(cuò) 1平均互信息量 I（ X； Y）對(duì)于信源概率分布 p（ xi）和條件概率分布 p（ yj/xi）都具有凸函數(shù)性。 對(duì) 1 m 階馬爾可夫信源和消息長度為 m 的有記憶信源，其所含符號(hào)的依賴關(guān)系相同。 錯(cuò) 1利用狀態(tài)極限概率和狀態(tài)一步轉(zhuǎn)移概率來求 m 階馬爾可夫信源的極限熵。 對(duì) 1 N 維統(tǒng)計(jì)獨(dú)立均勻分布連續(xù)信源的熵是 N維區(qū)域體積的對(duì)數(shù)。 對(duì) 1一維高斯分布的連續(xù)信源，其信源熵只與其均值和方差有關(guān)。 錯(cuò) 1連續(xù)信源和離散信源的熵都具有非負(fù)性。 錯(cuò) 1連續(xù)信源和離散信源都具有可加性。 對(duì) 1連續(xù)信源和離散信源的平均互信息都具有非負(fù)性。 對(duì) 1定長編碼的效率一般小于不定長編碼的效率。 對(duì) 若對(duì)一離散信源（熵為 H（ X））進(jìn)行二進(jìn)制無失真編碼，設(shè)定長碼子長度為 K，變長碼子平均長度為，一般 K。 錯(cuò) 2信道容量 C是 I（ X； Y）關(guān)于 p（ xi）的條件極大值。 對(duì) 2離散無噪信道的信道容量等于 log2n，其中 n 是信源 X 的消息個(gè)數(shù)。 錯(cuò) 2對(duì)于準(zhǔn)對(duì)稱信道，當(dāng)時(shí)，可達(dá)到信道容量 C。錯(cuò) 2多用戶信道的信道容量不能用一個(gè)數(shù)來代表。 對(duì) 2多用戶信道的信道容量不能用一個(gè)數(shù)來代表，但信道的信息率可以用一個(gè)數(shù)來表示。錯(cuò) 2高斯加性信道的信道容量只與信道的信噪有關(guān)。 對(duì) 2信道無失真?zhèn)鬟f信息的條件是信息率小于信道容量。對(duì) 2最大信息傳輸速率，即：選擇某一信源的概率分布（ p（ xi）），使信道所能傳送的信息率的最大值。 錯(cuò) 2對(duì)于具有歸并性能的無燥信道，當(dāng)信源等概率分布時(shí)（ p（ xi） =1/n），達(dá)到信道容量。 錯(cuò) 求解率失真函數(shù)的問題，即：在給定失真度的情況下，求信息率的極小值。對(duì) 3信源的消息通過信道傳輸后的誤差或失真越大，信宿收到消息后對(duì)信源存在的不確定性就越小，獲得的信息量就越小。 錯(cuò) 3當(dāng) p（ xi）、 p（ yj/xi）和 d（ xi， yj）給定后，平均失真度是一個(gè)隨即變量。 錯(cuò) 3率失真函數(shù)對(duì)允許的平均失真度具有上凸性。對(duì) 3率失真函數(shù)沒有最大值。 錯(cuò) 3率失真函數(shù)的最小值是 0 。對(duì) 3率失真函數(shù)的值與信源的輸入概率無關(guān)。錯(cuò) 3信源編碼是提高通信有效性為目的的編碼。 對(duì) 3信源編碼通常是通過壓縮信源的冗余度來實(shí)現(xiàn)的。 對(duì) 3離散信源或數(shù)字信號(hào)的信源 編碼的理論基礎(chǔ)是限失真信源編碼定理。 錯(cuò) 一般情況下，哈夫曼編碼的效率大于香農(nóng)編碼和費(fèi)諾編碼。 對(duì) 4在編 m（ m2）進(jìn)制的哈夫曼碼時(shí)，要考慮是否需要增加概率為 0的碼字，以使平均碼長最短。 對(duì) 4游程序列的熵（“ 0”游程序列的熵與“ 1”游程序列的熵的和）大于等于原二元序列的熵。 錯(cuò) 4在游程編碼過程中，“ 0”游程和“ 1”游程應(yīng)分別編碼，因此，它們的碼字不能重復(fù)。 錯(cuò) 4 LD 編碼適合于冗余位較多和較少的情況，否則，不但不能壓縮碼率，反而使其擴(kuò)張。 對(duì) 4狹義的信道編碼既是指：信道的檢、糾錯(cuò)編碼。 對(duì) 4對(duì)于 BSC 信道，信道編碼應(yīng)當(dāng)是一對(duì)一的編碼，因此，消息 m 的長度等于碼字 c 的長度。 錯(cuò) 4等重碼和奇（偶）校驗(yàn)碼都可以檢出全部的奇數(shù)位錯(cuò)。 對(duì) 4漢明碼是一種線性分組碼。對(duì) 4循環(huán)碼也是一種線性分組碼。 對(duì) 50、卷積碼是一種特殊的線性分組碼。 錯(cuò) 四、簡答（ 20 道） 信息的主要特征有哪些？（ 4） 信息的重要性質(zhì)有哪些？（ 4） 簡述幾種信息分類的準(zhǔn)則和方法。（ 5） 信息論研究的內(nèi)容主要有哪些？（ 8） 簡述自信息的性質(zhì)。 （ 13） 簡述信源熵的基本性質(zhì)。（ 23） 簡述信源熵、條件熵、聯(lián)合熵和交互熵之間的關(guān)系。（ 48） 信道的分類方法有哪些？（ 9394） 簡述一般離散信道容量的計(jì)算步驟。（ 107） 簡述多用戶信道的分類。（ 115116） 1簡述信道編碼定理。（ 128） 1簡述率失真函數(shù)的性質(zhì)。（ 140145） 1簡述求解一般離散信源率失真函數(shù)的步驟。（ 146149） 1試比較信道容量與信息率失真函數(shù)。（ 164） 1簡述編碼的分累及各種編碼的目的。（ 168） 1簡述費(fèi)諾編碼的 編碼步驟。（ 170） 1簡述二元哈夫曼編碼的編碼步驟。（ 173） 1簡述廣義的信道編碼的分類及各類編碼的作用。（ 188） 1簡述線性分組碼的性質(zhì)。（ 196） 簡述循環(huán)碼的系統(tǒng)碼構(gòu)造過程。（ 221）
高考資料相關(guān)推薦
鄂ICP備17016276號(hào)-1